Не разделяю вашу убежденность в том что задача интересна, потому что:
1. Заданный вами вопрос к vmware отношение имеет весьма отдаленное, а задали вы его в коммунити vmware
2. Причин торможения существенно больше тех двух которые вы озвучили (как пример реализация RDP видео драйвером alpha blending или кодирование вывода флеша). Особенности реализации приложений, обычно, стоят на первом месте из этих узких мест (без конкретизации на gui / disk / memory). К каналу требования больше не к полосе пропускания, а к качеству.
Личное IMHO - без конкретного приложения - поиск узких мест в производительности в RDP это типичный поиск сферического коня в вакууме.
3. Если отойти от терминологии "канал забился", "тормоза" то есть такое понятие как Performance Monitor, который является наиболее разумным путем определиться с проблемами производительности. Ну и есть некий накопленный набор линков по основам Remote Desktop Services troubleshooting performance.