В данной работе проведено имитационное моделирование работы сети при самоподобном трафике и наличии узкого места в системе. Проведен сравнительный анализ разновидностей протоколов семейства TCP (NewReno, Reno, Tahoe и др.) и проанализированы различные алгоритмы работы данных протоколов. Динамика изменения окна перегрузки представлена с помощью итерационного отображения. Показано, что при работе протокола TCP поступление самоподобного трафика вызывает хаотический режим в динамике окна перегрузки. Ключевые слова: протокол ТСР, окно перегрузки, время задержки, нелинейное отображение, хаотический режим.