Построена теория распространения волн в волноводных системах, боковые границы которых на конечном участке являются случайно-шероховатыми. Показано, что главную роль в формировании волноводных состояний играет градиентный механизм поверхностного рассеяния волн, в котором определяющей является острота шероховатостей, а не их амплитуда. Шероховатый участок волновода играет роль эффективного модулированного потенциального барьера, ширина которого совпадает с длиной участка, а высота зависит от средней остроты неровностей границ волновода.