Д. М. Ершова

Фильтр с бесконечной импульсной характеристикой как обучаемый слой нейронной сети

Расширение рецептивного поля сверточной нейросети обычно достигается увеличением глубины сети или увеличением размера сверточного ядра, что приводит к росту числа параметров и вычислительной сложности. В данной работе фильтр с бесконечной импульсной характеристикой рассматривается как обучаемый слой нейронной сети. Сверточный слой соответствует фильтру с конечной импульсной характеристикой, рецептивное поле которого ограничено порядком фильтра. У БИХ-фильтра протяженность рецептивного поля и задается коэффициентами обратной связи и настраивается в процессе обучения без роста вычислительной сложности. Выведены выражения для прямого и обратного проходов, позволяющие вычислять градиенты без явного построения матриц Якоби. Предложена архитектура блока на основе БИХ-фильтров. На модельных задачах предложенный блок существенно превосходит по качеству сверточные слои сопоставимой сложности.

КЛЮЧЕВЫЕ СЛОВА: рецептивное поле, фильтры с бесконечной импульсной характеристикой, рекуррентные фильтры, сверточные нейронные сети.