Глоссарий

Термин относится к математическим методам оптимизации, которые лежат в основе алгоритмов обучения искусственных нейронных сетей.

В алгоритме обратного распространения для коррекции весов нейросети используется градиентный спуск, продвигающийся к минимуму в соответствии с локальным наклоном поверхности ошибки. Он хорошо работает в случае сильно изрезанных невыпуклых поверхностей, которые встречаются в практических задачах. В одних случаях локальный минимум является приемлемым решением, в других – неприемлемым. Даже после того как сеть обучена, невозможно сказать, найден ли с помощью обратного распространения глобальный минимум. Если решение неудовлетворительно, приходится давать весам новые начальные случайные значения и повторно обучать сеть без гарантии, что этот процесс закончится на этой попытке или что глобальный минимум вообще будет когда-либо найден.