
216 | Глава 7
начали понимать, что нейросети сверхпараметризованы, и стали искать способы
уменьшения рабочей нагрузки, вызванной дополнительными параметрами.
В контексте нейросетей прунинг имеет два значения. Первое подразумевает удале-
ние целых нодов нейросети — т. е. изменение архитектуры и числа параметров.
Второе, более распространенное значение заключается в поиске наименее полез-
ных для прогнозирования параметров и установке для них значения 0. В этом слу-
чае прунинг уменьшает не общее число параметров, а число ненулевых параметров,
тогда как сама архитектура не меняется. Это помогает уменьшить размер модели, ...