Яндекс сжал нейросеть до 200 КБ для умных наушников

Размер новой нейросети от Яндекса сопоставим с весом одной мобильной фотографии. Разработчики создали модель весом всего 200 КБ, предназначенную для работы на носимых устройствах с ограниченным зарядом аккумулятора, где каждый мегабайт оперативной памяти и каждый милливатт энергии критически важны для стабильной работы голосового помощника.

Технология ориентирована на гаджеты вроде наушников или умных часов, которые вынуждены постоянно сканировать звук локально, не прибегая к облачным вычислениям. Чтобы избежать быстрой разрядки аккумулятора, инженеры внедрили двухэтапную систему активации. Сначала предельно легкий алгоритм отсеивает посторонние шумы, и только при обнаружении человеческой речи в работу включается основной модуль распознавания команд.

Добиться десятикратного сокращения параметров удалось за счет переработки архитектуры модели. Дополнительную эффективность обеспечивает использование специализированных нейропроцессоров (NPU), которые справляются с вычислениями быстрее и экономичнее стандартных CPU. Инновация станет фундаментом для будущих гаджетов компании, включая готовящиеся к выпуску наушники «Яндекс Дропс», где нейросеть будет отвечать за работу «Алисы» и функции «Моя память».