Традиционные ускорители сегодня работают как универсальные вычислители: процессор постоянно обращается к памяти, перекачивая огромные объемы данных для каждой операции. В проекте Frozen v2 архитектура нейросети буквально «зашивается» в кремний. Пользователи смогут обновлять лишь веса модели, но сама структура останется неизменной. Такая радикальная оптимизация позволит обрабатывать в 6–10 раз больше токенов на каждый затраченный ватт энергии.
Разработка напрямую продиктована дефицитом мощностей в дата-центрах Google Cloud, который уже вынуждает компанию отказывать внешним клиентам. Внедрение Frozen v2 поможет радикально снизить стоимость обслуживания миллиардов запросов и уменьшить количество необходимых серверов. Тем не менее, подход несет серьезные риски: темпы эволюции ИИ настолько высоки, что аппаратная реализация архитектуры, актуальной сегодня, рискует устареть еще до выхода проекта на рынок в 2028 году. Пока Google не дает официальных комментариев, позиционируя Frozen v2 лишь как один из экспериментальных путей развития высокоэффективных вычислений.
Комментарии (0)
Пока нет комментариев. Будьте первым!