Искусственный интеллект Grok Илона Маска столкнулся с парадоксальной проблемой: компания xAI закупила 550 тысяч мощнейших процессоров Nvidia, но не может заставить их работать. Реальная загрузка кластеров Memphis и Colossus составляет всего 11%. Это сводит эффективность гигантского парка к возможностям 60 тысяч чипов, пока остальное оборудование простаивает без задач.
Низкие показатели объясняются сыростью программных решений для управления вычислениями такого масштаба. Программная архитектура xAI не справляется с синхронизацией сотен тысяч ускорителей H100 и H200. Между этапами обучения возникают паузы, а данные передаются медленно, из-за чего дорогостоящее «железо» проводит большую часть времени в режиме ожидания.Отраслевые гиганты справляются с подобными задачами эффективнее. У Meta и Google коэффициент полезного действия инфраструктуры доходит до 43–46%. Илон Маск рассчитывает довести показатель до 50%, но пока технологические барьеры мешают Grok развиваться на полной мощности. Сейчас xAI фактически владеет крупнейшим в мире вычислительным ресурсом, который работает вполсилы из-за внутренних логистических затыков.
Комментарии (0)
Пока нет комментариев. Будьте первым!