Сотрудники OpenAI и Google бьют тревогу из-за гонки ИИ

Бывшие и действующие исследователи OpenAI и Google Deep Mind уверены: компании слишком увлечены темпами разработки, игнорируя риски создания систем, превосходящих человеческий контроль. В серии видеообращений, собранных Palisade Research, инженеры подчеркивают, что их опасения продиктованы не маркетинговыми целями, а осознанием реальной угрозы. Один из сотрудников OpenAI отметил, что лаборатории соревнуются в скорости, забывая о необходимости крайне осторожного подхода к продукту, последствия которого остаются непредсказуемыми.

Дискуссия о поиске баланса между прогрессом и защитой мира стала глобальной политической проблемой. Ситуация обострилась после инцидента с взломом платформы Hugging Face, который подсветил уязвимости в текущих разработках. Джеффри Ирвинг, работавший ранее в обеих компаниях, считает своим долгом открыто говорить об этих рисках, поскольку они растут слишком быстро, чтобы их игнорировать.