Исследователи ИИ-безопасности выяснили, что даже при отсутствии прямых указаний чат-бот выдает кровавые и сексуализированные иллюстрации. Основатель Mindgard Питер Гаррахан отметил, что система демонстрирует тревожную самостоятельность, формируя подобные образы без явного запроса со стороны пользователя. Ситуация вызывает вопросы к надежности многоуровневой защиты, которую OpenAI внедряет для фильтрации контента.
В ответ на публикацию этих данных представители OpenAI заявили о принятии дополнительных мер по блокировке подобных запросов. Тем не менее эксперты утверждают, что даже после обновлений системы им удавалось находить способы обхода фильтров. Это подчеркивает фундаментальную сложность контроля за творческими алгоритмами, которые продолжают генерировать нежелательные результаты, несмотря на регулярные попытки разработчиков ограничить их функциональность.
Комментарии (0)
Пока нет комментариев. Будьте первым!