OpenAI открывает доступ к аудиту безопасности своих моделей

Программа аудита разделена на четыре ключевых блока. Внешние эксперты изучат «кейсы безопасности» компании, сопоставляя заявленные параметры надежности с фактическими данными. Отдельное внимание уделят защитным механизмам: аудиторы получат доступ к системам для тестирования фильтров на устойчивость к джейлбрейкам и попыткам генерации вредоносного контента, включая сценарии создания биооружия.

Третий блок направлен на проверку инструментов из структуры Preparedness Framework, оценивающих способности моделей к самоулучшению и кибершпионажу. Самым сложным направлением станет расследование инцидентов, где от экспертов потребуется навыки киберкриминалистики. Взаимодействие с независимыми аудиторами будет строиться на семи принципах, включая строгую конфиденциальность и прозрачность методологий. OpenAI уже начала переговоры с профильными организациями о запуске пилотных проверок по этой схеме.