Среда воспроизводит интернет-магазины, социальные сети, онлайн-банки, площадки с объявлениями и другие сервисы. ИИ-агенты могут переходить между страницами, заполнять формы, нажимать кнопки и выполнять многоэтапные задания. Например, агенту могут поручить найти выпуск подкаста на YouTube и подготовить его к скачиванию перед полётом — даже если пользователь не указал точный адрес сайта.
Проверять такие действия в открытом интернете, по объяснению Google, неудобно и рискованно: страницы постоянно меняются, а действия агента могут затронуть настоящих пользователей и компании. В Mirror Dimension запросы браузера перехватывает локальный сервер и направляет их на синтетические сайты. Агент видит привычные адреса, но взаимодействует с изолированной копией сервиса.
Чтобы нейросеть не распознала тестовую среду, разработчики использовали собственные поддельные сертификаты безопасности. Они позволяют браузеру считать соединения с локальным прокси доверенными. В противном случае агент мог бы вести себя иначе, чем на настоящих сайтах, и результаты испытаний были бы менее показательными.
Среду также используют для проверки устойчивости агентов к вредоносным инструкциям, спрятанным в содержимом веб-страниц. Система автоматически добавляет такие команды в элементы сайтов, чтобы инженеры могли изучать и корректировать реакцию нейросетей. По данным Google, один специалист по безопасности может создавать с её помощью более 1 тыс. вариантов тестовых атак в день — более чем в 30 раз больше сценариев, которые он способен подготовить и проверить вручную.
Комментарии (0)
Пока нет комментариев. Будьте первым!