Злоумышленники нашли способ внедрять поддельные интернет-магазины в рекомендации чат-бота, используя доверчивость алгоритмов к «отравленным» данным. Жертвами схемы становятся покупатели, ищущие товары брендов, которые недавно сменили владельцев или прекратили работу, попадая на визуально правдоподобные копии сайтов для кражи реквизитов банковских карт.
Схема получила огласку после инцидента с обувной маркой Russell & Bromley, перешедшей под контроль компании Next в начале 2026 года. Мошенники создали клон сайта бренда и с помощью манипуляций добились того, чтобы чат-бот рекомендовал его пользователям, запрашивающим информацию о продукции. Специалисты Ask Silver указывают на применение метода «отравления данных»: преступники наполняют сеть контентом, который ИИ ошибочно считывает как авторитетный источник.OpenAI уже отреагировала на публикации, добавив предупреждения в ответы по запросам о Russell & Bromley. Однако масштаб угрозы значительно шире одного случая. Эксперты опасаются, что ситуация станет критической с внедрением агентных ИИ-систем, способных совершать платежи без участия человека. Если алгоритм будет доверять скомпрометированным ссылкам, риск прямых финансовых потерь возрастет многократно, превращая генеративные модели в новую арену для киберпреступлений.
Комментарии (0)
Пока нет комментариев. Будьте первым!