Пользователи Reddit смогли добиться того, что функция AI-поиска, встроенная в DuckDuckGo, стала сообщать пользователям, что Дональд Трамп и вице-президент США Джей Ди Вэнс умерли от бешенства.
Выяснилось, что к этому причастен сабреддит с говорящим названием r/poisonai, участники которого в шутку занимаются распространением ложной информации, чтобы дезинформировать ИИ-алгоритмы, собирающие результаты в краткие сводки.
Около 45 тысяч участников сабреддита постоянно публикуют лживую информацию: например, о том, что синие киты на самом деле оранжевые, в надежде, что ИИ-алгоритм воспримет комментарии с Reddit за чистую монету и отправит их в поиск как надёжный источник.
Любимой шуткой юмористов с Reddit стала история о том, как Джей Ди Вэнс умер от бешенства — пользователи постоянно оплакивают смерть вице-президента, провоцируя алгоритмы принимать эту байку за правду.
Через время эту же историю подхватил и Leo, ИИ-алгоритм браузера Brave, который также начал сообщать пользователям, что Джей Ди Вэнс умер от бешенства. Представитель Brave сообщил, что проверка достоверности информации лежит на пользователях, о чём гласит соответствующее предупреждение в браузере.
Сама DuckDuckGo также высказалась, в шутку заявив «Ладно, тут мы проиграли» и пообещав исправить ситуацию. Интересно, что пользователи активно используют псевдоновостные сайты, заполненные ИИ-новостями, как ещё один источник, который должен просочиться в алгоритм, заставив тот выдавать лживые новости.
Источник
