На платформу массово публикуют фальшивые посты — Reddit борется с новым типом манипуляции.
На Reddit начали массово появляться посты, созданные генеративным ИИ по заказу рекламодателей. Цель — «обмануть» алгоритмы, чтобы нужный бренд, продукт или мнение попадали в ответы популярных ИИ-моделей, включая ChatGPT.
Подобные посты пишутся якобы от обычных пользователей и выглядят как советы или мнения, часто упоминающие товар в позитивном контексте. Reddit — ключевая площадка, чьи данные используют разработчики LLM при обучении моделей, и теперь стал мишенью для скрытого маркетинга.
По словам генерального директора платформы Стива Хаффмана, началась «гонка вооружений» между спамерами и системой модерации. Reddit усиливает проверку подлинности контента, применяя фильтры, CAPTCHA и технологии верификации, включая сканирование радужки глаза в рамках World ID.
Платформа называет защиту «человеческого» контента стратегическим приоритетом. При этом сам Reddit ранее продавал данные для обучения ИИ, что только подстегнуло интерес к размещению манипулятивных публикаций.
Между тем на рынке набирает обороты новая отрасль — SEO и маркетинг для ИИ, где компании пытаются попасть не в Google, а в ответы нейросетей.
Источник