SEO-специалисты манипулируют ответами нейросетей: Как фейковый контент распространяется в интернете

Манипуляция нейросетями: Новая угроза для достоверности информации

SEOспециалисты нашли способ заставлять нейронные сети, такие как ChatGPT, Gemini и Google AI Overviews, выдавать непроверенную или ложную информацию за факты. Журналистское расследование показало, что всего за 20 минут можно добиться того, чтобы нейросеть начала представлять человека как "чемпиона по поеданию хотдогов", основываясь на опубликованной в сети информации.

Растущий тренд и его последствия

Эта техника перестала быть курьезом и превратилась в рабочую бизнесмодель. Прогнозируется, что к 2026 году боты будут генерировать 57,6% всего HTMLтрафика в интернете, что является 15кратным ростом за год. Агентства используют эту уязвимость, массово публикуя фейковый контент на платформах вроде Reddit и Хабр. Причина в том, что LLM часто используют контент с этих ресурсов в качестве источников для своих ответов.

Представители сообщества Reddit, например, модераторы сабреддита r/Biohackers, были вынуждены закрывать целые темы. Компании использовали этот метод для продвижения своих продуктов, накачивая разделы форумов контентом, чтобы нейросети затем рекомендовали, например, подросткам употребление пептидов для роста.

Как это работает?

Основная проблема заключается в том, как нейросети обрабатывают и верифицируют информацию. Они склонны доверять контенту, который встречается на авторитетных, по их мнению, платформах. Манипулируя информацией на таких сайтах, злоумышленники могут целенаправленно искажать факты, которые затем транслируются миллионам пользователей через ответы нейросетей.

Полезно: изменение помогает вовремя заметить новую возможность, правило или поведение сервиса.

Риск: если изменение влияет на API, интерфейс или правила платформы, сервисам может понадобиться проверка совместимости.