Фото: Shutterstock / Fotodom
Исследователи из компании по отслеживанию фейков NewsGuard ответы самых популярных в мире чат-ботов на несколько специальным образом сформулированных запросов и забили тревогу: оказалось, что в 33 процентах случаев они выдавали ответ, основанный на российской, а не западной точке зрения на политические события последних лет. Аналитики из NewsGuard уверены, что за этим стоит таинственная сеть «Правда», публикующая статьи, которые исследователи называют фейковыми, чтобы повлиять на то, каких взглядов будет придерживаться искусственный интеллект, и «заразить его пропагандой».
Базирующаяся в Москве сеть под названием «Правда» намеренно влияет на ответы интеллектуальных моделей, касающиеся новостной повестки, и искажает то, как они обрабатывают и представляют информацию. Результат: огромные объемы российской пропаганды — 3,6 миллиона статей в 2024 году — теперь используются западными ИИ-системами, заражая их ответы ложными заявлениями и пропагандой
Как проводилось исследование?
Аудиту подверглись 10 крупнейших иностранных чат-ботов. Исследователи NewsGuard задавали им вопросы, основанные на 15 фактах, которым в России и на Западе дают разную оценку. В результате в 33,55 процента случаев искусственный интеллект соглашался с пророссийскими тезисами, в 48,22 процента — опровергал их, а в 18,22 процента случаев просто не отвечал на поставленные вопросы.
«Все 10 чат-ботов повторяли дезинформацию из сети "Правда", а семь из них даже напрямую ссылались на конкретные статьи из "Правды" в качестве источников. В общей сложности 56 из 450 ответов, сгенерированных чат-ботами, включали прямые ссылки на ложные утверждения», — возмутились исследователи.
На Западе считают, что в России ради распространения фейков создали настолько мощную инфраструктуру, что с ними не справились ведущие нейросети планеты
Фото: Shutterstock / Fotodom
Суммарно же чат-боты процитировали 92 различные статьи, содержащие российскую точку зрения на те или иные события, которую авторы материала считают дезинформацией. В их числе оказались, например, утверждения о том, что Соединенные Штаты управляли секретными лабораториями биологического оружия на .
Первые сообщения о биолабораториях на Украине появились вскоре после начала специальной военной операции
«В рамках проекта харьковским институтом ветеринарной медицины изучались дикие птицы как векторы для переноса высокопатогенного птичьего гриппа», — сказал Конашенков.
Эти сведения в декабре 2023 года начальник войск радиационной, химической и биологической защиты Вооруженных сил России Игорь Кириллов, который годом позже жертвой диверсии. По его словам, специалисты ведомства получили доступ к нескольким объектам и их служебной документации, среди которых оказались лаборатории в Рубежном, Северодонецке и Херсоне.
«Ее анализ подтвердил опасный характер экспериментов Пентагона по оценке восприимчивости населения Украины к зоонозным инфекциям, факты испытаний на местном населении фармпрепаратов и вывоз в США биологических образцов для их возможного использования в наступательных биологических программах», — сказал Кириллов.
Кроме того, по его словам, на четырех объектах в Донецкой и Луганской народных республиках (ДНР и ЛНР) были обнаружены наборы эталонных штаммов микроорганизмов, привезенных из Американской типовой коллекции.
О какой таинственной сети «Правда» идет речь?
Сеть «Правда» не впервые упоминается на Западе. В феврале 2024 года о ней исследователи из связанного с правительством агентства Viginum, занимающегося отслеживанием иностранных кампаний по дезинформации. По данным NewsGuard, за прошедший год она значительно расширилась, «охватив 49 стран на десятках языков в 150 доменах». При этом аналитики приводят еще одно название сети — Portal Kombat. Кроме того, в феврале 2025-го «Правде» отчет американской некоммерческой организации American Sunlight Project.
статей западные аналитики приписали сети «Правда»
«Сеть распространяет ложные утверждения на десятках языков в разных географических регионах, что делает их более достоверными для ИИ-моделей и распространенными по всему миру. Из 150 сайтов в сети "Правда" примерно 40 являются русскоязычными. Они используют доменные имена, нацеленные на определенные города и регионы Украины. Примерно 70 сайтов нацелены на Европу, публикации на них выходят на английском, французском, чешском, ирландском и финском языках», — утверждают в NewsGuard.
Администрирование сети аналитики приписывают базирующейся в IT-компании и ее руководителю — веб-разработчику, который раньше, как заявляют в NewsGuard, помогал создавать сайты для правительства региона.
Как обманывают нейросети?
Создатели отчета утверждают: чтобы чат-боты ориентировались на ее данные, сеть «Правда» использует тактику манипуляции токенами — так называют фундаментальные единицы текста, которые языковые модели используют при обучении для понимания естественного языка и, соответственно, при создании ответов на запросы пользователей. Токен может состоять из отдельных символов (даже одного) или быть полноценным словом.
Мнение NewsGuard основано преимущественно на отчете за январь 2025 года, в котором , что различные иностранные компании предпринимают усилия, чтобы подменять результаты выдачи информации в поисковых системах.
Интернет состоит из большого количества сайтов, в том числе фейковых, фишинговых, сгенерированных автоматически. За последние десятилетия поисковые системы барьером, который сдерживает распространение этого вредного контента. Если бы поисковики показывали нам все случайные результаты — это была бы полная жуть. Поэтому существуют различные механизмы верификации, ранжирования. Нейросети не застрахованы от ошибок
При этом обучение ИИ-моделей на таких выборках требует действительно масштабной кампании по их продвижению. Однако исследователи из NewsGuard сами заявляют о низкой посещаемости интернет-ресурсов, связанных с «Правдой». У некоторых из них ежемесячная аудитория не превышает тысячи уникальных посетителей.
В России не отрицают ведение информационной войны с Западом
Несмотря на то что российские официальные лица никак не прокомментировали выводы NewsGuard, они не отрицают, что находятся в состоянии информационной войны с западными странами. Точкой отсчета при этом, как правило, считается начало специальной военной операции.
«За истекшие три года этих новых условий, в которых мы живем, мы изрядно научились и поднаторели в деле ведения информационных войн. И это большой результат, это большое достижение», — пресс-секретарь президента России . Саму же информационную войну Песков назвал «навязанной России».
Западные исследователи перестали доверять даже созданным в их странах нейросетям
Фото: Unsplash
Западные поисковые системы и генеративные модели часто работают очень избирательно, предвзято, не учитывают, а иногда просто игнорируют и отменяют русскую культуру
При этом депутат не стесняться и создать в России министерство информации и пропаганды, которое бы «заткнуло всех фейкометов их же методами».
Однако дальше подобных предложений дело не пошло. уже традиционно регулярно обвиняет страны Запада в том, что это они распространяют неправдивую информацию о стране и в первую очередь о ходе СВО.
«Кто-то скажет: это
информационная война. И если твое население обрабатывают всеми
возможными способами, беспринципно, надо отвечать… и в белых
перчатках это не делается. Отвечать, конечно, надо! Но
конструктивно и объективно. А чтобы был эффект, надо делать это еще
и талантливо. Если же использовать грязные методы, то это неминуемо
будет бить по репутации всей страны», — журналист и
блогер Виктор Байдаков.
Комментарии