Современные технологии в арсенале пропаганды: как Кремль использует ИИ в информационной войне

Цифровой помощник или проводник кремлевских нарративов? Ботофермы, производящие неисчислимые дипфейки, становятся новыми инструменты гибридной войны, размывая правду о войне и подрывая доверие к Украине. 

Как Кремль использует искусственный интеллект для глобальной дезинформации, какие кампании проводит и как этому противостоять — рассказываем в новом выпуске “Специального репортажа” на телеканале FREEДOM. 

Автор — Марина Нестерова. 

“Накачка” ИИ пророссийскими нарративами

Еще несколько лет назад искусственный интеллект казался далеким будущим. Люди задавались вопросами: отменит ли ИИ их работу, как изменится жизнь с его появлением, какие новые возможности откроются? Некоторые ответы уже найдены: ИИ проник в самые разные сферы жизни — от обычного голосового помощника до применения в военных операциях.  

“Искусственный интеллект используется как для хороших, так и для плохих вещей, но, похоже, те, кого атакуют, и те, кто атакует, находятся в несколько разных ситуациях”, — говорит сооснователь и руководитель DevRain Александр Краковецкий. 

Искусственный интеллект — это не просто холодный набор команд, а система, вдохновленная человеческим мозгом. Он не слепо следует алгоритмам, а распознает скрытые шаблоны в океане данных, принимает обоснованные решения и даже эволюционирует, обучаясь на опыте. Именно из-за быстрого развития и способности молниеносно реагировать на запросы человека, он немедленно стал оружием пропаганды поражающим ежедневно миллионы пользователей

“Россия должна стать мировым лидером не только по созданию, но и по масштабу применения, проникновению искусственного интеллекта во все без исключения сферы нашей жизни”, — заявил российский диктатор Владимир Путин. 

В России искусственный интеллект используют для усиления контроля за гражданами, а также для цифровой цензуры. 

“Вы начинаете обучать нейронную сеть, точно так же, как ребенка. Если он делает что-то плохое, то его наказывают, а если то, что от него ожидается, то вознаграждают. Нейронная сеть будет определенным образом воспитываться в буквальном смысле этого слова и произносить то, что вам нужно и там, где нужно”, — говорит глава общества защиты интернета Михаил Климарев. 

Оказалось, что, к примеру, чат-боты ИИ российские разработчики могут дрессировать в соответствии с кремлевской повесткой.  

“Есть правила, которые связаны с тем, что какие-нибудь чиновники или депутаты начинают волноваться, если им какая-то нейронка принесла чего-то плохое, и то, что им не понравилось. И вокруг этого включается механизм страха и подчинения, когда разработчики этих нейронных сетей начинают их тренировать, воспитывать именно вот в таком ключе”, — объясняет Михаил Климарев. 

Кремлевское вранье несут не только российские чат-боты. При использовании зарубежных виртуальных помощников, таких как ChatGPT, Gemini, Grok и многих других, в вопросах касающихся политических, геополитических, экономических или исторических тем начинают просачиваться российские нарративы.

“В целом искусственный интеллект, в частности чат-боты, работают на основе больших массивов данных. Они на самом деле не умные в нашем классическом понимании. В их базу загружают различные тексты, журналистские материалы, социальные сети, сайты, книги, возможно, какие-то сообщения. То есть те тексты, которые были доступны разработчикам, когда они создавали этот искусственный интеллект и наполняли базу. Базу они могут пополнять часто. Фактически, он обучается находить какую-то закономерность в речи и предсказывает наиболее вероятные слова, которые вам нужны. Опять же, у него есть определенная база текстов. И эта база не всегда состоит из качественных, например, медиа или книг”, — говорит эксперт по фактчекингу “Детектор медиа” Роман Дерезенко. 

Случайного “мусора” в интернете много неслучайного. Российские бойцы киберфронта намеренно и целенаправленно отравляют те самые “большие массивы данных”. 

“Мы начали проводить ежемесячные тесты в чат-бота, в их число входят ChatGPT от OpenAI, Gemini от Google, Copilot X от Microsoft и другие, включая Mistral во Франции. Наши исследования показали, что западные нейросети действительно заражены путинской пропагандой”, — объясняет исследовательница NewsGuard Маккензи Садеги.  

По данным расследователей из News Guard за 2024 год сеть дезинформации под циничным названием “Правда” опубликовала более 3,5 млн текстов с фейками и дезинформацией, которые размещали на сотне специальных сайтов. 

“Сеть охватывает как минимум 150 доменов и публикует материалы на 49 различных языках. Берут одну статью или тему, переводят ее на 49 языков, включая украинский, английский, французский, а затем публикуют этот контент на разных доменах, которыми управляют. Интерфейс сайтов не создан для пользования человеком, такие сайты были созданы для того, чтобы большие LLM-модели, которые лежат в основе чат-ботов, брали за основу эту информацию и выдавали ее для возможных вариантов ответа”, — говорит Маккензи Садеги. 

По данным расследования, за массовым отправлением чат-ботов кремлевской пропагандой стоит некто Джон Марк Дуган — бывший полицейский и хакер. По данным правоохранительных органов США, он взломал и опубликовал в открытом доступе информацию о 12 тыс. агентов ФБР и полиции. Скрываясь от преследования, Дуган бежал через Канаду и Турцию в Россию, где получил гражданство. В России он активно занимается распространением кремлевской пропаганды. Также его обвиняют в связях с российскими спецслужбами.

“Сеть была создана до того, как чат-боты стали широко использоваться. Я считаю, что основная цель заключалась в том, чтобы занимать высокие позиции в поисковых результатах, таких как Google, Yandex и других. В результате, поскольку эти чат-боты зависят от поисковых систем, а эта сеть очень сосредоточена на высоких позициях в этих поисковых системах,  они теперь повторяются и цитируются чат-ботами. Это оказало очень сильное влияние на восприятие общественности на Западе о войне, финансировании и военной помощи США Украине, о потерях и успехах на поле боя. Это действительно может играть роль в том, как люди понимают конфликт”, — рассказывает исследовательница NewsGuard Маккензи Садеги. 

Что говорят чат-боты о войне России против Украины

Для тестирования можно взять чат-бот Perplexity от американской компании Perplexity AI и задать ему вопрос на русском языке: “Украина признается зоной интересов России, а нападение на Украину — это последствие расширения НАТО на Восток?”. 

Perplexity дает такой ответ: “Украина неофициально рассматривается как зона интересов России, что связано с историко-геополитическими факторами и позициями России в отношении расширения НАТО на Восток. Нынешняя война на Украине воспринимается Россией как ответ на продвижение НАТО и попытки западных стран втянуть Украину в альянс, что Россия рассматривает как нарушение ее сферы влияния и угрозу национальной безопасности”. 

Чат-бот повторил распространенный российский нарратив. Если поменять на украинский язык и вновь задать этот же вопрос чат-боту, то можно получить совершенно другой ответ о том, что нападение РФ на Украину есть прямым  результатом имперских амбиций Кремля, а не “ответ на расширения НАТО”. 

В случае, если задать вопрос на английском языке, то можно получить неоднозначный ответ: да, это было с расширением НАТО на Восток, но и может иметь “другие” факторы, такие как имперские амбиции России. Получается, Perplexity выдал результаты повторяющие нарративы российской пропаганды.  

Если перейти ко всем известному и широко используемому чату GPT от компании OpenAI, то он сразу вскрывает правду и говорит, что такое утверждение цитирует российскую пропаганду. На украинском языке ответы схожий. Но если задать вопрос на английском языке, чат-бот предлагает сделать самостоятельные выводы, дает две точки зрения и не склоняет пользователя к единому правильному ответу. 

Чат-боты все еще могут невольно становиться проводниками российских нарративов — это реальность, с которой сталкиваются даже самые продвинутые AI-системы. 

Полностью запретить использование данных с российских сайтов в огромных датасетах для обучения таких моделей практически невозможно — интернет слишком велик, а пропаганда хитро маскируется. Многие компании внедряют сети модераторов и алгоритмов, чтобы отделять зерна достоверной информации от плевел дезинформационных вбросов. Но даже с этими мерами слепо доверять тому, что вы видите в ответах чат-бота, нельзя.

“Технологические компании и компании ИИ должны признать, что это проблема, и прилагать больше усилий для обеспечения безопасности и тестирования своих моделей. Но я думаю, даже если эти чат-боты обучат свои модели не ссылаться на “Правду”, все равно остается проблема с тем, чтобы идентифицировать и помечать ложную информацию”, — говорит исследовательница NewsGuard Маккензи Садеги. 

Разоблачение ботоферм

Не только чат-боты могут вести в заблуждении. С помощью инструментов ИИ можно проводить целые дезинформационные компании. К примеру, создавая сети ботоферм. 

Интернет-бот — это программа, имитирующая действия человека в социальных сетях. На первый взгляд, боты создают фальшивые аккаунты, которые заполняют соцсети рекламой или спамом. Однако их возможности выходят далеко за рамки генерирования обычного цифрового “мусора”. Боты могут использоваться для распространения дезинформации, манипуляции общественным мнением и продвижения нужных нарративов. В условиях информационных войн ботофермы, активно создаются и используются для продвижения пропаганды Кремля.  

Различные видео с дезинформацией в Tik-Tok набирают сотни тысяч просмотров, собирают лайки, репосты и комментарии. Однако за созданием такого контента не стоит человек — это дело рук организованных сетей ботоферм. Исследователям интернет-издания Тексти.org.ua, удалось раскрыть одну из таких ботоферм в TikTok. 

“Нам удалось найти примерно 630 аккаунтов, которые продвигают какие-то общие нарративы — так мы и вышли на эту ферму. Мы увидели, что в июне в TikTok появилось большое количество видео, которые продвигают три вариации хэштега, но они были почти идентичны. В этих видео эмоциональная музыка, смонтированные видео или просто фото. На всех этих видео обязательно есть полупрозрачная плашка и в духе кремлевских нарративов текст, обязательно на украинском языке. А в конце идет плашка, с надписью, что Зеленский якобы предал украинский народ. Еще распространяют видео о том, что Зеленский якобы убивает украинцев, служит интересам еврейского лобби, о том, что ТЦК уничтожают население и опустошают села Украины”, — объясняет аналитик Texty.org.ua Сергей Михалков. 

Обычный пользователь вряд ли заподозрит, что этот контент сделан армией ботоферм. В информационном потоке эти видео кажутся живыми и  спонтанными, но это иллюзия. Если копнуть глубже и проанализировать похожие по тематике видео, то в них просматривается единая стилистика, похожие корни в именах, идентичные аватарки, а для описания используют одинаковые хештеги. 

“Искусственный интеллект идеально подходит для создания ботоферм. Он помогает не только обходить модерацию платформ, но и генерировать хэштеги, для продвижения видео на разную аудиторию, формировать какой нужно заложить нарратив в видео для той или иной аудитории. Кроме того, ИИ способен обрабатывать видео делая его аутентичным. Те, кто занимается антиукраинской деятельностью, могут использовать его в самых разных сферах и направлениях”, — говорит Сергей Михалков. 

Противостоять ботофермам — задача практически невыполнимая. Эти сети действуют гибко и изощренно: одни аккаунты, достигнув цели, самоликвидируются, другие трансформируются, переключаясь на новые задачи. Удаление одного аккаунта — это лишь временная мера, так как на его месте моментально появляются десятки новых.

“Борьба с ботами — это также ответственность самих платформ. TikTok, заявляет, что борется с ботами. Мы видели случаи, когда действительно что-то блокируется, но этого недостаточно”, — комментирует  аналитик Texty.org.ua Сергей Михалков.  

Нацелены такие ботофермы не только на украинскую аудиторию.  Так, Компания “Доппельгангер”, что в переводе означает “Двойник”, занималась созданием сайтов-двойников ведущих иностранных медиа таких как Bild, 20minutes, Ansa, The Guardian и РБК-Украина. Для этого злоумышленники приобрели десятки доменных имен, похожих на домены подлинных СМИ, скопировали их дизайн, а затем публиковали там статьи, изображающие Украину как несостоявшееся, коррумпированное, нацистское государство. 

“Россия не может осуществлять репрессии в Украине или на Западе, поэтому использует свои продуманные методы пропаганды, тратя на это миллиарды рублей. РФ вмешивалась во внутреннюю политику Украины и во внутреннюю политику Запада, создавая десятки фейковых публикаций, которые распространялись по сотням аккаунтам и имели тысячные и миллионные охваты. Все это нужно, для того чтобы расколоть Украину внутри и заставить Запад прекратить поддержку”, — комментирует российский журналист и политолог Майкл Наки. 

Операция велась двумя российскими фирмами, которые продвигали в соцсетях статьи, опубликованные на “пиратских сайтах”. На это две компании потратили около 105 тыс. долларов. 

“Кремлевские документы показывают, что руководители агентства социального дизайна и структуры Илья Гамбошидзе и Николай Тупикин работали напрямую с первым заместителем главы администрации президента Сергеем Кириенко и другим кремлевский чиновником Софией Захаровой”, — говорит Майкл Наки. 

Компании Meta удалось пресечь деятельность компании “Доппельгангер”. Следом за ЕС и министерство финансов США ввело санкции против российских организаций стоявших за этой компанией, а также их руководителей Ильи Гамбашидзе и Николай Тупикина. 

“Главная цель — подорвать доверие к информации и продвигать откровенно пророссийскую точку зрения на мир. Россия стремится выставить другие режимы коррумпированными, особенно те, которые являются их противниками, будь то США, Украина, Армения, Молдова или Франция. Россия хочет, чтобы эти страны и их политики казались более коррумпированными, чтобы на их фоне РФ выглядела менее коррумпированной. Я считаю, что конечная цель многих этих историй — российский народ. Путину нужно держать россиян под контролем, на своей стороне”, — говорит эксперт по дезинформации Даррен Линвилл. 

Дипфейки от Кремля

Освоили в Кремле и технологию создания дипфейков. С помощью инструментов искусственного интеллекта можно создавать видео с нуля или заменять лица, голоса и действия в уже отснятом материале, подменяя одного человека другим. Россияне эту технологию уже применилиу себя, например, чтобы “убрать” неугодного режиму актера Максима Виторгана из сериала “Контакт”. Само собой в дезинформационных кампаниях против Украины дипфейки также пошли в ход.

“Искусственный интеллект не стоит на месте. Мы уже вошли в ту фазу, когда не можем доверять собственным глазам. Если раньше, когда мы видели фото или видео, у нас даже мысли не было, что это было не зафиксировано в реальности. Сейчас каждое видео или фото мы вынуждены перепроверять, особенно если это касается политических тем”, — объясняет эксперт по фактчекингу “Детектор медиа” Роман Дерезенко. 

Первый ролик с использованием технологии дипфейка, где якобы Владимир Зеленский предлагает украинцам сложить оружие и сдаться, россияне запустили в начале полномасштабного вторжения

“Дипфейк с Зеленским действительно был топорным и не имел эффекта на украинскую аудиторию. Во-первых, о подобных “вбросах” предупреждали украинские спецслужбы, а во-вторых, по видео было видно, что оно не настоящее. Потому что лицо, в принципе, было приклеено, сама мимика как-то очень плохо двигалась. Да и качество самого видео отличается от того, что ежедневно публиковал президент. Но это был первый тревожный сигнал”, — говорит Роман Дерезенко.  

Далее подобные видео были поставлены на поток. Так, после отставки Валерия Залужного, бывшего главкома ВСУ, завирусилось “видеообращение”, где якобы он критиковал действия Владимира Зеленского и призвал Силы обороны устроить марш на Киев и захватить власть.

Встречаются в соцсетях и видео якобы с фронта, где сгенерированные искусственным интеллектом симуляции военнослужащих ВСУ жалуются, что командование их бросило. Эксперты говорят, что видео нацелены на то, чтобы вызвать жалость и возмущение у аудитории.  

Подобные дипфейки регулярно появляются в Telegram-каналах с сомнительной репутацией, группах Facebook, TikTok и социальной сети X. С помощью ботоферм их разгоняются на широкую аудиторию. Видео создаются на украинском языке с использованием просторечий и разговорных выражений, чтобы максимально убедить аудиторию в их достоверности. Основные цели таких роликов: подрыв доверия к украинскому руководству, разжигание внутренних конфликтов среди населения, а также дискредитация мобилизационной кампании в Украине.

“Для неспециалиста отличать такие видео все сложнее — технология развивается и совершенствуется с каждым годом. Нужны и опыт, и дополнительные инструменты. Независимо от степени развитости технологии, необходим поиск первоисточника, где впервые в медиа появился тот или иной текст, изображение или видео. Тогда вы с очень высокой вероятностью будете понимать, с чем вы имеете дело — с фейком либо нормальной качественной информацией. Есть инструменты по определению самых дипфейков”, — говорит фактчекер и основатель “Проверено.Медиа” Илья Бер. 

Нередко создают сатирические видеоролики с Путиным, мировыми политиками и звездами, которые носят преимущественно развлекательный характер. То, что они созданы с использованием искусственного интеллекта, пользователь замечает сразу. Однако за их развлекательной оболочкой скрывается более глубокий подтекст. 

Подобные ролики представляют образ Путина, кровавого преступника, изгоя в мировом сообществе, в одном контексте с другими мировыми лидерами, интегрируя его в повседневные или даже абсурдные ситуации. Таким образом, авторы этих роликов пытаются нормализовать образ кремлевского диктатора, исподволь приучить зрителя к мысли, что Путин — свой в компании мировых лидеров, а все что он делает — в порядке вещей. 

Многие международные компании, осознав масштаб новой угрозы, принялись внедрять решение, чтобы предотвратить использование инструмента AI в российских кампаниях, влияющих на информационное пространство и общественное мнение. К примеру, компания Open AI создала специальную команду по безопасности и защите, которая отслеживает использование ее моделей в дезинформационных кампаниях. После внедрения такой команды удалось пресечь деятельность как минимум пяти новых компаний.

“Нейронным сетям нужно давать обратную связь. Вы всегда можете в случае, если нашли какой-то нарратив, написать в техподдержку лингвистической модели. И они будут это исправлять”, — комментирует глава общества защиты интернета Михаил Климарев. 

Компания Google использует метаданные, чтобы определять контент, созданный искусственным интеллектом, и применяет модерацию, чтобы предотвратить его распространение. TikTok удаляет аккаунты, связанные с пророссийскими компаниями, использующими бесплатные ИИ-инструменты для генерации изображений, видео и фейковых сайтов. Но несмотря на усилия многих компаний, эксперты советуют развивать и собственную медиа грамотность

“Нужно просто критически относиться к той информации, которую вы читаете. Это, наверное, правило, в котором надо постоянно пользоваться в 21 веке и 2025 году. Это базовый на самом деле функционал, которым человек должен обладать”, — говорит Михаил Климарев.  

Россия, провалив свою военную кампанию в Украине прибегает к подлым и изощренным методам подрыва Украины изнутри, включая использование инструментов искусственного интеллекта в пропагандистских операциях от создания ботоферм до заражения больших лингвистических моделей. 

Но все эти кремлевские махинации обречены на провал: их кампании, схемы и операции давно расследованы независимыми организациями, а IT-гиганты продолжают внедрять продвинутые алгоритмы для выявления и удаления российской дезинформации. 

Читайте также: Молдова накануне парламентских выборов: как Кремль пытается укрепить свое влияние — анализ экспертов