Американская компания OpenAI, занимающаяся разработками в области искусственного интеллекта, заявила, что российские и иранские спецслужбы использовали ее самый популярный продукт – чат-бот с генеративным искусственным интеллектом ChatGPT – для продвижения своих пропагандистских кампаний, теневых операций влияния и даже создания вымышленных образов "независимых журналистов".
Open AI сообщает, что недавно она сумела заблокировать две операции влияния России и Ирана, использовавших ее модели наряду с более традиционными методами и технологиями для поддержки тщательно выстроенных структур прикрытия. Через эти структуры они доносили до целевых аудиторий в мире свои геополитические тезисы, связанные с вооруженными конфликтами – скрывая их истинный источник.
Иранская операция использовала семь вымышленных "журналистов", от имени которых предлагала объемные статьи небольшим и средним интернет-изданиям по всему миру. Российская операция, по-видимому, привлекла ничего не подозревающих людей в Латинской Америке к работе местного "аналитического центра".
О российской операции Радио Свобода расскажет в ближайшие дни, пока же речь пойдет об операции Ирана.
Неутомимый "Эрвин Б. Хоскинс"
Некий "Эрвин Б. Хоскинс", американский журналист-фрилансер, за последние месяцы написал десятки статей с критикой войны США против Ирана. В его материалах, опубликованных в небольших американских СМИ, в продолжающейся с февраля войне на Ближнем Востоке Соединенные Штаты предстают однозначным агрессором, а Израиль изображается как их ненадежный союзник. Иран же представлен непокорной страной, бросившей вызов гораздо более сильному противнику.
Однако, как сейчас выяснилось, "Эрвин Б. Хоскинс" – вовсе никакой не американский репортер. Более того, на самом деле такого человека просто не существует. "Хоскинс" был одним из семи вымышленных журналистов, якобы западных, чьими именами спецслужбы Ирана пользовались для размещения в СМИ по всему миру, в том числе в США, полезных для них статей.
Вымышленные участники этой иранской операции напоминали фейковую журналистку по имени "Элис Донован", созданную российской военной разведкой ГРУ в 2016–2017 годах для нужных публикаций в ряде западных изданий. А в 2020 году, напоминает Open AI, люди, связанные с прежней деятельностью "фабрики троллей" Евгения Пригожина (российского "Агентства интернет-исследований"), управляли поддельным "новостным" изданием PeaceData, привлекая к написанию материалов ничего не подозревающих журналистов со всего мира.
В отчете OpenAI от 8 октября говорится о пресечении целой иранской операции по распространению скрытого влияния Тегерана и антиамериканской пропаганды в западных государствах, в ходе которой использовался ее чат-бот ChatGPT.
"Примерно в дюжине интернет-изданий по всему миру мы выявили почти 100 статей, опубликованных под именами этих несуществующих авторов", – отмечает руководство OpenAI. Речь шла почти всегда о небольших и средних изданиях, которые в основном освещали международные отношения, геополитику и особенно события на Ближнем Востоке.
Компания OpenAI также подчеркнула, что уже заблокировала учетные записи ChatGPT, владельцы которых использовали этот продукт для написания статей, подготовки тем для публикаций и создания к ним комментариев в социальных сетях.
Нападки на Джареда Кушнера
В числе статей, приписываемых авторству "Эрвина Б. Хоскинса", был, к примеру, материал под заголовком "Джаред Кушнер и приватизация стратегии США в отношении Ирана", опубликованный 12 июня на ресурсе PeaceVoice – службе распространения аналитических статей и мнений, которой управляет Орегонский институт мира (Oregon Peace Institute).
В последующие дни эта же статья была перепечатана под схожими заголовками американским левым интернет-журналом CounterPunch и базирующимся в Лос-Анджелесе порталом LA Progressive, который позиционирует себя как "независимое издание, отстаивающее принципы справедливости".
При этом тема личных финансовых интересов Джареда Кушнера, зятя и спецпосланника президента США Дональда Трампа, а также его дипломатическая деятельность, создающая возможный конфликт интересов, действительно не раз освещалась ведущими американскими СМИ – например, в рамках расследования, проведенного журналом The New Yorker.
Джаред Кушнер
Однако хотя автор статьи, опубликованной на ресурсах PeaceVoice, CounterPunch и LA Progressive, и упоминает вскользь, что Кушнер отстаивает правомерность своих деловых операций и то, что выдвинутые против него обвинения не доказывают факта коррупции, он освещает все факты однобоко и односторонне. "Эрвин Б. Хоскинс" уделяет крайне мало места позиции адвокатов Джареда Кушнера. В статье также высказывается прямое предположение, что финансовые интересы Кушнера влияют на политику США в отношении Ирана. Однако никаких четких доказательств, подкрепляющих эти утверждения, не приводится.
Кроме того, в материале упускаются из виду иные факторы, определяющие политику Вашингтона в отношении Ирана, в том числе обеспокоенность ядерной программой Тегерана и давние связи США с такими ключевыми союзниками, как Израиль и Саудовская Аравия. Да и само использование в заголовке статьи таких оценочных терминов, как "приватизация", также свидетельствует о заведомой предвзятости.
Смотри также
Испытание Ираном. Что скрывают улыбки Трампа и принца Мухаммеда"Шкала прорыва" спецслужб Ирана
Иранская разведка, как пишет OpenAI, кроме "Эрвина Б. Хоскинса" создала еще шесть вымышленных личностей, выдававших себя за журналистов. У каждого из них были профили в социальных сетях и личные изображения, созданные с помощью искусственного интеллекта. Все эти аккаунты активно распространяли контент друг друга. Материалы, якобы написанные этими "западными журналистами", публиковались в американских СМИ как левого толка, так и правой и либертарианской направленности.
В компании OpenAI заявили, что данная операция, по их мнению, достигла "четвертой категории" по так называемой "Шкале прорыва", то есть сравнительной модели масштаба и влияния информационных психологических операций и кампаний по дезинформации (IO Breakout Scale).
Что такое "Шкала прорыва"
"Шкала прорыва" (IO Breakout Scale) была разработана в 2020 году американским расследователем Беном Ниммо. Главная особенность ее заключается в том, что она измеряет влияние операции не по трудноизмеримому "изменению настроений" аудитории, а по объективно наблюдаемому, проверяемому и фиксируемому распространению ("прорыву") контента между онлайн-платформами, сообществами и офлайн-средой.
Шкала состоит из шести последовательных уровней, разделенных на две основные группы:
Нижняя половина (локальное распространение в соцсетях)
Категория 1: одна платформа, без прорыва. Операция локализована в рамках одной онлайн-платформы и не выходит за пределы одного конкретного сообщества или сети собственных аккаунтов кампании.
Категория 2: выход за рамки одного сегмента. Нарратив распространяется либо в рамках одного сообщества, но на нескольких платформах, либо охватывает несколько разных сообществ, но строго на одной платформе.
Категория 3: множественные платформы и сообщества. Кампания успешно кочует по различным социальным сетям (например, Facebook, X, YouTube, TikTok) и начинает проникать в общие дискуссии обычных пользователей, приобретая вирусный потенциал.
Верхняя половина (выход в офлайн и мейнстрим)
Категория 4: прорыв в центральные СМИ. Информационная операция преодолевает барьер соцсетей и попадает в повестку традиционных авторитетных средств массовой информации (мейнстрим-медиа).
Категория 5: усиление лидерами мнений. Нарратив подхватывают и сознательно или вслепую распространяют крупные публичные фигуры – известные политики, знаменитости или топовые инфлюенсеры – выводя охваты на принципиально новый уровень.
Категория 6: политическая реакция или насилие. Наивысший уровень угрозы. Операция приводит к конкретным реальным последствиям: официальной реакции на законодательном или правительственном уровне, изменению государственной политики, либо провоцирует прямые призывы и акты физического насилия на улицах.
Модель "Шкала прорыва" активно используется исследователями проблем кибербезопасности, аналитическими центрами (например, Брукингским институтом в Вашингтоне) и технологическими гигантами, в том числе OpenAI, чтобы определять приоритетность реагирования и координировать противодействие информационным угрозам в реальном времени.
"ИИ может придать таким операциям по созданию фальшивых мнений, идей, образов и личностей огромный масштаб и эффективность, а также обеспечить более высокий уровень владения языком и качество подготовки материалов", отмечают в OpenAI. "Организаторы кампании дезинформации могут использовать эти преимущества, чтобы вводить в заблуждение ничего не подозревающих людей, в том числе, журналистов и редакторов, и распространять свой контент среди аудитории, которая даже не догадывается, кто стоит за этими публикациями и каковы истинные цели их авторов".
Не только OpenAI
OpenAI – не единственный разработчик, чьи достижения в области искусственного интеллекта используются в подобных операциях дезинформации и распространения ложных фактов.
В сентябре, например, американская компания Anthropic, в свою очередь, заявила, что государственные структуры Ирана используют модели искусственного интеллекта – такие, как семейство больших языковых моделей Claude (разработки самой Anthropic) и Gemini (от Google), – для проведения пропагандистских дезинформационных кампаний и продвижения нарративов. Руководит этим процессом Корпус стражей исламской революции (КСИР), элитное военно-политическое подразделение, фактически ставшее в последнее время "теневым правительством" Ирана.
Anthropic также сообщила о пресечении деятельности иранских спецслужб, использовавших ее приложение Claude для "организации, проведения и иного обеспечения операций по обнаружению и слежке", направленных против этнических меньшинств и инакомыслящих внутри самого Ирана.
"Искусственный интеллект значительно упростил создание многоязычной пропаганды и фальшивых профилей в интернете, а также дискредитацию всех противников", – отмечает в интервью Радио Фарда (Иранская служба Радио Свободная Европа/Радио Свобода) Пуйеш Азизеддин, исследовательница в области прав человека и технологий, занимающаяся вопросами интернет-цензуры, слежки и цифровых свобод в Иране.
"Но, с другой стороны, нельзя забывать и о другой стороне медали – что авторитарные правительства часто используют борьбу с дезинформацией как предлог для введения цензуры, расширения масштабов слежки и даже оказания давления с целью раскрытия личности пользователей", – говорит она.