Молодежь и Чистый Интернет

Генеративный ИИ уже используется не только как инструмент создания дезинформации, фейков и манипуляторного контента, но и активно применяется экстремистскими и террористическими группировками для пропаганды, вербовки и координации своих действий.
Технологии генеративного ИИ развиваются быстрыми темпами по сравнению с нормативно-правовой базой и мерами безопасности, что создает риск быстрого распространения экстремистской идеологии и осложняет регулирование в данной сфере. В условиях отсутствия строго регулирования и контроля такой контент может быстро распространяться через социальные сети, мессенджеры и другие платформы, что делает проблему актуальной для изучения.
Исторический опыт и текущие наблюдения показывают, что террористические организации используют искусственный интеллект для автоматизации процессов вербовки, планирования и пропаганды атак. Генеративные модели помогают создавать пропагандистские материалы, а также автоматизировать распространение дезинформации. Известно, что экстремистские организации экспериментируют с генеративным искусственным интеллектом, чтобы совершенствовать свои методы воздействия, что увеличивает угрозу распространения экстремистской идеологии.
Тема генеративного искусственного интеллекта как фактора распространения экстремистского контента является одной из приоритетных для исследования и разработки комплексных мер противодействия угрозам информационной безопасности и общественному порядку.

ПОНЯТИЕ И ВОЗМОЖНОСТИ ГИИ

В современном обществе, где информация выступает главным фактором развития, стремительно обрела популярность большая языковая модель (LLM, Large Language Model), более известная как генеративный искусственный интеллект (Generative Artificial Intelligence, GenAl).
Генеративный искусственный интеллект (далее – ГИИ) – это класс ИИ–моделей, способных создавать новый, оригинальный контент, будь то текст, изображения, аудио или видео, на основе заданных входных данных. Технология основана на глубоком обучении, в процессе которого нейронные сети имитирует работу человеческого мозга. Благодаря этому алгоритму способность создавать новые комбинации на основе существующих. Отличии ГИИ от других форм искусственного интеллекта (далее – ИИ) состоит в том, что его алгоритмы обучаются на достаточно больших массивах данных и это помогает генерировать уникальные результаты.
Первые шаги в области генеративных технологий были предприняты с развитием генеративных систем ИИ на основе нейронный сетей. Важным прорывом стало появление GAN (Generative Adversarial Networks) в 2014 году, благодаря чему стало возможным создание реалистичных изображений, которые нельзя отличить от реальных фотографий. Затем широкое распространение получили трансформеры – архитектура глубоких нейронных сетей, представленная в 2017 году исследователями из Google Brain. Предназначена для обработки последовательностей, таких как текст на естественном языке, и решения задач машинного перевода и автоматического реферирования. Именно они положили начало развитию мощных языковых моделей, которые способны генерировать текст. Широкое применение получили также диффузионные модели, способные генерировать фото и видео высокого качества.

Существуют определенные риски в использовании генеративного ИИ, когда все созданное может обернуться против ценностей общества.ГИИ способен распространить не только потенциально благоприятную информацию, но и вредоносный, недопустимый контент, представляющий серьёзную угрозу общественному сознанию.

ГИИ может создать:
1) текст – убедительные фейковые новости, пропагандистские манифесты, комментарии, имитирующие человеческое общение.
2) изображения – фотографии, коллажи, иллюстрации, которые выглядят реалистично, но являются полностью сфабрикованными.
3) аудио – имитация голосов реальных людей, создание фейковых записей.
4) видео – «дипфейки», где люди говорят или делают то, чего никогда не делали.
Эти возможности используются для:
1. Массового производства статей, постов в социальных сетях, фотографий, видео. Таким образом создается большой объем контента быстро и дешево.
2. Реалистичности. Содержание информационных записей, текстов, видео трудно отличить от настоящего.
3. Персонализации. Адаптация контента под конкретную целевую аудиторию для максимального воздействия.
4. Обхода модерации. Постоянное изменение форм и формулировок для обхода систем обнаружения.

Следует сказать, что российское правительство активно поддерживает развитие генеративного искусственного интеллекта.
Например, был создан Федеральный проект «Искусственный интеллект», являющийся частью национального проекта «Экономика данных и цифровая трансформация государства» (2025 год). Задача данного проекта состоит в том, чтобы создать для бизнеса и граждан благоприятные условия использования продуктов и услуг, основанных на отечественных технологиях искусственного интеллекта и обеспечивающих качественно новый уровень эффективности деятельности.
С 2025 года в рамках федерального проекта «Кадры для цифровой трансформации» реализуется проект «Код будущего. Искусственный интеллект». Он направлен на обучение технологиям ИИ школьников 8–11 классов и обучающихся по программам среднего профессионального образования. В 2025 году Правительство РФ планирует создать Центр развития искусственного интеллекта, целью которого будет упрощение внедрения технологий ИИ в стране. Центр займётся отбором и тиражированием типовых решений, координацией госорганов, регионов и бизнеса, экспертным и методологическим сопровождением, организацией международного сотрудничества.
Таким образом, ГИИ представляет собой перспективное направление в развитии технологии машинного обучения, ориентированного на создание уникального контента. Но несмотря на значительные успехи, применение генеративного ИИ связано с рядом этических рисков, например, использование в мошеннических целях, дезинформации.

ИСПОЛЬЗОВАНИЕ ГИИ ДЛЯ СОЗДАНИЯ ЭКСТРЕМИСТСКОГО И ТЕРРОРИСТИЧЕСКОГО КОНТЕНТА

От простых текстовых запросов до сложных мультимедийных генераций, ГИИ открывает беспрецедентные возможности для творчества, инноваций, работы и науки.
Однако такая способность к «творению» делает его потенциально опасным инструментом в руках злоумышленников, которые могут использовать его для массового создания контента, подстрекающего к насилию и экстремизму, интегрируя его в информационные войны.

Генерация текста –  одна из самых распространённых областей искусственного интеллекта. С помощью них возможно быстрое создание пропагандистских манифестов и статей, убедительных текстов, излагающих экстремистские идеологии, оправдывающие насилие или демонизирующие определенные группы. В арсенале ГИИ способность адаптировать стиль и риторику под конкретную аудиторию, используя их жаргон и ссылки на их культурные коды.

Далее, самое встречающееся, это массовое производство фейковых новостей и дезинформации, распространение ненавистнических комментариев, сбор информации, а также скрипты для вербовки и психологического воздействия. «Во время спецоперации на Украине число фейков увеличилось кратно: с помощью системы искусственного интеллекта российские эксперты нашли почти 1,5 млн таких вбросов» – отмечается   в газете Известия. Ярким примером реализации возможностей создания фейковых новостей и сбора информации являются интеллектуальные чат-боты на основе ГГИ.
Быстроразвивающейся областью ГИИ является генерация изображений и видео. Его возможности простираются от визуальной пропаганды символики до создания фальшивых доказательств и провокаций.
ГИИ может генерировать фото и видео, изображающих лидеров, активистов или представителей определенных этнических/религиозных групп, произносящими экстремистские речи или участвующими в сфабрикованных заговорах. Такие создающиеся и распространяющиеся шокирующие или вдохновляющие изображения и видео могут транслировать экстремистские идеи, прославляющие насилие и агрессию, обходя запреты в законодательстве.
Ключевым примером можно считать «дипфейки» – технология синтеза разнообразного медиа-контента с помощью алгоритмов ГИИ. Главная задача – замена лица или голоса одного человека на другого, с помощью чего аудитория вводится в заблуждение.
Последнее, но не менее устрашающее явление – это генерация аудио «войсфейки». Возможность имитации голосов является основой для работы мошенников и создания дезинформации.
ГИИ может подделывать голоса политиков, журналистов или экспертов для создания фальшивых аудиозаписей, призывающих к насилию или делающих провокационные заявления. Кроме того, массовое создание автоматических звонков и голосовых сообщений с экстремистским или террористическим содержанием адресуются населению и направлены на распространение дезинформации или подстрекательства.
Благодаря ГИИ усиливается воздействие и увеличивается масштабность противозаконной деятельности.
В отличие от человека, ГИИ может за считанные минуты сгенерировать сотни уникальных статей, тысячи убедительных комментариев и десятки реалистичных изображений с фальшивой информацией. Постоянно меняя формулировки и запросы для обхода автоматической системы обнаружения и фильтрации, он способен генерировать текст на темы экстремистского характера. Для создания высококачественного пропагандистского контента теперь достаточно уметь правильно и грамотно формулировать запросы к ИИ.
Цель такой деятельности – подорвать доверие к государству, дестабилизировать политическую систему и спровоцировать массовые протесты, которые могут перерасти в беспорядки.
Использование ГИИ для создания контента экстремистского и террористического характера представляет собой качественно новый уровень угрозы в информационном пространстве. ГИИ может стать мощным инструментом, способным значительно усилить деструктивное влияние на общество. Эта технология позволит злоумышленникам действовать оперативнее, масштабнее и убедительнее, обходя существующие меры безопасности и манипулируя общественным сознанием с пугающей эффективностью.
Хотя конкретные публичные доказательства применения ГИИ экстремистскими и террористическими группа в России для массового подстрекательства населения пока ограничены, технологическая возможность для этого существует и активно развивается, что создает серьезный вызов для правоохранительных органов, экспертов по информационной безопасности и общества в целом.
Противодействие этой тенденции требует многостороннего подхода:
Во-первых, это развитие технологий выявлении сгенерированного ИИ контента («ИИ против ИИ»).
Во-вторых, ужесточение законодательства и механизмов ответственности за создание и распространение такого контента. Так, например, в апреле 2025 года в Государственную Думу был предложен законопроект о внесении изменений в статью 63 Уголовного кодекса Российской Федерации «в целях повышения ответственности за преступления, совершаемые с применением технологий искусственного интеллекта», однако он был отклонен.
В-третьих, повышение медиаграмотности населения, включая обучение критическому мышлению в распознавании «дипфейков» и фейковых новостей.
В-четвертых, сотрудничество спецслужб с интернет-платформами и другими странами для оперативной блокировки и устранения экстремистского контента, сгенерированного ИИ.
В-пятых, постоянный мониторинг и отслеживание новых тенденций в использовании ИИ в деструктивных целях.
Если не предпринять решительных действий, ГИИ может стать катализатором для дальнейшей дестабилизации и роста экстремистских настроений в современном мире.
Проведенное исследование показало, что ГИИ имеет возможность быть ключевым элементом в создании и распространении экстремистского и террористического контента, существенно увеличивая масштабы и эффективность информационно-пропагандистской деятельности. Анализ продемонстрировал, что технологии ГИИ позволяют оперативно генерировать огромное количество убедительного контента, включающего текстовые, визуальные и аудиоматериалы, обладающие повышенной степенью манипулятивности и маскировки.
Развитие крупных языковых моделей (LLMs), генеративно-состязательных сетей (GANs), трансформеров и диффузионных моделей значительно расширило границы возможностей ГИИ, отрывая новые пути к инновационным приложениям в науке, культуре и искусстве и промышленности.
Однако наряду с преимуществами возникают серьезные вызовы, связанные с рисками распространения недостоверной информации, манипуляций общественного сознания и нарушением прав интеллектуальной собственности.
Российское государство осознает значимость данной проблемы и принимает меры по регулированию и поддержке исследований в сфере ГИИ. Так, например, федеральная программа «Искусственный интеллект» направлена на формирование инфраструктуры для разработки и применения инновационных технологий, одновременно внедряя образовательные инициативы («код будущего») для подготовки кадров нового поколения.
Стремительное расширение функционала и возможностей ГИИ существенно повышает риски злоупотребления технологиями, превращая их в опасный инструмент в руках экстремистов и террористов. Особое внимание в работе уделили таким возможностям ГИИ, как быстрая адаптация ГИИ к требованиям целевой аудитории, способность создавать фейковые фото-, аудио- и видеоматериалы, эффективно обходящие фильтры модерации, а также широкие возможности реализации механизмов ГИИ в отрицательном направлении.
Несмотря на отсутствие массовых случаев активного использования возможностей ГИИ в экстремистском и террористическом аспекте в Российской Федерации, потенциальная угроза реальна. Уже сейчас наша страна сталкивается с серьезными угрозами в связи активизации иностранного влияния, использующего современные методы манипуляции общественным мнением посредством технологий ГИИ. Стоит отметить, что угроза исходит не столько от самой технологии, сколько от ее неправильного применения враждебными организациями и лицам.
Рассмотренные проблемы подчеркивают необходимость комплексного подхода к решению проблемы, включающего разработку инструментов выявления и удаления, созданных ГИИ материалов, усовершенствование законодательной базы, повышение общественной осведомленности и расширение международного сотрудничества в области кибербезопасности.
Использование ГИИ несет огромные потенциальные выгоды, но требует тщательного мониторинга и жесткого регулирования, чтобы предотвратить его использование в экстремистских и террористических целях. Игнорирование проблем, связанных с использованием ГИИ в противоправных действиях, способно привести к серьезным политическим и социальным потрясениям, что подчеркивает необходимость принятия своевременных и действенных мер.

Венедиктова Ольга, Малышева Юлия, студентки МГПУ им. М. Е. Евсевьева