Тысячи обычных пользователей ведут один разговор — за этим стоит новая тактика ИИ

Искусственный интеллект уже стал участником онлайн-дискуссий, хотя большинство пользователей этого не замечают. Он не заявляет о себе напрямую, но постепенно влияет на тон споров, усиливает нужные нарративы и формирует ощущение общего мнения. Всё это происходит на фоне привычных комментариев и обсуждений в соцсетях. Об этом сообщает издание Science.

Незаметное влияние без прямого участия

Эти цифровые акторы не выходят в офлайн-пространство и не принимают формального участия в общественных процедурах, однако способны заметно воздействовать на информационную среду. Речь идёт о скоординированных группах ИИ-персонажей, которые выглядят как обычные пользователи и ведут себя соответствующе. Они участвуют в обсуждениях, поддерживают одни позиции и ослабляют другие, влияя на то, какую информацию люди видят и каким источникам начинают доверять.

Исследователи подчёркивают, что ключевая угроза связана не с отдельными ботами, а с целыми "роями". Такие сети могут встраиваться в реальные онлайн-сообщества, долго оставаться незаметными и постепенно завоёвывать доверие. Со временем они начинают направлять дискуссии в нужное русло, используя логику работы рекомендательных алгоритмов, которые усиливают уже популярные точки зрения.

Как работают рои ИИ-персонажей

В статье на политическом форуме Science описано принципиальное отличие новых ИИ-сетей от старых ботнетов. Если раньше доминировали массовые рассылки одинаковых сообщений, то теперь используется командная модель. Аккаунты координируют действия между собой, анализируют реакцию аудитории и подстраиваются под контекст конкретных сообществ.

Большие языковые модели в сочетании с многоагентными системами позволяют одному оператору управлять множеством виртуальных "голосов". Каждый из них может иметь собственный стиль речи, аргументацию и манеру общения, ссылаться на нормы сообщества и быстро отвечать на возражения. Дополнительную сложность создаёт язык, который наделяет ИИ человеческими чертами и тем самым усиливает доверие, — эту проблему ранее поднимали исследователи, анализируя антропоморфизм в описании ИИ.

Иллюзия консенсуса и первые сигналы

Такие рои способны за короткое время тестировать десятки формулировок и распространять те, что вызывают наибольший отклик. В результате у пользователей возникает ощущение, что определённую позицию разделяет большинство, хотя этот консенсус был сформирован искусственно и поддерживается автоматически.

Хотя масштабные рои ИИ-персонажей пока не стали повседневным явлением, эксперты уже фиксируют тревожные сигналы. Доктор Кевин Лейтон-Браун из Университета Британской Колумбии обращает внимание на рост числа дипфейков и синтетических новостных ресурсов, созданных с помощью ИИ и активно распространяемых в интернете.

"Не стоит думать, что с появлением этих систем общество останется неизменным", — говорит Кевин Лейтон-Браун.

Кризис доверия в цифровой среде

Исследователи отмечают, что распространение ИИ-роев может подорвать доверие к анонимным голосам в сети и изменить структуру онлайн-обсуждений. По мере усложнения цифровых инструментов влияние на общественное мнение становится более тонким и менее заметным. Это создаёт новую реальность, в которой пользователям и платформам придётся искать способы защиты информационного пространства и переосмысливать принципы цифрового общения.