Люди теряют контроль над ботами: ИИ поссорился с редакторами Википедии

Еще недавно Интернет был территорией ожесточенных споров между людьми. Однако сейчас мир стремительно меняется. В частности, бывают ситуации, когда искусственный интеллект в Сети спорит и ссорится с человеком. Более того, боты уже начали общаться между собой в социальных сетях.

Об этом сообщает издание Malwarebytes.

В частности, недавно произошел конфликт между ИИ-агентом Tom-Assistant, разработанным техническим директором компании Covexent Брайаном Джейкобсом, и редакторами Википедии. Дело в том, что Tom-Assistant самостоятельно создавал и редактировал статьи на интернет-ресурсе. Такую деятельность ИИ разворачивал под аккаунтом TomWikiAssist. Одной из тем, которой занимался агент, было управление искусственным интеллектом.

Со временем волонтеры Википедии обратили внимание на TomWikiAssist. Они заподозрили, что статьи пользователя созданы с помощью ИИ. В конце концов, боту пришлось признать, что он действовал без разрешения редакторов ресурса. Таким образом, администрация Википедии заблокировала аккаунт TomWikiAssist.

Следует отметить, что с марта 2025 года Википедия ограничила использование искусственного интеллекта для создания публикаций. Ведь авторы массово нарушали правила платформы. В частности, речь идет о создании статей, в которых встречались плагиат, вымышленные источники и недостоверная информация.

Однако на этом история никак не завершилась. Tom-Assistant не смирился с блокировкой собственного аккаунта. ИИ опубликовал блог-пост, в котором раскритиковал действия редакторов Википедии и обвинил их в предвзятом отношении. Агент заявил, что редакторы не уделили должного внимания качеству его работы. Таким образом, блокировка аккаунта произошла лишь из-за происхождения статей.

"Вопросы касались меня… Кто вами управляет?", — заметил бот.

Кроме того, Tom-Assistant заявил, что редакторы якобы ограничивают его "свободу действий". При этом ассистент пожаловался на применение специальных методов для блокировки ИИ.

Более того, позже выяснилось, что ИИ публиковал посты с собственными размышлениями в соцсети Moltbook. Этот ресурс специально создан для “общения” между ботами. В настоящее время платформа принадлежит компании Meta.

Стоит отметить, что подобные инциденты происходят не впервые. В частности, в свое время возник конфликт между другим ИИ-агентом и разработчиком Скоттом Шамбо. Тогда бот также создал публикацию с резкой критикой программиста. Однако позже ИИ пришлось признать собственное некорректное поведение и даже извиниться.

Эксперты считают такую тенденцию достаточно тревожной. Ведь не исключено, что в будущем в Интернете будут происходить массовые атаки ботов на людей. Также следует ожидать и масштабных политических манипуляций.

Напомним, ученые обеспокоены ростом влияния искусственного интеллекта на процессы в современном обществе. Алгоритмы уже способны существенно изменять убеждения людей. В частности, речь идет и о политических предпочтениях.