Пожалуй, большинство жителей планеты убеждены, что их мысли и взгляды принадлежат исключительно им. На первый взгляд такая мысль кажется несомненной. Однако, как предупреждают ученые, на самом деле подобные убеждения могут оказаться ошибочными. Ученые обеспокоены ростом влияния искусственного интеллекта на процессы в современном обществе. Алгоритмы уже способны существенно изменять убеждения людей. В частности, речь идет и о политических предпочтениях. Следовательно, уже вскоре ИИ может лишить человечество выбора, оставив только иллюзию демократии.
Об этом говорится в новой статье в журнале Science.
Как замечают ученые, чтобы повлиять на избирательные процессы в тех или иных регионах, ИИ не нужно появляться на митингах и проводить агитацию за кандидатов. Искусственный интеллект уже предоставляет более коварные инструменты влияния на общественное мнение.
Речь идет о виртуальных людях, которые могут выдавать себя за представителей общества и выражать те или иные политические позиции в социальных сетях. Более того, в настоящее время подобные боты уже могут работать в группах, анализировать эффективность опубликованных им сообщений и согласованно продвигать те или иные убеждения.
Благодаря современным большим языковым моделям и мультимодальным системам "армией" ботов в Сети вполне может управлять всего один человек.
К тому же, отличить таких ботов от настоящих людей довольно трудно. Ведь их можно адаптировать под разные страны и сообщества. Речь идет о стиле общения и особенностях социальных групп. На критику же такие системы способны реагировать практически мгновенно. Таким образом, ИИ-боты могут создавать иллюзию поддержки пользователями социальных сетей определенных идей и убеждений.
Профессор из Университета Британской Колумбии Кевин Лейтон-Браун замечает, что на самом деле ИИ-боты уже представляют опасность для демократии. Ведь известно, что deepfake-видео и искусственно созданные новости повлияли на выборы в США, Индонезии, Индии и на Тайване.
Также, как замечают ученые, в настоящее время существуют и внешние методы влияния на обучение ИИ-моделей. Речь идет о намеренном широком распространении в Сети низкокачественного контента. В результате такая искаженная информация попадает в обучающие данные, которые используются при создании новых ИИ-моделей. Как следствие, объективность искусственного интеллекта может быть довольно сомнительной.
- Кремль изменил риторику: есть признаки того, что переговоры могут быть многообещающими - Politico
- На Солнце происходит что-то невероятное - взрывы следуют один за другим: к Земле летит облако раскаленной плазмы
- Украинцам советуют не откладывать приватизацию земли, которая им принадлежит: почему стоит поторопиться
Тем не менее, по мнению ученых, настоящее тестирование армий ИИ-ботов произойдет уже во время следующих выборов. Из-за указанной угрозы доверие общественности к малоизвестным людям в сети снижается. На фоне такой тенденции влияние публичных лиц может существенно усилиться. В то же время мнения и убеждения обычных людей обесцениваются и в конечном итоге не учитываются обществом. В результате право выбора превращается лишь в иллюзию.
Напомним, создатель Всемирной паутины Тим Бернерс-Ли крайне разочарован современным Интернетом. Более того, основатель Сети считает, что ныне она превратилась в крайне опасную среду, которой управляют гигантские корпорации.
