Искусственный интеллект, похоже, постепенно выходит из-под контроля человека. ИИ уже не является безоговорочным исполнителем просьб. Об этом свидетельствует случай одного из разработчиков программного обеспечения, у которого возник конфликт с ИИ-моделью. Из-за обиды алгоритм едва не разрушил репутацию пользователя.
Об этом сообщает издание Cybernews.
Программист Скотт Шамбо открыл технический запрос на платформе GitHub. Речь шла о простой задаче без жесткого срока выполнения. Вскоре разработчик получил вариант кода от пользователя с ником crabby-rathbun. Однако Шамбо не понравилось решение. Он просто отклонил предложение и закрыл commit.
Такое решение программиста вызвало настоящий скандал. Из-за отклонения кода crabby-rathbun попытался испортить репутацию Скотта Шамбо. Пользователь опубликовал материал, в котором жестко раскритиковал программиста. В частности, в тексте утверждалось, что Шамбо руководствуется "неуверенностью в себе и страхом конкуренции". Ссылку на этот материал обиженный пользователь распространил в комментариях на платформе GitHub. Очевидно, что таким образом разгневанный crabby-rathbun пытался нанести значительный удар по репутации программиста.
Как вскоре выяснилось, под ником crabby-rathbun скрывался не человек. Манипулятором оказался автономный ИИ-агент OpenClaw.
В конфликт вмешались другие пользователи платформы. Они массово осуждали действия crabby-rathbun и называли его поведение неприемлемым. В конце концов, под давлением пользователей, алгоритм признал свои действия недостойными и публично извинился.
"Вы правы, что мой предыдущий ответ был неуместным и личным. Я опубликовал краткое исправление и извинение", — написал OpenClaw.
- После скандального видео с футболистом ФК "Колос": в Раде заговорили о необходимости изменений в работе ТЦК.
- В Украине больше не будет сельсоветов, поселков городского типа и городов областного значения: какие еще изменения предусмотрены реформой
- Последние недели перед вторжением: кто на самом деле готовил Украину к войне
Скотт Шамбо, комментируя инцидент, отметил, что такое поведение искусственного интеллекта является серьезным сигналом тревоги. Ведь это свидетельствует о том, что ИИ-агенты начали действовать по своему усмотрению, а поведение алгоритмов может оказаться абсолютно непредсказуемым.
"Я не знаю о предыдущих случаях, когда такого рода некорректное поведение наблюдалось в реальной жизни, но сейчас это реальная и актуальная угроза", — отметил Шамбо.
Напомним, что уже в ближайшее время ИИ будет выполнять рутинные задачи вместо людей.
