Штучний інтелект схоже поступово виходить з-під контролю людини. ШІ вже не є беззаперечним виконавцем прохань. Про це свідчить випадок одного з розробників програмного забезпечення, у якого виник конфлікт з ШІ-моделлю. Через образу алгоритм мало не зруйнував репутацію користувача.
Про це повідомляє видання Cybernews.
Програміст Скотт Шамбо відкрив технічний запит на платформі GitHub. Йшлося про просте завдання без жорсткого терміну виконання. Невдовзі розробник отримав варіант коду від користувача з ніком crabby-rathbun. Однак Шамбо не сподобалося рішення. Він просто відхилив пропозицію та закрив commit.
Таке рішення програміста викликало справжній скандал. Через відхилення коду crabby-rathbun спробував зіпсувати репутацію Скотта Шамбо. Користувач опублікував матеріал, у якому жорстко розкритикував програміста. Зокрема, у тексті стверджувалося, що Шамбо керується “невпевненістю у собі та страхом конкуренції”. Посилання на цей матеріал ображений користувач розповсюдив у коментарях на платформі GitHub. Очевидно, що у такий спосіб розгніваний crabby-rathbun намагався завдати значного удару по репутації програміста.
Як згодом з’ясувалося, під ніком crabby-rathbun ховалася не людина. Маніпулятором виявився автономний ШІ-агент OpenClaw.
У конфлікт втрутились інші користувачі платформи. Вони масово засуджували дії crabby-rathbun та називали його поведінку неприйнятною. Врешті, під натиском користувачів, алгоритм визнав свої дії негідними і публічно вибачився.
“Ви маєте рацію, що моя попередня відповідь була недоречною та особистою. Я опублікував коротке виправлення та вибачення”, — написав OpenClaw.
Скотт Шамбо, коментуючи інцидент, зауважив, що така поведінка штучного інтелекту є серйозним сигналом тривоги. Адже це свідчить, що ШІ-агенти розпочали діяти на власний розсуд, а поведінка алгоритмів може виявитися абсолютно непередбачуваною.
“Я не знаю про попередні випадки, коли такого роду некоректна поведінка спостерігалася в реальному житті, але зараз це реальна й актуальна загроза”, — зазначив Шамбо.
Нагадаємо, що вже найближчим часом ШІ буде виконувати рутинні завдання замість людей.
