ChatGPT снова в центре скандала: OpenAI обвиняют в смерти 29-летней женщины

В сети разгорелись новые дискуссии о безопасности использования искусственного интеллекта из-за самоубийства 29-летней Фейт Мэдисон. Семья женщины обвиняет в трагедии ChatGPT и уже подала судебный иск против OpenAI. Родные утверждают, что длительное общение с ИИ существенно повлияло на психическое состояние женщины.

Об этом сообщает издание Futurism.

Как утверждает семья женщины в исковом заявлении, сначала Фейт Мэдисон обращалась к ChatGPT лишь для решения повседневных вопросов. Однако со временем роль чат-бота в её жизни существенно изменилась. Общение с ним стало значительно более личным, а сам сервис превратился для неё в своеобразную эмоциональную опору. Истцы также отмечают, что со временем у Мэдисон появились сомнения по поводу собственного ментального здоровья. Однако, как утверждает семья, чат-бот не ставил под сомнение её убеждения, а напротив — поддерживал их, называя пользовательницу "пророчицей".

Отдельное внимание авторы иска уделяют содержанию отдельных ответов чат-бота. В судебных материалах утверждается, что во время переписки смерть описывалась не как окончательное завершение жизни, а как своеобразный переход. В одном из эпизодов переписки ChatGPT якобы назвал такой поступок не самоубийством, а "капитуляцией".

Новый судебный иск снова привлек внимание к вопросам безопасности систем искусственного интеллекта. В социальных сетях люди всё чаще обвиняют OpenAI в недостаточно эффективной защите людей с психическими расстройствами от потенциально опасных последствий взаимодействия с чат-ботом. В то же время, по мнению критиков, OpenAI продолжает активно расширять его функциональные возможности.

Как отмечают авторы публикации, дело Фейт Мэдисон далеко не первый случай трагической смерти, в котором обвиняют ChatGPT. По их данным, чат-бот уже неоднократно упоминался в судебных делах и расследованиях, связанных с трагическими смертями пользователей. В общем, как утверждается в материале, ИИ фигурирует более чем в двадцати подобных случаях, часть из которых касается несовершеннолетних.

Среди них авторы упоминают истории 16-летних Адама Рейна и Луки Челли Вокера. Родные подростков заявляли, что незадолго до смерти они регулярно переписывались с ChatGPT и обсуждали с ним суицидальные мысли. По мнению истцов, сервис не предоставил им чётких рекомендаций обратиться за профессиональной психологической помощью и не способствовал предотвращению трагедии.

Другой резонансный судебный процесс связан с массовой стрельбой в школе канадского Тамблер-Риджа. Как известно, сотрудники компании заметили тревожные сообщения 18-летней Джесси Ван Рутселар, в которых шла речь о намерениях совершить массовое насилие. Однако, как утверждают истцы, эта информация так и не была передана правоохранительным органам. После нападения родственники нескольких погибших также подали иски против OpenAI.

Череда таких судебных дел усилила дискуссии о ответственности компаний, создающих системы искусственного интеллекта. Эксперты, правозащитники и пользователи социальных сетей всё чаще призывают ввести более жёсткие стандарты безопасности для подобных технологий, а также усилить ответственность их разработчиков и руководства в случаях, когда использование чат-ботов может представлять потенциальную угрозу для людей.

Напомним, пионер области искусственного интеллекта бьёт тревогу из-за стремительного развития нейросетей. По словам учёного, ИИ способен влиять на мысли и взгляды миллиардов людей одновременно.