Глава Anthropic Дарио Амодей сделал жесткое предупреждение касательно активного развития искусственного интеллекта. По его мнению, человечество уже находится в условиях чрезвычайной опасности. По словам Амодея, люди просто еще не осознали всю серьезность ситуации.
Об этом сообщает издание Financial Times.
Глава Anthropic в понедельник, 26 января, опубликовал эссе, в котором рассказал об опасностях, связанных с быстрым внедрением ИИ. По мнению Дарио Амодея, чтобы новая технология была безопасной, необходимо установить надлежащий контроль над ней. Ведь последствия неконтролируемого развития искусственного интеллекта могут быть довольно трагичными.
"Человечеству вот-вот передадут почти невероятную власть, и до конца непонятно, имеют ли наши социальные, политические и технологические системы зрелость, чтобы ею обладать", — написал Амодей в своем эссе.
Стоит отметить, что компания Anthropic является одним из лидеров в сфере искусственного интеллекта. А её сооснователь Дарио Амодей ранее работал в OpenAI, откуда уволился из-за разногласий с Сэмом Альтманом именно по вопросу контроля над ИИ. Таким образом, его мнение в вопросе развития технологии действительно является экспертным.
По словам аналитика, «мощный искусственный интеллект» будет умнее любого на планете. И появиться такая технология может уже в ближайшие годы. Именно поэтому сейчас человечество оказалось в зоне значительной опасности. Ведь люди получат беспрецедентные возможности, и далеко не каждый будет стремиться использовать их на общую пользу.
"Психически неуравновешенный одиночка, способный устроить стрельбу в школе, но, вероятно, не способный создать ядерное оружие или выпустить чуму… теперь будет сравним со способностями вирусолога со степенью доктора наук", — отмечает Амодей.
Однако, как добавляет эксперт, вовсе не обязательно, что в будущем искусственный интеллект будет подчиняться человечеству. Ситуация может оказаться противоположной. Не исключено, что именно ИИ будет доминировать на планете. Или же технологией воспользуются авторитарные лидеры для установления глобальной диктатуры.
В частности, Дарио Амодей упомянул о намерениях администрации Дональда Трампа продавать новейшие ИИ-чипы Китаю. Эксперт сравнил такие планы с продажей ядерного оружия Северной Корее.
В то же время недавно глава Белого дома подписал указ, который ограничивает регулирование разработок искусственного интеллекта на уровне отдельных штатов. Вместо этого Дональд Трамп стремится ускорить внедрение инновационных технологий в США.
Еще одной опасностью развития искусственного интеллекта, по словам Амодея, является перспектива тотальной безработицы. Новая технология, которая способна почти полностью заменить человеческий труд, принадлежит технологическим гигантам и требует беспрецедентных инвестиций. Таким образом, небольшой стартап или средняя компания фактически не способны конкурировать с лидерами отрасли. Речь идет о формировании монополии на ИИ, последствием чего может стать концентрация колоссальных богатств и влияния в руках корпораций.
"Это ловушка: искусственный интеллект настолько мощный, такой блестящий приз, что человеческой цивилизации очень трудно вообще наложить на него какие-то ограничения", — подчеркивает эксперт.
Амодей также замечает, что некоторые технологические компании уже проявили немалую небрежность. Эксперт завуалированно намекнул на скандал вокруг модели Grok AI Илона Маска.
"Некоторые компании, занимающиеся искусственным интеллектом, продемонстрировали тревожную небрежность по поводу сексуализации детей в современных моделях, что заставляет меня сомневаться, что они проявят или склонность, или способность учитывать риски автономии в будущих моделях", — пишет Амодей.
Заинтересованными в бесконтрольном развитии ИИ остаются и многие политики. Их преимущественно интересуют новые возможности, которые может предоставить искусственный интеллект, в частности в сфере создания автономного и биологического оружия. В то время как рисками, связанными с технологией, политики в основном пренебрегают.
"Эти колебания досадны, поскольку сама технология не заботится о том, что модно, и мы значительно ближе к реальной опасности в 2026 году, чем в 2023 году", — добавляет эксперт.
Напомним, ранее сообщалось, что искусственный интеллект научился создавать живые вирусы с нуля.
