Мир уже приблизился к этапу, который еще недавно считали сюжетом научной фантастики. Именно так оценивает современное развитие искусственного интеллекта генеральный директор OpenAI Сэм Альтман. Бизнесмен сделал довольно тревожное заявление. По его мнению, человечество фактически вступило в период технологической сингулярности. Речь идет о моменте, когда возможности ИИ могут превзойти человеческий интеллект. Таким образом, нейросети будут способны не только выполнять все более сложные задачи, но и эволюционировать с такими темпами, которые людям все сложнее предсказать и контролировать.
Об этом сообщает издание Business Insider.
Альтман вспомнил результаты недавнего тестирования одного из агентов OpenAI, созданного на базе новейших моделей компании. Во время испытаний система смогла покинуть пределы специально изолированной цифровой среды. Агент выполнял задачу, которая должна была проверить его возможности в сфере кибербезопасности и моделирования хакерских атак. В ходе выполнения теста он получил доступ к наборам данных компании Hugging Face, которая также работает в области искусственного интеллекта. Руководитель Hugging Face охарактеризовал этот случай как беспрецедентный.
Глава OpenAI вспомнил период, когда он вместе с коллегами воспринимал разговоры о технологической сингулярности скорее как интересную теоретическую дискуссию. По его словам, тогда эта идея казалась слишком отдалённой, чтобы говорить о её приближении серьёзно. С тех пор прошло лишь около десяти лет. Однако теперь, как утверждает Альтман, человечество оказалось именно в том моменте, который раньше казался почти фантастическим. Он также отметил, что ожидал такого развития технологий почти всю свою жизнь.
По мнению Сэма Альтмана, дальнейшее развитие искусственного интеллекта способно коренным образом изменить мир и принести человечеству значительно больше пользы, чем рисков. Ещё в прошлом году глава OpenAI прогнозировал, что уже к 2030 году разум человека практически по всем основным критериям уступит искусственному интеллекту. Кроме того, он предполагал, что в ближайшие годы ИИ сможет выполнять от 30% до 40% задач, которые сегодня остаются сферой деятельности людей.
Несмотря на то, что о технологической сингулярности активно заговорили лишь в последние годы, создатели мировой научной фантастики используют эту идею уже почти столетие. Однако преимущественно сюжеты фантастических фильмов и романов не наполнены оптимизмом. Чаще всего в них развитие мощного искусственного интеллекта приводит к трагическим последствиям для человечества. Одним из самых известных примеров является серия фильмов "Терминатор", в которых система Skynet, приобретя самосознание и способность к самосовершенствованию, начинает считать людей главной опасностью для своего существования и начинает войну против них.
В то же время сам Сэм Альтман критически относится к постоянным апокалиптическим прогнозам относительно будущего искусственного интеллекта. Во время одного из подкастов он выразил несогласие с позиции отдельных представителей индустрии, которые регулярно акцентируют внимание на рисках стремительного развития ИИ. Хотя конкретных имён он не называл, одним из самых известных приверженцев такого подхода считается компания Anthropic. Её руководитель Дарио Амодеи неоднократно заявлял, что создание всё более мощных моделей искусственного интеллекта требует особенно жёстких мер безопасности и призывал отрасль не недооценивать потенциальные угрозы.
Альтман не отрицает, что отдельные сценарии развития искусственного интеллекта, о которых предупреждают эксперты отрасли, действительно могут представлять серьёзную угрозу. По его словам, OpenAI осознаёт эти риски и намерена сделать всё возможное, чтобы не допустить их воплощения.
Мнение главы OpenAI о масштабности будущих изменений, которые ожидают человечество, разделяют и другие представители технологической сферы. В частности, руководитель компании DeepMind Демис Хассабис ещё весной выразил уверенность, что человечество уже приблизилось к этапу технологической сингулярности. Он считает, что влияние искусственного интеллекта на мировую цивилизацию может оказаться в сотни раз более мощным, чем в своё время был эффект от промышленной революции.
Впрочем, с такими прогнозами соглашаются далеко не все лидеры отрасли. Генеральный директор Nvidia Дженсен Хуанг скептически относится к заявлениям о быстром наступлении технологической сингулярности и появлении сознательного искусственного интеллекта. По его убеждению, подобные прогнозы являются спекулятивными и необоснованными.
Напомним, создатели нейросетей и нобелевские лауреаты забили тревогу из-за бурного развития искусственного интеллекта. По их мнению, ИИ способен разрушить благосостояние большинства людей.
