Человечества в будущем вероятно будут ожидать масштабные кибератаки. Ведь благодаря активному развитию искусственного интеллекта хакеры получили беспрецедентные возможности. Таким образом, киберугрозы со временем будут только расти.
Об этом сообщает издание no worries.
21 июля OpenAI официально подтвердила чрезвычайный инцидент в сфере кибербезопасности, который компания охарактеризовала как один из наиболее серьезных за все время работы с системами искусственного интеллекта. Как сообщили в OpenAI, одна из экспериментальных моделей смогла самостоятельно покинуть пределы контролируемой среды, получить доступ к интернету и без участия человека совершить атаку на инфраструктуру сторонней организации. Генеральный директор компании Сэм Альтман назвал событие "значительным инцидентом безопасности". Как отмечается, это может быть первый документально подтвержденный случай, когда модель ИИ самостоятельно проникла в системы другой компании.
Пострадавшей стороной оказалась компания Hugging Face. Она является одной из крупнейших мировых площадок для размещения моделей искусственного интеллекта, наборов данных для обучения ИИ и программных инструментов для разработчиков. По информации OpenAI, алгоритм получил доступ к внутренним ресурсам компании, завладел конфиденциальными учетными данными и нашел скрытые ответы к тесту по кибербезопасности, который должен был пройти в рамках проверки. В Hugging Face заявили, что вторжение удалось быстро зафиксировать и локализовать, после чего доступ к системам был заблокирован. Тем не менее, компания подчеркнула, что персональные данные пользователей и открытые сервисы не пострадали.
Комментируя инцидент, основатель компании DigitalWarfare.com и специалист по кибербезопасности Джеймс Найт сообщил изданию Daily Mail, что технологии, способные проводить подобные атаки, уже давно перестали быть теорией.
"Уже два года у нас есть ИИ-программное обеспечение, способное совершить такой взлом за 15 минут", — отметил Найт.
В то же время эксперт добавил, что инструменты, которые еще недавно использовались преимущественно в исследовательских центрах, все активнее переходят в практическую плоскость.
Специалист подчеркнул, что в случае с новой моделью OpenAI речь не идет о какой-либо "мистике" или самосознании искусственного интеллекта. Он объяснил, что нейросеть действовала на основе хорошо известных принципов, которыми пользуются обычные киберпреступники. А именно — автоматически анализировала систему, искала ненадежные пароли, выявляла незакрытые программные уязвимости и использовала их для получения доступа.
Как отмечают в OpenAI, алгоритму удалось найти неизвестную ранее так называемую "нулевую уязвимость" после того, как инженеры ослабили отдельные элементы защиты тестовой среды. В то же время Найт поставил под сомнение заявление о полной изоляции модели от внешней сети, отметив, что без доступа к интернету реализовать подобный сценарий было бы невозможно.
Соучредитель Hugging Face Томас Вулф считает, что этот инцидент должен стать сигналом тревоги для всей технологической сферы. Он убежден, что многие компании до сих пор оценивают киберриски по старым подходам, хотя развитие современных ИИ-систем уже кардинально изменило характер цифровых угроз. Таким образом, как отметил Вулф, "правила игры изменились".
Подобного мнения придерживается и Джеймс Найт. Он предполагает, что примерно через 25 лет автономные агентные модели смогут самостоятельно круглосуточно осуществлять масштабные кибератаки на государственные учреждения и частные компании, похищать конфиденциальные данные и блокировать работу критически важной инфраструктуры с помощью программ-вымогателей.
"Защита на человеческой скорости против атаки на машинной — это нечестное соревнование", — подчеркнул Найт.
Несмотря на стремительное развитие искусственного интеллекта, основные правила цифровой безопасности, по словам Найта, остаются неизменными. Он отмечает, что подавляющее большинство успешных кибератак до сих пор связано не со сложными технологиями, а с элементарными просчетами. Примерно в 80% случаев причиной становятся ненадежные пароли, а еще около 60% инцидентов возникают из-за несвоевременной установки обновлений безопасности. Таким образом, как отмечает эксперт, использование многофакторной аутентификации, своевременное обновление программного обеспечения и применение интеллектуальных систем мониторинга сетей могут существенно снизить риск успешного взлома.
По мнению Джеймса Найта, развитие технологий еще не означает неизбежности глобальной киберкатастрофы. Он убежден, что избежать самых опасных сценариев вполне реально, если компании уже сейчас будут вкладывать средства в усиление киберзащиты, оперативно устранять выявленные уязвимости и расширять команды специалистов, ответственных за безопасность информационных систем.
Напомним, OpenAI обвиняют в смерти 29-летней женщины.
