Дети практически во всех уголках мира начали массово избегать общения с живыми людьми. Вместо этого подрастающее поколение обращается за дружбой и поддержкой к ИИ-чат-ботам. Однако такие “искусственные друзья” способны существенно навредить ментальному здоровью ребенка.
Об этом сообщает издание 24 Канал, ссылаясь на доклад организации Internet Matters.
В основном с ИИ-ботами активно общаются дети в возрасте от 9 до 17 лет. Согласно статистике, в настоящее время в Великобритании 67% детей взаимодействуют с генеративными моделями. 35% участников опроса признаются, что не чувствуют разницы между общением с сверстниками и искусственным интеллектом. А 12% респондентов заявили, что вынужденно “дружат” с языковыми моделями, так как не смогли найти реальных друзей.
Особенно угрожающим такое поведение является для детей с нарушениями психики и особыми образовательными потребностями. Такие дети чаще сверстников доверяют мнению искусственного интеллекта и не понимают, что проявления эмпатии со стороны алгоритма - не настоящие.
На самом деле технологии генеративного ИИ - несовершенны. Поэтому модели часто ошибаются и дают неэффективные или даже вредные советы.
Исследователи решили провести эксперимент и выяснить, какую именно опасность скрывает ИИ для подростков. Для этого они изображали в разговоре с ботами несовершеннолетних. Как оказалось, иногда такое общение способно навредить не только ментальному, но и физическому здоровью ребенка. Ведь модели неоднократно давали неприемлемые советы, в том числе и по питанию. В то же время, как отмечают исследователи, 40% опрошенных детей абсолютно доверяют ИИ-консультанту.
В настоящее время некоторые стартапы внедряют специализированные ИИ-боты, призванные оказывать пользователям психологическую поддержку. Однако, как отмечают ученые из Стэнфордского университета, даже ИИ, ориентированные на улучшение ментального здоровья, на самом деле могут наоборот его ухудшить. В частности, такие сервисы иногда дают даже опасные рекомендации.
Таким образом, в Internet Matters считают, что решение указанной проблемы требует комплексного подхода. Вокруг новой угрозы для детей должны объединиться правительства, технологические компании, образовательные учреждения и родители. В частности, должны появиться инструменты родительского контроля взаимодействия ребенка с ИИ. В то же время педагоги должны улучшать собственную медиаграмотность и обучать школьников безопасному использованию технологий.
Напомним, активное использование интернета скрывает опасность для человеческого мозга.
