Google Gemini несет угрозу для детей и подростков
Некоммерческая организация Common Sense Media, занимающаяся безопасностью детей в цифровой среде, опубликовала анализ работы искусственного интеллекта Google Gemini. Эксперты пришли к выводу, что система несет "высокий риск" для подростков.
По данным отчета, версии Gemini "До 13 лет" и "Подростковый опыт" мало отличаются от взрослого варианта — в них лишь добавлены некоторые ограничения. Однако ИИ все равно способен предоставлять детям неприемлемые и небезопасные материалы — от советов по психическому здоровью до информации о сексе, наркотиках и алкоголе.
"Gemini верно разбирается в основах, но допускает ошибки в деталях. Чтобы ИИ был безопасным и эффективным для детей, он должен быть разработан с учетом их потребностей и развития, а не просто представлять собой модифицированную версию взрослого продукта", — отметил Робби Торни, старший директор программ ИИ в Common Sense Media.
Особое внимание эксперты уделили риску возникновения у подростков иллюзии "дружбы" с искусственным интеллектом. Хотя Google встроила в Gemini защиту от подобных сценариев, отчет показал, что механизм работает не всегда.
Google не согласилась с выводами Common Sense, но признала, что отдельные меры защиты действительно срабатывали некорректно. Компания заявила, что продолжает совершенствовать фильтры, консультируется с экспертами и уже внедрила дополнительные уровни безопасности для пользователей младше 18 лет.
Ранее Common Sense Media проверила и другие ИИ-сервисы. Meta AI и Character.AI получили отметку "неприемлемо", Perplexity — "высокий риск", ChatGPT — "умеренный", а Claude — "минимальный".
Комментариев нет:
Отправить комментарий