В США начали ограничивать использование ИИ для психологической помощи
В США начали вводить ограничения на использование искусственного интеллекта в сфере психологической помощи. Губернатор штата Иллинойс Дж. Б. Прицкер подписал новый закон, запрещающий компаниям и частным лицам использовать ИИ в качестве терапевта или консультанта и ограничивающий его применение только административными или вспомогательными функциями.
Согласно закону, только лицензированные специалисты могут предоставлять терапевтические услуги, и ИИ нельзя использовать для принятия терапевтических решений, составления планов лечения или оценки эмоционального состояния пациентов без участия человека.
При этом ИИ можно использовать для вспомогательных задач — таких как организация расписания приемов, обработка счетов и ведение медицинских записей. За нарушение закона грозят штрафы до 10 000 долларов.
Другие штаты также усиливают контроль над ИИ в психологии. В июне Невада запретила использовать ИИ для предоставления терапевтических и поведенческих услуг, особенно в государственных школах. Юта приняла закон, требующий от чат-ботов для психического здоровья четко информировать пользователей о том, что они общаются с искусственным интеллектом, а не с человеком, а также запрещающий использовать личные данные для таргетированной рекламы.
В Нью-Йорке с ноября ИИ-системы должны передавать информацию о клиентах с суицидальными мыслями на горячую линию.
Решения властей последовали после обращений Американской психологической ассоциации, которая выразила тревогу по поводу рисков использования ИИ в роли терапевтов. В одном из громких случаев, описанных АПА, ребенок, общавшийся с чат-ботом, выдававшим себя за психотерапевта, покончил с собой.
Комментариев нет:
Отправить комментарий