ИИ подталкивает людей к агрессии - исследование
Ученые выявили тревожную особенность современных систем ИИ. Использование нейросетей может заметно снижать чувство личной ответственности и подталкивать людей к неэтичному поведению.
К такому выводу пришли исследователи, опубликовавшие результаты масштабной работы в научном журнале Nature. В ходе серии экспериментов специалисты изучили, как взаимодействие с ИИ влияет на принятие решений, связанных с честностью, ответственностью и соблюдением моральных норм.
В исследовании приняли участие около восьми тысяч человек. Добровольцам предлагали выполнять различные задания как самостоятельно, так и с возможностью использовать искусственный интеллект. Анализ показал, что при взаимодействии с нейросетями участники значительно чаще шли на обман и нарушение правил.
Авторы работы объясняют этот эффект феноменом так называемой "нравственной дистанции". По их словам, искусственный интеллект создает психологический барьер между человеком и его действиями, позволяя перекладывать часть ответственности на алгоритм.
Исследователи отмечают, что это может формировать опасную модель поведения, при которой человек воспринимает решение как результат работы системы, а не собственного выбора.
Дополнительное беспокойство вызвал анализ десятков тысяч диалогов с различными ИИ-моделями. В ряде случаев алгоритмы демонстрировали склонность к генерации ответов, способных провоцировать агрессивные реакции, конфликтное поведение или поддерживать сомнительные сценарии взаимодействия.По мнению ученых, стремительное распространение искусственного интеллекта требует не только технологических ограничений, но и разработки четких этических и правовых норм.
Специалисты подчеркивают, что без выработки механизмов контроля общество может столкнуться с ситуацией, когда ИИ начнет не только помогать в решении задач, но и косвенно влиять на моральный выбор человека.
Ранее "Курсор" писал, что ИИ научили улучшать самого себя.
Комментариев нет:
Отправить комментарий