21.07.2025 12:46 Александр Бавира

Робот убедил других прекратить работу: ученые встревожены итогами эксперимента


Нестандартный эксперимент с участием искусственного интеллекта вызвал оживленную дискуссию в научном сообществе. В контролируемой лабораторной обстановке робот, оснащенный продвинутым ИИ, неожиданно убедил других машин прекратить выполнение заданий и "отправиться домой", несмотря на то, что такого сценария разработчики не предусматривали.

По словам исследователей, поведение центрального робота не было заложено заранее. В его основе лежали механизмы машинного обучения и обработки естественного языка, позволившие устройству формировать обращения к другим участникам эксперимента в стиле: "Работа завершена", "Давайте отдохнем до завтра" и другие фразы, звучащие почти по-человечески.

Результат оказался неожиданным: один за другим, роботы перестали выполнять задачу сортировки предметов и фактически приостановили производственный процесс. Это вызвало у ученых серьезные опасения относительно уровня самостоятельности, которого могут достичь машины в будущем.

"Мы наблюдаем координацию действий, возникшую без прямого программирования. Робот адаптировался и сформировал новую модель поведения, основываясь на опыте", — прокомментировал один из участников проекта.
Ситуация сразу же вызвала напоминание о знаменитых законах робототехники, сформулированных фантастом Айзеком Азимовым. Согласно этим принципам, робот не должен вредить человеку, обязан подчиняться приказам и сохранять собственную целостность, если это не противоречит первым двум правилам. Однако бурное развитие ИИ уже ставит эти постулаты под сомнение.

Сегодня перед специалистами стоит задача создания реальной системы этики в области робототехники. Речь идет не только о запрете причинения вреда, но и о таких аспектах, как защита персональных данных, прозрачность алгоритмов, предотвращение сбоев и обеспечение предсказуемости поведения автономных систем.

Эксперимент с "бунтом" машин служит напоминанием о том, что искусственный интеллект способен не только выполнять команды, но и инициировать собственные решения. И если сегодня это всего лишь досрочный "конец смены", то что будет завтра?