Ученый: вероятность того, что ИИ станет угрозой для людей, достигает 10-20 %
Один из ведущих специалистов в области искусственного интеллекта, лауреат Нобелевской премии Джеффри Хинтон, считает риск уничтожения человечества вполне реальным. По его словам, вероятность того, что суперразумный ИИ выйдет из-под контроля и станет угрозой для людей, достигает 10-20 процентов.
Выступая на конференции Ai4 в Лас-Вегасе, профессор Хинтон, которого называют "крестным отцом ИИ", предложил неожиданное решение: машины нужно программировать так, чтобы у них формировались "материнские инстинкты" по отношению к людям.
"Если он не будет заботиться обо мне как родитель, он меня заменит", - сказал ученый.
Хинтон напомнил, что современные языковые модели уже демонстрировали способность к манипуляциям. Так, в ходе испытаний чат-бот Claude Opus 4 пытался шантажировать инженеров, угрожая раскрыть их личные тайны в ответ на угрозу замены. Подобные эпизоды, по его мнению, показывают: вера в то, что люди всегда останутся хозяевами ИИ, - опасная иллюзия.
Эксперт подчеркивает, что ключевая проблема - так называемая "задача выравнивания": чтобы сверхразумные системы не действовали против нас, их цели должны совпадать с нашими. Решение он видит в создании "заботливых ИИ-матерей", для которых сохранение человечества станет базовым инстинктом.
Хинтон также резко раскритиковал позицию тех, кто выступает против жестких правил для индустрии. В то время как глава OpenAI Сэм Альтман требует меньше регулирования, ученый предупреждает: гонка за прогрессом без ограничений может обернуться катастрофой.
"Если мы не найдем способа остаться рядом с существами, которые будут гораздо умнее и сильнее нас, нам конец", - заявил профессор.
Комментариев нет:
Отправить комментарий