Хуже ядерной войны: об опасности ИИ рассказал Нобелевский лауреат
Один из основателей ИИ и обладатель Нобелевской премии Джеффри Хинтон предупредил, что человечество недооценивает опасность, которую несет развитие ИИ. В интервью телеканалу "CBS" он заявил, что вероятность того, что машины возьмут контроль над людьми, достигает 20%. По его словам, искусственный интеллект — это не просто технология, а потенциальная угроза цивилизационного масштаба.
«Мы выращиваем тигренка. Он может быть милым сейчас, но вы уверены, что он не убьет вас, когда вырастет?» — отметил Хинтон.
Он сравнил ситуацию с искусственным интеллектом с экспериментом, над которым человечество теряет контроль.
77-летний ученый, чьи исследования легли в основу больших языковых моделей, не скрывает разочарования в направлении, куда движется индустрия. Хинтон подчеркнул, что, несмотря на потенциальную пользу ИИ в медицине или экологии, нынешние приоритеты крупных корпораций направлены на прибыль, а не на безопасность.
Особенно он критикует Google, где ранее работал, и обвиняет компанию в отказе от этических стандартов. «Они лоббируют снижение регулирования. Хотя уже сейчас никакого реального контроля нет», — заявил Хинтон.
По его словам, технологические гиганты обязаны выделять не менее трети своих вычислительных ресурсов на безопасность, но на практике эти расходы — символические.
Запрос CBS к крупнейшим ИИ-компаниям о доле ресурсов, выделяемых на безопасность, остался без конкретного ответа. Все заявили, что безопасность — важна, но при этом выступили против ужесточения контроля.Ранее "Курсор" писал, что назван продукт, который повышает риск деменции.
Комментариев нет:
Отправить комментарий