"Крестный отец" нейросетей ушел из "Гугла" и предупредил об опасности ИИ: "Представьте, как его может использовать Путин"

2 МАЯ 2023

 

21:06

Британский и канадский ученый Джеффри Хинтон, которого называют "крестным отцом" нейросетей, уволился из компании "Гугл". Об этом сообщает газета "Нью-Йорк таймс".

Издание напоминает, что 75-летний Хинтон начал работать над созданием нейросетей еще в 1970-х годах, когда в их будущее никто не верил. В 2012 году его компанию, которая разработала технологию распознавания изображений, за 44 миллиона долларов приобрел "Гугл". В то время с Хинтоном работал Илья Суцкевер, который впоследствии стал главным научным сотрудником OpenAI, компании-создателя бота ChatGPT. В 2018 году Хинтон и двое его сотрудников за работу над нейронными сетями получили премию Тьюринга, которую называют "Нобелевской премией в области вычислительной техники".

В интервью "Нью-Йорк таймс" Хинтон заявил, что считает искусственный интеллект опасным и жалеет о работе всей своей жизни. "Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой", — признался Хинтон.

По его мнению, опасность нейросетей заключается в том, что интернет могут заполонить фальшивые фото, видео и тексты, созданные искусственным интеллектом, и люди не смогут понять, что является правдой. К тому же искусственный интеллект слишком быстро развивается.

"Немногие верили в то, что вещи действительно могут стать умнее людей. Я думал, что до этого еще 30–50 лет, а то и больше. Больше я так не думаю", — сказал ученый.

В "Твиттере" он объяснил, что ушел из "Гугла" не ради критики компании, а чтобы иметь возможность свободно высказываться без оглядки на корпоративные правила. "Я ушел, чтобы иметь возможность говорить об опасностях, не волнуясь о том, как это отразится на компании. "Гугл" работает ответственно", – написал он.

В комментарии для медиакорпорации "Би-би-си" Хинтон предупредил о последствиях, если ИИ-технологии попадут в руки влиятельных злоумышленников. Когда "Би-би-си" попросила его поделиться, кого именно он имеет в виду, Хинтон ответил: "Это самый пессимистичный сценарий. Самый кошмарный прогноз. Представьте себе, например, что кто-то вроде Путина решит дать роботам возможность создавать свои собственные подзадачи". Например, это может быть запрос о том, как усилить власть, пояснил ученый.

"У этой технологии есть огромные преимущества, но важно, чтобы мир срочно вложил значительные средства в безопасность и контроль ИИ", — сказал он.

В конце марта основатель компании "Спейс-икс" Илон Маск и сооснователь корпорации "Эппл" Стив Возняк опубликовали открытое письмо, в котором призвали приостановить обучение новых систем искусственного интеллекта (ИИ) из-за возможной угрозы, которые обучаемые модели могут нести обществу. Письмо подписали более тысячи человек, в том числе и известные ученые в области искусственного интеллекта – канадец Йошуа Бенжио и британец Стюарт Рассел.