Битва титанов: Маск предупредил, к чему может привести развитие ИИ
"Убить всех".
АВТОР:
В федеральном суде Окленда (Калифорния) продолжается один из самых громких технологических процессов последних лет – слушания по иску миллиардера Илона Маска против гендиректора компании OpenAI Сэма Альтмана, его главного помощника Грега Брокмана, а также против компании "Майкрософт" из-за инвестиций в OpenAI в 2024 году.
Вчера, 28 апреля, показания Маска положили начало юридической драме, которая, как ожидается, будет полна интриг и компрометирующих подробностей о двух технологических магнатах, пишет агентство "Ассошиэйтед пресс".
Суть иска
Маск, один из сооснователей OpenAI, утверждает, что компания создавалась как некоммерческая организация с целью развивать искусственный интеллект (ИИ) открыто и безопасно на благо всего человечества. Он вложил в проект около 50 миллионов долларов именно на этих условиях. По версии Маска, Альтман и Брокман предали миссию: в 2019 году (к этому времени Маск уже покинул совет директоров компании) OpenAI создала коммерческую структуру, заключила многомиллиардные сделки с "Майкрософтом" и превратилась в закрытую корпорацию, оцениваемую сейчас в сотни млрд долларов.
Маск требует: компенсацию в размере около 130 млрд долларов, возвращение компании к некоммерческому статусу, отстранения от управления нынешнего руководства OpenAI.
Ответчики отвергают обвинения. Они заявляют, что Маск сам предлагал сделать компанию полностью коммерческой и хотел полного контроля. Когда ему отказали, он ушел, основал конкурирующую xAI и теперь использует суд, чтобы навредить сопернику.
Опасность ИИ
Едва начавшись, судебный процесс уже вышел за рамки личного спора двух миллиардеров. Он ставит фундаментальные вопросы: кто должен контролировать развитие ИИ, как обеспечивать его безопасность и может ли коммерческая прибыль превалировать над интересами человечества.
Так на вчерашних почти двухчасовых показаниях Маск заявил, что со студенческих времен всерьез обеспокоен рисками, связанными с ИИ. По его словам, он и основал OpenAI в качестве "страховки для жизни, как мы ее знаем".
Бизнесмен подчеркнул, что сейчас самый главный вопрос – что произойдет, когда компьютеры станут намного умнее людей. Маск отметил, что искусственный интеллект "способен сделать людей процветающими, но может и убить всех". "Мы не хотим будущего как в "Терминаторе", мы хотим жить в стиле "Звездного пути", – сказал он.
Бизнесмен добавил, что обучение мощного компьютерного интеллекта подобно воспитанию очень умного ребенка: в итоге его невозможно полностью контролировать, поэтому критически важно с самого начала заложить правильные ценности – честность, доброту и заботу о человечестве.
Сэм Альтман в прошлом тоже признавал опасность развития ИИ и заявлял, что снижение рисков в этой области "должно стать глобальным приоритетом наравне с пандемиями и ядерной войной". Однако в последнее время он стал более оптимистично смотреть на возможность согласования целей "умных машин" и человечества. По словам Альтмана, в контексте судебного процесса, он продолжает работать над безопасностью ИИ, но фокусируется на практических мерах, а не на "фантастических" сценариях вроде "Терминатора".
"Терминатор" – серия фильмов режиссера Джеймса Кэмерона о войне человечества против умных машин. В центре сюжета – противостояние живого солдата и киборга-терминатора, прибывших в 1984 год из постапокалиптического 2029 года.
"Звездный путь" – научно-фантастическая медиафраншиза, включающая в себя несколько телевизионных сериалов и полнометражных фильмов. Вселенная "Звездного пути" рисует утопическое космическое будущее, где существует Объединенная федерация планет, членом которой является планета Земля.
