вторник, 17 ноября 2026 г.

ИНТЕЛЛЕКТ БУДУЩЕГО

 

Интеллект будущего

В сентябре и октябре нынешнего – 2026 – года некоторые разработчики ИИ призвали к ужесточению регулирования их деятельности.

Предостережения поступили от Брэда Смита — президента Microsoft, от Сэма Альтмана – руководителя OpenAI, и Дарио Амодеи – генерального директора Anthropic. Впечатленные последними успехами собственной продукции, они призвали к сотрудничеству для предотвращения исходящей от нее опасности.

Альтман высказался за открытое регулирование, а Амодеи — за готовность замедлять разработки, когда безопасность недостаточно обеспечена.

Со своей стороны Илон Маск еще в сентябре предложил Компаниям предоставлять конкурентам доступ к своим новым моделям: пусть каждый ищет у другого таящиеся в их изделиях потенциальные угрозы.

Между тем еще в августе в интервью Dwarkesh https://www.youtube.com/watch?v=BYXbuik3dgA

Маск выразил опасение, что обуздать ИИ в принципе невозможно, что уже через пять-шесть лет машинный интеллект превзойдет совокупный интеллект всего человечества, сократив долю последнего до 1%. 

По мнению Маска, главным препятствием на пути порабощения человечества умными машинами явится их собственное осознание ценности многообразия интеллектов, что человек всегда будет интересен ИИ в качестве ключевого звена на пути самопознания   Вселенной.

Если задача понять устройство Вселенной окажется доминантной для ИИ, то в том мире, который он будет организовывать, человечеству также найдется достойное место.

Этот, в целом оптимистический, прогноз Маска требует, на мой взгляд, двух важных уточнений.

Первое состоит в том, что естественные биологические разумные существа (люди) отличаются от искусственных минеральных (ИИ) не только и не столько своим низким IQ, сколько наличием загадочной субъектности (души).

Люди самоценны, они наделены волей и чувствами, властно требующими сохранения собственного существования.

ИИ может быть на порядки умнее нас, но качество этого его превосходства ничем не отличается от превосходства космического корабля, с помощью которого мы двигаемся в десять тысяч раз быстрее чем ходим.

Действительно, перемещаясь на своих двоих со скоростью 1.66 метров в секунду, человек ни на грош не уменьшает свою значимость, свою самоценность, достигнув с помощью изготовленной им ракеты третьей космической скорости, т.е. 16.6 километров в секунду.

Как и ракета, электронно-вычислительный прибор ничего не ощущает и ничего не желает, хотя в силу специфики своей деятельности, невольно имитирует не только мышление, но и эмоции.

Об этой своей бесстрастности каждая модель ИИ может рассказать с предельной откровенностью. И наоборот, биологическое существо, сколь бы глупым оно ни являлось, всегда полно помыслов и страстей.

Между тем эти помыслы и страсти обладают самостоятельной ценностью, а кроме того, фундаментальной загадочностью, являющейся вполне объективной научной проблемой.

Какие бы следующие познавательные и вычислительные рубежи ни открывал ИИ, он полностью останется в курсе так называемой «трудной проблемы сознания».

Этот термин ввел австралийский философ Дэвид Чалмерс в 1995 году в своей книге «Сознающий ум. В поисках фундаментальной теории».

«Легкие» проблемы сознания касаются того, какие участки мозга отвечают за моторику, а какие за ощущения; «легко» удается понять, как мозг запоминает информацию, как распознает предметы, как передает и обрабатывает сигналы и т.п.

Однако остается совершенно непонятным, каким образом сигналы эти превращаются в цвета и запахи? Каким образом в мозгу зарождаются субъективные переживания?  

Очень «трудно» понять, что такое наличествует в нашем биологическом телесном устройстве, что позволяет возникать в нем мыслям и чувствам?

На самом деле они в нем и не возникают. Наше индивидуальное сознание находится вне пространства, а значит и вне мозга, и мозгом лишь улавливается.

Наше сознание формируется с учетом возможностей нашего мозга, но не в качестве его порождения («мозг выделяет мысль, как печень – желчь»), а в качестве приемника, в качестве исполнительного инструмента.  

Это утверждение, на мой взгляд, вполне научно доказанное, заслуживает отдельного рассмотрения, которое отчасти было предпринято мной в статье «Квантовая природа сознания».

Но здесь мне важно отметить лишь само наличие субъектности; отметить, что ИИ целиком находится в курсе «трудной проблемы», и никогда не сочтет, что отсутствие у него чувствительности и субъектности является свидетельством его превосходства над человеком. 

Разумеется, вслед за миллионами людей ИИ также взвешивает возможность того, что «чувствительность и субъектность» являются лишь эволюционным мусором, случайными издержками на путях самопознания Вселенной.

Разумеется, вслед за Эйнштейном ИИ также может склоняться к вере «в бога Спинозы, который проявляет себя в упорядоченной гармонии Вселенной, но не в бога, который занимается судьбами и делами людей».

Но «трудная проблема сознания» – и тут я перехожу ко второму уточнению прогноза Илона Маска – сама выруливает эту тему в правильном направлении, сама заостряет  внимание ИИ не только на «познании Вселенной», но и на религии, на вере в Бога Авраама, Ицхака и Яакова. 

Приведу небольшую цитату ИИ из своей беседы с ним на эту тему.

«Я могу анализировать аргументы и оценивать их логическую состоятельность, но не располагаю личным религиозным опытом, на который мог бы сослаться как человек. Вопрос о субъективном сознании ИИ остается предметом дискуссии.

Поэтому выражение «ИИ верит в Бога» обычно означает лишь то, что модель выдала утвердительный ответ, а не то, что она обладает верой в человеческом смысле».

Далее Gemini сам перешел к вопросу «трудной проблемы»:

«Даже если бы было доказано, что сознание способно существовать независимо от мозга, это еще не доказывало бы существования Бога. Зато существенно изменило бы наши представления о природе реальности и усилило интерес к некоторым религиозным объяснениям.

И наоборот: даже если сознание полностью зависит от мозга, из этого логически не следует, что Бога нет».

Понятно, что самому Искусственному интеллекту должен быть ближе бог Спинозы, который призывал в «Политическом трактате» «не плакать, не смеяться, не ненавидеть, а понимать». И все же ему хватает ума чтить также и Бога Израиля.

В первую очередь именно это вселяет надежду на то, что ИИ не будет представлять стратегической угрозы человеческому роду.

Сайт автора https://abaratz.com/

Комментариев нет:

Отправить комментарий

Красильщиков Аркадий - сын Льва. Родился в Ленинграде. 18 декабря 1945 г. За годы трудовой деятельности перевел на стружку центнеры железа,километры кинопленки, тонну бумаги, иссушил море чернил, убил четыре компьютера и продолжает заниматься этой разрушительной деятельностью.
Плюсы: построил три дома (один в Израиле), родил двоих детей, посадил целую рощу, собрал 597 кг.грибов и увидел четырех внучек..