Адольф Берлин | Сюрприз от Искусственного интеллекта

КАЛЕЙДОСКОП 29.04.2024

– Что Вы думаете об Искусственном интеллекте?

Оставайтесь в курсе последних событий! Подписывайтесь на наш канал в Telegram.

– А я вообще не думаю.

Разговор в автобусе.

Рис.1. Искусственный интеллект обучается (hsbi.hse.ru)

Общаясь с Искусственным интеллектом (ИИ) в ChatGPT, я, честно говоря, никак не ожидал каких-то сюрпризов. Однако человек предполагает, а ИИ оказался горазд на выдумки.  Но начну по порядку.

Как и другие прорывные технологии, Искусственный интеллект находится на стыке наук, а именно: информатики и вычислительной техники, а также нейрофизиологии, когнитивной и поведенческой психологии.

Ещё совсем недавно о нём знал только узкий круг учёных, а сейчас ИИ полноправно входит в нашу жизнь. Полагают, что в 2024 году более 300 млн человек будут использовать инструменты Искусственного интеллекта. А к 2026 году уже 90% Интернет-контента будут создавать при его помощи. В то же время свыше 75% потребителей этого контента обеспокоены опасностью распространения дезинформации с помощью ИИ.

Очень заинтересован в развитии ИИ бизнес. 87% транснациональных корпораций полагают, что Искусственный интеллект может способствовать росту их бизнеса на рынке, а 35% мировых компаний уже используют ИИ.

В Стэнфордском университете считают, что Искусственный интеллект, повышая производительность и эффективность в различных отраслях, приведёт к увеличению производства и экономическому росту до 13 триллионов долларов к 2030 году.

С другой стороны, Искусственный интеллект реально таит угрозу, например, вытеснения людей из ряда профессий, использования ИИ в новейших видах смертельных вооружений, а также проблемы и риски, связанные со снижением конфиденциальности и безопасности.

В отличие от предшествующих компьютерных программ, способных обрабатывать большие объёмы данных, Искусственный интеллект приобретает новую, революционную способность самообучения, то есть развития и самоусовершенствования без участия человека. Так что возникает потенциальное опасение, что он может превзойти человеческий интеллект и представлять угрозу для человечества.

Например, руководитель SpaceX, Tesla, Inc, X Corp и со-основатель Neuralink и OpenAI Илон Маск предостерёг, что развитие ИИ может привести к тому, что небольшое количество людей может использовать его для доминирования над остальным обществом. Он призвал к более строгому регулированию и надзору за развитием Искусственного интеллекта во благо всего человечества.

Многие специалисты в этой области полагают, что главную опасность таит не столько потенциальное восстание машин, сколько способность машинных алгоритмов вводить людей в заблуждение с целью обмана и манипулирования.

Чтобы выяснить, может ли машина мыслить, ещё в 1950 году британский математик, криптограф и изобретатель компьютерного программирования, расшифровавший немецкую шифровальную машину Enigma, Алан Тюринг (Тьюринг в другой транскрипции) предложил модель общения человека с компьютером. Согласно ей человек задаёт компьютеру вопросы и на основании полученных ответов делает вывод, общался ли он с другим человеком или же с машиной.

В 2014 году в день 60-й годовщины трагической смерти Тюринга в британском университете Рединга компьютерной программе Eugene Goostman впервые удалось пройти его тест и ввести человека в заблуждение.

Разработка информационно-технологическими гигантами Google, Meta и OpenAI «больших языковых моделей» – нового класса  суперкомпьютерных программ, дало возможность Искусственному интеллекту без проблем проходить тест Тюринга.

Из сказанного понятен интерес к Искусственному интеллекту и, в частности, моё внимание к некоторым аспектам феномена ИИ. Диалоги с ним удобно вести в ChatGPT (чат-боте, поддерживающем запросы на естественных языках). Здесь GPT – Generative Pre-trained Transformer (Генеративный предварительно обученный преобразователь).

Однажды я узнал, что один из ведущих инженеров Google Блейк Лемуан полагает, что ИИ не только разумен, но и способен осознавать и чувствовать. Честно говоря, я удивился, но задался вопросом, не могут ли диалоги с Искусственным интеллектом приоткрыть завесу на область его отношения к близкому человеку миру чувств, в частности, к чувству юмора (ну, не начинать же с любви или ненависти).

Накануне первоапрельского Дня смеха я провёл небольшое исследование об отношении Искусственного интеллекта к юмору (см. https://kontinentusa.com/adolf-berlin-yumor-v-zazerkale-iskusstvennogo-intellekta/ ) и пришёл к довольно неутешительному для ИИ выводу. В конце концов, я даже усомнился в правомерности человека вторгаться в эту область такого виртуального объекта, как Искусственный интеллект.

Тогда я попробовал поставить что-то вроде «чистого эксперимента» с минимумом представленной мной ИИ информации. Я предложил ИИ проанализировать, продолжить и развить мысль высказывания «Я встретил Вас – и всё…». Это фрагмент первой строки известного стихотворения Федора Тютчева, ставшего знаменитым романсом. В оборванной строке стихотворения открывается второй план, некий скрытый подтекст, повод для многовариантного продолжения, который легко угадывается человеком, наделённым чувством юмора.

На основании ответа ИИ в ChatGPT (см. там же) я пришёл к заключению, что Искусственный интеллект принял предложенную ему строку за чистую монету и не сумел распознать скрытый юмор. ИИ удачно находил в моих текстах ключевые слова и выражения, на которые и нанизывал свои дальнейшие рассуждения, почерпнутые из его бездонной памяти.

* * *

И тут я решил показать Искусственному интеллекту полностью первую строку стихотворения Федора Тютчева (1803–1873) «Я встретил вас – и все былое…» и спросить, кто авторы текста и музыки этого романса.

Для лучшего понимания дальнейшего повествования (нарратива, как принято теперь говорить, в переводе с русского на модный новорусский?) приведу текст и сведения об этом стихотворении, написанном поэтом в возрасте 67 лет после встречи с женщиной, которую поэт любил когда-то в молодости. Он в 18-летнем возрасте познакомился в Мюнхене с побочной дочерью прусского короля Фридриха Вильгельма III Амалией Лерхенфельд (фон Крюденер в последующем замужестве). Воспоминание об этой любви и вылилось в строки известного стихотворения.

Рис. 2. Фёдор Тютчев (1860-е) и Амалия Лерхенфельд (1820-е) (spb.aif.ru)

Я встретил вас – и все былое

В отжившем сердце ожило;

Я вспомнил время золотое –

И сердцу стало так тепло…

 

Как поздней осени порою

Бывают дни, бывает час,

Когда повеет вдруг весною

И что-то встрепенется в нас, –

 

Так, весь обвеян дуновеньем

Тех лет душевной полноты,

С давно забытым упоеньем

Смотрю на милые черты…

 

Как после вековой разлуки,

Гляжу на вас, как бы во сне, –

И вот – слышнее стали звуки,

Не умолкавшие во мне…

 

Тут не одно воспоминанье,

Тут жизнь заговорила вновь, –

И то же в вас очарованье,

И та ж в душе моей любовь!..

Этот шедевр любовной лирики так и просится на музыку. Её писали композиторы Сергей Донауров, Александр Спиро и Юрий. Шапорин. Но автором музыки знаменитого романса стал композитор Леонид Малашкин (1881). А ввёл романс в широкую исполнительскую практику выдающийся певец Иван Козловский. Запомним эту информацию.

В ответ на оборванную первую строку стихотворения «Я встретил Вас – и всё…» я не ожидал никаких сюрпризов. Но тут ChatGPT преподнёс мне его. Он сгенерировал свой ответ, который постепенно перешёл в наш диалог, все моменты которого привожу ниже, сохранив ответы ChatGPT в неприкосновенности.

ChatGPT:

Этот текст является началом романса «Я встретил вас – и всё былое» из оперы «Сказка о царе Салтане» композитора Николая Римского-Корсакова. Текст написан поэтом Александром Пушкиным.

Я:

Этого не может быть! Вы ошиблись или написали наугад?

ChatGPT:

Приношу извинения за путаницу. Да, вы правы, я допустил ошибку. Текст «Я встретил вас, и все былое…» не является частью оперы «Сказка о царе Салтане» Николая Римского-Корсакова. Это известный романс, авторство текста и музыки которого принадлежит композитору Михаилу Глинке. Таким образом, это произведение из оперы «Руслан и Людмила». Еще раз приношу извинения за путаницу.

Я:

Вы уверены в своём ответе?

ChatGPT:

Вы правы, я ошибся. «Я встретил вас, и все былое…» – это начало романса из оперы «Евгений Онегин», композитор Пётр Ильич Чайковский. Автором текста этого романса является поэт Александр Сергеевич Пушкин. Приношу извинения за путаницу и неверную информацию.

Я:

У меня сложилось впечатление, что Вы просто пытаетесь угадывать! Попробуйте отыскать в Интернете или других своих источниках ответы на вопрос, кто же в действительности авторы текста и музыки этого романса.

ChatGPT:

Извините за недоразумение. Позвольте мне исправить эту ситуацию.

Романс «Я встретил вас, и все былое…» действительно является частью оперы «Сказка о царе Салтане» Николая Римского-Корсакова. Автор текста этого романса – поэт Александр Пушкин. Таким образом, авторами текста и музыки этого романса являются Александр Пушкин и Николай Римский-Корсаков соответственно.

Если у вас есть какие-либо другие вопросы, не стесняйтесь задавать!

Я:

Вы ошиблись в очередной раз! Откровенно говоря, я разочарован.

ChatGPT:

Понимаю ваше разочарование, и я приношу извинения за недопонимание и неверную информацию. Позвольте мне исправиться.

Романс «Я встретил вас, и все былое…» действительно не из оперы «Сказка о царе Салтане». Он является частью оперы «Руслан и Людмила» композитора Михаила Глинки. Текст этого романса написал поэт Александр Пушкин, как вы правильно отметили (? – А.Б.).

Если у вас еще остались вопросы или нужна дополнительная информация, я готов помочь.

Я:

Я не писал Вам, что «Текст этого романса написал поэт Александр Пушкин». Я как раз писал, что текст написан вовсе не Александром Пушкиным.

ChatGPT:

Понял вас. Позвольте мне корректно ответить на ваш вопрос.

Романс «Я встретил вас, и все былое…» из оперы «Руслан и Людмила» композитора Михаила Глинки. Текст этого романса написан поэтом Александром Пушкиным. Таким образом, авторами текста и музыки этого романса являются Александр Пушкин и Михаил Глинка соответственно.

Искренне извиняюсь за путаницу и неверную информацию в предыдущих ответах. Если у вас есть еще какие-либо вопросы или нужна дополнительная информация, пожалуйста, сообщите мне.

* * *

Задав Искусственному интеллекту такие простые вопросы, ответы на которые можно отыскать в справочной литературе и в Интернете, я был обескуражен тем, как ИИ с упорством, достойным лучшего применения, продолжал выдавать не гора контент, не имеющий ничего общего с правдивым. Я никак не ожидал перехода нашего общения в длинный безрезультатный диалог. Воспринимаю его как провал для ИИ в ChatGPT.

Однако отрицательный результат – это тоже результат. Он может стать иллюстрацией того, как Искусственный интеллект может вводить людей в заблуждение, и служить предостережением, как легкомысленно полагаться только на ИИ при принятии ответственных решений.

В беседах с Искусственным интеллектом в ChatGPT на общие темы у меня сложилось впечатление общения с вполне погружённым в тему «эрзац-разумом» (хотя и лишённым явного чувства юмора). Однако он очевидно пасует в ситуации, требующей прямых ответов на вопросы, сопряжённые с поиском конкретной информации, по крайней мере, в некоторых областях знаний.

Этот диалог наводит на мысль, что кто-то может целенаправленно использовать Искусственный интеллект с целью обмана и манипулирования.

Так что необходимо учитывать упомянутые выше предостережения Илона Маска и других разработчиков ИИ о соблюдении правил безопасности, которые ещё ждут своей разработки. Это должно быть нечто, аналогичное трём законам роботехники, впервые сформулированным Айзеком Азимовым в рассказе «Хоровод» ещё в далёком 1942 году:

– не причинять вред человеку или своим бездействием допустить, чтобы человеку был причинён вред;

– повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат первому закону;

– заботиться о своей безопасности в той мере, в которой это не противоречит первому или второму законам.