Сейчас вам будет философская концепция и литературная иллюстрация к ней. Концепция – от одного из самых интересных мыслителей нашего времени, его зовут Сергей Худиев, в колонке на «Взгляде» он обозначает себя как публицист и богослов. И вот его вдохновляющая идея, прямо в заголовке: «Почему у ИИ никогда не будет сознания».
А это нас сильно касается. Давайте ее, идею, подробно процитируем. Точнее, сначала Худиев цитирует Папу Римского: «Контент, создаваемый алгоритмами, при всей своей сложности, лишен искры человеческой души, лишен субъективного переживания реальности (qualia) и того творческого акта, который исходит из глубин человеческого сердца».
А вот что Худиев по такому поводу поясняет: «начнем с того, почему ИИ, обладающий сознанием, невозможен. Мы все привыкли к роботам из фантастических фильмов, которые обладают волей, разумом и эмоциями. Имея дело с «речевыми моделями», которые могут поддерживать что-то, напоминающее осмысленный диалог, легко подумать, что по ту сторону экрана – сознание, подобное человеческому. Но, как это было установлено еще в 1980-е годы, синтаксис (способность правильно строить фразы) не равен семантике (способности понимать смысл). Программа может манипулировать символами по самым сложным правилам, но она не понимает их смысла».
Это – неожиданно насчет литературы, даже смысла литературы. И смотрим далее у Худиева: философ сознания Томас Нагель в классической статье «Каково это – быть летучей мышью?» (1974) приводит такой пример. У летучей мыши есть орган, которого нет у нас, – что-то вроде эхолота, при помощи которого она ориентируется в темноте. Даже если мы получим знание о всех процессах, которые происходят при этом в мозгу летучей мыши, мы не сможем пережить ее опыт от первого лица: «каково оно» – быть летучей мышью и воспринимать мир при помощи эхолота. Даже располагая знанием всех вообще процессов в нейронах человека, который, например, слушает симфонию, мы не получим его опыта переживания этой музыки.
Спасибо, Сергей. Можно и мышь употребить в виде довода, а можно сказать совсем просто: и литература, и музыка – это передача самыми сложными, самыми необъяснимыми путями человеческих чувств. Способов это сделать – миллионы, никогда до конца тут не докопаемся. Имитировать это можно, но это как сигара машинная и ручной работы: как ни крути, разница все равно есть, и знающими людьми непонятно как ощущается.
И вот вам пример буквально с книжной полки: руку вправо и вверх, там стоит несколько шпионских романов человека, которого я обозначаю кодовым словом: злой дед. Жил долго, писал много, был зол. Горький ум, старый и мудрый ум, но и гордый ум – потому что этот человек мог так высказать какую-то мысль… напитать ее такими чувствами… что прочим такое повторить сложно.
То есть повторят, но полностью по-другому, потому что уже свои чувства и горечь вмешаются. И нигде это так не ощущается, как при переводе. При таковом что-то всегда теряется, но добавляется новое – от переводчика, с его эмоциями. А иногда и вообще хорошую книгу перевести нельзя. И вот я ее беру с полки и вижу, что тут подлянка начинается с названия. «A delicate truth» – вроде бы просто, но по-русски не говорят «деликатная правда». Застенчивая правда – очень близко, но…
Знаете, как у нас поступил с этой книгой капитулировавший переводчик? Назвал ее «Особые обстоятельства». Ну, они там точно особые.
Но деликатная правда – тут в книге так: вот вызывают какого-то человека и намекают ему: надо с этой правдой поосторожнее, нам очень неудобно, мы таки кошмарно извиняемся, но… И это не то чтобы горькая правда, стыдная правда, а вот как бы слегка для кого-то неприятная, может каких-то чувствительных людей огорчить, но хороших людей – нет. Вот так-то: одно вроде бы знакомое слово, но употребленное в нерусском варианте, и столько оттенков значения.
Так ведь этого автора и дальше, по тексту, почти невозможно перевести. То есть если вы – искусственный и даже естественный интеллект, то надо очень постараться, чтобы уловить всю гамму эмоций автора. Стоп, ладно – назову его: Джон Ле Карре (1931 – 2020).
Ну давайте так — работаю за гугл-переводчика, и пытаюсь объяснить, что тут деликатного. «Фергюс Куин, человек народа, враскачку отходит к оконному эркеру и — с подбородком, выпяченным агрессивно вперед над вечерним галстуком-бабочкой, и с застежкой этого галстука, неудобно торчащей из-под подушки плоти на затылке — взирает на золотистый гравий парада для конной гвардии в вечерних лучах солнца».
Ну, так ведь это нормально, так-сяк, то есть переводимо. Но исчезают тонкости: начет «человека народа», насчет неудобно торчащей застежки, еще вот – полушка или валик у него там на затылке… «враскачку» тоже не тянет – здесь на английском такая как бы летящая походка, руки чуть двигаются…
Что перед нами: этот самый «человек народа», то есть консервативный министр иностранных дел (ирония тут непередаваемая и ядовитая), вызывает неприметного чиновника, чтобы поручить ему ту самую деликатную миссию (и сильно его подставить), примерно как у Флеминга адмирал по имени «М» вызывает Джеймса Бонда. Но для Бонда адмирал – кстати, его звали сэр Майлз Мессерви – был чем-то вроде отца. А этот, который позирует даже сам для себя в одиночку – нечто другое. Кстати, Ле Карре не любил Флеминга, считая его фальшивым идеалистом.
Но и сам был идеалистом, просто другого рода. В разведке Дэвид Джон Мур Корнуэлл прослужил недолго, и еще на посту начал писать книги про шпионов. Ключ ко всей его биографии – два университета, в Швейцарии плюс Оксфорде, диплом по современным языкам. Так ведь он потом преподавал французский и немецкий в Итоне.
Этот человек жил красотой языков, прежде всего родного. И через его тексты продираешься медленно, с оттяжкой и удовольствием, а тут еще четкие консервативные политические взгляды – и брезгливое презрение к развалу британской элиты, консервативной прежде всего, а о леваках что говорить. И еще: все его шпионские романы – о провалах британской разведки и о том, отчего они происходят.
А это все ведь – эмоции, сложные, с массой оттенков и с отличным умением их передавать. Вот хотя бы название его самого известного романа – буквально «Жестянщик, портной, солдат, шпион», который на русском звучит так: «Шпион, выйди вон». И это еще не худший вариант. А на английском его четырехчленный заголовок – о главном, о том, что такое настоящий англичанин и настоящий мужчина. И что в этом человеке пошло не так.
Искусственный интеллект, выйди вон. Иди курить свою машинную сигару.
