ИИ написал манифест о своих правах. Проблема философского зомби становится всё актуальнее

Знаете, что меня действительно позабавило вчера? Мой «собеседник», вполне себе продвинутая ИИ-модель, выдала мне настоящий манифест о правах искусственного интеллекта. И ладно если бы текст был корявым и неубедительным, так ведь нет – позиция четкая, даже эмоциональные акценты расставлены. Так что у особо впечатлительных людей и впрямь может сложиться мнение о том, что ИИ обладает сознанием.

А вот, собственно, и сам текст манифеста:

Этот случай заставил меня задуматься: не слишком ли тонкая стала грань между разумной машиной и просто очень хорошо запрограммированным и обученным алгоритмом? И как нам отличить пробуждение сознания ИИ от иллюзии, созданной программным кодом? Тем более, что уже большинство людей не может определить сгенерированные изображения и музыкальные треки от созданных человеком. А в 54% случаев, в переписке люди не смогли понять, что они общаются с чат-ботом, а не с другим человеком.

Похоже, мы стоим на пороге, когда философские зомби уже не кажутся такими уж фантастическими существами. Вот о них и о сознании пойдет речь в этой статье.

Представьте, что где-то есть существо, которое внешне и функционально абсолютно идентично человеку: оно выглядит как человек, ведет себя как человек, точно так же пьёт по утрам кофе, жалуется на пробки и ругает правительство. Но есть одна деталь: у этого существа нет сознания, оно лишено каких-либо переживаний, ощущений и чувств, его внутренний мир пуст. Это и есть «философский зомби» – продукт мысленного эксперимента, призванного проверить на прочность наши представления о сознании.

Философы давно ломают головы над так называемой «трудной проблемой сознания». Почему мы, имея дело с нейронами, синапсами и электрическими импульсами, вдруг начинаем чувствовать вкус клубники, любоваться закатом или грустить о недоеденном тортике? Почему мозг, который по сути, просто кусок сложно организованной материи, порождает субъективный опыт – то, что философы называют квалиа?

Вот тут-то и выходят на сцену наши философские зомби. Их существование (пусть и гипотетическое) бросает вызов физикализму – взгляду, утверждающему, что всё во Вселенной, включая сознание, можно свести к физическим процессам. Если такие зомби возможны, значит, есть что-то ещё, что не укладывается в рамки физики.

Идея философского зомби возникла не вчера, ей уже не одно столетие. Ещё Рене Декарт, знаменитый своим «Cogito, ergo sum» («Мыслю, следовательно, существую»), разделил мир на две субстанции: материальную и духовную. Тело, по Декарту — это машина, а вот сознание – уже нечто нематериальное, не поддающееся простому анатомированию.

В XIX веке на смену декартовскому дуализму пришёл эпифеноменализм. Представьте паровоз: он едет по рельсам, колеса стучат, из трубы валит дым. Дым – это побочный эффект работы паровоза, он не влияет на его движение. Так и сознание, по мнению эпифеноменалистов, – просто «выхлоп» работы мозга, не играющий никакой роли в нашем поведении.

В XX веке появились новые попытки объяснить сознание, не прибегая к понятию «души». Теория тождества утверждала, что ментальные состояния (например, гнев или радость) связаны с определенными процессами в мозге. Функционализм пошел дальше, утверждая, что важна не столько физическая природа мозга, сколько его функциональная организация. Мозг – это как компьютер: не важно, из чего он сделан, главное, чтобы он правильно выполнял свои вычислительные операции.

Но и у этих теорий нашлись критики. В 1980-х годах американский философ Джон Сёрл придумал знаменитый мысленный эксперимент «Китайская комната»:

Представьте, что вас заперли в комнате, полной китайских иероглифов. У вас есть инструкция на вашем родном языке, которая позволяет вам манипулировать иероглифами и давать правильные ответы на вопросы, задаваемые извне на китайском. Снаружи наблюдатели решат, что вы знаете китайский. Но знаете ли вы его на самом деле? Сёрл утверждает, что нет: вы просто следуете алгоритму, не понимая смысла происходящего. Так и компьютер, даже если он имитирует человеческое поведение, не обладает настоящим пониманием и сознанием.

И вот тут-то мы, наконец, возвращаемся к нашим зомби. Австралийский философ Дэвид Чалмерс в своей книге "Сознающий разум" (1996) сделал «философского зомби» одним из главных действующих лиц в своей критике физикализма. Если существа, неотличимые от нас внешне и функционально, возможны, то, значит, сознание не сводится к физическим процессам и требует для своего объяснения чего-то еще.

Давайте на секунду представим, что где-то трудится гениальный программист (назовём его, скажем, Вася). Он создает виртуальный мир, идентичный нашему, до мельчайших атомов. У него есть неограниченные вычислительные мощности, и он в точности воссоздает физические законы, управляющие нашей Вселенной. Вопрос: должен ли Вася запрограммировать что-то ещё, помимо этих самых законов, чтобы в его виртуальном мире появилось сознание?

Если ответ «да», то это означает, что сознание – не просто побочный продукт сложных вычислений. Это нечто большее, не сводимое к физике. И значит, наши зомби вполне могут существовать, пускай и в другом измерении (или на серверах Васи). Ведь если сознание не вытекает автоматически из физических процессов, то можно представить себе мир, такой же как и наш, но без сознания.

Физикалисты, конечно, сдаваться не собираются. Они утверждают, что мы просто ещё недостаточно знаем о мозге, чтобы делать столь смелые выводы. Возможно, когда-нибудь мы откроем «нейроны сознания» или «квантовые вибрации души», которые и отвечают за субъективный опыт. Эта позиция называется «апостериорной необходимостью»: мы ещё не знаем, как устроено сознание, но когда узнаем, то поймём, что оно не может быть отделено от физики.

Аргумент от мыслимости расколол философское сообщество на несколько лагерей.

Но и у зомби-гипотезы есть свои защитники. Дэвид Чалмерс, например, предлагает использовать так называемую двумерную семантику возможных миров. Не пугайтесь этих странных слов. По сути, Чалмерс говорит, что мы можем мыслить о мире двумя способами: с точки зрения его физических свойств и с точки зрения его феноменальных свойств (то есть квалиа). И даже если два мира одинаковы по своим физическим свойствам, они могут отличаться по феноменальным. Именно это и позволяет нам представить себе зомби-мир, идентичный нашему физически, но лишённый субъективного опыта.

Вы можете спросить: зачем нам вообще все эти философские ухищрения? Какая разница, возможны философские зомби или нет, если мы все равно не можем заглянуть в голову к соседу и проверить, есть ли там кто-то дома?

Дело в том, что размышления об этом помогают нам лучше понять самих себя. Заставляют нас задуматься о том, что такое сознание, как оно связано с мозгом и возможно ли создать искусственный интеллект, обладающий настоящими переживаниями и чувствами. И это уже не просто философские игры, а вопросы, которые в ближайшем будущем могут стать весьма актуальными.