Серфер вышел. Когда он вернулся на кухню, вопрос, не дававший ему покоя весь вечер, наконец окончательно оформился.
– Я вот что подумал – если тульпа подобна нам, если она мыслит и осознает себя, то, очищая оперативку, мы же каждый раз ее убиваем?
КуДзу удивленно посмотрел на него.
– Эк ты загнул! Я как-то об этом не думал. Навскидку могу сказать, что мы ведь тоже умираем каждый миг и возрождаемся в каждом новом кванте сознания.
– Но у нас есть непрерывность памяти! – возразил Серфер.
– Каждая тульпа создается с полным объемом памяти – а значит, и с точно такой же иллюзией непрерывности. От нашей иллюзии она ничем не отличается. К тому же для тульпы можно сохранять память обо всех ее вызовах, это тоже не проблема. Но лучше бы ты не зацикливался на вопросах о смерти. Потому что, как ни крути, а придешь к тому, что и тут мы от тульп тоже не слишком отличаемся.
– Да, и вот еще что, – перебил Серфер, внезапно вспомнив еще один темный вопрос, – эта база, где хранятся образы, из которых собирается тульпа – в ней ведь лежит информация не только о ныне живущих? Но и об умерших тоже?
КуДзу внимательно посмотрел на него. Нетрудно было понять, куда приведет этот разговор.
– Обо всех, конечно. Байты же не горят. Система хранит все.
– То есть мы можем общаться и с умершими?
– Можно сказать и так. В принципе, для тульпы нет разницы, жив ее прототип или мертв.
– Но тогда это и есть настоящая загробная жизнь! – воскликнул Серфер, подаваясь вперед.
– Ну какая же это жизнь? Даже если считать тульпу живой – а для меня это совсем не очевидно – то оживает она только когда мы ее собираем, и лишь на тот краткий период, когда мы находимся с ней в контакте. А в остальное время это не более чем мертвая информация на носителе.
– Все равно, – не сдавался Серфер, – какая-никакая, но это же жизнь после смерти!
– Только для тех, кому повезет попасть в просвет нашего внимания. А для остальных? Раньше, кстати, многие тоже верили, что могут вызывать духов умерших, и активно практиковали столоверчение. И вызывали – дух Наполеона, дух Шекспира. Но сотни ушедших поколений безмолвно легли в землю, не оставив даже имен, чтобы их позвать. Давай-ка лучше поговорим о чем-то более веселом, а то нагнал тоски…
– Нет, подожди! Скажи, я могу встретиться с отцом?
КуДзу какое-то время рассматривал свои пальцы, собираясь с мыслями.
– Понимаешь, не все так просто…
15 лет 24 дня, ночь
Серфер упрямо насупился, всем своим видом показывая, что не отступит.
– А в чем проблема? Ты же сам сказал, что разницы нет.
КуДзу рассеянно потер висок.
– Не совсем так. Действительно, когда программа обращается к образу в базе, для нее не имеет значения, жив объект или нет. Но дело не только в этом. Как бы тебе объяснить… Для существующей системы слежения все люди совершенно прозрачны, никто не может ничего утаить. Поэтому образ каждого считывается очень точно – настолько, что тульпа практически неотличима от оригинала. Да ты и сам в этом убедился.
Серфер вспомнил Наташу и молча кивнул. КуДзу продолжал:
– Но мы жили в нетолерантной зоне, а там почти все – шифровальщики. Мы показывали системе не себя, а искусственную маску, парадный портрет социально ориентированного гражданина. Очень конформного, дружественного и законопослушного. А этот образ не совсем соответствует реальному. Поэтому и тульпа Профессора будет отличаться от того снимка, который считался бы без шифрования.
– Сильно отличаться? – спросил Серфер, заметно нервничая.
– Не очень. Хотя для тех, кто близко знал его – заметно. В основном в стиле общения; но вся память – личная история, теоретические знания – все останется в полном объеме. Если надо что-то узнать, так даже удобнее – тульпа с позитивной социальной настройкой ответит на любой вопрос. Профессор бы, может быть, отмахнулся или даже послал подальше; но его тульпа всегда будет готова к общению.
– Но почему, почему?! – Серфер раздраженно стукнул себя кулаком по бедру. – Почему именно он?! Почему все тульпы неотличимы от своих прототипов, и только отца я не смогу увидеть таким, каким он был?!
КуДзу тяжело вздохнул.
– Вот ты говорил – посмертное бытие, загробный мир… Но в рай система пускает лишь послушных слуг; бунтари же сознательно отказываются от рая. А твой отец был из их числа. В самом хорошем смысле, конечно.
Серфер наморщил лоб и в упор посмотрел на КуДзу.
– Пусть так. Но я все же смогу с ним встретиться?
– Хорошо, – сдался КуДзу. – Что с тобой поделаешь, ты же весь в отца. Только сначала надо настроить программу.
15 лет 24 дня, ночь
С настройками КуДзу возился довольно долго. Серфер вставил линзы и наушники, попрыгал перед зеркальными экранами и теперь нетерпеливо ерзал в кресле, ожидая продолжения.
– Долго еще? – не выдержал он наконец.
– Не спеши! – осадил его КуДзу. – В этом деле лучше не торопиться.
– А Наташину тульпу ты сразу настроил.
КуДзу оторвался от экранов.
– Я ее вообще не настраивал. По умолчанию тульпа собирается из текущего образа, из самого последнего снимка. А то, что мы сейчас делаем, скорее можно назвать путешествием во времени. И тут очень важно правильно выбрать точку сборки.
– А как ты ее выбираешь?
– Просто откручиваю время назад. Ты же знаешь, последний год твой отец провел в нетолерантной зоне, а там твое появление будет выглядеть слишком подозрительно. Поэтому забросим тебя на год дальше. ПалСаныч еще живет в городе и заведует кафедрой в универе; он уже встречается с Машей, но тебя пока нет даже в проекте. Твоя легенда такая – ты Машин брат, зашел к ПалСанычу по ее совету, попросить, чтобы он помог тебе с рефератом. Ну и попутно сможешь задать ему другие вопросы.
– А если он откажется мне помочь?
– Не откажется. У такой тульпы просто нет выбора, мы же специально демонстрировали системе повышенную социальность. Но несколько правил ты все же должен соблюдать. Следи за языком. Никогда не говори, из какого ты времени, вообще ничего не говори о будущем. И не вздумай даже намекнуть, что ты его сын. Если Профессор поймет, что он уже умер, последствия могут быть самыми непредсказуемыми.
– Да какая разница! Даже если я случайно что-то сболтну, он же все равно мне не поверит! – возразил Серфер. – Ведь никто не способен в это поверить. Если я скажу, что ты давно умер, и я явился к тебе из будущего – ты что, поверишь?
КуДзу побледнел так, что Серфер даже испугался за него.
– Пожалуйста, не шути больше такими вещами. Просто постарайся соблюдать правила, их не так много. Не пытайся физически воздействовать на измененную реальность, ограничься лишь общением. Например, если тебе захочется отлить, ты можешь найти там туалет – но ты должен понимать, что произойдет при этом в нашей реальности.
Серфер фыркнул, сдерживая смешок. Реакция КуДзу на безобидную шутку его озадачила; он порадовался, что успел вовремя прикусить язык и не пошутил над поведением друга, во всем идущего ему навстречу – что, честно говоря, выглядело очень подозрительно. Но КуДзу знал о тульпах гораздо больше него и, наверное, имел повод пугаться.
– И вот еще что, – продолжил Серфер, – не уверен, что мне хватит одного прыжка. Скорее всего, я захочу снова увидеться с отцом. Ты можешь не стирать ему память о нашей встрече?
– Хорошо, – согласился КуДзу.
– Тогда я готов, – сказал Серфер. – Кажется, все обговорили?
– Вроде бы все, – задумчиво ответил КуДзу и вдруг, вспомнив что-то, встрепенулся. – Да, совсем забыл – тебя же ищут! И судя по всему, врачи скоро появятся здесь. Будет совсем паршиво, если тебя найдут в этом кресле, подключенным к комплексу.
– Вряд ли, – возразил Серфер. – Я тоже об этом думал. Но сегодня же карнавал – ночь свободы. Ночь без официальной слежки. Наверняка они отложат свой визит на завтра.
– Похоже, ты прав, – согласился КуДзу. – Ну, тогда поехали. Адрес запомнил? Встань и иди!
СЕРФЕР, город
17 лет назад
Серфер смотрел на отца и не верил своим глазам – это был он, вне всяких сомнений. То же лицо, те же глаза, те же жесты, тот же голос – отец был в точности таким, каким Серфер помнил его по сохраненным фотографиям и видеороликам. Это казалось чудом, чем-то запредельно невероятным; и все же он переживал это здесь и сейчас. Сердце бешено колотилось, не желая успокаиваться, во рту пересохло. Он хотел попросить воды, но промолчал, боясь выдать себя каким-то неосторожным словом. Легенда, предложенная КуДзу, с самого начала казалась ему надуманной и неправдоподобной, обреченной на неминуемый провал – но, как ни странно, у отца не возникло никаких подозрений. Он даже не задал ни одного вопроса, просто поверил, сразу и безоговорочно. Видимо, в свое время он все же немного перегнул с демонстрацией социальности.
Серфер не сводил глаз с сидевшего напротив отца; тот тоже внимательно его разглядывал.
– Поразительное сходство, – сказал он наконец, – я должен был сразу догадаться. А чем сейчас занята Маша?
– Она занята, – ответил Серфер и тут же понял, как глупо прозвучали его слова. Злясь на себя, он быстро добавил:
– У Маши вечерние занятия. Она бы сама мне помогла, но сегодня у нее совсем нет времени.
– Не беда, – успокоил его ПалСаныч, – разберемся и без Маши. Какая у тебя тема?
– Может ли машина мыслить! – выпалил Серфер. И тут же поправился, – В смысле – искусственный интеллект, программа, прошедшая тест Тьюринга. Программная имитация человека. Сейчас ее называют тульпой.
– Тульпой? – удивился ПалСаныч. – Никогда не слышал. Ладно, пусть будет тульпа.
– Так может? – переспросил Серфер.
– Если коротко – то нет. Это же нули-единицы, алгебра логики. Там любое действие строго детерминировано. А самоосознание все же предполагает свободу воли.
– Не соглашусь, – возразил Серфер.
Он хотел сказать об эвристическом подходе в нейросетевых аналоговых комплексах, но вовремя одернул себя, вспомнив, что даже не знает, когда появились такие системы. Возможно, семнадцать лет назад эти разработки еще были закрытыми. Пришлось срочно переключаться, сказав первое, что пришло в голову:
– Самоосознание есть у всех, но это не мешает многим считать нашу свободу воли иллюзией.
– Спорный вопрос, – улыбнулся ПалСаныч. – Но согласись, смешно звучит – иллюзия свободы воли заставила тебя прийти сюда, чтобы обсудить иллюзорность свободы воли.
– Смешно, – согласился Серфер. – Ну ладно, с коротким ответом понятно. А что с развернутым? Маша говорила еще про какую-то китайскую комнату и философских зомби.
– Китайская комната или аргумент Серла – это умозрительная механическая модель имитации интеллектуальной работы. Представь себе комнату, в которой сидит супермен, обладающий сверхбыстрой реакцией и полной библиотекой инструкций по составлению ответов на китайском языке. Сквозь непрозрачный интерфейс он получает от внешнего наблюдателя вопрос на китайском, анализирует последовательность иероглифов и, пользуясь своими инструкциями, составляет другую последовательность иероглифов, которую отдает назад. Для внешнего наблюдателя это не что иное, как ожидаемый ответ на китайском языке. На этот счет у него не остается никаких сомнений; он уверен, что в комнате сидит человек, говорящий по-китайски. Но супермен не знает китайского, он умеет работать лишь со своей библиотекой инструкций. Этот мысленный эксперимент должен продемонстрировать, что прохождение теста Тьюринга не доказывает способности программы мыслить – точно так же, как ответ из китайской комнаты, кажущийся наблюдателю разумным, не доказывает, что супермен знает китайский.
Серфер помолчал, переваривая услышанное. Подход был непривычным, но интуитивно понятным и не требовал дополнительных пояснений. Он кивнул и продолжил играть роль школяра, нахватавшегося непонятных терминов.
– А что такое мельница Лейбница?
– Это примерно то же, но для читателей с другим уровнем фантазии. Предполагалось, что читатель может мысленно бродить внутри огромной машины, генерирующей имитации мыслей и чувств. Наблюдать изнутри работу всех ее механизмов и задаваться вопросом – в каком же из них искать сознание и чувства?
– Понятно, – кивнул Серфер, хотя в этом он уже не был так уверен.
Но углубляться во второстепенные вопросы не хотелось; время утекало стремительно и безжалостно. И он двинулся дальше.
– А что с философским зомби?
– Это тоже мысленный эксперимент. Надо представить объект, внешне неотличимый от человека, имитирующий все человеческие чувства и мысли, но при этом внутри себя ничего не осознающий и не переживающий.
– Робота? – уточнил Серфер.
– Нет, – поморщился ПалСаныч, – не стоит все так упрощать. Тебе (да и не тебе одному, к сожалению) кажется, что вся эта проблематика крутится вокруг теста Тьюринга…
– А разве это не так? – удивился Серфер.
ПалСаныч покачал головой.
– Отнюдь. Этот тест – всего лишь одно из технических приложений главной человеческой проблемы. Кстати, если машина когда-нибудь действительно станет мыслящей, она вряд ли будет стараться пройти тест Тьюринга, скорее специально на нем срежется.
– Почему? – не понял Серфер.
– Сам подумай.
Серфер подумал и согласился:
– Да, наверное. Но тогда получается, что этот тест бесполезен?
– Разумеется. Главная проблема совсем в другом. Но наши современники, ослепленные успехами информационной революции, упростили ее донельзя и свели к формализованной технической задаче.
От слов «наши современники» Серфер явственно почувствовал, как по спине побежали мурашки. Он поспешно спрятал руки под стол, чтоб не выдать себя дрожью пальцев, и спросил:
– Что это за проблема?
– Проблема интерсубъективности, – ответил ПалСаныч, – самый болезненный вопрос философии – насколько одинок человек среди людей.
– Солипсизм, – догадался Серфер.
ПалСаныч опять поморщился.
– Нет, это немного о другом.
Он повернулся к окну.
– Ну вот, например. Видишь – листва зеленая, и для тебя, и для меня. Наши глаза получают одинаковые физические сигналы, обрабатывают их сходным образом и передают в мозг. Поэтому мы по умолчанию предполагаем, что наши субъективные восприятия цвета одинаковы. Философы называют эти восприятия «квалиа». Но проблема в том, что в нашей понятийной картине есть непреодолимый разрыв между физическим сигналом и квалиа. На самом деле мы просто договорились одним словом обозначать свои зрительные ощущения от одного объекта. Однако это отнюдь не гарантирует, что наши восприятия, названные одним и тем же словом, одинаковы или хотя бы близки. В чужую голову ведь не залезешь. Чужая душа – потемки в китайской комнате. А если копнуть глубже, у тебя нет никакой гарантии, что сейчас с тобой разговаривает такая же самоосознающая личность, как и ты сам, а не бездумная китайская комната, производящая сборку реплик по вшитому алгоритму.
От этих слов Серфера буквально затрясло. Он стиснул зубы и крепко сжал кулаки. ПалСаныч продолжал:
– В старой философии существование другого обосновывалось дополнительной сложностью. То есть из общения с другим я могу получить новую информацию, которую не смог бы извлечь из собственных ресурсов. Доказательство и тогда было довольно хлипким, а с приходом компьютерной эры оно окончательно потеряло смысл. Единственное, что у нас осталось – вера «по аналогии». У меня есть мозг со всеми его электрохимическими процессами, и я переживаю внутри себя чувства и мысли, осознаю себя.
– Я вот что подумал – если тульпа подобна нам, если она мыслит и осознает себя, то, очищая оперативку, мы же каждый раз ее убиваем?
КуДзу удивленно посмотрел на него.
– Эк ты загнул! Я как-то об этом не думал. Навскидку могу сказать, что мы ведь тоже умираем каждый миг и возрождаемся в каждом новом кванте сознания.
– Но у нас есть непрерывность памяти! – возразил Серфер.
– Каждая тульпа создается с полным объемом памяти – а значит, и с точно такой же иллюзией непрерывности. От нашей иллюзии она ничем не отличается. К тому же для тульпы можно сохранять память обо всех ее вызовах, это тоже не проблема. Но лучше бы ты не зацикливался на вопросах о смерти. Потому что, как ни крути, а придешь к тому, что и тут мы от тульп тоже не слишком отличаемся.
– Да, и вот еще что, – перебил Серфер, внезапно вспомнив еще один темный вопрос, – эта база, где хранятся образы, из которых собирается тульпа – в ней ведь лежит информация не только о ныне живущих? Но и об умерших тоже?
КуДзу внимательно посмотрел на него. Нетрудно было понять, куда приведет этот разговор.
– Обо всех, конечно. Байты же не горят. Система хранит все.
– То есть мы можем общаться и с умершими?
– Можно сказать и так. В принципе, для тульпы нет разницы, жив ее прототип или мертв.
– Но тогда это и есть настоящая загробная жизнь! – воскликнул Серфер, подаваясь вперед.
– Ну какая же это жизнь? Даже если считать тульпу живой – а для меня это совсем не очевидно – то оживает она только когда мы ее собираем, и лишь на тот краткий период, когда мы находимся с ней в контакте. А в остальное время это не более чем мертвая информация на носителе.
– Все равно, – не сдавался Серфер, – какая-никакая, но это же жизнь после смерти!
– Только для тех, кому повезет попасть в просвет нашего внимания. А для остальных? Раньше, кстати, многие тоже верили, что могут вызывать духов умерших, и активно практиковали столоверчение. И вызывали – дух Наполеона, дух Шекспира. Но сотни ушедших поколений безмолвно легли в землю, не оставив даже имен, чтобы их позвать. Давай-ка лучше поговорим о чем-то более веселом, а то нагнал тоски…
– Нет, подожди! Скажи, я могу встретиться с отцом?
КуДзу какое-то время рассматривал свои пальцы, собираясь с мыслями.
– Понимаешь, не все так просто…
15 лет 24 дня, ночь
Серфер упрямо насупился, всем своим видом показывая, что не отступит.
– А в чем проблема? Ты же сам сказал, что разницы нет.
КуДзу рассеянно потер висок.
– Не совсем так. Действительно, когда программа обращается к образу в базе, для нее не имеет значения, жив объект или нет. Но дело не только в этом. Как бы тебе объяснить… Для существующей системы слежения все люди совершенно прозрачны, никто не может ничего утаить. Поэтому образ каждого считывается очень точно – настолько, что тульпа практически неотличима от оригинала. Да ты и сам в этом убедился.
Серфер вспомнил Наташу и молча кивнул. КуДзу продолжал:
– Но мы жили в нетолерантной зоне, а там почти все – шифровальщики. Мы показывали системе не себя, а искусственную маску, парадный портрет социально ориентированного гражданина. Очень конформного, дружественного и законопослушного. А этот образ не совсем соответствует реальному. Поэтому и тульпа Профессора будет отличаться от того снимка, который считался бы без шифрования.
– Сильно отличаться? – спросил Серфер, заметно нервничая.
– Не очень. Хотя для тех, кто близко знал его – заметно. В основном в стиле общения; но вся память – личная история, теоретические знания – все останется в полном объеме. Если надо что-то узнать, так даже удобнее – тульпа с позитивной социальной настройкой ответит на любой вопрос. Профессор бы, может быть, отмахнулся или даже послал подальше; но его тульпа всегда будет готова к общению.
– Но почему, почему?! – Серфер раздраженно стукнул себя кулаком по бедру. – Почему именно он?! Почему все тульпы неотличимы от своих прототипов, и только отца я не смогу увидеть таким, каким он был?!
КуДзу тяжело вздохнул.
– Вот ты говорил – посмертное бытие, загробный мир… Но в рай система пускает лишь послушных слуг; бунтари же сознательно отказываются от рая. А твой отец был из их числа. В самом хорошем смысле, конечно.
Серфер наморщил лоб и в упор посмотрел на КуДзу.
– Пусть так. Но я все же смогу с ним встретиться?
– Хорошо, – сдался КуДзу. – Что с тобой поделаешь, ты же весь в отца. Только сначала надо настроить программу.
15 лет 24 дня, ночь
С настройками КуДзу возился довольно долго. Серфер вставил линзы и наушники, попрыгал перед зеркальными экранами и теперь нетерпеливо ерзал в кресле, ожидая продолжения.
– Долго еще? – не выдержал он наконец.
– Не спеши! – осадил его КуДзу. – В этом деле лучше не торопиться.
– А Наташину тульпу ты сразу настроил.
КуДзу оторвался от экранов.
– Я ее вообще не настраивал. По умолчанию тульпа собирается из текущего образа, из самого последнего снимка. А то, что мы сейчас делаем, скорее можно назвать путешествием во времени. И тут очень важно правильно выбрать точку сборки.
– А как ты ее выбираешь?
– Просто откручиваю время назад. Ты же знаешь, последний год твой отец провел в нетолерантной зоне, а там твое появление будет выглядеть слишком подозрительно. Поэтому забросим тебя на год дальше. ПалСаныч еще живет в городе и заведует кафедрой в универе; он уже встречается с Машей, но тебя пока нет даже в проекте. Твоя легенда такая – ты Машин брат, зашел к ПалСанычу по ее совету, попросить, чтобы он помог тебе с рефератом. Ну и попутно сможешь задать ему другие вопросы.
– А если он откажется мне помочь?
– Не откажется. У такой тульпы просто нет выбора, мы же специально демонстрировали системе повышенную социальность. Но несколько правил ты все же должен соблюдать. Следи за языком. Никогда не говори, из какого ты времени, вообще ничего не говори о будущем. И не вздумай даже намекнуть, что ты его сын. Если Профессор поймет, что он уже умер, последствия могут быть самыми непредсказуемыми.
– Да какая разница! Даже если я случайно что-то сболтну, он же все равно мне не поверит! – возразил Серфер. – Ведь никто не способен в это поверить. Если я скажу, что ты давно умер, и я явился к тебе из будущего – ты что, поверишь?
КуДзу побледнел так, что Серфер даже испугался за него.
– Пожалуйста, не шути больше такими вещами. Просто постарайся соблюдать правила, их не так много. Не пытайся физически воздействовать на измененную реальность, ограничься лишь общением. Например, если тебе захочется отлить, ты можешь найти там туалет – но ты должен понимать, что произойдет при этом в нашей реальности.
Серфер фыркнул, сдерживая смешок. Реакция КуДзу на безобидную шутку его озадачила; он порадовался, что успел вовремя прикусить язык и не пошутил над поведением друга, во всем идущего ему навстречу – что, честно говоря, выглядело очень подозрительно. Но КуДзу знал о тульпах гораздо больше него и, наверное, имел повод пугаться.
– И вот еще что, – продолжил Серфер, – не уверен, что мне хватит одного прыжка. Скорее всего, я захочу снова увидеться с отцом. Ты можешь не стирать ему память о нашей встрече?
– Хорошо, – согласился КуДзу.
– Тогда я готов, – сказал Серфер. – Кажется, все обговорили?
– Вроде бы все, – задумчиво ответил КуДзу и вдруг, вспомнив что-то, встрепенулся. – Да, совсем забыл – тебя же ищут! И судя по всему, врачи скоро появятся здесь. Будет совсем паршиво, если тебя найдут в этом кресле, подключенным к комплексу.
– Вряд ли, – возразил Серфер. – Я тоже об этом думал. Но сегодня же карнавал – ночь свободы. Ночь без официальной слежки. Наверняка они отложат свой визит на завтра.
– Похоже, ты прав, – согласился КуДзу. – Ну, тогда поехали. Адрес запомнил? Встань и иди!
СЕРФЕР, город
17 лет назад
Серфер смотрел на отца и не верил своим глазам – это был он, вне всяких сомнений. То же лицо, те же глаза, те же жесты, тот же голос – отец был в точности таким, каким Серфер помнил его по сохраненным фотографиям и видеороликам. Это казалось чудом, чем-то запредельно невероятным; и все же он переживал это здесь и сейчас. Сердце бешено колотилось, не желая успокаиваться, во рту пересохло. Он хотел попросить воды, но промолчал, боясь выдать себя каким-то неосторожным словом. Легенда, предложенная КуДзу, с самого начала казалась ему надуманной и неправдоподобной, обреченной на неминуемый провал – но, как ни странно, у отца не возникло никаких подозрений. Он даже не задал ни одного вопроса, просто поверил, сразу и безоговорочно. Видимо, в свое время он все же немного перегнул с демонстрацией социальности.
Серфер не сводил глаз с сидевшего напротив отца; тот тоже внимательно его разглядывал.
– Поразительное сходство, – сказал он наконец, – я должен был сразу догадаться. А чем сейчас занята Маша?
– Она занята, – ответил Серфер и тут же понял, как глупо прозвучали его слова. Злясь на себя, он быстро добавил:
– У Маши вечерние занятия. Она бы сама мне помогла, но сегодня у нее совсем нет времени.
– Не беда, – успокоил его ПалСаныч, – разберемся и без Маши. Какая у тебя тема?
– Может ли машина мыслить! – выпалил Серфер. И тут же поправился, – В смысле – искусственный интеллект, программа, прошедшая тест Тьюринга. Программная имитация человека. Сейчас ее называют тульпой.
– Тульпой? – удивился ПалСаныч. – Никогда не слышал. Ладно, пусть будет тульпа.
– Так может? – переспросил Серфер.
– Если коротко – то нет. Это же нули-единицы, алгебра логики. Там любое действие строго детерминировано. А самоосознание все же предполагает свободу воли.
– Не соглашусь, – возразил Серфер.
Он хотел сказать об эвристическом подходе в нейросетевых аналоговых комплексах, но вовремя одернул себя, вспомнив, что даже не знает, когда появились такие системы. Возможно, семнадцать лет назад эти разработки еще были закрытыми. Пришлось срочно переключаться, сказав первое, что пришло в голову:
– Самоосознание есть у всех, но это не мешает многим считать нашу свободу воли иллюзией.
– Спорный вопрос, – улыбнулся ПалСаныч. – Но согласись, смешно звучит – иллюзия свободы воли заставила тебя прийти сюда, чтобы обсудить иллюзорность свободы воли.
– Смешно, – согласился Серфер. – Ну ладно, с коротким ответом понятно. А что с развернутым? Маша говорила еще про какую-то китайскую комнату и философских зомби.
– Китайская комната или аргумент Серла – это умозрительная механическая модель имитации интеллектуальной работы. Представь себе комнату, в которой сидит супермен, обладающий сверхбыстрой реакцией и полной библиотекой инструкций по составлению ответов на китайском языке. Сквозь непрозрачный интерфейс он получает от внешнего наблюдателя вопрос на китайском, анализирует последовательность иероглифов и, пользуясь своими инструкциями, составляет другую последовательность иероглифов, которую отдает назад. Для внешнего наблюдателя это не что иное, как ожидаемый ответ на китайском языке. На этот счет у него не остается никаких сомнений; он уверен, что в комнате сидит человек, говорящий по-китайски. Но супермен не знает китайского, он умеет работать лишь со своей библиотекой инструкций. Этот мысленный эксперимент должен продемонстрировать, что прохождение теста Тьюринга не доказывает способности программы мыслить – точно так же, как ответ из китайской комнаты, кажущийся наблюдателю разумным, не доказывает, что супермен знает китайский.
Серфер помолчал, переваривая услышанное. Подход был непривычным, но интуитивно понятным и не требовал дополнительных пояснений. Он кивнул и продолжил играть роль школяра, нахватавшегося непонятных терминов.
– А что такое мельница Лейбница?
– Это примерно то же, но для читателей с другим уровнем фантазии. Предполагалось, что читатель может мысленно бродить внутри огромной машины, генерирующей имитации мыслей и чувств. Наблюдать изнутри работу всех ее механизмов и задаваться вопросом – в каком же из них искать сознание и чувства?
– Понятно, – кивнул Серфер, хотя в этом он уже не был так уверен.
Но углубляться во второстепенные вопросы не хотелось; время утекало стремительно и безжалостно. И он двинулся дальше.
– А что с философским зомби?
– Это тоже мысленный эксперимент. Надо представить объект, внешне неотличимый от человека, имитирующий все человеческие чувства и мысли, но при этом внутри себя ничего не осознающий и не переживающий.
– Робота? – уточнил Серфер.
– Нет, – поморщился ПалСаныч, – не стоит все так упрощать. Тебе (да и не тебе одному, к сожалению) кажется, что вся эта проблематика крутится вокруг теста Тьюринга…
– А разве это не так? – удивился Серфер.
ПалСаныч покачал головой.
– Отнюдь. Этот тест – всего лишь одно из технических приложений главной человеческой проблемы. Кстати, если машина когда-нибудь действительно станет мыслящей, она вряд ли будет стараться пройти тест Тьюринга, скорее специально на нем срежется.
– Почему? – не понял Серфер.
– Сам подумай.
Серфер подумал и согласился:
– Да, наверное. Но тогда получается, что этот тест бесполезен?
– Разумеется. Главная проблема совсем в другом. Но наши современники, ослепленные успехами информационной революции, упростили ее донельзя и свели к формализованной технической задаче.
От слов «наши современники» Серфер явственно почувствовал, как по спине побежали мурашки. Он поспешно спрятал руки под стол, чтоб не выдать себя дрожью пальцев, и спросил:
– Что это за проблема?
– Проблема интерсубъективности, – ответил ПалСаныч, – самый болезненный вопрос философии – насколько одинок человек среди людей.
– Солипсизм, – догадался Серфер.
ПалСаныч опять поморщился.
– Нет, это немного о другом.
Он повернулся к окну.
– Ну вот, например. Видишь – листва зеленая, и для тебя, и для меня. Наши глаза получают одинаковые физические сигналы, обрабатывают их сходным образом и передают в мозг. Поэтому мы по умолчанию предполагаем, что наши субъективные восприятия цвета одинаковы. Философы называют эти восприятия «квалиа». Но проблема в том, что в нашей понятийной картине есть непреодолимый разрыв между физическим сигналом и квалиа. На самом деле мы просто договорились одним словом обозначать свои зрительные ощущения от одного объекта. Однако это отнюдь не гарантирует, что наши восприятия, названные одним и тем же словом, одинаковы или хотя бы близки. В чужую голову ведь не залезешь. Чужая душа – потемки в китайской комнате. А если копнуть глубже, у тебя нет никакой гарантии, что сейчас с тобой разговаривает такая же самоосознающая личность, как и ты сам, а не бездумная китайская комната, производящая сборку реплик по вшитому алгоритму.
От этих слов Серфера буквально затрясло. Он стиснул зубы и крепко сжал кулаки. ПалСаныч продолжал:
– В старой философии существование другого обосновывалось дополнительной сложностью. То есть из общения с другим я могу получить новую информацию, которую не смог бы извлечь из собственных ресурсов. Доказательство и тогда было довольно хлипким, а с приходом компьютерной эры оно окончательно потеряло смысл. Единственное, что у нас осталось – вера «по аналогии». У меня есть мозг со всеми его электрохимическими процессами, и я переживаю внутри себя чувства и мысли, осознаю себя.
