Доехав до центральной площади, Серфер приказал автопилоту вернуться к началу маршрута. Вряд ли можно было надеяться, что никто ничего не заметит; но для него сейчас любой выигрыш во времени мог стать решающим.
Городок был свеж и прозрачен. Серфер подумал, что хорошо было бы как-нибудь вернуться сюда, неспешно побродить по тихим улочкам, посидеть в кафешке в тени старых лип. Но сейчас, конечно, об этом не стоило даже мечтать. Он сел в первое же такси и назвал адрес.
СЕРФЕР, город
15 лет 24 дня, день
Такси остановилось в глухом переулке неподалеку от дома КуДзу. Серфер отстегнул ремень безопасности и выбрал режим «ожидание». Автопилот запросил подтверждение, предупредив, что режим не оптимален – что будет выгоднее завершить маршрут и вызвать другую машину, когда потребуется. Серфер подтвердил команду. Расплатиться все равно было нечем – браслета у него не было, а если б даже и был, он не рискнул бы им воспользоваться. Опустив голову и пряча лицо под козырьком бейсболки, он вышел на улицу. Проходить мимо музыкальной лавки совсем не хотелось, и Серфер пошел кружным путем, стараясь держаться подальше от камер наблюдения. Вскоре он уже стоял перед удивленным КуДзу.
– Пашка?! Ты как здесь?
– Убежал, – коротко ответил Серфер, – ты же знаешь, где я был?
– Естественно. Маша в тот же день нагрянула, такой концерт здесь устроила…
Серфер мгновенно напрягся.
– И что теперь? Мне больше сюда не приходить?
– Да что с тобой сегодня? Приходи когда захочешь, я всегда тебе рад.
– Но тульпы больше не будет?
– Будет тебе тульпа, не волнуйся, – усмехнулся КуДзу.
– Почему?! – вырвалось у Серфера.
Еще не успев договорить, он понял, что ждал ответа «нет», и его «почему» относилось именно к этому «нет». Хотя и к «да» оно тоже вполне подходило.
– Почему ты так много делаешь для меня? Зачем тебе это?
– В память о твоем отце. Он был моим другом. И одним из создателей нашего проекта.
Серферу показалось, что КуДзу на секунду замешкался, задержавшись с ответом. Впрочем, возможно, лишь показалось.
15 лет 24 дня, день
– Ты голодный? – спросил КуДзу, когда они прошли на кухню.
– Нет, – ответил Серфер.
Он действительно не чувствовал голода, хотя времени с обеда прошло достаточно.
– Понятно, – кивнул КуДзу, – адреналин и тестостерон. Ну, давай хоть теинчиком полирнем.
Он разлил чай по кружкам и посмотрел на Серфера.
– А зачем убежал-то? Почему не вышел легально, через комиссию?
– Не было там никакой комиссии, – мрачно ответил Серфер. – Но один человек мне сказал, что надо сбежать, что это у них такой тест на нормальность.
– Пациент сказал? – уточнил КуДзу.
– Пациент.
– А ты поверил?
– Да я вообще не знал, чему там верить! Я иногда даже думал, что все еще сижу здесь, в твоем кресле.
– Ну, на этот счет не стоило сомневаться, – успокоил его КуДзу, – наша игра идет только в реальном времени. В исправленную реальность можно нырнуть лишь на несколько часов – насколько позволят естественные потребности. А вот пациенту я бы на твоем месте верить не стал.
Серфер промолчал. Сейчас ему и самому это казалось совершенной глупостью; он не понимал, как мог повестись на байки Романа.
– Ладно, чего уж теперь жалеть, – примирительно сказал КуДзу, – честно говоря, я ведь чего-то такого от тебя и ждал. Ты же весь в отца, та же порода. И у тебя, наверное, накопилось много вопросов?
– Да!
Вопросов действительно было множество, и Серфер на миг запнулся, не зная, с какого начать. Вспомнив Романа, он спросил:
– Чем на самом деле была перезагрузка?
КуДзу поднес кружку к губам и сделал несколько неторопливых глотков.
– Сегодня про это предпочитают не вспоминать. Но двадцать лет назад мир был совсем другим. Комитет тогда ввел много новых правил в Моральный Кодекс. Считалось, что все они гуманны и логичны; но это было ложью. Избежать нарушений было невозможно в принципе, настолько новые правила были взаимно противоречивы. Одновременно в головы заливалось убеждение, что все моральные нормы сами по себе прекрасны и естественны, а их нарушение грешно и преступно. И любой нарушитель, соответственно – грешник и преступник. К тому времени система тотальной слежки была уже доведена до совершенства. Люди постоянно что-то нарушали, а система это отслеживала и сохраняла всю историю в своих базах. И каждый знал – в любой момент его могут привлечь, поднять логи личного дела и вывалить груду грязного белья на всеобщее обозрение. Начались нервные срывы, сначала одиночные, а потом включилась индукция и пошла настоящая эпидемия.
– Индукция? – переспросил Серфер.
– Психическая индукция, – пояснил КуДзу, – взаимовлияние. Действует как настоящее психическое заражение. Страшная сила, между прочим. В прежние времена в закрытых пансионатах у девушек даже месячные начинались одновременно, не говоря уж об истериках. Но мы отвлеклись. Когда число нервных расстройств приблизилось к критическому уровню, общество оказалось на грани катастрофы. Проблему надо было решать быстро и радикально. Твой отец предложил стереть базы и полностью обнулить списки грехов. Начать все с чистого листа. И нам это удалось. Хотя сама информация сохранилась, конечно. Но люди поверили, что все базы стерты и все прошлые грехи отпущены – а это и было целью перезагрузки.
Примерно так Серфер это себе и представлял. И все же что-то здесь не связывалось.
– Но если проблему решает только обнуление, его пришлось бы периодически повторять. А перезагрузка, насколько я знаю, была всего одна.
– Одна, – согласился КуДзу. – Я же говорю – мир изменился. Теперь не нужны даже списки грехов, теперь преступными стали сами свойства человеческой натуры. Мысли, намерения, влечения.
– Но это же абсурд! – не поверил Серфер. – Как можно карать за мысли?
КуДзу посмотрел на него со снисходительностью взрослого, вынужденного объяснять ребенку самые элементарные вещи.
– Ну, например – ты представлял когда-нибудь своих одноклассниц голыми?
Серфер покраснел и промолчал.
– А теперь подумай, как это можно квалифицировать согласно Моральному Кодексу. Прикинул?
– Но это же… Только в голове! – начал Серфер.
– А голова-то прозрачная! – закончил КуДзу. – Это тоже старая история. Когда-то в одной части света гомосексуалистов всячески опекали, а в другой преследовали и могли даже приговорить к смерти. И они, естественно, стали бежать оттуда, где им плохо, туда, где хорошо. Но чтобы получить статус беженца, им надо было доказать свою гомосексуальность. Пройти специально разработанный тест. Потом эту практику сочли унизительной и отменили. Но тест к тому времени проверили, обкатали и спрятали под сукно. Постепенно там накопилось множество тестов, раскрывающих различные склонности человека, в основном сексуальные и агрессивные. Полный оперативный набор. Собрать его, кстати, было непросто – люди в те времена первертов не жаловали, и те предпочитали не афишировать свои наклонности. Пришлось насильственно вводить политику гипертолерантности и давать сексуальным меньшинствам особые привилегии, недоступные остальным. По сути, меньшинства стали элитными вип-группами, диктующими всему обществу свое понимание правил поведения. А когда перверсная ориентация стала давать ощутимые социальные преимущества, начались и массовые каминг-ауты; так появилась широкая база для исследований в этой области. Одновременно в среде сексменьшинств усиленно насаждалась идея, что они принципиально «иные», что их ориентация обусловлена исключительно их соматической предрасположенностью, и ни в коем случае не влиянием среды. Но аргументов у этой теории постоянно не хватало, поэтому перверты всегда с радостью шли навстречу ученым; они готовы были пройти любые тесты для получения «окончательного» доказательства. Чем это закончилось, тебе, надеюсь, известно. Сегодня любая сексуальная девиация является серьезным преступлением, Кодекс определяет это совершенно однозначно. То, что Федерация не карает всех преступников, ничего не значит – в любой момент она может взять в оборот любого из своих граждан. И все они каждую секунду помнят о том, что постоянно живут под дамокловым мечом собственных грехов.
– А какое отношение это имеет… – начал Серфер, но КуДзу перебил его:
– Ты думаешь, это касается только явных первертов и явных преступников? Как бы не так! В каждом из нас живет масса антисоциальных склонностей, которые мы подавляем почти автоматически. Но комплексное сканирование выявляет их без проблем, причем у любого человека. Согласно нашему Кодексу, сегодня каждый греховен, мерзостен и преступен. По определению. Невиновных нет – есть лишь непротестированные. Вернее, сейчас и непротестированных уже не осталось.
– Но я ничего об этом не знаю! – возмутился Серфер. – Какой же я преступник?
– Тебя это просто еще не коснулось, – мягко возразил КуДзу, – и у тебя впереди еще три года счастливого неведения – до совершеннолетия. Наслаждайся, пока есть возможность.
– Но как же так можно… Винить за скрытые склонности? Выворачивать человека наизнанку – это же еще разрушительнее для психики!
– Верно, – согласился КуДзу, – с тех пор все стало только хуже. Но после перезагрузки химия шагнула далеко вперед. Препараты стали гораздо эффективнее. Теперь тревожность купируется на корню. А вина остается.
15 лет 24 дня, вечер
Серфер вспомнил свой сон про Гулю, вспомнил свои мимолетные эротические фантазии – и внутри у него все сжалось от тоскливой безысходности. Конечно, как воспитанный и ответственный гражданин, он гасил эти фантазии в зародыше; но они были, и он прекрасно осознавал всю их аморальность. Только он считал их своей постыдной тайной, надежно скрытой от всех – а оказалось, что система легко снимает любые покровы. Это было невыносимо.
Я настоящий преступник, – подумал Серфер, – уже сейчас. Где те три беззаботных года, что обещал КуДзу; я уже подранок, трясущийся в ожидании настигающей погони. И ничего тут не исправишь – ни в прошлом, ни в будущем. Потому что никакого выбора у меня не было и не будет – я осужден уже с рождения. За бурление гормонов, над которым не властен.
– Как вы вообще живете? – вырвалось у него.
– Так и живем, – криво усмехнулся КуДзу, – на страхе и на химии. Но ты не грузись, тебя-то это пока не касается.
– Вот именно – пока! А потом что? Всю жизнь бояться и таиться, глотать транквилизаторы и антидепрессанты?
– Все так живут, – пожал плечами КуДзу, – и до кризиса, между прочим, дело пока не дошло. Кстати, сам-то еще не дозрел что-нибудь заглотить? Пиццу, например?
Серфер представил ароматный треугольник на тарелке, и рот мгновенно наполнился слюной. Он кивнул. КуДзу достал из холодильника коробку, ловко покромсал ее содержимое на куски, переложил их на блюдо и отправил в микроволновку. Чувствовалось, что эта операция была ему привычной.
– Я не представляю, как можно жить на лабораторном столе, под микроскопом! – Серфер все никак не мог успокоиться. – Это же противоестественно! И что, теперь это навсегда? Никакой надежды?
– Если ничего не изменится, потребность в постоянной слежке постепенно будет уменьшаться. Но меня эти перемены пугают еще больше.
– Почему?
– Судя по всему, на следующем этапе людей собираются отливать в готовые формы, как болванки. А у стандартного изделия все реакции предсказуемы заранее, для этого никакие предварительные наблюдения не нужны.
– Но это же невозможно! – возмутился Серфер. – Люди же все разные, совсем непохожие! Каждый человек уникален!
– Ты преувеличиваешь, – возразил КуДзу. – Сейчас как раз идет работа по полной классификации психотипов. И их там, если не ошибаюсь, всего шестьдесят четыре. По этой теории, почти все наши проблемы происходят из-за того, что мы часто выбираем способы реагирования, не соответствующие нашему психотипу. Но в будущем у детей хотят блокировать саму возможность любых реакций, кроме аутентичных. Комитет считает, что ранняя диагностика и соответствующее воспитание могут это обеспечить. И если у них все получится, из детей-болванок будут вырастать взрослые болванки, полностью просчитываемые и предсказуемые. Причем предсказуемые уже не на уровне индивида, а на уровне всего типа.
– Ничего у них не получится! – воскликнул Серфер.
– Будем надеяться, – ответил КуДзу, – иначе твоему поколению будет очень неуютно в этом новом мире.
Пока Серфер наливал себе вторую кружку, КуДзу успел достать готовую пиццу и разложить ее по тарелкам. Серфер жадно набросился на свою порцию, утоляя внезапный голод. Только разделавшись со вторым куском, он смог, наконец, вернуться к главному вопросу, мучившему его в последние дни.
– Слушай, я все думаю про эту девушку, про Наташу. Я ведь ее сильно обидел?
– Даже не сомневайся, – подтвердил КуДзу.
– Но я же был уверен, что это тульпа.
– Разумеется. Иначе бы ты так не сказал.
– Вот я и хочу спросить. А если бы это все же была тульпа – она бы так же обиделась?
– Да, реакция была бы точно такой же. Ну, или очень близкой.
Серфер недовольно поморщился.
– Я не про реакцию! Скажи, тульпа бы обиделась? Она может чувствовать? Может думать, осознавать себя – как мы?
КуДзу отодвинул тарелку, поставил локти на стол и сцепил пальцы.
– Хороший вопрос. Твой отец любил поговорить на эту тему. Кстати, философы бьются над ней уже давно, они даже специальные термины придумали – китайская комната, мельница Лейбница, философский зомби. В практической сфере – тест Тьюринга. Слышал о таком?
– Слышал. Так все же – мыслит?
– Мы считаем, что нет. Что комплекс просто механически подбирает наиболее вероятный вариант вербального реагирования на основе имеющейся информации. По заранее определенным алгоритмам. Никакой свободы воли, чистая математика. Правда, тут есть один маленький нюанс…
– Какой?
– Твой отец называл это проблемой интерсубъективности. Если ты не считаешь тульпу мыслящей личностью – у тебя точно так же нет оснований считать такой личностью и меня. Вернее, основания тут совершенно одинаковы. Мы считаем других людей мыслящими лишь потому, что они похожи на нас; по аналогии. А программа на нас не похожа. Но это, сам понимаешь, основание довольно сомнительное.
Серфер упрямо мотнул головой.
– Но все же есть вероятность, что тульпа мыслит?
– Мы не можем с полной уверенностью этого отрицать. Если система становится настолько сложной, что ее реакции уже неотличимы от человеческих, никто не может сказать, каковы будут побочные эффекты.
– А как это связано со сложностью? – не понял Серфер.
– Видишь ли, искусственный интеллект моделирует мир как совокупность взаимодействующих объектов. Но по мере усложнения модели, начиная с какого-то момента, он вынужден включать самого себя в число рассматриваемых объектов. И свой прогноз относительно собственных реакций включать в общую систему прогнозов. Формально это и есть рефлексия. А чем это может сопровождаться, мы и представить не можем. Мы и о своем-то сознании практически ничего не знаем.
15 лет 24 дня, вечер
Серфер допил вторую кружку и почувствовал сильное желание облегчиться.
– Где у тебя туалет? – спросил он.
– Первая дверь налево, не заблудишься.
– А я сейчас точно в настоящей реальности? Не в твоем кресле?
– В самой что ни на есть реальной реальности, – подтвердил КуДзу, – можешь не сомневаться.
Городок был свеж и прозрачен. Серфер подумал, что хорошо было бы как-нибудь вернуться сюда, неспешно побродить по тихим улочкам, посидеть в кафешке в тени старых лип. Но сейчас, конечно, об этом не стоило даже мечтать. Он сел в первое же такси и назвал адрес.
СЕРФЕР, город
15 лет 24 дня, день
Такси остановилось в глухом переулке неподалеку от дома КуДзу. Серфер отстегнул ремень безопасности и выбрал режим «ожидание». Автопилот запросил подтверждение, предупредив, что режим не оптимален – что будет выгоднее завершить маршрут и вызвать другую машину, когда потребуется. Серфер подтвердил команду. Расплатиться все равно было нечем – браслета у него не было, а если б даже и был, он не рискнул бы им воспользоваться. Опустив голову и пряча лицо под козырьком бейсболки, он вышел на улицу. Проходить мимо музыкальной лавки совсем не хотелось, и Серфер пошел кружным путем, стараясь держаться подальше от камер наблюдения. Вскоре он уже стоял перед удивленным КуДзу.
– Пашка?! Ты как здесь?
– Убежал, – коротко ответил Серфер, – ты же знаешь, где я был?
– Естественно. Маша в тот же день нагрянула, такой концерт здесь устроила…
Серфер мгновенно напрягся.
– И что теперь? Мне больше сюда не приходить?
– Да что с тобой сегодня? Приходи когда захочешь, я всегда тебе рад.
– Но тульпы больше не будет?
– Будет тебе тульпа, не волнуйся, – усмехнулся КуДзу.
– Почему?! – вырвалось у Серфера.
Еще не успев договорить, он понял, что ждал ответа «нет», и его «почему» относилось именно к этому «нет». Хотя и к «да» оно тоже вполне подходило.
– Почему ты так много делаешь для меня? Зачем тебе это?
– В память о твоем отце. Он был моим другом. И одним из создателей нашего проекта.
Серферу показалось, что КуДзу на секунду замешкался, задержавшись с ответом. Впрочем, возможно, лишь показалось.
15 лет 24 дня, день
– Ты голодный? – спросил КуДзу, когда они прошли на кухню.
– Нет, – ответил Серфер.
Он действительно не чувствовал голода, хотя времени с обеда прошло достаточно.
– Понятно, – кивнул КуДзу, – адреналин и тестостерон. Ну, давай хоть теинчиком полирнем.
Он разлил чай по кружкам и посмотрел на Серфера.
– А зачем убежал-то? Почему не вышел легально, через комиссию?
– Не было там никакой комиссии, – мрачно ответил Серфер. – Но один человек мне сказал, что надо сбежать, что это у них такой тест на нормальность.
– Пациент сказал? – уточнил КуДзу.
– Пациент.
– А ты поверил?
– Да я вообще не знал, чему там верить! Я иногда даже думал, что все еще сижу здесь, в твоем кресле.
– Ну, на этот счет не стоило сомневаться, – успокоил его КуДзу, – наша игра идет только в реальном времени. В исправленную реальность можно нырнуть лишь на несколько часов – насколько позволят естественные потребности. А вот пациенту я бы на твоем месте верить не стал.
Серфер промолчал. Сейчас ему и самому это казалось совершенной глупостью; он не понимал, как мог повестись на байки Романа.
– Ладно, чего уж теперь жалеть, – примирительно сказал КуДзу, – честно говоря, я ведь чего-то такого от тебя и ждал. Ты же весь в отца, та же порода. И у тебя, наверное, накопилось много вопросов?
– Да!
Вопросов действительно было множество, и Серфер на миг запнулся, не зная, с какого начать. Вспомнив Романа, он спросил:
– Чем на самом деле была перезагрузка?
КуДзу поднес кружку к губам и сделал несколько неторопливых глотков.
– Сегодня про это предпочитают не вспоминать. Но двадцать лет назад мир был совсем другим. Комитет тогда ввел много новых правил в Моральный Кодекс. Считалось, что все они гуманны и логичны; но это было ложью. Избежать нарушений было невозможно в принципе, настолько новые правила были взаимно противоречивы. Одновременно в головы заливалось убеждение, что все моральные нормы сами по себе прекрасны и естественны, а их нарушение грешно и преступно. И любой нарушитель, соответственно – грешник и преступник. К тому времени система тотальной слежки была уже доведена до совершенства. Люди постоянно что-то нарушали, а система это отслеживала и сохраняла всю историю в своих базах. И каждый знал – в любой момент его могут привлечь, поднять логи личного дела и вывалить груду грязного белья на всеобщее обозрение. Начались нервные срывы, сначала одиночные, а потом включилась индукция и пошла настоящая эпидемия.
– Индукция? – переспросил Серфер.
– Психическая индукция, – пояснил КуДзу, – взаимовлияние. Действует как настоящее психическое заражение. Страшная сила, между прочим. В прежние времена в закрытых пансионатах у девушек даже месячные начинались одновременно, не говоря уж об истериках. Но мы отвлеклись. Когда число нервных расстройств приблизилось к критическому уровню, общество оказалось на грани катастрофы. Проблему надо было решать быстро и радикально. Твой отец предложил стереть базы и полностью обнулить списки грехов. Начать все с чистого листа. И нам это удалось. Хотя сама информация сохранилась, конечно. Но люди поверили, что все базы стерты и все прошлые грехи отпущены – а это и было целью перезагрузки.
Примерно так Серфер это себе и представлял. И все же что-то здесь не связывалось.
– Но если проблему решает только обнуление, его пришлось бы периодически повторять. А перезагрузка, насколько я знаю, была всего одна.
– Одна, – согласился КуДзу. – Я же говорю – мир изменился. Теперь не нужны даже списки грехов, теперь преступными стали сами свойства человеческой натуры. Мысли, намерения, влечения.
– Но это же абсурд! – не поверил Серфер. – Как можно карать за мысли?
КуДзу посмотрел на него со снисходительностью взрослого, вынужденного объяснять ребенку самые элементарные вещи.
– Ну, например – ты представлял когда-нибудь своих одноклассниц голыми?
Серфер покраснел и промолчал.
– А теперь подумай, как это можно квалифицировать согласно Моральному Кодексу. Прикинул?
– Но это же… Только в голове! – начал Серфер.
– А голова-то прозрачная! – закончил КуДзу. – Это тоже старая история. Когда-то в одной части света гомосексуалистов всячески опекали, а в другой преследовали и могли даже приговорить к смерти. И они, естественно, стали бежать оттуда, где им плохо, туда, где хорошо. Но чтобы получить статус беженца, им надо было доказать свою гомосексуальность. Пройти специально разработанный тест. Потом эту практику сочли унизительной и отменили. Но тест к тому времени проверили, обкатали и спрятали под сукно. Постепенно там накопилось множество тестов, раскрывающих различные склонности человека, в основном сексуальные и агрессивные. Полный оперативный набор. Собрать его, кстати, было непросто – люди в те времена первертов не жаловали, и те предпочитали не афишировать свои наклонности. Пришлось насильственно вводить политику гипертолерантности и давать сексуальным меньшинствам особые привилегии, недоступные остальным. По сути, меньшинства стали элитными вип-группами, диктующими всему обществу свое понимание правил поведения. А когда перверсная ориентация стала давать ощутимые социальные преимущества, начались и массовые каминг-ауты; так появилась широкая база для исследований в этой области. Одновременно в среде сексменьшинств усиленно насаждалась идея, что они принципиально «иные», что их ориентация обусловлена исключительно их соматической предрасположенностью, и ни в коем случае не влиянием среды. Но аргументов у этой теории постоянно не хватало, поэтому перверты всегда с радостью шли навстречу ученым; они готовы были пройти любые тесты для получения «окончательного» доказательства. Чем это закончилось, тебе, надеюсь, известно. Сегодня любая сексуальная девиация является серьезным преступлением, Кодекс определяет это совершенно однозначно. То, что Федерация не карает всех преступников, ничего не значит – в любой момент она может взять в оборот любого из своих граждан. И все они каждую секунду помнят о том, что постоянно живут под дамокловым мечом собственных грехов.
– А какое отношение это имеет… – начал Серфер, но КуДзу перебил его:
– Ты думаешь, это касается только явных первертов и явных преступников? Как бы не так! В каждом из нас живет масса антисоциальных склонностей, которые мы подавляем почти автоматически. Но комплексное сканирование выявляет их без проблем, причем у любого человека. Согласно нашему Кодексу, сегодня каждый греховен, мерзостен и преступен. По определению. Невиновных нет – есть лишь непротестированные. Вернее, сейчас и непротестированных уже не осталось.
– Но я ничего об этом не знаю! – возмутился Серфер. – Какой же я преступник?
– Тебя это просто еще не коснулось, – мягко возразил КуДзу, – и у тебя впереди еще три года счастливого неведения – до совершеннолетия. Наслаждайся, пока есть возможность.
– Но как же так можно… Винить за скрытые склонности? Выворачивать человека наизнанку – это же еще разрушительнее для психики!
– Верно, – согласился КуДзу, – с тех пор все стало только хуже. Но после перезагрузки химия шагнула далеко вперед. Препараты стали гораздо эффективнее. Теперь тревожность купируется на корню. А вина остается.
15 лет 24 дня, вечер
Серфер вспомнил свой сон про Гулю, вспомнил свои мимолетные эротические фантазии – и внутри у него все сжалось от тоскливой безысходности. Конечно, как воспитанный и ответственный гражданин, он гасил эти фантазии в зародыше; но они были, и он прекрасно осознавал всю их аморальность. Только он считал их своей постыдной тайной, надежно скрытой от всех – а оказалось, что система легко снимает любые покровы. Это было невыносимо.
Я настоящий преступник, – подумал Серфер, – уже сейчас. Где те три беззаботных года, что обещал КуДзу; я уже подранок, трясущийся в ожидании настигающей погони. И ничего тут не исправишь – ни в прошлом, ни в будущем. Потому что никакого выбора у меня не было и не будет – я осужден уже с рождения. За бурление гормонов, над которым не властен.
– Как вы вообще живете? – вырвалось у него.
– Так и живем, – криво усмехнулся КуДзу, – на страхе и на химии. Но ты не грузись, тебя-то это пока не касается.
– Вот именно – пока! А потом что? Всю жизнь бояться и таиться, глотать транквилизаторы и антидепрессанты?
– Все так живут, – пожал плечами КуДзу, – и до кризиса, между прочим, дело пока не дошло. Кстати, сам-то еще не дозрел что-нибудь заглотить? Пиццу, например?
Серфер представил ароматный треугольник на тарелке, и рот мгновенно наполнился слюной. Он кивнул. КуДзу достал из холодильника коробку, ловко покромсал ее содержимое на куски, переложил их на блюдо и отправил в микроволновку. Чувствовалось, что эта операция была ему привычной.
– Я не представляю, как можно жить на лабораторном столе, под микроскопом! – Серфер все никак не мог успокоиться. – Это же противоестественно! И что, теперь это навсегда? Никакой надежды?
– Если ничего не изменится, потребность в постоянной слежке постепенно будет уменьшаться. Но меня эти перемены пугают еще больше.
– Почему?
– Судя по всему, на следующем этапе людей собираются отливать в готовые формы, как болванки. А у стандартного изделия все реакции предсказуемы заранее, для этого никакие предварительные наблюдения не нужны.
– Но это же невозможно! – возмутился Серфер. – Люди же все разные, совсем непохожие! Каждый человек уникален!
– Ты преувеличиваешь, – возразил КуДзу. – Сейчас как раз идет работа по полной классификации психотипов. И их там, если не ошибаюсь, всего шестьдесят четыре. По этой теории, почти все наши проблемы происходят из-за того, что мы часто выбираем способы реагирования, не соответствующие нашему психотипу. Но в будущем у детей хотят блокировать саму возможность любых реакций, кроме аутентичных. Комитет считает, что ранняя диагностика и соответствующее воспитание могут это обеспечить. И если у них все получится, из детей-болванок будут вырастать взрослые болванки, полностью просчитываемые и предсказуемые. Причем предсказуемые уже не на уровне индивида, а на уровне всего типа.
– Ничего у них не получится! – воскликнул Серфер.
– Будем надеяться, – ответил КуДзу, – иначе твоему поколению будет очень неуютно в этом новом мире.
Пока Серфер наливал себе вторую кружку, КуДзу успел достать готовую пиццу и разложить ее по тарелкам. Серфер жадно набросился на свою порцию, утоляя внезапный голод. Только разделавшись со вторым куском, он смог, наконец, вернуться к главному вопросу, мучившему его в последние дни.
– Слушай, я все думаю про эту девушку, про Наташу. Я ведь ее сильно обидел?
– Даже не сомневайся, – подтвердил КуДзу.
– Но я же был уверен, что это тульпа.
– Разумеется. Иначе бы ты так не сказал.
– Вот я и хочу спросить. А если бы это все же была тульпа – она бы так же обиделась?
– Да, реакция была бы точно такой же. Ну, или очень близкой.
Серфер недовольно поморщился.
– Я не про реакцию! Скажи, тульпа бы обиделась? Она может чувствовать? Может думать, осознавать себя – как мы?
КуДзу отодвинул тарелку, поставил локти на стол и сцепил пальцы.
– Хороший вопрос. Твой отец любил поговорить на эту тему. Кстати, философы бьются над ней уже давно, они даже специальные термины придумали – китайская комната, мельница Лейбница, философский зомби. В практической сфере – тест Тьюринга. Слышал о таком?
– Слышал. Так все же – мыслит?
– Мы считаем, что нет. Что комплекс просто механически подбирает наиболее вероятный вариант вербального реагирования на основе имеющейся информации. По заранее определенным алгоритмам. Никакой свободы воли, чистая математика. Правда, тут есть один маленький нюанс…
– Какой?
– Твой отец называл это проблемой интерсубъективности. Если ты не считаешь тульпу мыслящей личностью – у тебя точно так же нет оснований считать такой личностью и меня. Вернее, основания тут совершенно одинаковы. Мы считаем других людей мыслящими лишь потому, что они похожи на нас; по аналогии. А программа на нас не похожа. Но это, сам понимаешь, основание довольно сомнительное.
Серфер упрямо мотнул головой.
– Но все же есть вероятность, что тульпа мыслит?
– Мы не можем с полной уверенностью этого отрицать. Если система становится настолько сложной, что ее реакции уже неотличимы от человеческих, никто не может сказать, каковы будут побочные эффекты.
– А как это связано со сложностью? – не понял Серфер.
– Видишь ли, искусственный интеллект моделирует мир как совокупность взаимодействующих объектов. Но по мере усложнения модели, начиная с какого-то момента, он вынужден включать самого себя в число рассматриваемых объектов. И свой прогноз относительно собственных реакций включать в общую систему прогнозов. Формально это и есть рефлексия. А чем это может сопровождаться, мы и представить не можем. Мы и о своем-то сознании практически ничего не знаем.
15 лет 24 дня, вечер
Серфер допил вторую кружку и почувствовал сильное желание облегчиться.
– Где у тебя туалет? – спросил он.
– Первая дверь налево, не заблудишься.
– А я сейчас точно в настоящей реальности? Не в твоем кресле?
– В самой что ни на есть реальной реальности, – подтвердил КуДзу, – можешь не сомневаться.
