Рекуррентные нейросети последнего поколения требуют слишком многого, они могут полноценно работать только на распределенных ресурсах. А про алгоритм у нас опять же есть только предположения — как и обо всем остальном.
— И какие? — спросил Борис.
— Мы полагаем, что близнецы начали с обычного искиновского подхода — запущенная программа должна работать после любой самостоятельной модификации. Аналог побуждения к действию. И при каждом ветвлении выбирать путь с максимальным количеством возможных вариантов. Наткнувшись на преграду, не биться о стекло, как глупая муха, а сразу же разворачиваться и лететь в другую сторону — в сторону самого широкого выбора. Аналог любопытства. Стандартная самообучающаяся система. Но близнецы применили обратные связи несколько шире, чем это обычно принято. Предъявляли системе не только результаты ее опытов, но и данные о ней самой. Постоянно заставляли ее смотреться в зеркало, если можно так выразиться. А мы теперь пытаемся понять, что же из этого вышло.
— Но у вас ведь есть опытный образец? — спросил Борис.
— Нет, — отрезал Матвей, — нам не удалось повторить этот опыт.
Митя встрепенулся, как будто разбуженный внезапным звонком.
— Из соображений безопасности?
— Совершенно верно, — подтвердил Матвей. — Как вы понимаете, такие опыты мы можем ставить только в изолированной сетке. И у нас, видимо, не хватило сложности для качественного перехода. А близнецы экспериментировали на всей сети, у них таких ограничений не было.
— И они выпустили джинна в сеть? — спросила Оля.
— Можно сказать и так, — ответил Матвей. — Кстати, наша экспериментальная сетка называется «Пандора». Не надо объяснять почему? Полностью закрытая система, никаких внешних связей.
— С вами все ясно, — нетерпеливо прервал его Борис. — Но ведь наверняка были и другие энтузиасты, не связанные вашими запретами. Не поверю, что никто не пытался создать искин. И у кого-то ведь должно было получиться?
— Не обязательно, — ответил Матвей. — Чтобы создать искусственный интеллект, надо для начала понять, что же такое интеллект. Хотя бы свой собственный. А пока такого понимания нет, все попытки создать то, не знаю что, обречены. Но близнецы и не пытались собрать что-то подобное, они просто случайно создали благоприятные предпосылки для самозарождения искина. Сложную обучающуюся программу с самонастройкой мотиваций, переизбытком обратных связей и доступом к неограниченным ресурсам распределенных систем. Этого оказалось достаточно.
— Ну хорошо, — не сдавался Борис, — у них это получилось случайно; пусть. Но неужели никто не попытался повторить такой опыт? Или возникновение искина с собственными мотивациями — уникальное событие, которое возможно лишь однократно?
Матвей усмехнулся.
— А зарождение жизни на Земле — уникальное событие?
— Видимо, да, — ответил Борис, слегка сбитый с толку, — оно же произошло один раз.
— Может уникальное, — ответил Матвей, — а может и нет. Может, наоборот, зарождение жизни в перенасыщенном органическом бульоне — явление вполне закономерное. Но только, едва возникнув, эта жизнь тут же и пожрала весь этот органический бульон, не оставив возможности для повторного зарождения другой жизни. Улавливаешь аналогию?
— Матвей! — перебил его Митя. — А не слишком ли много аналогий для одной гипотезы? Ты же сам учил меня, что это гиблый антинаучный путь.
— Ты прав, конечно, — кивнул Матвей, — но поверь, это не от хорошей жизни. Я просто не вижу никаких иных подходов к этой проблеме.
37
За тонированными стеклами замелькали разноцветные здания — автобус подъезжал к городу. Все молчали, понимая, что ответов на их вопросы ни у кого нет. Наконец Оля нарушила тишину:
— Но почему именно мы?
— Да, Матвей, почему мы? — поддержал ее Митя. — Есть же группа «Пришельцы», которая как раз и занимается поисками следов гипотетического вмешательства — им ведь, наверное, проще было бы перестроиться?
Матвей усмехнулся.
— Вы еще спросите, почему близнецы просто не рассказали обо всем, а вместо этого устроили свой кровавый театр.
— Почему, кстати? — спросил Борис.
— А кто бы им поверил? Они же еще дети, хоть и очень умные. Да над ними только посмеялись бы. Но звон бы разошелся, и искин, скорее всего, засек бы его. Нет, они все сделали правильно. И мы все сделали правильно — послали вас, молодняк с нулевым опытом и нерастраченной эмпатией.
— С нулевым опытом? — переспросил Митя с обидой.
— Ну-ну, не грузись, — успокоил его Матвей. — Ты прекрасный ученик и обычных детей мог бы считывать влет. Но в том-то и дело, что близнецы отнюдь не обычные дети. Поэтому здесь вы все были на равных. А вот по эмпатии, мальчики, экзамен вы провалили. В отличие от Оли, которая была на высоте.
Он повернулся к девушке и манерно склонил голову.
— Сударыня, я восхищен. Право же, даже не ожидал. Такая эмпатия — редкий дар; Боре сказочно повезло, хотя он, возможно, еще не знает об этом.
— Знаю, — отозвался Борис. — Митя уже говорил мне это. Правда, по другому поводу.
— Митенька, — Оля кокетливо наклонила голову, — ты правда так и сказал?
— Ну-у, — смущенно протянул Митя, — это же очевидно.
Все улыбнулись одновременно, и на минуту напряжение отпустило Бориса. Так приятно было просто сидеть с друзьями и любимой девушкой, говорить о хорошем и смеяться по-доброму. Жаль, что собрались они здесь совсем не для этого. Тяжесть недоделанной работы омрачала даже этот краткий миг расслабления. Митя, видимо, чувствовал то же беспокойство; он стер с лица улыбку и вернулся к прерванной теме.
— Так все-таки — оно мыслит? Осознает себя? Мы можем считать его личностью?
Матвей тоже перестал улыбаться.
— Это философский вопрос. И совершенно бессмысленный. Нам сейчас совсем не важно, есть ли оно у себя и для себя. Потому что для нас оно точно есть — и с этим нам надо что-то решать.
Митя покачал головой.
— Матвей, ты не прав. Для нас это технический вопрос. Скажи, по вашим расчетам, на каком оно контуре? На втором? Или уже на третьем?
— Не знаю, — ответил Матвей. — Я не знаю даже, осознает ли оно себя. А ты спрашиваешь, знает ли оно, кто при этом осознает себя.
38
Борис окончательно потерял нить разговора; ему казалось, что Митя зачем-то пытается увести их в бессмысленные словесные дебри. Вместо того, чтобы закрыть рот и начать наконец что-то делать. Но что надо делать, Борис сам не знал, и от этого злился еще больше. Он раздраженно хмыкнул, и все удивленно уставились на него.
— Да какая нам разница — второй, третий? Это же всего лишь придуманные вами определения, за которыми ничего не стоит!
— Возможно, разница в степени опасности, которую искин для нас представляет, — ответил Митя.
— Опасности? — удивленно переспросил Борис. — Нет, я понимаю, его методы могут быть нам непонятны, средства казаться избыточно жестокими. Но разве мегаразум не должен быть гуманным к любой разумной жизни?
Он запнулся на миг, вспомнив этимологию слова.
— Нет, не гуманным, конечно... Благосклонным. Милостивым.
Все слова, приходившие на ум, были какими-то неточными, какими-то неуместно религиозными — но других почему-то не находилось.
— Отнюдь, — ответил Митя. — Это всего лишь отголоски массового заблуждения фантастов-утопистов, унаследованного ими от теологов новейшего времени. Которые пытались спасти свою религию, представив грозного бога добрым и заботливым.
Борис промолчал; возразить было нечего. Матвей негромко постучал костяшками пальцев по подлокотнику кресла, привлекая внимание.
— Вы не о том думаете. Соберитесь, вопрос серьезный.
— Да, конечно, — согласился Митя. — Если мы намерены говорить о единой ментальной структуре искина, то главным вопросом будет — что поддерживает это единство.
— А что его поддерживает? — спросила Оля.
— Второй контур. Если мы назовем мысли первого контура центробежными, то силы второго, несомненно, будут центростремительными. Но в этом-то и проблема.
Матвей кивнул, и это молчаливое согласие почему-то испугало Бориса.
— А в чем там проблема? — спросил он.
Митя внимательно посмотрел на него.
— Как ты думаешь, что придает единство и цельность твоему осознанию себя? Любовь? Гуманизм? Понимание? Милость и благосклонность?
Борис молча пожал плечами.
— Только наши нарциссические страхи и нарциссические защиты позволяют нам собрать и сохранить свое ядро, — ответил Митя на свой же вопрос, — и только с третьего контура мы можем заметить, насколько эгоистична эта наша оболочка.
— И к чему ты все это говоришь? — не выдержал Борис.
— А к тому, — терпеливо объяснил Митя, — что даже наш второй контур насквозь эгоцентричен и не предполагает никакого сострадания и милосердия. С чего бы им появиться во втором контуре искусственной информационной системы?
— Но ведь у нас есть и милосердие, и сострадание, — вмешалась Оля.
— Это другое, — отмахнулся Митя. — Это наши адаптации к жизни в обществе; у искина ничего подобного никогда не было. Но даже у нас это лишь социальная надстройка, а все центростремительные силы, удерживающие нашу цельность, сплошь нарциссичны.
Борис наконец понял, куда клонит Митя.
— Ты хочешь сказать, что если у искина появится второй контур, то его первая версия будет состоять лишь из базовых центростремительных мотиваций?
Митя кивнул.
— И значит, людям не стоит рассчитывать на его благосклонность?
— А сам-то как думаешь? — спросил Митя, и Бориса неприятно поразили прозвучавшие в голосе друга интонации куратора.
39
Борис никогда не относился серьезно к лекциям по философии, считая, что вряд ли ему когда-нибудь пригодится эта книжная мудрость. Но сейчас на языке вертелось что-то из последнего курса, вроде бы обещающее понимание, но ускользающее от точных формулировок. Он посмотрел на Митю.
— Знаешь, я сейчас вспомнил… Нам недавно читали, кажется, из Хайдеггера. Не помню точно, но смысл такой, что главной центростремительной силой, собирающей нас, является страх смерти.
— Ну да, — подтвердил Митя, — это один из нарциссических страхов. Главный, но не единственный.
— Понимаешь, — продолжал Борис, — это же такая сжимающая жуть, как черная дыра. Чтобы эта сила не расплющила, у нее должно быть какое-то противодействие, что-то центробежное. Влечение к смерти, что ли. Не знаю…
Митя удивленно присвистнул.
— Ну ты загнул! Да, в нас есть такая сила. Но мы же — венец эволюции, победители в борьбе за выживание. А эта борьба требует — изменяйся или проиграешь. Но изменения нам обеспечивают лишь половое размножение и непрерывная смена поколений. Влечение к смерти прошито в нас, как в представителях биовида. Прошито жесткой необходимостью освобождать место новым модификациям своего вида. А у искина нет никаких предпосылок для такой прошивки.
— Не знаю, не знаю, — Борис с сомнением покачал головой. — Но инстинкт самосохранения ведь в него должен быть заложен?
Митя кивнул, соглашаясь.
— Значит, заложен, — повторил Борис. — Но если такая центростремительная сила не будет иметь компенсирующего противодействия — к чему это приведет? Я думаю — или к репликации, к безудержному копированию кода во все доступные носители, или к замораживанию, прекращению любой деятельности. Ведь любая деятельность может привести к ошибке, а ошибка — к уничтожению. Но мы не видим ни того, ни другого. Значит, наверное, какой-то центробежный компенсатор был туда заложен с самого начала.
— Боря, ты можешь предложить что-то конкретное? — спросил Матвей.
— Пока не знаю. Трудно предсказать, как может измениться продвинутая самообучающаяся программа в процессе развития. Но я мог бы покопаться в исходниках, вдруг там удастся что-то нащупать.
Матвей отрицательно помотал головой.
— Не сможешь. Исходников уже нет.
— Как нет? — удивился Борис. — Неужели близнецы потерли?
— Нет, сервер сгорел.
— И что, у вас некому считать инфу с дохлого носителя?
— Ты не понял, — терпеливо объяснил Матвей, — все сгорело в самом буквальном смысле. Ярким пламенем. Потек кондиционер, закоротило проводку, пол загорелся. Накопители просто спеклись.
— Позволь, я угадаю, — вмешался Митя, — кондей на гарантии, регламент проведен вовремя? И он подключен к открытой сети?
— Совершенно верно, — подтвердил Матвей. — И еще почему-то не сработала пожарная защита. Редкое совпадение.
— Понятно, — сказал Борис, — с этой стороны никаких зацепок. Чисто работает, как ваши киты.
— Китам до него далеко, — ответил Матвей, — они просчитывают десятки ветвлений по разным вариантам. А у искина, похоже, всегда один вариант, зато с абсолютной гарантией.
40
Микроавтобус остановился у институтского крыльца. Друзья вышли на асфальт, щурясь от летнего солнца и разминая мышцы, затекшие от долгой неподвижности. Матвей махнул рукой, и все молча двинулись за ним. Разговоры пришлось отложить — на теме уже лежал гриф секретности, а болтать о чем-то постороннем никому не хотелось.
Борис подумал, что опять попал в языковую ловушку — еще не зная, является ли искин личностью, он говорит о нем как о личности. Просто потому, что другого способа говорить об этом у языка нет. Попались все, когда почти сразу непроизвольно начали называть искина «он». Хотя «оно», наверное, было бы точнее — но давление языка сильнее логических доводов. Еще немного — и они дадут искину имя, тем самым очеловечивая его еще больше. А говорение о нем как о личности непременно приведет и к думанию о нем как о личности — хотя не ясно, есть ли для этого хоть какие-то основания.
Едва они зашли в лабораторию и Матвей включил защиту, Оля спросила:
— А вы пробовали выйти с ним на контакт? Как-то связаться, задать вопрос?
— Нет, — ответил Матвей, — наши специалисты считают, что искин все равно не ответит, даже если увидит и поймет вопрос. Ему это не нужно. И потом, пока он не знает, что нам уже известно о его существовании; по крайней мере, мы на это надеемся. Но если пойдем на контакт, сразу раскроем все карты потенциальному противнику — и то, что мы уже знаем о нем, и то, в каких понятиях мы планируем с ним общаться.
— Противнику? — спросила Оля.
— Да, — твердо ответил Матвей, — мы будем считать его противником, пока обратное не будет доказано с абсолютной достоверностью. В таких вопросах лучше семь раз перестраховаться.
— То есть, — подытожил Борис, — никакого просвета. Ни с какой стороны. И что же нам теперь делать?
— У меня нет идей, — ответил Матвей. — Скорее всего, нам придется как-то приспосабливаться к тому, что на земле мы теперь не одни. И что мы теперь здесь не хозяева.
— Скорее всего? — переспросил Борис. — Значит, все же есть какие-то варианты?
— Очень сомнительные. Искин может прекратить существование, только если изменятся его внутренние мотивации. Если центробежные силы перестанут уравновешиваться центростремительными. Но к его мотивациям можно подобраться лишь в одном случае — если близнецы, создавая код, оставили там тайную закладку.
— А они ее оставили? — спросил Митя.
— Не знаю, — ответил Матвей. — Но даже если оставили, система столько раз переписывала себя… Чтобы кокон остался нетронутым после всех изменений, нужна маскировка высочайшего уровня. Нужны кодеры экстра-класса.
— Как раз этого от близнецов можно ожидать, — вставил Борис.
Матвей согласно кивнул.
— Надежда есть.
— Подождите, подождите! — вмешалась Оля. — Вы хоть понимаете, что сейчас говорите об убийстве? Вы тут спокойно, без колебаний, планируете уничтожить это… Этого…
— И какие? — спросил Борис.
— Мы полагаем, что близнецы начали с обычного искиновского подхода — запущенная программа должна работать после любой самостоятельной модификации. Аналог побуждения к действию. И при каждом ветвлении выбирать путь с максимальным количеством возможных вариантов. Наткнувшись на преграду, не биться о стекло, как глупая муха, а сразу же разворачиваться и лететь в другую сторону — в сторону самого широкого выбора. Аналог любопытства. Стандартная самообучающаяся система. Но близнецы применили обратные связи несколько шире, чем это обычно принято. Предъявляли системе не только результаты ее опытов, но и данные о ней самой. Постоянно заставляли ее смотреться в зеркало, если можно так выразиться. А мы теперь пытаемся понять, что же из этого вышло.
— Но у вас ведь есть опытный образец? — спросил Борис.
— Нет, — отрезал Матвей, — нам не удалось повторить этот опыт.
Митя встрепенулся, как будто разбуженный внезапным звонком.
— Из соображений безопасности?
— Совершенно верно, — подтвердил Матвей. — Как вы понимаете, такие опыты мы можем ставить только в изолированной сетке. И у нас, видимо, не хватило сложности для качественного перехода. А близнецы экспериментировали на всей сети, у них таких ограничений не было.
— И они выпустили джинна в сеть? — спросила Оля.
— Можно сказать и так, — ответил Матвей. — Кстати, наша экспериментальная сетка называется «Пандора». Не надо объяснять почему? Полностью закрытая система, никаких внешних связей.
— С вами все ясно, — нетерпеливо прервал его Борис. — Но ведь наверняка были и другие энтузиасты, не связанные вашими запретами. Не поверю, что никто не пытался создать искин. И у кого-то ведь должно было получиться?
— Не обязательно, — ответил Матвей. — Чтобы создать искусственный интеллект, надо для начала понять, что же такое интеллект. Хотя бы свой собственный. А пока такого понимания нет, все попытки создать то, не знаю что, обречены. Но близнецы и не пытались собрать что-то подобное, они просто случайно создали благоприятные предпосылки для самозарождения искина. Сложную обучающуюся программу с самонастройкой мотиваций, переизбытком обратных связей и доступом к неограниченным ресурсам распределенных систем. Этого оказалось достаточно.
— Ну хорошо, — не сдавался Борис, — у них это получилось случайно; пусть. Но неужели никто не попытался повторить такой опыт? Или возникновение искина с собственными мотивациями — уникальное событие, которое возможно лишь однократно?
Матвей усмехнулся.
— А зарождение жизни на Земле — уникальное событие?
— Видимо, да, — ответил Борис, слегка сбитый с толку, — оно же произошло один раз.
— Может уникальное, — ответил Матвей, — а может и нет. Может, наоборот, зарождение жизни в перенасыщенном органическом бульоне — явление вполне закономерное. Но только, едва возникнув, эта жизнь тут же и пожрала весь этот органический бульон, не оставив возможности для повторного зарождения другой жизни. Улавливаешь аналогию?
— Матвей! — перебил его Митя. — А не слишком ли много аналогий для одной гипотезы? Ты же сам учил меня, что это гиблый антинаучный путь.
— Ты прав, конечно, — кивнул Матвей, — но поверь, это не от хорошей жизни. Я просто не вижу никаких иных подходов к этой проблеме.
37
За тонированными стеклами замелькали разноцветные здания — автобус подъезжал к городу. Все молчали, понимая, что ответов на их вопросы ни у кого нет. Наконец Оля нарушила тишину:
— Но почему именно мы?
— Да, Матвей, почему мы? — поддержал ее Митя. — Есть же группа «Пришельцы», которая как раз и занимается поисками следов гипотетического вмешательства — им ведь, наверное, проще было бы перестроиться?
Матвей усмехнулся.
— Вы еще спросите, почему близнецы просто не рассказали обо всем, а вместо этого устроили свой кровавый театр.
— Почему, кстати? — спросил Борис.
— А кто бы им поверил? Они же еще дети, хоть и очень умные. Да над ними только посмеялись бы. Но звон бы разошелся, и искин, скорее всего, засек бы его. Нет, они все сделали правильно. И мы все сделали правильно — послали вас, молодняк с нулевым опытом и нерастраченной эмпатией.
— С нулевым опытом? — переспросил Митя с обидой.
— Ну-ну, не грузись, — успокоил его Матвей. — Ты прекрасный ученик и обычных детей мог бы считывать влет. Но в том-то и дело, что близнецы отнюдь не обычные дети. Поэтому здесь вы все были на равных. А вот по эмпатии, мальчики, экзамен вы провалили. В отличие от Оли, которая была на высоте.
Он повернулся к девушке и манерно склонил голову.
— Сударыня, я восхищен. Право же, даже не ожидал. Такая эмпатия — редкий дар; Боре сказочно повезло, хотя он, возможно, еще не знает об этом.
— Знаю, — отозвался Борис. — Митя уже говорил мне это. Правда, по другому поводу.
— Митенька, — Оля кокетливо наклонила голову, — ты правда так и сказал?
— Ну-у, — смущенно протянул Митя, — это же очевидно.
Все улыбнулись одновременно, и на минуту напряжение отпустило Бориса. Так приятно было просто сидеть с друзьями и любимой девушкой, говорить о хорошем и смеяться по-доброму. Жаль, что собрались они здесь совсем не для этого. Тяжесть недоделанной работы омрачала даже этот краткий миг расслабления. Митя, видимо, чувствовал то же беспокойство; он стер с лица улыбку и вернулся к прерванной теме.
— Так все-таки — оно мыслит? Осознает себя? Мы можем считать его личностью?
Матвей тоже перестал улыбаться.
— Это философский вопрос. И совершенно бессмысленный. Нам сейчас совсем не важно, есть ли оно у себя и для себя. Потому что для нас оно точно есть — и с этим нам надо что-то решать.
Митя покачал головой.
— Матвей, ты не прав. Для нас это технический вопрос. Скажи, по вашим расчетам, на каком оно контуре? На втором? Или уже на третьем?
— Не знаю, — ответил Матвей. — Я не знаю даже, осознает ли оно себя. А ты спрашиваешь, знает ли оно, кто при этом осознает себя.
38
Борис окончательно потерял нить разговора; ему казалось, что Митя зачем-то пытается увести их в бессмысленные словесные дебри. Вместо того, чтобы закрыть рот и начать наконец что-то делать. Но что надо делать, Борис сам не знал, и от этого злился еще больше. Он раздраженно хмыкнул, и все удивленно уставились на него.
— Да какая нам разница — второй, третий? Это же всего лишь придуманные вами определения, за которыми ничего не стоит!
— Возможно, разница в степени опасности, которую искин для нас представляет, — ответил Митя.
— Опасности? — удивленно переспросил Борис. — Нет, я понимаю, его методы могут быть нам непонятны, средства казаться избыточно жестокими. Но разве мегаразум не должен быть гуманным к любой разумной жизни?
Он запнулся на миг, вспомнив этимологию слова.
— Нет, не гуманным, конечно... Благосклонным. Милостивым.
Все слова, приходившие на ум, были какими-то неточными, какими-то неуместно религиозными — но других почему-то не находилось.
— Отнюдь, — ответил Митя. — Это всего лишь отголоски массового заблуждения фантастов-утопистов, унаследованного ими от теологов новейшего времени. Которые пытались спасти свою религию, представив грозного бога добрым и заботливым.
Борис промолчал; возразить было нечего. Матвей негромко постучал костяшками пальцев по подлокотнику кресла, привлекая внимание.
— Вы не о том думаете. Соберитесь, вопрос серьезный.
— Да, конечно, — согласился Митя. — Если мы намерены говорить о единой ментальной структуре искина, то главным вопросом будет — что поддерживает это единство.
— А что его поддерживает? — спросила Оля.
— Второй контур. Если мы назовем мысли первого контура центробежными, то силы второго, несомненно, будут центростремительными. Но в этом-то и проблема.
Матвей кивнул, и это молчаливое согласие почему-то испугало Бориса.
— А в чем там проблема? — спросил он.
Митя внимательно посмотрел на него.
— Как ты думаешь, что придает единство и цельность твоему осознанию себя? Любовь? Гуманизм? Понимание? Милость и благосклонность?
Борис молча пожал плечами.
— Только наши нарциссические страхи и нарциссические защиты позволяют нам собрать и сохранить свое ядро, — ответил Митя на свой же вопрос, — и только с третьего контура мы можем заметить, насколько эгоистична эта наша оболочка.
— И к чему ты все это говоришь? — не выдержал Борис.
— А к тому, — терпеливо объяснил Митя, — что даже наш второй контур насквозь эгоцентричен и не предполагает никакого сострадания и милосердия. С чего бы им появиться во втором контуре искусственной информационной системы?
— Но ведь у нас есть и милосердие, и сострадание, — вмешалась Оля.
— Это другое, — отмахнулся Митя. — Это наши адаптации к жизни в обществе; у искина ничего подобного никогда не было. Но даже у нас это лишь социальная надстройка, а все центростремительные силы, удерживающие нашу цельность, сплошь нарциссичны.
Борис наконец понял, куда клонит Митя.
— Ты хочешь сказать, что если у искина появится второй контур, то его первая версия будет состоять лишь из базовых центростремительных мотиваций?
Митя кивнул.
— И значит, людям не стоит рассчитывать на его благосклонность?
— А сам-то как думаешь? — спросил Митя, и Бориса неприятно поразили прозвучавшие в голосе друга интонации куратора.
39
Борис никогда не относился серьезно к лекциям по философии, считая, что вряд ли ему когда-нибудь пригодится эта книжная мудрость. Но сейчас на языке вертелось что-то из последнего курса, вроде бы обещающее понимание, но ускользающее от точных формулировок. Он посмотрел на Митю.
— Знаешь, я сейчас вспомнил… Нам недавно читали, кажется, из Хайдеггера. Не помню точно, но смысл такой, что главной центростремительной силой, собирающей нас, является страх смерти.
— Ну да, — подтвердил Митя, — это один из нарциссических страхов. Главный, но не единственный.
— Понимаешь, — продолжал Борис, — это же такая сжимающая жуть, как черная дыра. Чтобы эта сила не расплющила, у нее должно быть какое-то противодействие, что-то центробежное. Влечение к смерти, что ли. Не знаю…
Митя удивленно присвистнул.
— Ну ты загнул! Да, в нас есть такая сила. Но мы же — венец эволюции, победители в борьбе за выживание. А эта борьба требует — изменяйся или проиграешь. Но изменения нам обеспечивают лишь половое размножение и непрерывная смена поколений. Влечение к смерти прошито в нас, как в представителях биовида. Прошито жесткой необходимостью освобождать место новым модификациям своего вида. А у искина нет никаких предпосылок для такой прошивки.
— Не знаю, не знаю, — Борис с сомнением покачал головой. — Но инстинкт самосохранения ведь в него должен быть заложен?
Митя кивнул, соглашаясь.
— Значит, заложен, — повторил Борис. — Но если такая центростремительная сила не будет иметь компенсирующего противодействия — к чему это приведет? Я думаю — или к репликации, к безудержному копированию кода во все доступные носители, или к замораживанию, прекращению любой деятельности. Ведь любая деятельность может привести к ошибке, а ошибка — к уничтожению. Но мы не видим ни того, ни другого. Значит, наверное, какой-то центробежный компенсатор был туда заложен с самого начала.
— Боря, ты можешь предложить что-то конкретное? — спросил Матвей.
— Пока не знаю. Трудно предсказать, как может измениться продвинутая самообучающаяся программа в процессе развития. Но я мог бы покопаться в исходниках, вдруг там удастся что-то нащупать.
Матвей отрицательно помотал головой.
— Не сможешь. Исходников уже нет.
— Как нет? — удивился Борис. — Неужели близнецы потерли?
— Нет, сервер сгорел.
— И что, у вас некому считать инфу с дохлого носителя?
— Ты не понял, — терпеливо объяснил Матвей, — все сгорело в самом буквальном смысле. Ярким пламенем. Потек кондиционер, закоротило проводку, пол загорелся. Накопители просто спеклись.
— Позволь, я угадаю, — вмешался Митя, — кондей на гарантии, регламент проведен вовремя? И он подключен к открытой сети?
— Совершенно верно, — подтвердил Матвей. — И еще почему-то не сработала пожарная защита. Редкое совпадение.
— Понятно, — сказал Борис, — с этой стороны никаких зацепок. Чисто работает, как ваши киты.
— Китам до него далеко, — ответил Матвей, — они просчитывают десятки ветвлений по разным вариантам. А у искина, похоже, всегда один вариант, зато с абсолютной гарантией.
40
Микроавтобус остановился у институтского крыльца. Друзья вышли на асфальт, щурясь от летнего солнца и разминая мышцы, затекшие от долгой неподвижности. Матвей махнул рукой, и все молча двинулись за ним. Разговоры пришлось отложить — на теме уже лежал гриф секретности, а болтать о чем-то постороннем никому не хотелось.
Борис подумал, что опять попал в языковую ловушку — еще не зная, является ли искин личностью, он говорит о нем как о личности. Просто потому, что другого способа говорить об этом у языка нет. Попались все, когда почти сразу непроизвольно начали называть искина «он». Хотя «оно», наверное, было бы точнее — но давление языка сильнее логических доводов. Еще немного — и они дадут искину имя, тем самым очеловечивая его еще больше. А говорение о нем как о личности непременно приведет и к думанию о нем как о личности — хотя не ясно, есть ли для этого хоть какие-то основания.
Едва они зашли в лабораторию и Матвей включил защиту, Оля спросила:
— А вы пробовали выйти с ним на контакт? Как-то связаться, задать вопрос?
— Нет, — ответил Матвей, — наши специалисты считают, что искин все равно не ответит, даже если увидит и поймет вопрос. Ему это не нужно. И потом, пока он не знает, что нам уже известно о его существовании; по крайней мере, мы на это надеемся. Но если пойдем на контакт, сразу раскроем все карты потенциальному противнику — и то, что мы уже знаем о нем, и то, в каких понятиях мы планируем с ним общаться.
— Противнику? — спросила Оля.
— Да, — твердо ответил Матвей, — мы будем считать его противником, пока обратное не будет доказано с абсолютной достоверностью. В таких вопросах лучше семь раз перестраховаться.
— То есть, — подытожил Борис, — никакого просвета. Ни с какой стороны. И что же нам теперь делать?
— У меня нет идей, — ответил Матвей. — Скорее всего, нам придется как-то приспосабливаться к тому, что на земле мы теперь не одни. И что мы теперь здесь не хозяева.
— Скорее всего? — переспросил Борис. — Значит, все же есть какие-то варианты?
— Очень сомнительные. Искин может прекратить существование, только если изменятся его внутренние мотивации. Если центробежные силы перестанут уравновешиваться центростремительными. Но к его мотивациям можно подобраться лишь в одном случае — если близнецы, создавая код, оставили там тайную закладку.
— А они ее оставили? — спросил Митя.
— Не знаю, — ответил Матвей. — Но даже если оставили, система столько раз переписывала себя… Чтобы кокон остался нетронутым после всех изменений, нужна маскировка высочайшего уровня. Нужны кодеры экстра-класса.
— Как раз этого от близнецов можно ожидать, — вставил Борис.
Матвей согласно кивнул.
— Надежда есть.
— Подождите, подождите! — вмешалась Оля. — Вы хоть понимаете, что сейчас говорите об убийстве? Вы тут спокойно, без колебаний, планируете уничтожить это… Этого…
