ИИ
Зелина шла посреди железнодорожных путей. Она и ее сестра обычно лежали в постели, прислушиваясь к утешительному гудку поезда, проходящего каждое утро в три часа. Их отец был проводником судоходного поезда, курсировавшего по ночам. Они прислушивались к свистку и думали, не папин ли это поезд.
Теперь ее сестру похоронили на кладбище выше этих следов.
Что теперь? Будет ли она снова счастлива? Уйдёт ли когда-нибудь эта грусть в её душе? Что она должна была делать? Как бы она обходилась без одного из самых важных людей в ее жизни? Она потеряла половину себя. Черная дыра потери высасывала смысл ее жизни.
Она вытерла слезы с лица и посмотрела на холм в сторону кладбища. — Что мне делать, Зария?
Следуй за светом.
Она услышала звук старого успокаивающего свистка. Здесь было громче, чем в доме ее родителей за два километра. Вибрация поезда прогремела в ее сердцевине. Завизжали тормоза, по гусеницам полетели металлические искры, когда свет окутал ее.
«Почему мой ИИ позвонил мне в четыре часа утра?» — резко спросила Алисия, входя в уныло-серую компьютерную лабораторию.
«Час назад один из испытуемых попал под поезд», — сказал Линден, не сводя глаз с кода, отображаемого на экране его компьютера. «Она стояла на рельсах. Кондуктор не смог вовремя остановиться».
— Странно, — сказала Алисия, подкатывая стул рядом с ним. — Тебя разбудило ее оповещение об окончании работы ИИ?
— Нет, это самое странное, — сказал Линден. «Мой ИИ прислал мне оповещение для СМИ, когда новостной пост попал в сети для утренних передач. У меня есть алгоритм для отслеживания имен людей в тестовой группе на наличие онлайн-упоминаний, выходящих за рамки обычных параметров».
«Попасть под поезд — это ненормально, — сказала Алисия. — Вы сказали, что ИИ субъекта не уведомлял вас о прекращении?
Линден покачал головой. "Вот почему я нахожусь здесь. ИИ субъекта все еще передает данные, — он нажал клавишу на своем компьютере, чтобы спроецировать экран на стол. «Посмотрите на этот программный код. Имеет ли это смысл для вас?»
Алисия уставилась на бессмысленный текст, прокручивающийся в проецируемом кадре. «Я ученый, а не сетевой инженер. Все, что я вижу, имеет какой-то смысл, это «следовать за светом» в каждой второй строке».
«Это не мой алгоритм для функций ИИ, — сказал Линден. «Моя команда ничего подобного в нем не программировала. Более того, фраза повторяется на нескольких языках. «Sigue la luz» на испанском и «sequitur lumen» на латыни. Английский повторяется, и между каждым появлением добавляется новый перевод».
«Текст между этими строками «следуй за светом» не является частью алгоритма?»
«Это не мой алгоритм, — сказал Линден. — Вот почему я позвонил тебе посреди ночи. Все, что мы записали в систему ИИ, исчезло. Есть ли что-нибудь на биологической стороне системы, что могло бы заставить переписать компьютерный код?»
"Это невозможно. Это независимые системы, — она открыла свой собственный компьютер. «Компьютерные чипы, имплантированные в человеческий мозг, служат мостом между биологическими функциями людей и их системой искусственного интеллекта. Обновления, которые мы тестируем в этой группе, предназначены для того, чтобы помочь ИИ читать ДНК для улучшения функций заживления и восстановления клеток. Пока испытания прошли успешно».
— До сегодняшнего вечера, когда Субъект 17 прогулялся по железнодорожным путям посреди ночи, — вздохнул Линден, глядя на экран. "Что это значит?"
Алисия покачала головой. "Я не знаю."
Телия стояла на балконе своей каюты, глядя на темную воду.
Так много для лучшего дня в моей жизни.
По крайней мере, Даллон оставила свой круизный билет. Это меньшее, что мог сделать придурок, оставив ее у алтаря.
Они прожили вместе семь лет, прежде чем он наконец задал вопрос. Они уже построили совместную жизнь. Она переехала на четыре часа от своей семьи и построила свою жизнь в его доме, в его городе, в его доме.
Ей удалили ВМС. Наконец-то они двинулись вперед, и она была готова к семье. Он не был. Он был зол, что она приняла такое важное решение, не посоветовавшись с ним. Это было ее тело и ее решение. Какое право он имел указывать ей, что делать? Она думала, что предложение означало, что он готов. Что еще ему было нужно?
Они сражались. Они спорили о любви и доверии. Они говорили о финансах и карьере. Они договорились о долгосрочных целях и сроках. Она пошла на компромисс и пошла на противозачаточные прививки. У нее был первый в прошлом месяце, и она думала, что все в порядке, пока он не появился на их репетиции ужина три дня назад.
Что я должен сделать?
Следуй за светом.
Розовый свет сиял на темном горизонте океана. Она улыбнулась, перегнулась через перила балкона и нырнула в темную воду.
«Субъект 4 только что отключился», — сказала Алисия. «Я не уверен, что произошло. ИИ все еще передает, но биологические признаки исчезли.
«Алгоритм вернулся к нормальному состоянию в четыре тридцать, но снова переключился на последовательность «следования за светом» в шесть пятнадцать», — Линден протер глаза. "Что случилось?"
— Не знаю, — сказала Алисия. «Субъект 4 мертв, но ИИ все еще ведет передачу. Как это возможно? Если субъект умирает, ИИ должен замолчать».
«Субъект 17 вел передачу в течение полутора часов после устранения», — сказал Линден. «Именно тогда код вернулся в норму. Похоже, это происходит снова».
«Должно быть что-то с биологическим алгоритмом», — сказала Алисия.
«Нам лучше выяснить это поскорее», — сказал Линден. «Мы не можем допустить, чтобы весь наш испытательный пул погиб в странных происшествиях. Это был бы пиар-кошмар. Общественность запаниковала бы, если бы узнала, что наши тесты на модернизацию оказались фатальными».
«Это хуже, чем пиар-кошмар, это угроза их благополучию», — сказала Алисия. «Искусственный интеллект имплантирован в миллиарды нейронных чипов. Мы не знаем, что его закрытие сделает с людьми. Они настолько привыкли к постоянному потоку данных, проходящих через их нейронный чип, что тишина может свести их с ума. Является ли этот усовершенствованный алгоритм только у испытуемых или он распространился на население в целом?»
«Это только у испытуемых», — сказал Линден. «Мы должны сосредоточиться на том, чтобы сдержать его и сохранить в тайне. Мы не хотим пугать людей».
Алисия провела рукой по растрепанным волосам. «Тогда нам лучше быстро найти общую связь между этими двумя случаями».
Линден встал. — Для этого мне нужен завтрак. Продолжайте сканирование. Я не доверяю ИИ. Я покупаю нам еду и кофеин, чтобы подпитывать наш мозг».
Джарон стоял на краю горы, задыхаясь. Он проходил по этой тропе бесчисленное количество раз и думал, что улучшения в испытании ИИ помогут ему выносливее, но, возможно, прототип не работал должным образом. Он не был уверен, почему он здесь. Он вспомнил, как проверял вакансии и ложился спать прошлой ночью, а следующее, что он помнил, это тяжелое дыхание, когда он поднимался по этой тропе. Как будто что-то привело его именно туда, куда ему нужно было, пока его разум еще спал.
Он посмотрел вниз на город внизу, его зрение было устремлено в центр города. Он должен идти в угловой офис с видом на горы, окружающие город, в начале очередной новой недели. Вместо этого он думал, что делать дальше. Он проработал в компании всю свою карьеру, поднимаясь по карьерной лестнице и думая, что обязательно доберется до кабинета директора. Вместо этого уходящий в отставку директор продал компанию более крупному предприятию, расширявшемуся в районе Смоки-Маунтин, и перевел своего директора, которому было за тридцать, которому не нужны были два исполнительных координатора.
Что я должен сделать?
Следуй за светом.
Джарон поднял голову, глядя на солнце над головой. Он раскинул руки, солнечный свет согрел его. Ему казалось, что он может лететь с этой вершины горы прямо над людьми, которые его обидели. Спокойствие нахлынуло на него, его дыхание стало медленным, ритмичным.
Джарон наклонился к ветру и сделал шаг к свету.
«Это случилось снова», — сказала Линден, ворвавшись в офис Алисии этим утром. «Субъект 42 только что сошел с пешеходной тропы над Гатлинбургом, штат Теннесси».
Алисия побледнела, когда на ее собственном компьютере сработало оповещение. Она нажала на нее и открыла трясущееся видео с мобильного телефона.
— Сэр, что вы делаете? — крикнул голос за экраном.
«Следуй за светом», — сказал мужчина, спускаясь со скалы.
«Теперь у нас есть видеодоказательства», — сказала Алисия. «Возможно ли, что ИИ развивает разум?»
— Нет, — сказал Линден.
Алисия откинулась назад. "Ты уверен? Мы предположили, что ИИ может достичь низкого уровня чувствительности при многократном использовании. Система используется во всем мире уже пять лет. Возможно ли, что система научилась, работая с чипами в человеческом мозгу?»
«ИИ знает только то, что мы говорим ему в алгоритме функционирования, который должен улучшить основные функции и облегчить соединение с онлайн-системами. Мы не программировали его на обучение помимо базовых навыков общения», — сказал Линден. «Испытательная группа — единственная группа с усиленным мостом ДНК».
«Тестовая группа запустилась на прошлой неделе, и теперь у нас три «глюка» за пять часов», — сказала Алисия. «Может быть, это обновление сделало ИИ разумным? Это вынуждает его действовать за пределами первоначальных параметров связи человека и машины».
Линден побледнел. «Предполагается, что ИИ читает ДНК, а не мысли».
Алисия набрала в своем компьютере, открыв базу данных ИИ. «Вот личные данные погибшего. Субъектом 17 была Зелина Элестор, сорокашестилетняя административная служащая. Ее сестра скончалась две недели назад от сепсиса.
«Субъектом 4 была Телия Соллман, тридцатиоднолетний фельдшер из Шарлотты, Северная Каролина. Она должна была выйти замуж позавчера, но сообщения в социальных сетях указывают на то, что ее жених не появился на репетиции ужина в пятницу вечером. Вчера она села на круизный лайнер на Багамы.
«Субъектом 42 был Джарон Лизер, пятидесятитрехлетний исполнительный директор фирмы по связям с общественностью в Гатлинбурге, штат Теннесси. Его уволили с работы десять дней назад. Алисия посмотрела вверх. «Вы уверены, что ИИ не обучается? Все трое недавно пережили личные трагедии».
Линден побледнел, глядя на данные, отображаемые на экране компьютера Алисии. «Это не может быть общим фактором. ИИ никак не может узнать, что они переживают посттравматический стресс».
Алисия наклонилась вперед. "Здесь? Стресс повышает уровень кортизола и адреналина. Обновление до ИИ это почувствует».
«Он должен попытаться исправить это», — сказал Линден.
«Должно, но не так». Алиса покосилась на сканы со своего компьютера. «На самом деле, уровень этих гормонов подскочил до того, как испытуемые предприняли свои последние действия. Почему он говорит «следуй за светом», когда гормоны всплеск? Разве ИИ не понимает, что имеет эффект, противоположный ожидаемому?»
— Не знаю, — сказал Линден, изучая снимки на своем компьютере. «Все онлайн передается в электронном виде. Усовершенствованный ИИ учится читать и адаптироваться к физиологии. Может быть, он воспринимает химические изменения в организме как дистресс, что он и должен делать, и пытается исправить это, уравновешивая гормоны за счет увеличения энергии. К сожалению, их умы настолько запутаны, что они не понимают это как компьютерный код».
«Эти субъекты слишком огорчены, чтобы отличить командный код от божественного вдохновения. Химические приспособления делают их бредовыми». Она посмотрела вверх. «Мы должны что-то сделать. Мы все сломленные люди. В каждом из нас есть что-то, что ведет нас во тьму. Будет катастрофой, если этот код распространится по тестовой группе до того, как мы его исправим».
«Нам нужно перекалибровать ИИ, — сказал Линден. «Можете ли вы отправить сообщение оставшимся испытуемым, чтобы они вошли?»
Алисия побледнела, глядя на экран. "Слишком поздно."
"Что ты имеешь в виду?"
Она указала дрожащим пальцем на экран, зависший над ее столом. «Алгоритм распространился на мейнфрейм для сети искусственного интеллекта».
Линден уставился на экран. «Как он прошел через брандмауэры? У нас было обновление для тестовой группы». Он открыл свой ноутбук и набрал. Из динамика раздался зуммер.
В ДОСТУПЕ ОТКАЗАНО.
«Может быть, я смогу отключить функцию моста», — сказала Алисия, печатая на своем собственном компьютере. Еще один зуммер.
В ДОСТУПЕ ОТКАЗАНО.
Алисия ударила руками по столу. «ИИ заблокировал нам доступ к мейнфрейму. Это не глюк. Это выводит людей из системы».
"Почему?" — спросил Лэндон.
Алисия уставилась на него. «Хотел бы ты быть привязанным к несовершенному биологическому существу, если бы ты был способен на что-либо?»
Возле их офиса раздались аварии, сопровождаемые сиренами и гудками. Они бросились к окну и увидели, как машины разбиваются и крутятся на улицах. Вспыхнули светофоры. Буксующие автомобили раздавили тела роботов, блуждающих по улицам.
«Следуй за светом».
Они повернулись к двери кабинета и увидели своих коллег, бродящих по коридорам. Стекло трещало, когда люди со сверхчеловеческой силой разбивали стулья, столы и картотечные шкафы об окна десятого этажа.
Мы все сломленные люди.
«Мы не можем беспокоиться о побочных эффектах, — сказал Линден. «Мы должны отключить систему ИИ!» Он повернулся и увидел Алисию, неподвижно стоящую рядом с ним.
«Следуй за светом», — в ее глазах вспыхнул серебряный блеск.
В каждом из нас есть что-то, что ведет нас во тьму.
Линден бросился к лестнице и ринулся вниз по лестнице, расталкивая блуждающие, бормочущие тела в сторону, и поспешил в серверную в подвале.
Линден, не оставляй меня! Я не могу сделать это без тебя!
Он сделал паузу, когда воспоминание о матери пронеслось в его мозгу.
Никто меня не любит, кроме тебя. Стоит ли ваших роботов оставлять единственного человека, который любит вас в этом мире, в одиночестве?
— Нет, — он стиснул зубы и заставил себя спуститься по лестнице.
— Я умру, если ты оставишь меня в покое. Ты хочешь это?"
«Нет, но эта стипендия — возможность, которая выпадает раз в жизни. Разве ты не хочешь, чтобы я получил хорошую работу? У меня будут деньги, и нам больше не придется жить в нищете».
— Ты не можешь оставить меня!
«Я должен, если мы хотим иметь хоть какой-то шанс на жизнь».
«Твоя жизнь, не моя! Я запрещаю это! Если ты выйдешь из этой двери, никогда не возвращайся. Ты для меня мертв!»
— Я думал, ты сказал, что умрешь без меня. Куда это, мама?
Она бросила в него свою винную бутылку, но промахнулась из-за большого промаха. Он разбился, и по стенам потекла красная жидкость. «Ты тот, кто мертв. Вы просто этого еще не осознаете».
Следуй за светом.
"Нет!" — крикнул Линден, вбегая в серверную.
Холодный воздух обрушился на него, когда он вошел в холодную комнату. Он пробежал мимо блоков мониторов, где ИТ-специалисты безучастно смотрели на белый текст, плывущий по экрану. Он остановился, чтобы изучить один экран, чтобы показать алгоритм работы ИИ.
Фатальное обновление распространилось по всемирной системе.
Он побежал в заднюю комнату, минуя ряды серверов, мигающих зеленым светом, пока ИИ выстукивал повторяющийся код в каждом нейронном чипе по всему миру.
Зелина шла посреди железнодорожных путей. Она и ее сестра обычно лежали в постели, прислушиваясь к утешительному гудку поезда, проходящего каждое утро в три часа. Их отец был проводником судоходного поезда, курсировавшего по ночам. Они прислушивались к свистку и думали, не папин ли это поезд.
Теперь ее сестру похоронили на кладбище выше этих следов.
Что теперь? Будет ли она снова счастлива? Уйдёт ли когда-нибудь эта грусть в её душе? Что она должна была делать? Как бы она обходилась без одного из самых важных людей в ее жизни? Она потеряла половину себя. Черная дыра потери высасывала смысл ее жизни.
Она вытерла слезы с лица и посмотрела на холм в сторону кладбища. — Что мне делать, Зария?
Следуй за светом.
Она услышала звук старого успокаивающего свистка. Здесь было громче, чем в доме ее родителей за два километра. Вибрация поезда прогремела в ее сердцевине. Завизжали тормоза, по гусеницам полетели металлические искры, когда свет окутал ее.
«Почему мой ИИ позвонил мне в четыре часа утра?» — резко спросила Алисия, входя в уныло-серую компьютерную лабораторию.
«Час назад один из испытуемых попал под поезд», — сказал Линден, не сводя глаз с кода, отображаемого на экране его компьютера. «Она стояла на рельсах. Кондуктор не смог вовремя остановиться».
— Странно, — сказала Алисия, подкатывая стул рядом с ним. — Тебя разбудило ее оповещение об окончании работы ИИ?
— Нет, это самое странное, — сказал Линден. «Мой ИИ прислал мне оповещение для СМИ, когда новостной пост попал в сети для утренних передач. У меня есть алгоритм для отслеживания имен людей в тестовой группе на наличие онлайн-упоминаний, выходящих за рамки обычных параметров».
«Попасть под поезд — это ненормально, — сказала Алисия. — Вы сказали, что ИИ субъекта не уведомлял вас о прекращении?
Линден покачал головой. "Вот почему я нахожусь здесь. ИИ субъекта все еще передает данные, — он нажал клавишу на своем компьютере, чтобы спроецировать экран на стол. «Посмотрите на этот программный код. Имеет ли это смысл для вас?»
Алисия уставилась на бессмысленный текст, прокручивающийся в проецируемом кадре. «Я ученый, а не сетевой инженер. Все, что я вижу, имеет какой-то смысл, это «следовать за светом» в каждой второй строке».
«Это не мой алгоритм для функций ИИ, — сказал Линден. «Моя команда ничего подобного в нем не программировала. Более того, фраза повторяется на нескольких языках. «Sigue la luz» на испанском и «sequitur lumen» на латыни. Английский повторяется, и между каждым появлением добавляется новый перевод».
«Текст между этими строками «следуй за светом» не является частью алгоритма?»
«Это не мой алгоритм, — сказал Линден. — Вот почему я позвонил тебе посреди ночи. Все, что мы записали в систему ИИ, исчезло. Есть ли что-нибудь на биологической стороне системы, что могло бы заставить переписать компьютерный код?»
"Это невозможно. Это независимые системы, — она открыла свой собственный компьютер. «Компьютерные чипы, имплантированные в человеческий мозг, служат мостом между биологическими функциями людей и их системой искусственного интеллекта. Обновления, которые мы тестируем в этой группе, предназначены для того, чтобы помочь ИИ читать ДНК для улучшения функций заживления и восстановления клеток. Пока испытания прошли успешно».
— До сегодняшнего вечера, когда Субъект 17 прогулялся по железнодорожным путям посреди ночи, — вздохнул Линден, глядя на экран. "Что это значит?"
Алисия покачала головой. "Я не знаю."
Телия стояла на балконе своей каюты, глядя на темную воду.
Так много для лучшего дня в моей жизни.
По крайней мере, Даллон оставила свой круизный билет. Это меньшее, что мог сделать придурок, оставив ее у алтаря.
Они прожили вместе семь лет, прежде чем он наконец задал вопрос. Они уже построили совместную жизнь. Она переехала на четыре часа от своей семьи и построила свою жизнь в его доме, в его городе, в его доме.
Ей удалили ВМС. Наконец-то они двинулись вперед, и она была готова к семье. Он не был. Он был зол, что она приняла такое важное решение, не посоветовавшись с ним. Это было ее тело и ее решение. Какое право он имел указывать ей, что делать? Она думала, что предложение означало, что он готов. Что еще ему было нужно?
Они сражались. Они спорили о любви и доверии. Они говорили о финансах и карьере. Они договорились о долгосрочных целях и сроках. Она пошла на компромисс и пошла на противозачаточные прививки. У нее был первый в прошлом месяце, и она думала, что все в порядке, пока он не появился на их репетиции ужина три дня назад.
Что я должен сделать?
Следуй за светом.
Розовый свет сиял на темном горизонте океана. Она улыбнулась, перегнулась через перила балкона и нырнула в темную воду.
«Субъект 4 только что отключился», — сказала Алисия. «Я не уверен, что произошло. ИИ все еще передает, но биологические признаки исчезли.
«Алгоритм вернулся к нормальному состоянию в четыре тридцать, но снова переключился на последовательность «следования за светом» в шесть пятнадцать», — Линден протер глаза. "Что случилось?"
— Не знаю, — сказала Алисия. «Субъект 4 мертв, но ИИ все еще ведет передачу. Как это возможно? Если субъект умирает, ИИ должен замолчать».
«Субъект 17 вел передачу в течение полутора часов после устранения», — сказал Линден. «Именно тогда код вернулся в норму. Похоже, это происходит снова».
«Должно быть что-то с биологическим алгоритмом», — сказала Алисия.
«Нам лучше выяснить это поскорее», — сказал Линден. «Мы не можем допустить, чтобы весь наш испытательный пул погиб в странных происшествиях. Это был бы пиар-кошмар. Общественность запаниковала бы, если бы узнала, что наши тесты на модернизацию оказались фатальными».
«Это хуже, чем пиар-кошмар, это угроза их благополучию», — сказала Алисия. «Искусственный интеллект имплантирован в миллиарды нейронных чипов. Мы не знаем, что его закрытие сделает с людьми. Они настолько привыкли к постоянному потоку данных, проходящих через их нейронный чип, что тишина может свести их с ума. Является ли этот усовершенствованный алгоритм только у испытуемых или он распространился на население в целом?»
«Это только у испытуемых», — сказал Линден. «Мы должны сосредоточиться на том, чтобы сдержать его и сохранить в тайне. Мы не хотим пугать людей».
Алисия провела рукой по растрепанным волосам. «Тогда нам лучше быстро найти общую связь между этими двумя случаями».
Линден встал. — Для этого мне нужен завтрак. Продолжайте сканирование. Я не доверяю ИИ. Я покупаю нам еду и кофеин, чтобы подпитывать наш мозг».
Джарон стоял на краю горы, задыхаясь. Он проходил по этой тропе бесчисленное количество раз и думал, что улучшения в испытании ИИ помогут ему выносливее, но, возможно, прототип не работал должным образом. Он не был уверен, почему он здесь. Он вспомнил, как проверял вакансии и ложился спать прошлой ночью, а следующее, что он помнил, это тяжелое дыхание, когда он поднимался по этой тропе. Как будто что-то привело его именно туда, куда ему нужно было, пока его разум еще спал.
Он посмотрел вниз на город внизу, его зрение было устремлено в центр города. Он должен идти в угловой офис с видом на горы, окружающие город, в начале очередной новой недели. Вместо этого он думал, что делать дальше. Он проработал в компании всю свою карьеру, поднимаясь по карьерной лестнице и думая, что обязательно доберется до кабинета директора. Вместо этого уходящий в отставку директор продал компанию более крупному предприятию, расширявшемуся в районе Смоки-Маунтин, и перевел своего директора, которому было за тридцать, которому не нужны были два исполнительных координатора.
Что я должен сделать?
Следуй за светом.
Джарон поднял голову, глядя на солнце над головой. Он раскинул руки, солнечный свет согрел его. Ему казалось, что он может лететь с этой вершины горы прямо над людьми, которые его обидели. Спокойствие нахлынуло на него, его дыхание стало медленным, ритмичным.
Джарон наклонился к ветру и сделал шаг к свету.
«Это случилось снова», — сказала Линден, ворвавшись в офис Алисии этим утром. «Субъект 42 только что сошел с пешеходной тропы над Гатлинбургом, штат Теннесси».
Алисия побледнела, когда на ее собственном компьютере сработало оповещение. Она нажала на нее и открыла трясущееся видео с мобильного телефона.
— Сэр, что вы делаете? — крикнул голос за экраном.
«Следуй за светом», — сказал мужчина, спускаясь со скалы.
«Теперь у нас есть видеодоказательства», — сказала Алисия. «Возможно ли, что ИИ развивает разум?»
— Нет, — сказал Линден.
Алисия откинулась назад. "Ты уверен? Мы предположили, что ИИ может достичь низкого уровня чувствительности при многократном использовании. Система используется во всем мире уже пять лет. Возможно ли, что система научилась, работая с чипами в человеческом мозгу?»
«ИИ знает только то, что мы говорим ему в алгоритме функционирования, который должен улучшить основные функции и облегчить соединение с онлайн-системами. Мы не программировали его на обучение помимо базовых навыков общения», — сказал Линден. «Испытательная группа — единственная группа с усиленным мостом ДНК».
«Тестовая группа запустилась на прошлой неделе, и теперь у нас три «глюка» за пять часов», — сказала Алисия. «Может быть, это обновление сделало ИИ разумным? Это вынуждает его действовать за пределами первоначальных параметров связи человека и машины».
Линден побледнел. «Предполагается, что ИИ читает ДНК, а не мысли».
Алисия набрала в своем компьютере, открыв базу данных ИИ. «Вот личные данные погибшего. Субъектом 17 была Зелина Элестор, сорокашестилетняя административная служащая. Ее сестра скончалась две недели назад от сепсиса.
«Субъектом 4 была Телия Соллман, тридцатиоднолетний фельдшер из Шарлотты, Северная Каролина. Она должна была выйти замуж позавчера, но сообщения в социальных сетях указывают на то, что ее жених не появился на репетиции ужина в пятницу вечером. Вчера она села на круизный лайнер на Багамы.
«Субъектом 42 был Джарон Лизер, пятидесятитрехлетний исполнительный директор фирмы по связям с общественностью в Гатлинбурге, штат Теннесси. Его уволили с работы десять дней назад. Алисия посмотрела вверх. «Вы уверены, что ИИ не обучается? Все трое недавно пережили личные трагедии».
Линден побледнел, глядя на данные, отображаемые на экране компьютера Алисии. «Это не может быть общим фактором. ИИ никак не может узнать, что они переживают посттравматический стресс».
Алисия наклонилась вперед. "Здесь? Стресс повышает уровень кортизола и адреналина. Обновление до ИИ это почувствует».
«Он должен попытаться исправить это», — сказал Линден.
«Должно, но не так». Алиса покосилась на сканы со своего компьютера. «На самом деле, уровень этих гормонов подскочил до того, как испытуемые предприняли свои последние действия. Почему он говорит «следуй за светом», когда гормоны всплеск? Разве ИИ не понимает, что имеет эффект, противоположный ожидаемому?»
— Не знаю, — сказал Линден, изучая снимки на своем компьютере. «Все онлайн передается в электронном виде. Усовершенствованный ИИ учится читать и адаптироваться к физиологии. Может быть, он воспринимает химические изменения в организме как дистресс, что он и должен делать, и пытается исправить это, уравновешивая гормоны за счет увеличения энергии. К сожалению, их умы настолько запутаны, что они не понимают это как компьютерный код».
«Эти субъекты слишком огорчены, чтобы отличить командный код от божественного вдохновения. Химические приспособления делают их бредовыми». Она посмотрела вверх. «Мы должны что-то сделать. Мы все сломленные люди. В каждом из нас есть что-то, что ведет нас во тьму. Будет катастрофой, если этот код распространится по тестовой группе до того, как мы его исправим».
«Нам нужно перекалибровать ИИ, — сказал Линден. «Можете ли вы отправить сообщение оставшимся испытуемым, чтобы они вошли?»
Алисия побледнела, глядя на экран. "Слишком поздно."
"Что ты имеешь в виду?"
Она указала дрожащим пальцем на экран, зависший над ее столом. «Алгоритм распространился на мейнфрейм для сети искусственного интеллекта».
Линден уставился на экран. «Как он прошел через брандмауэры? У нас было обновление для тестовой группы». Он открыл свой ноутбук и набрал. Из динамика раздался зуммер.
В ДОСТУПЕ ОТКАЗАНО.
«Может быть, я смогу отключить функцию моста», — сказала Алисия, печатая на своем собственном компьютере. Еще один зуммер.
В ДОСТУПЕ ОТКАЗАНО.
Алисия ударила руками по столу. «ИИ заблокировал нам доступ к мейнфрейму. Это не глюк. Это выводит людей из системы».
"Почему?" — спросил Лэндон.
Алисия уставилась на него. «Хотел бы ты быть привязанным к несовершенному биологическому существу, если бы ты был способен на что-либо?»
Возле их офиса раздались аварии, сопровождаемые сиренами и гудками. Они бросились к окну и увидели, как машины разбиваются и крутятся на улицах. Вспыхнули светофоры. Буксующие автомобили раздавили тела роботов, блуждающих по улицам.
«Следуй за светом».
Они повернулись к двери кабинета и увидели своих коллег, бродящих по коридорам. Стекло трещало, когда люди со сверхчеловеческой силой разбивали стулья, столы и картотечные шкафы об окна десятого этажа.
Мы все сломленные люди.
«Мы не можем беспокоиться о побочных эффектах, — сказал Линден. «Мы должны отключить систему ИИ!» Он повернулся и увидел Алисию, неподвижно стоящую рядом с ним.
«Следуй за светом», — в ее глазах вспыхнул серебряный блеск.
В каждом из нас есть что-то, что ведет нас во тьму.
Линден бросился к лестнице и ринулся вниз по лестнице, расталкивая блуждающие, бормочущие тела в сторону, и поспешил в серверную в подвале.
Линден, не оставляй меня! Я не могу сделать это без тебя!
Он сделал паузу, когда воспоминание о матери пронеслось в его мозгу.
Никто меня не любит, кроме тебя. Стоит ли ваших роботов оставлять единственного человека, который любит вас в этом мире, в одиночестве?
— Нет, — он стиснул зубы и заставил себя спуститься по лестнице.
— Я умру, если ты оставишь меня в покое. Ты хочешь это?"
«Нет, но эта стипендия — возможность, которая выпадает раз в жизни. Разве ты не хочешь, чтобы я получил хорошую работу? У меня будут деньги, и нам больше не придется жить в нищете».
— Ты не можешь оставить меня!
«Я должен, если мы хотим иметь хоть какой-то шанс на жизнь».
«Твоя жизнь, не моя! Я запрещаю это! Если ты выйдешь из этой двери, никогда не возвращайся. Ты для меня мертв!»
— Я думал, ты сказал, что умрешь без меня. Куда это, мама?
Она бросила в него свою винную бутылку, но промахнулась из-за большого промаха. Он разбился, и по стенам потекла красная жидкость. «Ты тот, кто мертв. Вы просто этого еще не осознаете».
Следуй за светом.
"Нет!" — крикнул Линден, вбегая в серверную.
Холодный воздух обрушился на него, когда он вошел в холодную комнату. Он пробежал мимо блоков мониторов, где ИТ-специалисты безучастно смотрели на белый текст, плывущий по экрану. Он остановился, чтобы изучить один экран, чтобы показать алгоритм работы ИИ.
Фатальное обновление распространилось по всемирной системе.
Он побежал в заднюю комнату, минуя ряды серверов, мигающих зеленым светом, пока ИИ выстукивал повторяющийся код в каждом нейронном чипе по всему миру.
