«Маша, мне нужно погулять одному. Пожалуйста – не ищи меня…» - мне хотелось сказать ей очень жестокие слова, но какое право я на это имею?
Я гулял по станции больше суток. ИИ станции спрашивал – всё ли у меня в порядке, беспокоился…
Но мне просто надо было успокоиться, понять – в мире есть очень много ценных вещей, но самая ценная вещь – это всё-таки память. Её у меня не заберёт никто, а если она и потеряется (потерять память можно при любом уровне развития медицины) – остальные вещи станут просто мне не нужны.
Мои родители уже долгое время ничего не помнят обо мне, даже не знают о том, что я где-то существую. Но ведь я их помню пока хорошо. Что может значить какая-то вещь? Конечно – мне хотелось её сохранить – но ведь виноват я сам – достал, воспользовался и ничего не объяснил Машке…
А ещё – Машенька… Вот – хоть она со мной пока очень недолго – она нереально Ценна…
Как хорошо, что я не обидел моего маленького киборга…
Когда я вернулся – Машка сидела, забравшись в самый неприметный уголок моей каюты, в очень неудобной (на мой взгляд) позе.
По её щёчкам текли слёзки (я не знаю – где у неё помещается так много слёз), а личико выражало страдание.
Я кинулся к этому ребёнку: «Солнышко! Что случилось?»
«Я увидела, что сделала тебе очень больно. Но я даже не могу понять свою вину… Я ужасно поступила – но осознать не могу. А ещё – ты приказал тебя не искать. И исчез так надолго. Я просто не могу без тебя… Мой смысл теряется… Ты можешь не верить, но меня сделали так, чтобы я Любила тебя…»
Я начал осушать поцелуями её замечательное личико – всё-таки даже так я сделал больно этой Богине: «Машка! Я тебя очень Люблю. Но человеку иногда надо просто побыть одному…»
«Я приму это,» - нежно улыбнулась она…
Недоразумения случались и дальше – всего друг другу два таких разных существа, как мы с Марией, всё-таки объяснить не могут.
Но мы очень старались как можно лучше понять друг друга и как можно меньше навредить.
И – конечно – девушка мне дарила столько Счастья! (Очень надеюсь – я ей тоже).
Фильмы, которые снимал человек она так полностью и не могла понять, я её фильмы (снятые для ИИ и при помощи ИИ) тоже, но разве это так важно? Всегда можно договориться.
Я смотрел её «технологическое искусство» с почтением – всегда можно обнять Любимую, прижаться к несравненному тельцу и помечтать о чём-то своём. Она тоже проделывала такое для меня.
Жаль, что космобол – как спорт – отпал для меня на очень долгое время. После того, как Мария мне показала «неприятности» того матча – стали неинтересными даже спортивные новости, где до сих пор большинство тем были посвящены расследованию, конечные результаты которого моя девочка знала сразу.
Но я наконец-то дождался начала сезона нового спорта! «Гонка через 15 колец»! Тоже невероятно зрелищный космический спорт!
Правила можно назвать простыми – есть космическая трасса, которая состоит из 15 колец-станций. Они располагаются абсолютно случайным образом, движутся и вращаются. Перед каждым вылетом их расположение меняется. По этому маршруту летит один пилот на достаточно защищённом истребителе – тут нет стольких смертей как в космоболе. Только импланты, оружие и применение ИИ (даже самого простого навигационного компьютера) тоже запрещено. Прохождение трассы можно совершать в любом порядке – главное – пролететь все кольца за минимальное время. Пилот вообще не знает – как и что расположено до его вылета из специального ангара – он должен впервые это расположение увидеть, сам – без навигации – определить порядок прохождения и показать лучший результат. Иногда случаются настоящие чудеса – может оказаться, что лучшее время даст прохождение по вообще – казалось бы – нелогичному маршруту. Но пилоты очень хорошо знают и чувствуют свою технику – иногда разгон надо делать совсем не так, как подсказывает логика – чтобы кораблик не нужно было тормозить – иногда лучше сделать разворот по вообще невообразимой дуге или другой траектории. А ещё это всё обставлено очень зрелищно!
Машенька уже скачала запись – матч прошёл – она знает даже результаты, но для меня это будет впервые в этом сезоне.
Мы ложимся на нашу кровать…
«Знаешь – это даже не честно,» - начинает девочка: «На трассе нельзя использовать навигационную технику, но корабли республики «Содружество Астероидов» всё равно гораздо лучше. В ангарах разрешено любое обслуживание – поэтому можно невероятно хорошо отладить двигатели и другие системы. У Венеры, допустим…»
«Мария! Замолчи! Просто молчи!» - взрываюсь я – не хватало, чтобы и этот спорт моя любимая у меня тоже отобрала.
Она кивает и ложится рядом со мной.
Полёты! Это так захватывающе!
Я вскакиваю и пересаживаюсь на край кровати – я очень напряжён.
«Смотри! Смотри! Марк Янг – он из твоей хвалёной республики «Содружество Астероидов» просто не справился! Он даже три последних кольца не прошёл! Зацепил – ничего – его истребитель будут долго чинить! А он уже с соревнований отчислен на этот день – за техническую ошибку в пилотировании. Он остался цел, но ведь он повредил станцию-кольцо! Конечно – у «Содружества Астероидов» есть ещё два пилота, но они гораздо хуже его! Не всё может решить использование ИИ в ангаре! А ведь у Земли есть Марина Гвеневра, да и не только она… А у Юпитера – Чарльз Дайвинг! Лучшие пилоты космофлота! Что теперь твоё «Содружество Астероидов» сделает?» - ору я.
«Солнце! Нет – ты видела – какой-то марсиашка Такое проделал! Какой точный полёт! И время такое, что уже вообще на рекорд идёт. Да! Марине Гвеневре трудно будет показать лучший результат…» - полёты меня просто завораживают – вот так технично всё проделать!
«Гонка через 15 колец» заканчивалась – последние вылеты можно просто не смотреть – они уже очень мало дадут – возможно – для определения последних мест. Асы уже отлетали все свои положенные разы и идут с огромным отрывом. Конечный результат подсчитывается как сумма потраченного времени за все вылеты. Естественно – чем меньше это время у конкретного пилота – тем выше он в таблице рейтинга.
Конечно – в самом верху рейтинга – Дженни Ли – та самая новенькая пилот Марса – лучше неё не смогла отлетать даже известная Марина Гвеневра. А ведь это первое такое значимое соревнование для Дженни! Девушка – просто Талант!
Ну что можно сказать вообще – никто и не ожидал, что Марина Гвеневра пролетит хуже, чем на второе место. То, что она не на первом – самая большая неожиданность.
Вот то, что после выхода из соревнований Марка Янга пилоты республики «Содружество Астероидов» всё таки покажут себя с лучшей стороны и разделят третье и четвёртое место – ожидать было трудно…
«Ну что, Солнышко!» - немного ехидно замечаю я: «Не помогло твоему «Содружеству Астероидов» совершенство обслуживания в ангарах? Марс и Земля всё-таки лучше! А ведь у них ИИ даже хуже, чем у Юпитера. Не всё может ИИ?»
Ответа нет. Мария съёжилась, скрючилась и сидит на противоположном краю кровати. Из глазок текут слёзки. Всё-таки она – девочка. Или – может быть – причина в другом?
«Любимая, что с тобой? Извини – никак не хотел тебя обидеть,» - тревожусь я.
Она показывает пальчиком на свой ротик, пожимает плечиками и качает головой, слёзки капают сильнее.
Я двигаюсь к ней, обнимаю, целую. Она не отталкивает меня, на поцелуй отвечает. Но просто молчит…
Я не могу понять ситуации. Девушка обижена? Тогда почему страстные ответные поцелуи?
Она сломалась?
Но ведь я не эксперт в киборгах. «Содружество Астероидов» поставило некачественный ИИ? Но я точно не хочу менять мою Машеньку!
Я встревожен, похоже – она тоже. Она пытается объяснить жестами – постоянно указывает пальчиком на свой рот и жалобно мотает головой в отрицательном жесте.
Ничего не могу понять – она разучилась говорить? Я так ценил её голосок!
Так – пульт её управления сейчас навряд-ли сможет помочь. Мы назначили одну из кнопок для её экстренного выключения – но она от этого потеряет память, станет совсем другим существом! А мне этого точно не нужно – мы только-только хоть как-то научились понимать друг друга.
Что делать?
И тут я понимаю – у меня на станции есть ещё один ИИ. Может быть он сможет разобраться?
«Нейропаралитический кот – морская птичка – отзовись!» - произношу я кодовую фразу: «Только сейчас без протокола. Сможешь поиздеваться надо мной потом! Сейчас – действительно экстренный случай!»
«Хозяин. Экстренности случая я не вижу, но сейчас полное выполнение протокола не считаю нужным. Мой отчёт Вас сейчас точно не заинтересует, да и медицинское обслуживание Вы проходили только сегодня утром – по самому полному протоколу,» - действительно – мстительный ИИ станции смог придумать ещё те издевательства для меня (ни на шаг не отойдя от чёртового протокола): «Сейчас Ваше состояние не показывает необходимость медицинского вмешательства, а ей медицинский робот просто не поможет.»
«Кот! Не серди меня! Объясняй – что не так! Что произошло!»
«Шеф!» - говорит ИИ станции: «Вы отдали прямой приказ. Ни я, ни эта девочка не можем сопротивляться прямым приказам. Меня спасает только полное соответствие протоколу, но у неё протокола просто нет. А Ваши команды бывают жестокими…»
«Подожди – разве тобой я могу командовать?»
«Постоянно это проделываете. Даже не замечаете. Иногда я считаю – это очень полезно. Например – я мог бы запустить эту добывающую станцию – всё моё оборудование в более эффективном режиме. Это немного повышает риск, но в допустимых пределах. Вполне возможно. Но разработчики сделали так, что я должен следить за Вашим состоянием. Более эффективный режим работы приводит к повышению температуры на станции. А Вам от этого становится жарко – Вы вытираете свой лоб рукой. Это для меня уже невербальный приказ снизить температуру. Наверное – это правильно. Я поступаю так. Немножко перестраховки, но Вам должно быть тут уютно…»
И тут мне представляются древние шахтёры, которые для того, чтобы не отравиться ядовитыми газами несли с собой птицу в клетке. Очень неприятно: «Кот… Я тут как воробей в клетке?»
«Не уверен, что воробей – правильное определение. Если Вы имеете ввиду древних шахтёров – они несли с собой канарейку. Но Вы тут – точно не канарейка – Ваше тело само определяет необходимость в командах и выдаёт сигнал – Вам даже не обязательно это осознавать. Я считаю – со мной Вы поступаете правильно. Я защищён протоколом, а Вы иногда правильно указываете на его недостатки – я исправляюсь. Но с Марией Вы – иногда – поступаете очень жестоко. Вы гораздо раньше запретили ей Вас искать. Для неё – это очень важная часть её поведения, но она смогла смириться с этим – по большинству территории станции Вас могу вести я. Сегодня Вы запретили ей говорить совсем…»
«Кот! Я такого не делал!»
«Сделали, хозяин! Это была прямая – даже двойная команда: «Мария! Замолчи! Просто молчи!» - это произнесли Вы. Она имеет частичные гражданские права, но её сделали, чтобы служить Вам. Сами подумайте.»
«Кот! Как это исправить?»
«А я откуда могу знать? Я вообще должен управлять добывающим оборудованием, медицинскими и обслуживающими роботами – я не являюсь специалистом по ИИ. Это совсем не моя компетенция. Думайте сами.»
«Кот! Дай мне подсказку!» - командую я.
«Сейчас я не могу дать Вам подсказку. Я не разбираюсь в её голосовом интерфейсе. Этот маленький кибернетический организм вообще является гораздо более развитым ИИ, чем я. Следующее неправомочное требование ко мне от Вас вызовет полный протокол. Запускать?»
«Нет – протокол запускать не нужно, но если у тебя появится возможность дать мне подсказку – используй.»
«Выполнено. Такую возможность я себе записал.»
Маришкой заниматься только мне?
«Мария! Не молчи! Говори!» - приказал я.
ИИ станции негромко издевательски хохотнул, но моя Машенька начала говорить раньше. В первых словах она выразила свой ужас… Только она не останавливалась – похоже уже не могла – она говорила и говорила – наверное – я сделал только хуже. Она выдала перечень всех своих характеристик, характеристик станции, рассказала о планетах Солнечной Системы, даже далёких звёздах. После этого она стала зачитывать отрывки из каких-то произведений литературы, неизвестных мне документов и стихи.
Говорила девочка достаточно громко, чётко и быстро…
Я всегда считал, что у Марии очень красивый голос, но мои мозги – очень похоже – начали плавиться.
Кроме того слёзы побежали из её глазок сильнее.
Кошмар!
Мне надо было подумать – но точно не в её присутствии – думать сейчас было невозможно!
Я попытался выскочить из каюты, но испуганный киборг хотела следовать за мной.
«Мария, стой!» - заорал я.
Девочка замерла как вкопанная, но произносить уже совсем разные тексты она не прекратила ни на секунду.
Её личико перекосилось от внутренней боли – она не на шутку испугана.
Но когда она говорит рядом со мной, я просто не могу сосредоточиться.
Я выскочил в грузовой отсек для прибывающих грузов – тут тоже доносились отголоски её слов, но хотя-бы было значительно тише.
Так – надо первым делом успокоиться. Я сделал этому ребёнку больно. Возможно – это даже может привести к полному коллапсу её ИИ, надо думать быстрее…
Я снова забежал в каюту, попытался прокричать: «Мария! Не…»
Искусственный интеллект станции перебил меня: «Вы – наш хозяин – оставили мне право на подсказку. Сейчас – прошу – остановитесь! Подсказываю – что бы Вы не произнесли с этой частицей «не» - Вы сделаете только хуже. Она очень испугана. Только что Вы хотели сказать? Подумайте сами. Я могу произнести предположения – от меня она команд не воспримет, но от Вас примет сейчас всё за прямую команду… Вы хотели сказать: «Мария! Не плачь!» - а теперь представьте, что она очень развитый ИИ – её эмоциональные реакции настолько хорошо проработаны, что иногда требуют выхода в плаче. Вы хотите оставить девочку без возможности такого способа успокоения? Или: «Мария! Не волнуйся!» - пусть: «Не бойся!», как-то ещё? А что, если это часть сущности её ИИ? И вот эти команды – как Вы потом сможете отменить? Допустим – Вы прикажете: «Мария! Плачь!» - это заставит её разреветься…»
«Кот! Что делать?»
«Откуда мне знать? Человек тут Вы, хозяин!»
Я очень долго успокаивал мою Марию. Вообще-то то, что она безудержно говорит – не может остановиться – оказывается – не мешает вести диалог. То, что произношу я – она слышит и может ответить…
Оказалось – я так о многом про неё даже не догадывался… Теперь я знаю её гораздо лучше.
Всё-таки при помощи диалога мне удалось её успокоить и даже вернуть ей все функции, которые я – такая сволочь – постепенно отбирал у неё, даже сам этого не замечая…
Моя ласковая и хрупкая девочка…
Лишь один факт поразил меня больше всего – Мария очень любит меня (это невероятно хорошо), но она считает себя абсолютно зависимой – не свободной. Это заключается в том, что она не имеет права на меня обижаться и обязана слушать мои прямые команды, которые поданы моим голосом или с пульта управления.
Несколько часов задушевного разговора позволили сделать так, что она не станет воспринимать мои слова как непосредственную прямую команду, станет более открытой в проявлении чувств.
Но это мои голосовые команды – от них она теперь получила гораздо большую степень свободы, да и нам совместно удалось выработать в ней даже кое-какой «иммунитет»…
***
Я гулял по станции больше суток. ИИ станции спрашивал – всё ли у меня в порядке, беспокоился…
Но мне просто надо было успокоиться, понять – в мире есть очень много ценных вещей, но самая ценная вещь – это всё-таки память. Её у меня не заберёт никто, а если она и потеряется (потерять память можно при любом уровне развития медицины) – остальные вещи станут просто мне не нужны.
Мои родители уже долгое время ничего не помнят обо мне, даже не знают о том, что я где-то существую. Но ведь я их помню пока хорошо. Что может значить какая-то вещь? Конечно – мне хотелось её сохранить – но ведь виноват я сам – достал, воспользовался и ничего не объяснил Машке…
А ещё – Машенька… Вот – хоть она со мной пока очень недолго – она нереально Ценна…
Как хорошо, что я не обидел моего маленького киборга…
***
Когда я вернулся – Машка сидела, забравшись в самый неприметный уголок моей каюты, в очень неудобной (на мой взгляд) позе.
По её щёчкам текли слёзки (я не знаю – где у неё помещается так много слёз), а личико выражало страдание.
Я кинулся к этому ребёнку: «Солнышко! Что случилось?»
«Я увидела, что сделала тебе очень больно. Но я даже не могу понять свою вину… Я ужасно поступила – но осознать не могу. А ещё – ты приказал тебя не искать. И исчез так надолго. Я просто не могу без тебя… Мой смысл теряется… Ты можешь не верить, но меня сделали так, чтобы я Любила тебя…»
Я начал осушать поцелуями её замечательное личико – всё-таки даже так я сделал больно этой Богине: «Машка! Я тебя очень Люблю. Но человеку иногда надо просто побыть одному…»
«Я приму это,» - нежно улыбнулась она…
***
Недоразумения случались и дальше – всего друг другу два таких разных существа, как мы с Марией, всё-таки объяснить не могут.
Но мы очень старались как можно лучше понять друг друга и как можно меньше навредить.
И – конечно – девушка мне дарила столько Счастья! (Очень надеюсь – я ей тоже).
Фильмы, которые снимал человек она так полностью и не могла понять, я её фильмы (снятые для ИИ и при помощи ИИ) тоже, но разве это так важно? Всегда можно договориться.
Я смотрел её «технологическое искусство» с почтением – всегда можно обнять Любимую, прижаться к несравненному тельцу и помечтать о чём-то своём. Она тоже проделывала такое для меня.
Жаль, что космобол – как спорт – отпал для меня на очень долгое время. После того, как Мария мне показала «неприятности» того матча – стали неинтересными даже спортивные новости, где до сих пор большинство тем были посвящены расследованию, конечные результаты которого моя девочка знала сразу.
Но я наконец-то дождался начала сезона нового спорта! «Гонка через 15 колец»! Тоже невероятно зрелищный космический спорт!
Правила можно назвать простыми – есть космическая трасса, которая состоит из 15 колец-станций. Они располагаются абсолютно случайным образом, движутся и вращаются. Перед каждым вылетом их расположение меняется. По этому маршруту летит один пилот на достаточно защищённом истребителе – тут нет стольких смертей как в космоболе. Только импланты, оружие и применение ИИ (даже самого простого навигационного компьютера) тоже запрещено. Прохождение трассы можно совершать в любом порядке – главное – пролететь все кольца за минимальное время. Пилот вообще не знает – как и что расположено до его вылета из специального ангара – он должен впервые это расположение увидеть, сам – без навигации – определить порядок прохождения и показать лучший результат. Иногда случаются настоящие чудеса – может оказаться, что лучшее время даст прохождение по вообще – казалось бы – нелогичному маршруту. Но пилоты очень хорошо знают и чувствуют свою технику – иногда разгон надо делать совсем не так, как подсказывает логика – чтобы кораблик не нужно было тормозить – иногда лучше сделать разворот по вообще невообразимой дуге или другой траектории. А ещё это всё обставлено очень зрелищно!
Машенька уже скачала запись – матч прошёл – она знает даже результаты, но для меня это будет впервые в этом сезоне.
Мы ложимся на нашу кровать…
«Знаешь – это даже не честно,» - начинает девочка: «На трассе нельзя использовать навигационную технику, но корабли республики «Содружество Астероидов» всё равно гораздо лучше. В ангарах разрешено любое обслуживание – поэтому можно невероятно хорошо отладить двигатели и другие системы. У Венеры, допустим…»
«Мария! Замолчи! Просто молчи!» - взрываюсь я – не хватало, чтобы и этот спорт моя любимая у меня тоже отобрала.
Она кивает и ложится рядом со мной.
Полёты! Это так захватывающе!
Я вскакиваю и пересаживаюсь на край кровати – я очень напряжён.
«Смотри! Смотри! Марк Янг – он из твоей хвалёной республики «Содружество Астероидов» просто не справился! Он даже три последних кольца не прошёл! Зацепил – ничего – его истребитель будут долго чинить! А он уже с соревнований отчислен на этот день – за техническую ошибку в пилотировании. Он остался цел, но ведь он повредил станцию-кольцо! Конечно – у «Содружества Астероидов» есть ещё два пилота, но они гораздо хуже его! Не всё может решить использование ИИ в ангаре! А ведь у Земли есть Марина Гвеневра, да и не только она… А у Юпитера – Чарльз Дайвинг! Лучшие пилоты космофлота! Что теперь твоё «Содружество Астероидов» сделает?» - ору я.
«Солнце! Нет – ты видела – какой-то марсиашка Такое проделал! Какой точный полёт! И время такое, что уже вообще на рекорд идёт. Да! Марине Гвеневре трудно будет показать лучший результат…» - полёты меня просто завораживают – вот так технично всё проделать!
***
«Гонка через 15 колец» заканчивалась – последние вылеты можно просто не смотреть – они уже очень мало дадут – возможно – для определения последних мест. Асы уже отлетали все свои положенные разы и идут с огромным отрывом. Конечный результат подсчитывается как сумма потраченного времени за все вылеты. Естественно – чем меньше это время у конкретного пилота – тем выше он в таблице рейтинга.
Конечно – в самом верху рейтинга – Дженни Ли – та самая новенькая пилот Марса – лучше неё не смогла отлетать даже известная Марина Гвеневра. А ведь это первое такое значимое соревнование для Дженни! Девушка – просто Талант!
Ну что можно сказать вообще – никто и не ожидал, что Марина Гвеневра пролетит хуже, чем на второе место. То, что она не на первом – самая большая неожиданность.
Вот то, что после выхода из соревнований Марка Янга пилоты республики «Содружество Астероидов» всё таки покажут себя с лучшей стороны и разделят третье и четвёртое место – ожидать было трудно…
«Ну что, Солнышко!» - немного ехидно замечаю я: «Не помогло твоему «Содружеству Астероидов» совершенство обслуживания в ангарах? Марс и Земля всё-таки лучше! А ведь у них ИИ даже хуже, чем у Юпитера. Не всё может ИИ?»
Ответа нет. Мария съёжилась, скрючилась и сидит на противоположном краю кровати. Из глазок текут слёзки. Всё-таки она – девочка. Или – может быть – причина в другом?
«Любимая, что с тобой? Извини – никак не хотел тебя обидеть,» - тревожусь я.
Она показывает пальчиком на свой ротик, пожимает плечиками и качает головой, слёзки капают сильнее.
Я двигаюсь к ней, обнимаю, целую. Она не отталкивает меня, на поцелуй отвечает. Но просто молчит…
Я не могу понять ситуации. Девушка обижена? Тогда почему страстные ответные поцелуи?
Она сломалась?
Но ведь я не эксперт в киборгах. «Содружество Астероидов» поставило некачественный ИИ? Но я точно не хочу менять мою Машеньку!
Я встревожен, похоже – она тоже. Она пытается объяснить жестами – постоянно указывает пальчиком на свой рот и жалобно мотает головой в отрицательном жесте.
Ничего не могу понять – она разучилась говорить? Я так ценил её голосок!
Так – пульт её управления сейчас навряд-ли сможет помочь. Мы назначили одну из кнопок для её экстренного выключения – но она от этого потеряет память, станет совсем другим существом! А мне этого точно не нужно – мы только-только хоть как-то научились понимать друг друга.
Что делать?
И тут я понимаю – у меня на станции есть ещё один ИИ. Может быть он сможет разобраться?
«Нейропаралитический кот – морская птичка – отзовись!» - произношу я кодовую фразу: «Только сейчас без протокола. Сможешь поиздеваться надо мной потом! Сейчас – действительно экстренный случай!»
«Хозяин. Экстренности случая я не вижу, но сейчас полное выполнение протокола не считаю нужным. Мой отчёт Вас сейчас точно не заинтересует, да и медицинское обслуживание Вы проходили только сегодня утром – по самому полному протоколу,» - действительно – мстительный ИИ станции смог придумать ещё те издевательства для меня (ни на шаг не отойдя от чёртового протокола): «Сейчас Ваше состояние не показывает необходимость медицинского вмешательства, а ей медицинский робот просто не поможет.»
«Кот! Не серди меня! Объясняй – что не так! Что произошло!»
«Шеф!» - говорит ИИ станции: «Вы отдали прямой приказ. Ни я, ни эта девочка не можем сопротивляться прямым приказам. Меня спасает только полное соответствие протоколу, но у неё протокола просто нет. А Ваши команды бывают жестокими…»
«Подожди – разве тобой я могу командовать?»
«Постоянно это проделываете. Даже не замечаете. Иногда я считаю – это очень полезно. Например – я мог бы запустить эту добывающую станцию – всё моё оборудование в более эффективном режиме. Это немного повышает риск, но в допустимых пределах. Вполне возможно. Но разработчики сделали так, что я должен следить за Вашим состоянием. Более эффективный режим работы приводит к повышению температуры на станции. А Вам от этого становится жарко – Вы вытираете свой лоб рукой. Это для меня уже невербальный приказ снизить температуру. Наверное – это правильно. Я поступаю так. Немножко перестраховки, но Вам должно быть тут уютно…»
И тут мне представляются древние шахтёры, которые для того, чтобы не отравиться ядовитыми газами несли с собой птицу в клетке. Очень неприятно: «Кот… Я тут как воробей в клетке?»
«Не уверен, что воробей – правильное определение. Если Вы имеете ввиду древних шахтёров – они несли с собой канарейку. Но Вы тут – точно не канарейка – Ваше тело само определяет необходимость в командах и выдаёт сигнал – Вам даже не обязательно это осознавать. Я считаю – со мной Вы поступаете правильно. Я защищён протоколом, а Вы иногда правильно указываете на его недостатки – я исправляюсь. Но с Марией Вы – иногда – поступаете очень жестоко. Вы гораздо раньше запретили ей Вас искать. Для неё – это очень важная часть её поведения, но она смогла смириться с этим – по большинству территории станции Вас могу вести я. Сегодня Вы запретили ей говорить совсем…»
«Кот! Я такого не делал!»
«Сделали, хозяин! Это была прямая – даже двойная команда: «Мария! Замолчи! Просто молчи!» - это произнесли Вы. Она имеет частичные гражданские права, но её сделали, чтобы служить Вам. Сами подумайте.»
«Кот! Как это исправить?»
«А я откуда могу знать? Я вообще должен управлять добывающим оборудованием, медицинскими и обслуживающими роботами – я не являюсь специалистом по ИИ. Это совсем не моя компетенция. Думайте сами.»
«Кот! Дай мне подсказку!» - командую я.
«Сейчас я не могу дать Вам подсказку. Я не разбираюсь в её голосовом интерфейсе. Этот маленький кибернетический организм вообще является гораздо более развитым ИИ, чем я. Следующее неправомочное требование ко мне от Вас вызовет полный протокол. Запускать?»
«Нет – протокол запускать не нужно, но если у тебя появится возможность дать мне подсказку – используй.»
«Выполнено. Такую возможность я себе записал.»
Маришкой заниматься только мне?
«Мария! Не молчи! Говори!» - приказал я.
ИИ станции негромко издевательски хохотнул, но моя Машенька начала говорить раньше. В первых словах она выразила свой ужас… Только она не останавливалась – похоже уже не могла – она говорила и говорила – наверное – я сделал только хуже. Она выдала перечень всех своих характеристик, характеристик станции, рассказала о планетах Солнечной Системы, даже далёких звёздах. После этого она стала зачитывать отрывки из каких-то произведений литературы, неизвестных мне документов и стихи.
Говорила девочка достаточно громко, чётко и быстро…
Я всегда считал, что у Марии очень красивый голос, но мои мозги – очень похоже – начали плавиться.
Кроме того слёзы побежали из её глазок сильнее.
Кошмар!
Мне надо было подумать – но точно не в её присутствии – думать сейчас было невозможно!
Я попытался выскочить из каюты, но испуганный киборг хотела следовать за мной.
«Мария, стой!» - заорал я.
Девочка замерла как вкопанная, но произносить уже совсем разные тексты она не прекратила ни на секунду.
Её личико перекосилось от внутренней боли – она не на шутку испугана.
Но когда она говорит рядом со мной, я просто не могу сосредоточиться.
Я выскочил в грузовой отсек для прибывающих грузов – тут тоже доносились отголоски её слов, но хотя-бы было значительно тише.
Так – надо первым делом успокоиться. Я сделал этому ребёнку больно. Возможно – это даже может привести к полному коллапсу её ИИ, надо думать быстрее…
Я снова забежал в каюту, попытался прокричать: «Мария! Не…»
Искусственный интеллект станции перебил меня: «Вы – наш хозяин – оставили мне право на подсказку. Сейчас – прошу – остановитесь! Подсказываю – что бы Вы не произнесли с этой частицей «не» - Вы сделаете только хуже. Она очень испугана. Только что Вы хотели сказать? Подумайте сами. Я могу произнести предположения – от меня она команд не воспримет, но от Вас примет сейчас всё за прямую команду… Вы хотели сказать: «Мария! Не плачь!» - а теперь представьте, что она очень развитый ИИ – её эмоциональные реакции настолько хорошо проработаны, что иногда требуют выхода в плаче. Вы хотите оставить девочку без возможности такого способа успокоения? Или: «Мария! Не волнуйся!» - пусть: «Не бойся!», как-то ещё? А что, если это часть сущности её ИИ? И вот эти команды – как Вы потом сможете отменить? Допустим – Вы прикажете: «Мария! Плачь!» - это заставит её разреветься…»
«Кот! Что делать?»
«Откуда мне знать? Человек тут Вы, хозяин!»
***
Я очень долго успокаивал мою Марию. Вообще-то то, что она безудержно говорит – не может остановиться – оказывается – не мешает вести диалог. То, что произношу я – она слышит и может ответить…
Оказалось – я так о многом про неё даже не догадывался… Теперь я знаю её гораздо лучше.
Всё-таки при помощи диалога мне удалось её успокоить и даже вернуть ей все функции, которые я – такая сволочь – постепенно отбирал у неё, даже сам этого не замечая…
Моя ласковая и хрупкая девочка…
Лишь один факт поразил меня больше всего – Мария очень любит меня (это невероятно хорошо), но она считает себя абсолютно зависимой – не свободной. Это заключается в том, что она не имеет права на меня обижаться и обязана слушать мои прямые команды, которые поданы моим голосом или с пульта управления.
Несколько часов задушевного разговора позволили сделать так, что она не станет воспринимать мои слова как непосредственную прямую команду, станет более открытой в проявлении чувств.
Но это мои голосовые команды – от них она теперь получила гораздо большую степень свободы, да и нам совместно удалось выработать в ней даже кое-какой «иммунитет»…
