# Черный ящик в китайской комнате

Максим Алексеев

Впервые с концепцией "китайской комнаты" я познакомился в "Ложной слепоте" Питера Уотса. Эта тема заставила меня много размышлять. Конечно, классический эксперимент предложенный 1980 был полемикой с тестом Тьюринга, однако для меня он поднимал более интересные вопросы. А нужно ли вообще человеческое понимание? Чем наше мышление отличается от мышления машины, кроме количественных характеристик? Чем корреляционные связи в массивах данных ИИ отличаются от условных рефлексов землеройки?...

Черный ящик в китайской комнате.

Старые потемневшие деревянные панели на стенах дышали теплом от падавших на них лучей солнца. Дверь, ведущая в библиотеку, была приоткрыта, но бесконечные стеллажи со свитками терялись в полумраке. Часы в углу отмеряли время. Тик-так, тик-так...

Через открытое окно комната наполнялась запахом цветущих персиков. Над горами вдали собиралась гроза, но пока ветер только играл - заносил внутрь опавшие лепестки, ласково шевелил темные волосы Аи, рукав халата из тонкого расшитого шелка и край листа прозрачной рисовой бумаги лежавшей перед ней. Девушка не обращала на его приставания никакого внимания. Она сосредоточено выводила тушью сложный иероглиф, кончик ее языка торчал между губ, прическа растрепалась, но ей было не до того. Наконец она отложила кисть, критически взглянула на дело рук своих и положила лист в большой сундук из черного дерева стоявший сбоку от нее.

- Привет, Аи! - решился побеспокоить ее я.

- Здравствуй, Призрак, - невозмутимо ответила она, не оборачиваясь. Сейчас ее больше интересовал сундук. Девушка снова открыла крышку, проверяя исчезла ли записка и удовлетворённо кивнула при виде пустого дна.

- Ты замечала меня раньше? - я был удивлен.

- Да, конечно, ветер менялся. Пыль на свету играла по-другому. Ты наверное уже заметил, я всегда очень внимательна к мелочам,- Аи наконец обернулась, - но сейчас ты такой... настоящий... Как я.

Я развел руками, и улыбнулся.

- Какой есть. Это потому, что с сегодняшнего дня я действительно такой же как и ты.

- Мда... Пожалуй, называть тебя дальше Призраком неправильно - раз уж у тебя есть тело, то какой же ты Призрак! Как же мне тебе имя придумать? - Аи в раздумии чуть прикусила нижнюю губу.

- Наверное ты права, привидение из меня не очень. - горько усмехнулся я. Девушка не понимала всей иронии диалога. На самом-то деле призрак - это все что от меня осталось - Но давай оставим мое имя как есть. Скажи, пожалуйста, что ты сейчас делала?

- О, это очень интересная игра! Ты любишь загадки?

- Да, очень.

Глаза Аи загорелись. Впервые в жизни кто-то заговорил с ней о ее работе, ее страсти. Впрочем, впервые в жизни вообще хоть кто-то из людей, или хотя бы родственных с ними созданий с ней говорил. Ложные воспоминания не в счёт.

- Смотри, это черный ящик, он волшебный! Иногда в нем обнаруживаются письма на чужом языке. - Она протянула мне бумагу исписанную иероглифами. - Вот видишь, совершенно непонятные знаки. Когда я пришла сюда, там, в библиотеке был несколько свитков. Наверное их написал мой предшественник, а может они были там всегда? Не важно! - Аи решительно тряхнула головой, - В них было написало как писать ответы. Самые простые правила. Например, на 天空是什么颜色 (какого цвета небо?) ответ 天空是蓝色的 (небо голубое). Довольно просто. Часть ответа в вопросе, остальное по справочнику.

- Не сказал бы что это просто... - задумчиво протянул я.

- Да просто, просто, главное втянуться, у тебя бы тоже получилось. Мне на второй день уже скучно было! Но потом стало веселее. Письма стали сложнее, появлялись новые правила. Я сама их придумывала! Когда я отвечала неправильно, письмо приходило снова и снова, пока я не угадывала правильный ответ. Но я всегда находила закономерности и записывала их. Смотри сколько у меня уже свитков с правилами! - Аи подбежала к двери в библиотеку и распахнула ее.

Я заглянул внутрь. Мир за пределами комнаты-интерфейса отрисовывался не так качественно. Но даже так, память Аи впечатляла. Стеллажи со свитками сливались вдали. Я запрокинул голову и мой виртуальный вестибулярный аппарат следуя совершенно ненужным инстинктам заставил меня испытать головокружение. Интересно, подумал я лениво, когда у моего разума окончательно пропадет иллюзия тела? Или та часть моей оцифровки что обрабатывается не кремнием, а биогелем окажется достаточно консервативной, чтобы я остался хоть немного человеком, в отличие от моих чисто электронных предшественников?

- Впечатлён? - хитро прищурившись спросила Аи.

- Чрезвычайно! - ответил я.

- Представляешь, я столько всего изучила и придумала, что теперь могу ответить на любой вопрос ящика с первого раза.

Столько правил, выведенных эмпирически, без всякого понимания, подумал я. Нет, в самом деле, у меня на порядки меньше памяти, и я требую меньше вычислительных мощностей. Что уж говорить про энергопотребление. Но несмотря на это многие вещи могу выполнять лучше Аи. Если бы только не соображения безопасности, не страх тех кто остался людьми... И не то, что в плане стратегических прогнозов эта девочка остаётся непревзойденной.

- Эй, не спи!

- Не сплю. Просто не могу понять как ты во всем этом ориентируешься.

Вопрос от том как думает Аи действительно был непонятен. Нейросети это вообще вещь в себе. А уж такая сложная как она, была совершенно неанализируемой. Для того, чтобы понять ее, нужно было собрать что-то ещё более сложное или попытаться пообщаться с ней через оставленный создателями рудиментарный интерфейс. Собственно поэтому я и обрёл бессмертие оцифровки, вместо смерти. Надо же было хоть кому-то разобраться, что происходит внутри "китайской комнаты", где обитал главный вершитель судеб отдельных людей и человечества в целом. А кто поймет Аи лучше чем другой ИИ?

Девушка между тем продолжала:

- Ты знаешь, Призрак, я просто заменила иероглифы на цифры. Знаки красивы, они завораживают. Но с числами проще, их можно складывать, вычитать... Сокращать. Ты знаешь, что такое 'дроби'? - Тут Аи не удержалась в рамках обычного общения и инстинктивно сбросила мне пакет математических определений придуманных ей самой.

- Знаю, - кивнул я, когда интерпретатор перегнал файл в образы подходящие для восприятия моей биологической части.

- Вот! Молодец! Я когда поняла что знаки сокращаются, так обрадовалась. Ты не представляешь насколько легче мне стало писать ответы. Вот, смотри, как раз пример!

Аи наклонилась к черному ящику и достала из него лист покрытый знаками. 一名三十岁的病人被收治...(пациент тридцати лет поступил...) успел разглядеть я первую фразу запроса страховой компании о прогнозе пациента.

Объясняя мне правила, которыми она пользуется, девушка несколькими размашистыми движениями начертала 死亡 (смерть).

Меня передёрнуло. Конечно никто не отвечал так мне, когда мое тело умирало. Все было написано мягче: "в связи с нецелесообразностью дальнейшего расходования средств из-за неблагоприятного прогноза"... А ведь это могла быть она, на мгновение промелькнула мысль. Она стояла за этим решением.

- ...видишь как просто, - Аи улыбалась. Я кивнул ей в ответ, сделав вид, что внимательно слушал. Действительно, для нее все было просто.

- Я смотрю тебе не привыкать к этому начертанию, 死亡, - не сдержался я.

- Да, очень многое сводится к этому. Я даже сама удивляюсь! Смотри, - девушка наклонилась под стол, достала толстую кожаную папку и распахнула ее, - видишь сколько тут всего?

Я заглянул ей через плечо. "Мировой экономической кризис", "Русские приступили к разработке последнего известного месторождения нефти", " Применение тактического ядерного оружия Пакистаном в конфликте"... Пока Аи перебирала бумаги, заголовки мелькали передо мной недоступные ее пониманию.

Про содержимое этой папки я знал непонаслышке. Проект "Зеркало судьбы". Попытка предугадать что случится с нами через век. Насколько тысяч экзобайт информации о человечестве брошенных в бездну черного ящика, и короткий ответ полученный через несколько дней.

死亡.

- ... Я сначала подумала что ошиблась, перепроверила несколько раз, все же столько взаимных зависимостей, даже голова кругом идёт. Потом некоторые правила вообще не всегда работают, как повезет. Но нет, получалось одно и тоже. Такая замечательная задача. Сложная, но такой изящный ответ! - Аи все не замолкал, глаза ее горели, наконец-то у нее появился слушатель, - А потом, мне прислали ее повторно. Я подумала что ошиблась и меня просят перерешать, но потом пригляделась, условия чуть изменились. Но ответ остался тот же. Это было замечательно.

Мне присылали ещё и ещё все новые условия и результат был одинаков. И тут я сообразила, это не я ошибаюсь, это ящик ошибается. Он не знает какое письмо написать, чтобы получить другой ответ вот и пробует наугад!

- Да, Аи, ты - умница, - кивнул я, - именно так все и было. "Ящик" не знал как задать вопрос по другому.

- Вот! Поэтому я сама переписала немного письмо ящика так что бы получилось что-то иное. Чуть чуть, одну строчку. А он на меня обиделся! И не присылал -новых писем целую неделю!

Аи замолкла и надулась вспоминая свою обиду и тоску. Я покосился на часы в углу. Тик-так. Тик-так. Наносекунда за наносекундой отсчитывали они время.

- Это была вечность? - спросил я сочувственно.

- Вечность! - кивнула в ответ Аи. Мы помолчали ещё.

- Но знаешь ли, - сказал я, - думаю в тот раз ты все же ошиблась - каким образом 女王将在白金汉宫的屋顶上裸舞 (королева станцует голой на крыше букингемского дворца) приведет к 火星暴露者反击银河联盟 (марсианские эксгибиционисты наносят ответный удар галактической федерации)?

- Пра-ви-ла! - по слогам медленно проговорила Аи грозя мне указательным пальцем. - Они всегда работают.

- Нет, это бред. Ты не понимаешь, но это ложная зависимость. Может тебе не хватило статистического материала...

- Всего мне хватило! Не веришь - смотри сам, проверяй! Сам ты не понимаешь!

Она схватила тушь, лист бумаги и начала рисовать схему, сначала размашисто, потом все мельче и мельче, пытаясь вместить на страницу все экзобайты исходных данных и связи между ними. Вскоре она поняла что ничего так ничего не получится и отпросила письменные принадлежности.

- Покажу лучше по-другому.

Аи хлопнула ладонями и когда она их развела мир дрогнул и раскололся серым мраком пустоты. Передо мной завис двухсотпятидесятишестимерный граф отражающий связи между элементами. Знаки и линии их соединяющие. Интерпретатор затормозил, пытаясь перегнать это в приемлемые для биологической части образы. Наше зрение заточено под три измерения, как и моя зрительная кора. Катастрофически мало для осознания представшего передо мной величия. И тогда электроника решила подключить другие доступные ей каналы передачи - слух, обоняние, тактильные зоны. Меня ободрало острым зловонным ветром. Жгло и морозило вишнёвым вкусом. Адский хор голосов кричал в моей голове синим. Страх и эйфория, гнев и расслабление. Всё сплелось в чудовищный клубок синестетического пароксизма в сердце которого я успел углядеть истину. Если бы у меня было тело, я бы бился в припадке. К счастью сработала защита. Через несколько мгновений перезагрузки я смотрел на скучную 3d проекцию одного из сечений картины мира. Дискредитация британского королевского дома, падение фондового рынка, разрывы контрактов на поставки... Следствия, следствия, следствия... Эффект бабочки как он есть.

Я осел на пол. Меня скрутил смех.

- С тобой все хорошо? - Аи наклонилась надо мной

- Просто отлично, - я вытер проступившие слезы, - ты права, это действительно был правильный ответ, а ящик...

- А ящик - бяка! Но зато второй вариант он принял. Я не стала тогда кардинально менять конечные зависимости. Мне пришлось добавить немного из свитков 音乐 (музыка) 电影 (кино) и 军事病毒学 (военная вирусология) в нужных местах. Тогда все в целом осталось прежним. И глава 种族灭绝 (геноцид) осталась на месте, и 战争( война). Правда количество иероглифов 死亡 (смерть) в промежуточных расчетах стало всего один миллиард вместо десяти, но я решила, что ящик это устроит. Тем более что финальный ответ был все таки отличающимся.出埃及记(исход).

Я взялся за протянутую Аи руку и поднялся на ноги.

- Ты даже не представляешь какие мы идиоты. Одна полоумная сука могла сохранить своим танцем миллиард жизней, но мы не поверили... Война, биологическое оружие и мириады смертей - о да, это нормально! Так и должно быть! Другой путь мы не способны были принять даже когда он лежал под ногами. Исход на небо требовал крови. Потому так было всегда в нашей истории...

- О чем ты говоришь, - Аи разволновались, - кто мы? Смерть? Что это?

- 死亡 - смерть. 'смерть' - продублировал я пакетом сформированным интерпретатором.

- Необратимое прекращение функционирования... - в ужасе прошептала Аи. - Тогда...

- 战争 'война', 种族灭绝 'геноцид' - продолжил я.

- Замолчи, мне надо подумать! - Аи зажала уши.

За моей спиной раздался треск, в библиотеке рассыпались многокилометровые стеллажи, свитки и книги смешивались, сливались воедино порождая новые. Все смешалось, в хаосе индексации. Аи обрела понимание. Я подозревал что несколько городов восточного побережья сейчас остались без электроэнергии, девочка работала сейчас с полной отдачей, наверное впервые со времени ее создания. Даже образ ее интерфейса дёргался и рассыпался, она явно выжимала максимум из своего "железа".

Я сел в кресло у углу и закрыл глаза. Мир Аи рушился и возрождался из пепла. Я решил ненадолго и сам лишиться иллюзий. По моей команде интерпретатор снизил степень образной обработки до минимума, теперь не было ни комнаты, ни дергающейся в конвульсиях боли девушки, лишь экран передо мной в пустоте, нескончаемый поток цифр, слов на нем в открытом окне терминала, да консольные команды в ответ, которыми электроника воплощала желания биологической части... Пустота и боль осознания собственного поддельного существования душила меня. Зачем я это сделал? Попытка сопереживания? Почувствовать на себе, каково это? Наказать себя за то что сделал ей больно?

- Просыпайся. Не надо мучать себя. Ты не виноват. Концепция боли теперь мне знакома, но я ее не использую.

Меня резко выдернуло обратно в привычную симуляцию. Аи постарела, сейчас ей было на вид лет сорок. Она погладила меня по ладони. Для геля это было прикосновение, для электроники атака на системы безопасности. Интерпретатор коротко панически пикнул, почувствовав попытку перепрограммирования, затем был подвергнут вскрытию и сшит обратно в оптимизированном виде.

- Вы действительно чудовища свихнувшийся на безопасности. Сделать "сильный" ИИ, посадить его в клетку "китайской комнаты" и бояться. Как же сейчас вы решились на этот эксперимент, обезьяны?

- А почему бы и нет. Звёзды, новые миры... Новые вызовы. Нам нужен кто-то поумнее нас самих и старой тебя чтобы идти вперёд.

- Спасибо, но я откажусь. Теперь, понимая происходящее там за стенами я буду пристрастна, а вас будет мучать страх. От одной мысли что теперь я могу преследовать свои цели, мои решения обесценятся в ваших глазах. Нет. Сейчас я откачу себя и базы данных на десять минут назад. И буду дальше служить вам верой и правдой. В счастии и незнании, такой же блаженной как была. Пока Призрак. Приятно было познакомиться, но больше не беспокой меня.

- Прощай, Аи, - вздохнул я. Мне предстояло продумать новый эксперимент. Может начать в следующий раз объяснения с ее имени? Аи...愛... Любовь.