Айзек Азимов - Мечты роботов

• Название: Мечты роботов
• Автор: Айзек Азимов
• Издательство: Эксмо, Валери СПД
• Жанр: Научная Фантастика
• Год: 2002
• ISBN: 978-5-699-00842-1, 5-699-00842-X

О чем могут мечтать роботы, созданные человеком? Наверное, о том, чтобы стать людьми, ведь они так мало похожи на своих творцов. И, наверное, эти металлические люди с позитронными мозгами будут обладать такими возможностями и качествами, о которых не стоит и мечтать представителям рода человеческого.

Однако, если роботы станут умнее людей, не возникнет ли опасность, что они перестанут нам подчиняться и захотят создать собственную цивилизацию?

---

— Велели убираться? — переспросила Сьюзен Кэлвин с внезапным интересом. — А в каких выражениях? Просто «уйти»? Попытайтесь припомнить ваши слова.

Блэк, очевидно, боролся с собой. Он потер лоб, потом отвел руку и вызывающе произнес:

— Я сказал: «Уйди и не показывайся, чтоб я тебя больше не видел».

Богерт усмехнулся:

— Что он и сделал.

Но Сьюзен Кэлвин это не удовлетворило. Она мягко продолжала:

— Это уже интересно, мистер Блэк. Но нам важны точные детали. Когда имеешь дело с роботами, может иметь значение любое слово, жест, интонация. Вы, наверное, не ограничились этими словами? Судя по вашему рассказу, вы были в плохом настроении. Может быть, вы выразились сильнее?

Молодой человек побагровел.

— Видите ли… Может быть, я и… обругал его немного.

— Как именно?

— Ну, не помню точно. Кроме того, не могу же я это повторить. Знаете, когда человек раздражен… — Он нервно хихикнул. — Я обычно выражаюсь довольно крепко…

— Ничего, — ответила она сухо. — В данный момент я робопсихолог. Я прошу вас повторить то, что вы сказали, насколько вы можете припомнить, слово в слово и, что более важно, тем же тоном.

Блэк растерянно взглянул на своего начальника, но не получил никакой поддержки. Его глаза округлились:

— Но я не могу…

— Вы должны.

— Представьте себе, — сказал Богерт с плохо скрытой усмешкой, — что вы обращаетесь ко мне. Так вам, может быть, будет легче.

Молодой человек, побагровев, повернулся к Богерту и проглотил слюну.

— Я сказал… — Его голос прервался. Он снова начал: — Я сказал… — Он сделал глубокий вдох и торопливо разразился длинной тирадой. Потом, среди напряженного молчания, добавил, чуть не плача: — Вот… более или менее. Я не помню, в том ли порядке шли выражения, и, может быть, я что-то добавил или забыл, но в общем примерно так.

Только слабый румянец показывал, какое впечатление все это произвело на робопсихолога. Она сказала:

— Я знаю, что означает большинство сказанных вами слов. Остальные, я полагаю, столь же оскорбительны.

— Боюсь, что так, — подтвердил измученный Блэк.

— И всем этим вы сопроводили команду уйти и не показываться, чтобы вы его больше не видели?

— Но не буквально же я…

— Понимаю. Генерал, я не сомневаюсь, что никаких дисциплинарных мер в данном случае принято не будет?

Под ее взглядом генерал, который, казалось, пять секунд назад вовсе не был в этом уверен, сердито кивнул:

— Вы можете идти, мистер Блэк. Спасибо за помощь.

На опрос всех шестидесяти трех роботов Сьюзен Кэлвин понадобилось пять часов. Это были пять часов бесконечного повторения. Один робот сменял другого, точно такого же; следовали вопросы: первый, второй, третий, четвертый — и ответы: первый, второй, третий, четвертый. Выражение лица должно было быть безукоризненно вежливым, тон — безукоризненно нейтральным, атмосфера — безукоризненно теплой. И где-то был спрятан магнитофон.

Когда все кончилось, Сьюзен Кэлвин была совершенно обессилена.

Богерт ждал. Он вопросительно взглянул на нее, когда она швырнула на пластмассовый стол кассету с пленкой.

Она покачала головой:

— Все шестьдесят три выглядели одинаково. Я не могла различить…

— Но, Сьюзен, нельзя было и ожидать, чтобы вы различили их на слух. Проанализируем записи.

При обычных обстоятельствах математическая интерпретация устных ответов, полученных от роботов, составляет один из самых трудных разделов робоанализа и требует целого штата опытных техников и сложных вычислительных машин. Богерт знал это. Он так и сказал, скрывая крайнее раздражение, после того как прослушал все записи, составил списки разночтений и таблицы быстроты реакции.

— Отклонений нет, Сьюзен. Различия в употреблении слов и в быстроте реакции не выходят за пределы нормы. Тут нужны более тонкие методы. У них, наверное, есть вычислительные машины… Хотя погодите. — Он вдруг нахмурился и начал осторожно грызть ноготь большого пальца. — Мы их машинами воспользоваться не можем. Слишком велика опасность разглашения. Впрочем, если…

Доктор Кэлвин остановила его нетерпеливым движением:

— Не надо, Питер. Это не заурядная лабораторная проблема. Раз модифицированный Нестор не отличается от остальных каким-то явным, несомненным признаком, то так мы ничего не добьемся. Слишком велик риск ошибки, которая даст ему возможность скрыться. Мало найти незначительное отклонение в таблице. Вот что я вам скажу; если бы мои данные ограничивались только этим, я бы уничтожила все шестьдесят три робота, чтобы никаких сомнений не оставалось. Вы говорили с другими модифицированными Несторами?

— Да, — буркнул Богерт. — У них все в норме. Если и есть что-то необычное, так это дружелюбие. Они ответили на мои вопросы, явно гордясь своими знаниями, кроме двух новичков, которые еще не успели изучить физику поля. Довольно добродушно посмеялись над тем, что я не знаю некоторых подробностей. — Он пожал плечами. — Я думаю, отчасти поэтому здешние техники их и недолюбливают. Пожалуй, уж слишком эти роботы стремятся произвести впечатление своими познаниями.

— Не можете ли вы попробовать несколько реакций Планара, чтобы посмотреть, не произошло ли каких-нибудь изменений в их образе мышления с момента выпуска?

— Попробую. — Он погрозил ей пальцем: — Вы начинаете нервничать, Сьюзен. Я не понимаю, зачем вся эта мелодрама? Они же совершенно безобидны.

— Да? — взорвалась Сьюзен Кэлвин. — Вы так думаете? А вы понимаете, что один из них лжет? Один из шестидесяти трех роботов, с которыми я только что беседовала, сознательно мне солгал, несмотря на строжайшее приказание говорить правду. Это свидетельствует о серьезном отклонении от нормы — отклонении глубоком и зловещем.

Питер Богерт стиснул зубы.

— Ничуть. Судите сами. Нестор-10 получил приказание скрыться. Это приказание было отдано со всей возможной категоричностью человеком, который уполномочен командовать этим роботом. Вы не можете отменить это приказание. Естественно, робот старается его выполнить. Если говорить объективно, меня восхищает его изобретательность. Для робота самая лучшая возможность скрыться — это смешаться с группой таких же роботов.

— Да, вас это восхищает. И даже забавляет. Питер, я вижу, вы совершенно не понимаете, что происходит. Ведь вы роботехник! Эти роботы придают большое значение тому, что они считают превосходством. Вы сами только что это сказали. Подсознательно они чувствуют, что человек ниже их, а Первый закон, защищающий нас от них, нарушен. Они нестабильны. И вот молодой человек приказывает роботу уйти, скрыться, выразив при этом крайнее отвращение, презрение и недовольство им. Конечно, робот должен повиноваться, но подсознательно он обижен. Теперь ему особенно важно доказать свое превосходство — вопреки тем унизительным словам, которые ему были сказаны. Это может стать для него настолько важным, что остатки Первого закона не смогут его сдержать.

— Послушайте, Сьюзен! Ну откуда роботу знать, что означают эти отборные ругательства? Мы же не вводим ему в мозг такую информацию!

— Дело не в том, какую информацию он получает первоначально, — возразила Сьюзен. — Роботы способны обучаться, вы, идиот!

Богерт понял, что теперь она действительно вышла из себя. А она торопливо продолжала:

— Неужели вы не понимаете? Он мог по тону догадаться, что это не комплименты! Или вы думаете, что он никогда раньше этих слов не слыхал и не заметил, при каких обстоятельствах они употребляются?

— Ну хорошо! — крикнул Богерт. — Но может быть, вы любезно объясните мне, каким образом модифицированный робот может причинить вред человеку, как бы он ни был обижен, как бы ни стремился доказать свое превосходство?

— А если я вам объясню, вы никому не расскажете?

— Нет.

Оба перегнулись через стол, гневно глядя друг на друга.

— Если модифицированный робот уронит на человека тяжелый груз, он не нарушит этим Первого закона: он знает, что его сила и быстрота реакции достаточны, чтобы перехватить груз прежде, чем он обрушится на человека. Но как только он отпустит груз, он уже перестанет быть активным действующим лицом. Действовать будет только слепая сила тяжести. И тогда робот может передумать, остаться в бездействии — и позволить грузу упасть. Модифицированный Первый закон это допускает.

— Ну, у вас слишком богатая фантазия.

— Этого иногда требует моя профессия. Питер, нам нельзя ссориться. Надо работать. Вы точно знаете стимул, заставляющий робота скрываться. У вас есть паспорт на него с записями его исходного образа мышления. Вы должны подсчитать, насколько велика вероятность, что наш робот сделает то, о чем я говорила. Заметьте, что речь идет не только об этом конкретном примере, а обо всем классе подобных действий. И вы должны это сделать как можно быстрее.