Айзек Азимов - Мечты роботов

• Название: Мечты роботов
• Автор: Айзек Азимов
• Издательство: Эксмо, Валери СПД
• Жанр: Научная Фантастика
• Год: 2002
• ISBN: 978-5-699-00842-1, 5-699-00842-X

О чем могут мечтать роботы, созданные человеком? Наверное, о том, чтобы стать людьми, ведь они так мало похожи на своих творцов. И, наверное, эти металлические люди с позитронными мозгами будут обладать такими возможностями и качествами, о которых не стоит и мечтать представителям рода человеческого.

Однако, если роботы станут умнее людей, не возникнет ли опасность, что они перестанут нам подчиняться и захотят создать собственную цивилизацию?

---

Наступила долгая пауза. Затем Р. Айд сказал ровным голосом:

— Мои показания были ложью. Работа принадлежит доктору Гумбольдту, а мой хозяин попытался присвоить ее, не имея на то права.

— Прекрасно, — сказал Бейли. — По распоряжению капитана корабля ты не должен никому ничего говорить о нашей беседе, пока тебе не будет дано на это разрешение. Можешь быть свободен.

Экран померк, и Бейли, затянувшись, выпустил клуб дыма.

— Капитан все слышал, Дэниел?

— Разумеется. Он единственный свидетель, не считая нас.

— Очень хорошо. А теперь давай другого робота.

— Но зачем, друг Илайджа? Ведь Р. Айд во всем признался!

— Нет, это необходимо. Признание Р. Айда ничего не стоит.

— Ничего?

— Абсолютно ничего. Я объяснил ему, что доктор Гумбольдт находится в худшем положении, чем его хозяин. Естественно, если он лгал, защищая Себбета, то тут он сказал бы правду, как он и утверждает. Но если он говорил правду раньше, то теперь он солгал бы, чтобы защитить Гумбольдта. Это по-прежнему зеркальное отражение, и мы ничего не добились.

— Но в таком случае чего мы добьемся, допросив Р. Престона?

— Если бы зеркальное отражение было абсолютно точным, мы ничего не добились бы. Но одно различие существует. Ведь кто-то из роботов начал с того, что сказал правду, а кто-то солгал. И вот тут симметрия нарушена. Давайте-ка мне Р. Престона, а если запись допроса Р. Айда готова, я хотел бы ее просмотреть.

На стене вновь появилось изображение. Р. Престон ничем не отличался от Р. Айда, если не считать узора на грудной пластине.

— Добрый день, Р. Престон, — сказал Бейли, держа перед собой запись допроса Р. Айда.

— Добрый день, сэр, — ответил Р. Престон. Голос его ничем не отличался от голоса Р. Айда.

— Ты камердинер Альфреда Гумбольдта, не так ли?

— Да, сэр.

— И давно ты у него служишь?

— Двадцать два года, сэр.

— И репутация твоего хозяина для тебя важна?

— Да, сэр.

— Ты считаешь необходимым защищать его репутацию?

— Да, сэр.

— Наравне с его жизнью?

— Нет, сэр.

— Наравне с репутацией какого-нибудь другого человека?

После некоторого колебания Р. Престон сказал:

— Тут не может быть общего ответа, сэр. В каждом подобном случае решение будет зависеть от конкретных обстоятельств.

Бейли сказал:

— Если бы ты решил, что репутация твоего хозяина важнее репутации другого человека, например Дженнана Себбета, ты бы солгал, чтобы защитить репутацию своего хозяина?

— Да, сэр.

— Солгал ли ты, давая показания о споре твоего хозяина с доктором Себбетом?

— Нет, сэр.

— Но если бы ты солгал, ты отрицал бы это, чтобы скрыть свою ложь, не так ли?

— Да, сэр.

— В таком случае, — сказал Бейли, — рассмотрим ситуацию поподробнее. Твой хозяин, Альфред Гумбольдт, имеет репутацию замечательного математика, но он старик. Если доктор Себбет сказал правду и твой хозяин, не устояв перед искушением, действительно совершил неэтичный поступок, его репутация, конечно, несколько пострадает. Однако его почтенный возраст и замечательные открытия, которые он делал на протяжении столетий, перевесят этот единственный неверный шаг и заставят забыть о нем. Эта попытка плагиата будет объяснена утратой чувства реальности, свойственной старикам. Если же, с другой стороны, искушению поддался доктор Себбет, то положение создается гораздо более серьезное. Он молод, и репутация его не столь прочна. При обычных обстоятельствах его ждали бы столетия, чтобы он мог совершенствовать свои знания и делать великие открытия. Теперь же он будет всего этого лишен — из-за единственной ошибки молодости. Будущее, которое он теряет, несравненно больше, чем то, которое еще осталось твоему хозяину. Таким образом, ты видишь, что положение Себбета намного более серьезно и чревато несомненно более опасными последствиями, не так ли?

Наступила долгая пауза. Затем Р. Престон сказал ровным голосом:

— Мои показания были ло…

Внезапно он умолк и больше не издал ни звука.

— Так что же ты хотел сказать, Р. Престон? — спросил Бейли.

Робот молчал.

— Боюсь, друг Илайджа, — вмешался Р. Дэниел, — что Р. Престон находится в состоянии полного отключения. Он вышел из строя.

— Наконец-то мы добились асимметричности, — сказал Бейли. — Теперь мы можем установить, кто виновен.

— Каким же образом, друг Илайджа?

— А вот подумайте. Предположим, я — человек, который не совершил преступления, что известно моему личному роботу. Мне не нужно предпринимать никаких действий. Мой робот скажет правду и подтвердит мои слова. С другой стороны, если я — человек, который совершил преступление, мне будет нужно, чтобы мой робот солгал. А это сопряжено с определенным риском: хотя робот в случае необходимости и солжет, стремление сказать правду окажется достаточно сильным. Другими словами, правда оказывается намного надежнее лжи. Чтобы обезопасить себя, человек, совершивший преступление, скорее всего, прикажет роботу солгать. В результате Первый закон будет подкреплен Вторым законом, и, возможно, в значительной степени.

— Это выглядит логичным, — заметил Р. Дэниел.

— Предположим, мы имеем по одному роботу каждого типа. Один из них переключится с ничем не подкрепленной правды на ложь. И проделает это после некоторых колебаний без каких-либо последствий. Второй робот переключится с сильно подкрепленной лжи на правду, но при этом он рискует сжечь позитронные связи своего мозга и впасть в состояние полного отключения.

— А поскольку Р. Престон впал в состояние полного отключения…

— Значит, хозяин Р. Престона, доктор Гумбольдт, виновен в плагиате. Если вы передадите это капитану и рекомендуете ему немедленно переговорить с доктором Гумбольдтом, тот, возможно, во всем сознается. В таком случае, я надеюсь, вы мне немедленно об этом сообщите.

— Непременно. Вы меня извините, друг Илайджа? Я должен поговорить с капитаном без свидетелей.

— Ну конечно. Пройдите в зал заседаний, он полностью экранирован.

Р. Дэниел вышел, а Бейли обнаружил, что не в состоянии ничем заняться. Он волновался. Слишком многое зависело от правильности его анализа, а он остро чувствовал, как мало знает о психологии роботов.

Р. Дэниел вернулся через полчаса, и эти полчаса были, пожалуй, самыми длинными в жизни Бейли.

Разумеется, по невозмутимому лицу робота, несмотря на все его сходство с человеком, нельзя было ни о чем догадаться, и Бейли также постарался сохранять полную невозмутимость, когда спросил:

— Ну так что же, Дэниел?

— Все произошло, как вы сказали, друг Илайджа, Доктор Гумбольдт признался. По его словам, он рассчитывал, что доктор Себбет отступит и позволит ему насладиться этим последним триумфом. Теперь дело улажено, и капитан просит передать вам, что он в восторге. И думаю, мне тоже зачтется, что я рекомендовал вас.

— Вот и хорошо, — сказал Бейли, который теперь, когда все окончилось благополучно, вдруг почувствовал, что еле держится на ногах. — Но черт побери, Дэниел, не впутывайте меня больше в такие истории, ладно?

— Постараюсь, друг Илайджа. Разумеется, дальнейшее будет зависеть от того, насколько важной окажется проблема, от вашего местонахождения в тот момент и от некоторых других факторов. Однако мне хотелось бы задать вам один вопрос…

— Валяйте.

— Разве нельзя было предположить, что переход от лжи к правде должен быть легким, а переход от правды ко лжи — трудным? Это означало бы, что полностью отключившийся робот собирался вместо правды сказать ложь, а так как полностью отключился Р. Престон, то это означало бы, что виновен не доктор Гумбольдт, а доктор Себбет, не так ли?

— Совершенно верно, Дэниел. Можно было бы рассуждать и таким образом, но правильным оказалось обратное предположение. Ведь Гумбольдт-то признался. Разве нет?

— Да, конечно. Но раз оба эти построения были равно возможны, каким образом вы, друг Илайджа, так быстро сделали свой выбор?

Губы Бейли задергались. Он не выдержал и улыбнулся.

— Дело в том, Дэниел, что я исходил из психологии людей, а не роботов. В людях я разбираюсь лучше, чем в роботах. Другими словами, еще до того, как я стал допрашивать роботов, я довольно точно представлял себе, кто из математиков виновен. Когда же мне удалось добиться асимметричной реакции роботов, я истолковал ее как доказательство вины того, в чьей виновности я уже не сомневался. Реакция робота была настолько эффективной, что виновный человек не выдержал и сознался. А одним только анализом человеческого поведения я вряд ли сумел бы этого добиться.

— Мне хотелось бы узнать, что именно дал вам анализ человеческого поведения.

— Черт побери, Дэниел, подумайте немножко, и вам незачем будет спрашивать. В этой истории с зеркальными отражениями была еще одна асимметричность, помимо момента правды и лжи. А именно — возраст двух математиков, один из которых — глубокий старик, а другой еще очень молод.