Айзек Азимов - Мечты роботов

• Название: Мечты роботов
• Автор: Айзек Азимов
• Издательство: Эксмо, Валери СПД
• Жанр: Научная Фантастика
• Год: 2002
• ISBN: 978-5-699-00842-1, 5-699-00842-X

О чем могут мечтать роботы, созданные человеком? Наверное, о том, чтобы стать людьми, ведь они так мало похожи на своих творцов. И, наверное, эти металлические люди с позитронными мозгами будут обладать такими возможностями и качествами, о которых не стоит и мечтать представителям рода человеческого.

Однако, если роботы станут умнее людей, не возникнет ли опасность, что они перестанут нам подчиняться и захотят создать собственную цивилизацию?

---

— Разве за двести лет эти проблемы не возникали и не были решены? — поинтересовался Джордж.

— Нет, — энергично помотал головой Харриман. — Наши роботы использовались только в космосе, в особой среде, где с ними общались высококвалифицированные специалисты. Там не было ни детей, ни идиотов, ни преступников, ни невежд с благими намерениями. И тем не менее случалось, что глупые или попросту непродуманные приказы наносили определенный ущерб, но его размеры были ограничены тем, что роботов применяли в очень узкой сфере. Однако на Земле роботы должны уметь принимать решения. На этом спекулируют противники роботехники, и, черт бы их побрал, тут они совершенно правы.

— Тогда необходимо внедрить в позитронный мозг способность к взвешенному суждению.

— Вот именно. Мы начали производство модели ДжР, которая сможет судить о человеке, принимая во внимание пол, возраст, социальную и профессиональную принадлежность, ум, зрелость, общественную значимость и так далее.

— И как это повлияет на Три закона?

— На Третий закон — вообще никак. Даже самый ценный робот обязан разрушить себя ради самого ничтожного человека. Здесь ничего не изменится. Первого закона это коснется, только если альтернативные действия в любом случае причинят вред. Тогда решение будет приниматься не только в зависимости от количества людей, но и, так сказать, их качества, при условии, конечно, что на это хватит времени, а основания для суждения будут достаточно вескими. Впрочем, такие ситуации довольно редки. Самым сильным изменениям подвергнется Второй закон, поскольку любое потенциальное подчинение приказу будет включать в себя суждение о нем. Реакция робота замедлится, за исключением тех случаев, когда в силу вступит Первый закон, зато исполнение приказа будет более осмысленным.

— Но способность судить о людях — вещь непростая.

— Вернее, крайне сложная. Необходимость сделать выбор замедляла реакцию наших первых двух моделей до полного паралича. В следующих моделях мы пытались исправить положение за счет увеличения мозговых связей — но при этом мозг становился слишком громоздким. Однако в нашей последней паре моделей, на мой взгляд, мы добились, чего хотели. Роботам теперь не обязательно сразу судить о достоинствах человека или оценивать его приказы. Вначале новые модели ведут себя как обычные роботы, то есть подчиняются любому приказанию, но одновременно они обучаются. Робот развивается, учится и взрослеет, совсем как ребенок, и поэтому сначала за ним необходим постоянный присмотр. Но по мере развития он станет все более и более достойным того, чтобы человеческое общество на Земле приняло его в свои ряды как полноправного члена.

— Это, несомненно, снимает возражения противников роботов.

— Нет, — сердито возразил Харриман. — Теперь они выдвигают новые претензии: им не нравится, что роботы способны к суждениям. Робот, говорят они, не имеет права классифицировать того или иного человека как личность низшего сорта. Отдавая предпочтение приказам некоего А перед приказами некоего Б, они тем самым считают Б менее ценным по сравнению с А и нарушают основные права человека.

— И как вы ответите на это?

— Никак. Я сдаюсь.

— Понимаю.

— Но это касается только меня лично. Потому-то я и обращаюсь к тебе, Джордж.

— Ко мне? — Голос Джорджа остался таким же ровным, лишь мягкое удивление прозвучало в нем. — Почему ко мне?

— Потому что ты не человек, — с нажимом произнес Харриман. — Я уже говорил тебе, что хочу видеть роботов партнерами людей, — вот и стань моим партнером.

Джордж-10 беспомощно, странно человеческим жестом развел руками.

— Что я могу сделать?

— Тебе, конечно, кажется, что ты ничего не можешь, Джордж. Ты создан совсем недавно, в сущности, ты еще дитя. Тебя специально не перегружали информацией — поэтому мне и приходится объяснять все так подробно, — чтобы оставить место для развития. Но твой интеллект будет развиваться и позволит тебе взглянуть на проблему с иной, не человеческой точки зрения. Там, где я не вижу выхода, ты можешь найти его.

— Мой мозг сконструирован людьми. Как он может быть нечеловеческим?

— Джордж, ты последняя модель серии ДжР. Твой мозг — наиболее сложный из всех, которые мы создавали когда-либо, в чем-то он устроен даже более тонко, чем у прежних огромных Машин. Он представляет собой открытую систему, и, несмотря на изначальное человекоподобие, эта система может развиваться — будет развиваться — в любом неожиданном направлении. Оставаясь в непреложных границах Трех законов, ты можешь обрести тем не менее совершенно нечеловеческий образ мышления.

— Но хватит ли у меня знаний о людях, чтобы правильно подойти к проблеме? Об их истории? Психике?

— Конечно, нет. Но ты будешь обучаться настолько быстро, насколько это возможно.

— Мне будет кто-нибудь помогать, мистер Харриман?

— Нет. Все это строго между нами. Никто ни о чем не должен знать, и ты не должен говорить об этом проекте ни одному человеку, ни в «Ю. С. Роботс», ни за пределами фирмы.

— Мы совершаем нечто предосудительное, мистер Харриман, если вы так настаиваете на сохранении тайны? — спросил Джордж.

— Нет. Но решение, предложенное роботом, не будет принято именно потому, что оно исходит от робота. Как только ты что-нибудь придумаешь, сразу дай мне знать, и, если твое решение покажется мне верным, я представлю его как свое. Никто не узнает, что ты его автор.

— В свете того, что вы говорили раньше, — спокойно проговорил Джордж-10, — это кажется мне вполне разумным. Когда приступать?

— Прямо сейчас. Я позабочусь о том, чтобы у тебя были все необходимые пленки.

1а

Харриман остался один. Искусственное освещение в кабинете скрадывало наступившие сумерки. Ощущение времени как-то стерлось, и Харриман даже не заметил, что, с тех пор как он отвел Джорджа-10 в его ячейку и оставил там с первой порцией пленок, прошло уже три часа.

Теперь он сидел в полном одиночестве, наедине с призраком Сьюзен Кэлвин, блестящего робопсихолога, которая мановением руки превратила позитронных роботов из громоздких игрушек в самый разносторонний и тонкий инструмент для человека — настолько тонкий и многогранный, что люди не осмеливались, от страха или из зависти, пользоваться им.

После ее смерти прошло более ста лет. Проблема комплекса Франкенштейна существовала и тогда, но Сьюзен не удалось решить ее. Хотя, с другой стороны, она никогда и не пыталась сделать этого — не было особой необходимости. В ее время роботехника развивалась за счет исследований в космосе.

Самый факт успешного развития роботов сократил у человечества потребность в них и заставил Харримана, в его время…

Но обратилась бы Сьюзен Кэлвин за помощью к роботу? Несомненно, она бы…

И так он сидел до поздней ночи.

2

Максвелл Робертсон был главным держателем акций «Ю. С. Роботс» и в этом смысле контролировал фирму. Его наружность никак нельзя было назвать впечатляющей. Средних лет, низенький и плотный, он постоянно жевал правый угол нижней губы, когда был взволнован или раздражен.

За два десятилетия общения с правительственными чиновниками он научился обращаться с ними: был мягок, уступчив, улыбчив и всегда умел выиграть время. Но чем дальше, тем больших усилий это требовало от него, и в основном из-за Гуннара Эйзенмата. В системе Глобальной Экологической Охраны, за последнее столетие забравшей в свои руки власть, уступающую разве что власти Всемирного Правительства, Эйзенмат наиболее рьяно пробивался сквозь «серую зону» компромиссов к крайней неуступчивости. Он был первым и единственным не-американцем по рождению среди охранителей, и все сотрудники «Ю. С. Роботс» считали, что его враждебность возбуждает устаревшее название фирмы, хотя прямых доказательств тому вроде бы не было. Уже не впервые в этом году, а тем более при жизни нынешнего поколения, вставал вопрос о переименовании корпорации в «Уорлд Роботс», но Робертсон опять воспротивился. Компания была основана с помощью американского капитала, американских мозгов и американского труда, и хотя она давно уже по сути и по размаху операций превратилась в международную корпорацию, название фирмы будет свидетельствовать о ее происхождении — по крайней мере пока он, Робертсон, стоит у руля.

Эйзенмат был высоким человеком с грубо вылепленным печальным длинным лицом. На универсальном языке он разговаривал с заметным американским акцентом, хотя ни разу не бывал в Штатах до своего назначения на должность.

— Мне кажется, что все совершенно ясно, мистер Робертсон. Не вижу, в чем затруднение. Продукция вашей компании всегда сдавалась в аренду и никогда не подлежала продаже. Если взятая в аренду собственность фирмы на Луне больше не нужна, вы обязаны забрать ее и отправить в другое место.