Тед Чан - Жизненный цикл программных объектов

• Название: Жизненный цикл программных объектов
• Автор: Тед Чан
• Жанр: Научная Фантастика

Самая большая на сегодняшний день работа Теда Чана в определенной мере посвящена поискам путей создания AI (Artificial Intelligence) — Искусственного Интеллекта. Но, вероятно, в еще большей степени посвящена она людям, работающим с носителями AI, дигитантами — дигитальными сущностями, которые, облеченные в симпатичные аватары развиваются и обучаются на специальных «планетах»-платформах, где они могут, освоив человеческую речь, общаться как со своими создателями, так и друг с другом.

Автор, сам работающий в компьютерной индустрии, точно и нередко безжалостно рисует проблемы, существующие в ней, технические (такие, как несовместимость платформ, с чем сталкивается и обычный пользователь сегодня), и человеческие: появление новых — пусть и виртуальных — существ (дигитантов) влечет за собой проблемы и этического характера. Многие, купив забавных питомцев, начинают понимать, что хлопот с ними предостаточно (обучение, необходимость совместных игр) и… нередко усыпляют их. То есть, попросту выключают, убеждая себя, что делают это на время.

Разработчики, наделив дигитантов робо-телом, т. е. загрузив AI дигитантов в корпус робота, вводят их тем самым в наш, реальный мир, что влечет за собой целый ряд открытий и проблем, включая такую, как предложение использовать «воплощенных» дигитантов в качестве сексуальных партнеров.

Конфликты, возникающие между людьми – даже любящими людьми – возникают из-за того, что с такой ясностью выразил Антуан де Сент-Экзюпери: «Ты навсегда в ответе за всех, кого приручил».

Эта небольшая повесть Чана поднимает необычно большой круг проблем: концептуальных (подход к проблеме AI у автора и оригинален, и глубок), технологических, этических. Эта книга в такой же степени о дигитальных сущностях, как и о нас.

---

Позднее этим же вечером она размещает на форуме ответ на комментарий Дерека:

От: Аны Альварадо

Дерек затронул хороший вопрос. Но даже если ответ на него будет утвердительным, это не значит, что нам следует принять предложение Binary Desire.

Если человек ищет объект для фантазирования во время мастурбации, он может достичь этого с помощью обычных программ. Ему не обязательно покупать невесту по каталогу[43] и наклеивать на нее дюжину пластырей InstantRapport, а ведь в принципе именно это Binary Desire и собирается предложить своим клиентам. Но этого ли мы хотим для своих дигитантов? Мы можем так накачать их виртуальными эндорфинами[44], что они будут вполне счастливы, обитая в каком-нибудь подвале на «ООПП Земля», но мы слишком уважаем их, чтобы так поступить. Не думаю, что мы должны позволять кому бы то ни было относиться к ним с меньшим уважением.

Признаюсь, идея секса с дигитантом поначалу меня обеспокоила, но сейчас я не против этой идеи в принципе. Я не могу представить себя в такого рода отношениях, но если другие хотят этим заниматься, я не вижу проблемы — при условии, что такие отношения не будут эксплуататорскими. Если будет существовать определенный уровень взаимного уважения, то, возможно, реализуется ситуация, о которой говорил Дерек: хорошо для дигитанта — и хорошо для человека. Но если у человека появится возможность свободно перекодировать таблицу поощрений или делать откаты до тех пор, пока он не найдет чекпойнт, в котором партнер кажется ему идеально настроенным, возникает вопрос: насколько он уважает дигитанта на самом деле?

Любой член пользовательской группы вправе принять предложение Binary Desire в индивидуальном порядке, но аргументы Аны достаточно убедительны, и пока никто не спешит с выводами. Через несколько дней после телеконференции Дерек рассказывает Марко и Поло о предложении Binary Desire, сочтя, что они заслуживают того, чтобы их информировали о происходящем. Поло любопытно знать, какие трансформации хочет сделать Binary Desire', он знает, что в нем заложена таблица поощрений, но при этом никогда не задумывался о том, что значит редактирование-перекодировка этой таблицы.

— Интересно было бы редактировать мою таблицу поощрений, — говорит Поло.

— Ты не можешь редактировать свою таблицу, работая на кого-то, — говорит Марко. — Сможешь, если станешь корпорацией.

Поло поворачивается к Дереку:

— Это правда?

— Даже если бы ты стал корпорацией, я не позволил бы тебе это делать.

— Эй! — протестует Марко. — Ты говорил, что, став корпорацией, мы будем вправе принимать решения самостоятельно.

— Да, я это говорил, — соглашается Дерек, — но тогда я не думал о том, чтобы вы переписывали свои карты поощрений. Это может быть очень опасно.

— Но ведь люди могут редактировать свои карты поощрений.

— Что?! Мы не можем делать ничего даже похожего на это.

— А таблетки, которые люди принимают для секса? Ифридизяки?

— Афродизиаки. Это рассчитано на короткое время.

— InstantRapport на короткое время? — спрашивает Поло.

— Не совсем так, — говорит Дерек, — но очень часто, когда люди пользуются им, они совершают ошибку.

Особенно если за это им платит компания, думает он.

— Когда я корпорация, сам могу делать ошибки, — говорит Марко. — В этом весь смысл.

— Ты еще не готов стать корпорацией.

— Потому что тебе не нравятся мои решения? «Готов» значит: всегда согласен с тобой?

— Если ты хочешь начать редактировать свою таблицу поощрений, как только станешь корпорацией, значит, ты не готов.

— Я не сказал «хочу», — категорически заявляет Марко. — Я не хочу. Я сказал, когда я корпорация, могу это делать. Разница.

Дерек умолкает на мгновение. Несложно забыть, но это именно тот вывод, к которому пришла пользовательская группа во время дискуссии об инкорпорации дигитантов: если статус юридического лица не просто игра словами, инкорпорация означает наделение дигитанта определенной самостоятельностью.

— Да, ты прав. Когда ты станешь корпорацией, ты получишь свободу совершать действия, которые мне кажутся ошибочными.

— Хорошо, — довольным тоном произносит Марко. — Когда ты решишь, что я готов, это будет не потому, что я соглашаюсь с тобой. Я могу быть готов, даже не соглашаясь с тобой.

— Верно. Но пожалуйста, скажи, что ты не собираешься перекодировать свою таблицу поощрений.

— Не собираюсь, знаю, это опасно. Можно сделать ошибку, которая не даст мне ее исправить.

Дерек испытывает облегчение.

— Спасибо.

— Но разрешить Binary Desire редактировать мою таблицу — это не опасно.

— Нет, это не опасно, но это нехорошая идея.

— Я не согласен.

— Почему? Не думаю, что ты понял, что именно они хотят сделать.

Марко расстроенно смотрит на Дерека:

— Я понял. Они сделают так, чтобы мне нравилось то, что они хотели бы сделать приятным для меня, даже если сейчас мне это не нравится.

Дерек осознает, что Марко все понял.

— И тебе не кажется, что это неправильно?

— Почему неправильно? Все, что я люблю сейчас, я люблю потому, что Blue Gamma так меня запрограммировала. Ничего неправильного.

— Да, но здесь разница. — Он на момент задумывается, как объяснить свою мысль. — Blue Gamma сделала так, что ты любишь угощение, но никто не решал за тебя, какое именно угощение ты должен любить.

— Ну и что? Не великая разница.

— Но разница.

— Я согласен, будет неправильно, если они станут перекодировать дигитантов, которые не хотят этого. Но если дигитант соглашается до перекодировки, ничего неправильного нет.

Дерек чувствует, что начинает сердиться.

— Так чего ты хочешь? Стать корпорацией и принимать решения самостоятельно или предоставить другим решать за тебя?

Марко задумывается.

— Может быть, я попробую и то и другое. Одна копия меня станет корпорацией, другая копия меня будет работать на Binary Desire.

— И ты не против того, чтобы с тебя делали копии?

— Поло копия, сделанная с меня. Ничего плохого.

Пребывая в растерянности, Дерек сворачивает дискуссию

и отправляет дигитантов выполнять домашнее задание, но ему не удается забыть то, что сказал Марко. С одной стороны, Марко привел ряд веских аргументов, но с другой стороны, Дерек достаточно хорошо помнит свои студенческие годы и знает, что умение аргументированно выступать в дебатах — не то же самое, что зрелость. Уже не впервые он думает о том, насколько было бы легче, если бы для дигитантов был юридически определен возраст достижения совершеннолетия; без этого только от него зависит решение о готовности Марко стать корпорацией.

Дерек не единственный, вовлеченный в конфликты после презентации Binary Desire. Во время их очередного разговора с Аной последняя жалуется на ссору с Кайлом.

— Он считает, что мы должны принять предложение Binary Desire, — говорит Ана. — Он сказал, что лучше это, чем мое согласие работать на Polytope.

Еще одна возможность для Дерека выразить свое критичное отношение к Кайлу — но как облечь это в слова? Все, что ему удается сказать по этому поводу:

— Потому что он считает, что трансформация дигитантов — пустяки.

— Именно, — раздраженно говорит она и продолжает: — Я не думаю, что налепить на себя пластырь InstantRapport — пустяки. Это совсем не пустяк. Но одно дело, если я добровольно воспользуюсь InstantRapport, и совсем другое, если Binary Desire будет искусственно навязывать дигитантам влюбленность в кого-то. Большая разница.

— Огромная разница. Но знаешь, здесь возникает любопытный вопрос. — Он рассказывает ей о дискуссии с Марко и Поло. — Я не уверен, может быть, Марко затеял этот спор из чистого упрямства, но он заставил меня призадуматься. Что, если дигитант добровольно согласится подвергнуться перекодировке, которую хочет сделать Binary Desire, — это ведь будет иная ситуация?

Теперь задумывается Ана.

— Не знаю. Возможно.

— Когда взрослый человек решает воспользоваться пластырем InstantRapport, у нас нет оснований возражать. Что нужно от нас, чтобы мы отнеслись к решению Джакса или Марко с таким же пониманием и уважением?

— Для этого они должны быть взрослыми.

— Но мы могли бы заполнить бумаги на инкорпорацию уже завтра, если бы захотели, — говорит Дерек. — Почему мы уверены, что не должны этого делать? Положим, в один прекрасный день Джакс говорит тебе, что он понимает, на что идет, принимая предложение Binary Desire, как ты — работу в Polytope. Что потребовалось бы, чтобы ты смирилась с его решением?

Она снова задумывается.

— Наверное, это зависит от того, считала бы я, основано ли его решение на опыте, или нет. У Джакса никогда не было любовных отношений, как не было и работы, а принять предложение Binary Desire означало бы и то и другое — и потенциально навсегда. Я хотела бы, чтобы у него был хоть какой-то опыт в этих делах, прежде чем он примет решение, последствия которого необратимы. Будь у него такой опыт, я вряд ли стала бы возражать.