Чарльз Стросс - Акселерандо

• Название: Акселерандо
• Автор: Чарльз Стросс
• Жанр: Научная Фантастика

Тридцать лет назад мы жили в мире телефонов с дисками и кнопками, библиотек с бумажными книжками, игр за столами и на свежем воздухе, и компьютеров где-то за стенами институтов и конструкторских бюро. Но компьютеры появились у каждого на столе, а потом и в сумке. На телефоне стало возможным посмотреть фильм, игры переместились в вирутальную реальность, и все это связала сеть, в которой можно найти что угодно, а идеи распространяются в тысячу раз быстрее, чем в биопространстве старого мира, и быстро находят тех, кому они нужнее и интереснее всех.

Манфред Макс - самый мощный двигатель прогресса на Земле. Он генерирует идеи со скоростью пулемета, он проверяет их на осуществимость, и он знает, как сделать так, чтобы изобретение поскорее нашло того, кто нуждается в нем и воплотит его. Иногда они просто распостраняются по миру со скоростью молнии и производят революцию, иногда надо как следует попотеть, чтобы все случилось именно так, а не как-нибудь намного хуже, но результат один и тот же - старанием энтузиастов будущее приближается. Целая армия электронных агентов помогает Манфреду в этом непростом деле. Сначала они – лишь немногим более, чем программы автоматического поиска, но усложняясь и совершенствуясь, они по-немногу приобретают черты человеческих мыслей, живущих где-то там, in silico. Девиз Манфреда и ему подобных – «свободу технологиям!» - и приходит время, когда электронные мыслительные мощности становятся доступными каждому. Cкорость появления новых изобретений и идей начинает неудержимо расти, они приносят вне новые дополнения разума и «железа», и петля обратной связи замыкается.

Экспонента прогресса превращается в кривую с вертикальной асимптотой. Что ждет нас за ней?

Перевод – torque_xtr.

Оригинал - http://www.antipope.org/charlie/blog-static/fiction/accelerando/accelerando-intro.html.

(under Creative Commons 2.5.)

---

«Ты не сможешь ими управлять. Задержка обратной связи. И поэтому ты хочешь экипаж, верно?»

«Ага. Но слать людей – это же втридорога. К тому же, там дела – лет на пятьдесят, даже если мы сумеем найти выброшенный на околоземку[55] койпероид, чтобы отстроиться. И боюсь, мы не осилим накодить ИИ, который бы смог управлять таким производством, раньше, чем до конца десятилетия. Так что у тебя на уме?»

«Дай подумать». Наконец Манфред замечает Памелу, которая уже просверлила в нем взглядом две дырки. «Что?»

«Что происходит? О чем тут, собственно, речь?»

Франклин пожимает плечами. Он выпрямляется, четки на дредах стучат друг о друга. «Манфред помогает мне зондировать фазовое пространство решений проблемы производства». Ухмыляясь: «Не думал, что у Мэнни есть невеста. Выпивка с меня».

Она бросает взгляд на Манфреда. Тот шевелит пальцами, усердно вглядываясь куда-то в странно расцвеченное пространство, которое его метакортекс проецирует на внутреннюю поверхность очков. «Наша помолвка была приостановлена, пока он раздумывал о своем будущем» - говорит она с холодом в голосе.

«О, ясно. Мы не паримся о таких вещах, в наше-то время… Типа, это слишком формально». Похоже, Франклин ощущает неловкость. «Он очень много в чем помог нам разобраться. Указал нам целое новое направление исследований, о котором мы не подумали. Оно долгосрочное и слегка спекулятивное, но если сработает, закинет нас в отрыв на целое поколение вперед в области внепланетной инфраструктуры».

«Да, конечно, но поможет ли это сократить дефицит бюджета?»

«Сократить что?..»

Манфред потягивается и зевает: провидец возвращается с планеты Макса. «Боб? Если я решу твои затруднения с экипажем, можешь забронировать мне время на сети дальней космической связи? Чтобы хватило, эм-м, гигабайта на два? Знаю, это займет широкую полосу, но если ты это сумеешь, я дам тебе именно такой экипаж, какой тебе нужен».

Франклин сомневается. «Гигабайта? DSN не предназначена для такого. Ты говоришь о нескольких сутках времени. И - что ты имел в виду — экипаж? Ты понимаешь, что именно я пытаюсь устроить? Мы же не можем позволить себе целую новую систему слежения или жизнеобеспечения, просто чтобы...»

«Расслабьтесь». Памела глядит на Манфреда. «Мэнни, почему бы тебе просто не сказать ему, зачем тебе нужна полоса? Наверное, тогда он сможет тебе сказать, имеет ли это смысл, или проще поискать другой способ». Она улыбается Франклину. «Я заметила, он становится несколько доходчивее, если сделать так, чтобы он объяснял свои доводы. Как правило».

«Если я...» - Манфред останавливается. «Окей, Пэм. Боб, это те омары из КГБ. Они хотят оказаться в каком-нибудь месте, изолированном от человеческого пространства. Мне представляется, я смогу убедить их записаться экипажем на твой самовоспроизводящийся завод. Но они захотят перестраховаться, вот зачем система дальней космической связи. Я считаю, мы можем переслать пару их копий в матрешки Дайсона в М31».

«КГБ?» - восклицает Пэм. «Ты говорил, что не связывался с шпионами!»

«Расслабься, это просто Московская Группа Пользователей Windows NT, никакое не ФСБ. Выгруженные хвостатые ее взломали и...»

Боб с удивлением смотрит на него. «Омары?»

«Ага!» Манфред возвращает взгляд, как ни в чем ни бывало. «Выгрузки Panulirus Interruptus. Что-то мне подсказывает, ты уже об этом слышал?»

«Москва». Боб откидывается на спинку стула. «Как ты узнал об этом?»

«Они позвонили мне!» - отвечает Манфред. «Трудно в наши дни выгрузкам оставаться без самосознания, даже если ты ракообразное. К лабораториям Безье есть много вопросов» - добавляет он с жесткой иронией.

Лицо Памелы — непроницаемая маска. «Лаборатории Безье?»

«Оттуда они сбежали». Манфред пожимает плечами. «Это не их вина. Этот мужик, Безье — он, случаем, не болен чем-нибудь?”

«Я...» Памела останавливается. «Я не разглашаю относящуюся к работе информацию».

«Шаперон не на тебе» - аккуратно подначивает он.

Она наклоняет голову. «Да, он болен. Какая-то разновидность опухоли мозга, с которой они не могут справиться».

Франклин кивает. «Вот в чем беда с раком. Всегда найдутся сложные случаи, слишком малочисленные. Лечения нет».

«Ну, тогда...» Манфред размешивает остатки пива в стакане. «Это объясняет, почему он так заинтересован в выгрузке. Судя по хвостатым, он на верном пути. Интересно, добрался ли он уже до позвоночных?»

«Кошки» - говорит Памела. «Он надеялся передать их Пентагону для использования в качестве умной системы наведения снарядов, и рассчитаться таким образов с налоговой задолженностью. Что-то вроде отображения карты вражеских целей в их сенсориуме[56]. так, чтобы они выглядели как мыши или как птички. Старый трюк с котенком и лазерной указкой».

Манфред поднимает на нее пристальный и тяжелый взгляд. «Это нехорошо. Выгруженные кошки — плохая идея».

«Тридцатимиллионный налоговый счет — тоже, Манфред. Это стоимость пожизненного ухода для сотни ни в чем не повинных пенсионеров».

Франклин, неприятно удивленный, откидывается на спинку стула, уходя с линии огня.

«Омары обладают самосознанием» - настаивает Манфред. «А что, в таком случае, с этими бедными котятами? Они что, не заслуживают минимальных прав? А подумай-ка о себе. Хотела бы ты тысячу раз подряд пробуждаться внутри разумного снаряда, думая, что приоритетная цель этого часа по расчету тактического компьютера в Шайеннском бункере — это любовь всей твоей жизни? Как бы тебе понравилось тысячу раз пробуждаться только для того, чтобы умереть снова? Что еще хуже: котятам никто не позволит дезертировать. Они, черт возьми, слишком опасны — котенок вырастает в кошку, в самодостаточную и высокоэффективную машину убийства. У них есть интеллект, и отсутствует социализация. Представь, что они оказались на воле и где-то рядом – это просто недопустимо. Они — вечные узники, Пэм. Существа, достигшие самосознания только для того, чтобы обнаружить себя приговоренными к бесконечной смерти. Насколько это, по-твоему, справедливо?»

«Но они всего лишь выгрузки!» Памела разглядывает его. «Они же просто программное обеспечение, так? Ты можешь воссоздать их на другом железе, как например, твою Айнеко. Аргумент об убийстве здесь не вполне применим, не так ли?»

«И что? Через пару лет мы приступим к выгрузке людей. Я считаю, нам необходимо сказать утилитаризму “в другой раз!”, пока он не вцепился нам прямиком в кору головного мозга. Омары, котята, люди... Это скользкая дорожка».

Франклин прочищает глотку. «Мне потребуется с тебя договор о неразглашении и всякие заключения юридических экспертиз по поводу твоей идеи хвостатых пилотов» - говорит он Манфреду. «Потом надо пробиться к Джиму, и устроить выкуп интеллектуальной собственности…»

«Так не пойдет». Манфред неторопливо откидывается на спинку и улыбается. «Не быть мне замешанным в ущемлении их гражданских прав. Пока это в пределах моей власти, они - свободные граждане. И кстати, утром я запатентовал всю идею использования ИИ, производных от омаров, в качестве замены автопилотов на космических аппаратах, и все права передал ССИ[57]. Записи везде в сети. Так что либо ты предлагаешь им контракт о приеме на работу, либо катись».

«Но они — просто программное обеспечение! Обеспечение на основе чертовых омаров, Господи! Я не уверен даже, обладают ли они самосознанием… Я имею в виду... Что они такое — сеть из десяти миллионов нейронов с прицепленным синтаксическим движком и дрянной базой знаний? Ну какие из этого составляющие интеллекта?»

Манфред показывает на него пальцем. «Именно это они потом скажут про тебя, Боб. Сделай это. Сделай так, или даже не мечтай о выгрузке из своего тела, когда оно начнет собираться на покой, потому что тебе не захочется такой жизни, которая за этим последует. Практику завтрашнего дня определяет прецедент, который ты создаешь сейчас. Да, и не стесняйся применять этот аргумент к Джиму Безье. Рано или поздно, если ты сунешь его в это носом, он поймет. А некоторые виды захвата территории в области искусственного интеллекта просто не должны быть допущены».

«Омары…» Франклин качает головой. «Омары, кошки. Ты это серьезно? Думаешь, с ними надо обращаться, как с человеческим эквивалентом?»

«Дело скорее не в том, что с ними надо обращаться как с человеческими эквивалентами, а в том, что если с ними не обращаться так, становится совершенно вероятно, что и других выгруженных созданий не будут воспринимать как равных людям. Ты создаешь юридический прецедент, Боб. Я знаю еще о шести компаниях, которые уже начали исследовать выгрузки, но никто из них не задумывается о легальном статусе выгруженных. Если и ты не задумаешься об этом сейчас — где ты будешь года через три или пять?»

Взгляд Пэм, не способной осознать происходящее, мечется от Франклина и Манфреду и обратно, как бот, застрявший в бесконечном цикле. «О каких суммах идет речь?» - говорит она жалобно.