Коллектив авторов - Полдень, XXI век (апрель 2012)

• Название: Полдень, XXI век (апрель 2012)
• Автор: Коллектив авторов
• Издательство: Литагент «Вокруг Света»30ee525f-7c83-102c-8f2e-edc40df1930e
• Жанр: Научная Фантастика
• Год: 2012
• ISBN: 978-5-98652-404-7

В номер включены фантастические произведения: «Темные аллели» Герберта Ноткина, «Маскировка» Юрия Иванова, «Досчитать до ста» Владимира Венгловского, «Чёрная сторона зеркала» Александра Щёголева, «Время беглецов» Сергея Игнатьева, «Должник» Майка Гелприна, «Реквием на барабане» Юлия Буркина, «Контрольный выдох» Эдуарда Шаурова.

---

Возникает вопрос: как же такие системы, у которых нет предела по сложности, смогут изменить человека?

2. Силуэт технологической сингулярности

Полтораста лет назад развитие металлургии определяло индустриальное состояние Европы. Пуск новых доменных печей был важнейшим в технологическом плане событием. Железной дороге повезло еще больше – она зримо помогала каждому человеку, потому изменение общественного бытия зафиксировано во всей классической литературе XIX века.

Однако стоит отрасли отойти от фронтира, сделаться не такой важной, и самые глубинные изменения в ней остаются совершенно не интересны окружающим. Как пристально общество сейчас следит за отказом от мартеновских печей? И действительно, сейчас переворот в металлургии не приведет к настолько же зримому изменению образа жизни людей, как в XIX веке.

Если мы ищем наибольший прорыв в технике – следует искать то наибольшее противоречие, которое в ней присутствует. Тогда даже временное, даже частичное снятие этого противоречия даст гигантские изменения в технике, позволит создать принципиально новые структуры. Каково же основное противоречие в техносфере? Если мы устранимся от частностей отдельных отраслей, то поймем, что техносфера замыкается на чуждом ей факторе – на человеке. Он ее смысл и конечный потребитель. То есть наблюдается противоречие между самообслуживанием техники и ее функциональным назначением.

Может ли техника существовать, имея целиком автономный смысл? Пока еще нет такой техники, которая сама была бы для себя causa finalis. Однако любой токарный станок не обслуживает непосредственно человека, а создает части других механизмов. Далее: будь машина живым существом, она создавала бы свои подобия. Но специализация, присущая техносфере, требует обратного, потому что функция создания, например, паровой машины это одно, а функция, которую будет исполнять эта паровая машина, – совсем другое. И как назвать техносферу, которая сможет разумно контролировать собственное состояние? Такой термин уже существует – ноосфера. Вот цель эволюции техники, которая снимает самое большое из актуальных противоречий ее бытия.

Вопрос о качественном скачке в развитии техники упирается в создание машин, могущих исполнять творческие функции человека. Названия у таких машин уже есть – искусственный интеллект. ИИ должен самостоятельно пополнять набор своих знаний, овладевать новыми методами, оперировать в нечетких ситуациях, адаптироваться.

Запрос на подобную машину во все века был чрезвычайно велик, и пока ее создание было явно невозможным, желания людей выражались в сказках и философских трактатах. Как только возникла самая призрачная возможность создать разумного работника, в подобные проекты стали вкладывать средства.

Например, как вкладывают в САПР, стремясь превратить эту систему в инструмент с максимально широкими возможностями. Требуются программы – секретари и делопроизводители. Уже сейчас есть сканеры, которые могут распознавать содержимое документов, есть аналитические программы, которые частично понимают содержание документов. Если же вспомнить армейскую проблематику, то здесь берут на вооружение вообще все, что позволит заменить человека. И не только потому, что жалко людей, – человек попросту неэффективен. Труслив, ленив, невнимателен, косорук. Бывает, что храбр, инициативен, находчив и удачлив, но реже.

Закон Мура действует исправно, и мощности суперкомпьютеров двадцатилетней давности сейчас никого не впечатляют. То, что вчера было прорывом, сегодня есть в любом доме. Следовательно, за сравнительно короткий исторический промежуток времени ИИ, созданный на передовых машинах, на суперкомпьютерах, сможет интегрироваться во всемирную паутину. Техносфера приобретет качества самоуправления, самоорганизации.

Это как раз то, что в рамках трансгуманизма принято называть «сингулярностью».

Каково же будет качественное изменение отношений между человеком и техносферой в случае создания ИИ?

Это будет переворот отношения к человеку, причем самый страшный из всех, бывших до того. По И. Канту, человек должен быть не средством, а целью. Но парадокс в том, что пока Homo sapiens остается средством – неизбежно приходилось делать его и целью. Если государство стремится послать солдата на войну, надо ждать хотя бы пятнадцать лет от момента его рождения. Допустим, человек перестанет быть средством, – ни его тело, ни его аналитические способности, ни его эмоции уже не смогут выступить на рынке первосортным товаром. Машины все сделают лучше. В этом случае целью человек будет оставаться только по инерции, за ним останется лишь роль потребителя.

И статус потребителя, как финальной причины существования техники, вовсе не спасает человека от деградации.

Сейчас уже никто не желает учить сведения, которые в любой момент, при ничтожных усилиях можно получить в Интернете. То есть от необходимости знать, где в какой книге находятся ответы, люди переходят просто к умению грамотно формулировать вопрос. За этим почти неизбежно последует новый шаг – формулировать свои пожелания. Но если личный микрокосм человека будет состоять из элементов, поставляемых поисковой системой, и если программа будет указывать лучшие варианты решений, – то даже «слабый» ИИ станет лучшим кормчим в этой искусственной вселенной. Несколько сгущая краски, можно сказать, что характер ребенка сформируется в зависимости от свойств поисковой системы и программы-опекуна – ведь даже родители станут полагаться на почти безошибочные советы компьютеров.

В не самой приятной перспективе мы получаем симбиоз – человек не сможет создавать никаких других смыслов жизни, кроме тех, что уже заданы ему необходимостью потребления. Его личный микрокосм состоит только из элементов, смоделированных компьютером, а решения в этом микрокосме принимаются только по калькам компьютерных решений. Человек становится неким полумагическим элементом, который живет вроде бы для себя, но уже и для техносферы. А техносфера, еще будучи не в состоянии осмыслить сама себя, использует человека как замыкающее звено ее причинно-следственных связей.

Каков может быть ответ человека на все эти потенциальные угрозы?

Микрочипы в крови или укрепленные микроволокном кости скелета, или усовершенствованные хрусталики глаз – дадут лишь очередного «супермена». Но сознание человека мало изменится. Даже нейрошунт, устройство, которое позволит нервной системе напрямую воспринимать информацию от компьютера, здесь не поможет.

Основное требование для сохранения за человеком его статуса – это неограниченные возможности роста его умственных способностей. Лишь обретя возможности по самосовершенствованию, присущие сейчас компьютерам, человек, как субъект, останется во главе техносферы. Так сказать, на вершине пищевой (интеллектуальной) пирамиды.

Подобную трансформацию называют перекачкой (или преображением) – сознание человека оцифровывается и переводится в машину. Идея далеко не нова, неоднократно «обкатывалась» в фантастической литературе. Она, понятно, является весьма спорной по этическим и религиозным соображениям.

Но оцифровка человеческого сознания и создание ИИ – это две стороны одной медали. Если ИИ будет создан на фоне значительного отставания в технологиях работы с мозгом, то люди теряют свое место на вершине техносферы. Самое грустное, что для этого надо просто оставить все как есть: конкурентная борьба и войны обеспечат появление ИИ – ведь в бесплатных и сообразительных работниках нуждаются практически все. Если же будет создана технология преображения, то человечество раскалывается на тех, кто может себе позволить перенос, и всех остальных, – этот вариант блестяще показал Р. Желязны в романе «Князь света».

Основное противоречие, которое вскрывает данная работа, – это противоречие между созданием искусственного интеллекта и оцифровкой сознания.

И у преображенных будут свои проблемы. Основная из них – самотождественность личности. Человек переживает множество психологических кризисов в детстве, но там есть привязка к обществу, к подобным ему, в конце концов – к собственному телу. С какими кризисами столкнется сознание после преображения – сказать очень тяжело. Программное состояние психики позволит человеку свободно перестраивать собственную личность, и эта личность будет непрерывно развиваться. Цифровое самосовершенствование – принципиально новая степень свободы.

Самые известные (или самые одиозные) трансгуманисты называют 2030-е годы[2] наиболее вероятным временам технологической сингулярности. Эти прогнозы могут не сбыться. Как не сбылись в полном объем прогнозы о быстром создании программ-переводчиков, о конструировании ИИ еще в 70-х гг. XX века и множество других оптимистичных предположений. Но даже если к созданию полноценного самосовершенствующегося ИИ человечество подойдет в 2050-60-х – это будет означать коренное изменение человеческой истории.