Станислав Лем - Диалоги

• Название: Диалоги
• Автор: Станислав Лем
• Издательство: АСТ, Транзиткнига
• Жанр: Философия
• Год: 2007
• ISBN: 5-17-023030-3, 5-9578-0903-9

Размышления знаменитого писателя-фантаста и философа о кибернетике, ее роли и месте в современном мире в контексте связанных с этой наукой – и порождаемых ею – социальных, психологических и нравственных проблемах. Как выглядят с точки зрения кибернетики различные модели общества? Какая система более устойчива: абсолютная тирания или полная анархия? Может ли современная наука даровать человеку бессмертие, и если да, то как быть в этом случае с проблемой идентичности личности?

Написанная в конце пятидесятых годов XX века, снабженная впоследствии приложением и дополнением, эта книга по-прежнему актуальна. Многое из того, что предвидел Лем, сбылось, многому еще, возможно, предстоит осуществиться...

---

Аналогом физического труда, выполняемого с использованием технологий, труда по добыче полезных ископаемых и их переработке, их последующей транспортировки на большие расстояния, усилий, необходимых для выталкивания из земной гравитационной «воронки» космических снарядов, энергии для обогрева арктического жилища человека и для охлаждения его экваториального жилья и т.п., – аналогом всего этого является информационная работа, причем важно осознавать, что обе эти работы сходны в физическом смысле: поскольку суть всегда состоит в том, чтобы где-то уменьшилась энтропия за счет ее увеличения в другом месте; к подобной трансакции принуждает нас природа мира, в котором мы существуем. Мы стоим на пороге эры информационных технологий, которые, кроме полезных для нас даров, могут преподнести и дары данайцев. Потому что социально-экономический симбиоз человека и машин в информационном плане может привести к стиранию реальных границ компетенции: взаимовлияние составляющих этого симбиоза может выглядеть таким образом, что уже будет непонятно, кто, собственно, ведущий, а кто – ведомый, или, что то же самое, кто кем правит. Большая и сложная глобальная сеть, которая начнет формироваться, будет обладать очень запутанной структурой собственных закономерностей – мы будем ее успешно строить, предполагая определенные выгоды, несомненно и быстро поддающиеся обнаружению на практике; однако система эта может иметь и другие, невидимые вначале и только поэтому, а не в результате чьего-либо коварства утаенные, – такие динамические черты, что незаметно цивилизация ляжет в дрейф. Повторяю, речь не идет о некоей форме «криптократического» поведения компьютерных сетей; мы также не касаемся уже многократно обсуждаемой угрозы человеческому праву на частную жизнь, вызванной размещением в машинной памяти всех, даже самых интимных данных о каждом индивидууме, – угрозы, которой, если уж она реальна, каким-то образом удалось бы противостоять. Симбиоз машин и людей будет характеризоваться определенным вкладом обеих «сторон» – тем, каков процент их участия в принятии решений, в управлении и контроле. Однако система в целом может иметь динамическую характеристику, неподвластную в своей целостности ни одной из сторон, поскольку никакая система не может себя полностью ни описать, ни контролировать: этот принцип непоколебим. Система не в состоянии создать свой адекватный образ, то есть познать саму себя; благодаря отдельным актам созерцания и обобщения она сможет открыть законы собственного движения, но никогда не сможет обрести полную уверенность, что все законы уже открыты и освоены. Это в состоянии сделать только система более высокого уровня, выполняющая функции контроля над предыдущей. Но организация подобного контроля, которая в сфере информации была бы явным аналогом того разделения, какое сейчас происходит в технологии трудовых процессов, иными словами, создание информатики «второго броска», функционирующей не для нас непосредственно, но только наблюдающей симбиоз людей и машин, чтобы заданное ему равновесие не превратилось в какое-нибудь подобие нежелательного дрейфа, – такая организация может привести к фатальному regressus ad infinitum: или, в свою очередь, следовало бы к контролеру приставить надзирателя еще более высокого уровня, который бы присматривал за контролером: в противном случае возникает вопрос – quis custodiet ipsos custodes?[44]

Конечно, эту проблему мы не можем сегодня решить даже приблизительно – решение это относится к очень неблизкому будущему, но о ней не стоит забывать, поскольку она является свидетельством расхождения предварительных ожиданий человека и их реализации, что, пожалуй, постоянно происходит в нашей истории. Видение бесконечного ряда «информационных зеркал» как пирамиды контроля, подвешенной над цивилизацией будущего – воистину странно, как и сам процесс «отражения», моделирования происходящего на Земле с целью оптимального за ним наблюдения – кажется, что это видение является иронической реализацией стародавних представлений-мифов о высших силах, которым все видно в человеческой жизни – и все подвластно. Если эта бесконечность пирамиды надзора карикатурно представляет функцию Бога, архангелов, престолы, господства и прочую иерархию небесной информатики, то делает это неумышленно: впрочем, такой regressus ad infinitum не поддается воссозданию, а потому информационной машины, которая бы воссоздавала бесконечное контролирующее всеприсутствие Божества, скорее всего никогда не будет.

Сказанное выше наводит на следующие размышления – в различных аспектах:

1) В связи с исключительной новизной рассматриваемого явления характерно разделение исследовательской среды на противоположные лагери. Общее для них – это лозунг «Все или ничего»; сторонники кибернетики ожидали от нее «всего», в то время как критики считали ее сугубо малоценной в познавательном отношении. Значительно реже встречается промежуточная точка зрения; в пользу такой точки зрения я приводил аргументы в 1966 г. в «Сумме технологии», в разделе «Сомнения и антиномии» раздела «Интеллектроника». Поведение критиков, таких как M. Таубе, – ликвидаторское; неисправимые же оптимисты склонны к – в такой же по крайней мере степени вредному – откладыванию сроков, когда «все» будет сказано, или же к форменной фальсификации данных. Типичной в этом смысле может быть книга, изданная в 1968 г. издательством «Галлимар» в серии «Идеи», вышедшая из-под пера Ж.М. Фонты и Ж.С. Кинью, «Упорядочивающие факторы: мифы и реальность» (Les ordinateurs – mythes et realites), в которой полностью уничтожаются различия в степени трудностей при составлении разных частей кибернетической программы и прямо сообщается, что якобы в СССР переведен с английского на русский «некий» роман Диккенса при помощи машины, да так хорошо, что перевод выдержал проверку сопоставлением с литературным переводом, сделанным человеком (что попросту ложь – советские источники ни о чем таком не сообщают). Нашлись логики-профессионалы, поверившие в безграничные возможности кибернетики, если Вонг запрограммировал цифровую машину так, что она за 8,5 минут доказала большую часть теорем из фундаменального труда Б. Расселa и А. Уайтхедa «Principia Mathematica» – а эта работа потребовала от указанных специалистов нескольких лет. В то же время до сих пор нет программы, которая позволила бы вести с машиной ни к чему не обязывающую свободную беседу в «дружеском» тоне. Однако подобная несоизмеримость представляется в ином свете, если вспомнить, что человеческая рука действительно не в состоянии поднять тяжесть, пустяковую для подъемного крана, зато она может выполнить тысячи операций, на которые никакой подъемный кран не способен. Наш мозг с трудом выполняет операции чисто дедуктивные, потому что по-другому – универсально – сконструирован. Об интеллектуальных возможностях в лингвистической области (вербальной) свидетельствует количество участков, где расположены селекторы, формирующие высказывание, их количество в исключительных случаях – например, «трудного» литературного текста – просто бесчисленное. В принципе, машины могли бы уже сейчас переводить небольшие научные тексты достаточно четко – при условии, что их авторы, обстоятельно ознакомившись с особенностями компьютерных программ перевода, согласно этим особенностям и писали бы свои статьи. Однако никто таких дополнительных условий ученым не ставит, потому что жизненный опыт подсказывает, что легче просто выучить иностранный язык в необходимом объеме, чем пытаться высказываться в соответствии с переводческими способностями машины.

2) Оппоненты (например, братья Дрейфусы) утверждают, что машина могла бы сравниться с человеком, если бы сама была живым человекоподобным организмом, то есть попросту человеком, «сотворенным в реторте». Защитники же ссылаются на то, что созданию интеллектуально развитых машин препятствуют обстоятельства, не связанные с кибернетикой, – например, баснословная стоимость, отсутствие рыночного спроса на такие устройства или же чисто технические сиюминутные трудности. Более информированные знают, что все эти аргументы противоречат истине. Трудности имеют природу принципиальную и теоретическую; что же касается спроса, то существуют могущественные круги, заинтересованные в создании переданных военным «усилителей интеллекта», то есть барьер, сдерживающий развитие кибернетики, – не экономического характера. Упорство энтузиастов позволило создать программы игры в шахматы, обыгрывающие каждого, даже выше среднего уровня шахматиста, кроме мастеров мирового уровня, но этот успех является результатом совершенствования технических параметров обработки информации, а не преодоления барьеров научного поиска и выхода на более высокий уровень интеллектуальных возможностей компьютера. Как апологеты, так и противники кибернетики переиначивают положение дел. В принципе, фигурой умолчания оптимистов была возможность обойти все те действия, которые реализовывала, создавая нас, природная эволюция. Они рассчитывали на то, что развитие эволюции эквифинально алгоритмическим и эвристическим операциям, которые можно быстро механизировать. Однако, как свидетельствует об этом, к примеру, книга «Artificial Intelligence through Simulated Evolution»[45] (изданная в 1966 г., авторы: L.J. Fogel, A.J. Owens и V.J. Walsh) – выводы которой удивительно совпадают с моими из «Суммы технологии» (первое издание 1964 г.), – немало специалистов понимает необходимость выхода на более широкие позиции: исследование моделей биоэволюции как «экзаменатора» функционирования также и в интеллектуальном аспекте. Таким образом, согласно этим авторам, моделирование эволюционных процессов является необходимой предпосылкой автоматизации интеллекта.