Даглас Хофштадтер - Глаз разума

• Название: Глаз разума
• Автор: Даглас Хофштадтер
• Издательство: Бахрах-М
• Жанр: Биология
• Год: 2003
• ISBN: 5-94648-023-5

Книга, которую Вы держите в руках, написана Д. Хофштадтером вместе с его коллегой и другом Дэниелом Деннеттом и в «соавторстве» с известными мыслителями XX века: классическая антология эссе включает работы Хорхе Луиса Борхеса, Ричарда Доукинза, Джона Сирла, Роберта Нозика, Станислава Лема и многих других. Как и в «ГЭБе» читателя вновь приглашают в удивительный и парадоксальный мир человеческого духа и «думающих» машин. Здесь представлены различные взгляды на природу человеческого мышления и природу искусственного разума, здесь исследуются, сопоставляются, сталкиваются такие понятия, как «сознание», «душа», «личность»…

«Глаз разума» пристально рассматривает их с различных точек зрения: литературы, психологии, философии, искусственного интеллекта… Остается только последовать приглашению авторов и, погрузившись в эту книгу как в глубины сознания, наслаждаться виртуозным движением мысли.

Даглас Хофштадтер уже знаком российскому читателю. Переведенная на 17 языков мира и ставшая мировым интеллектуальным бестселлером книга этого выдающегося американского ученого и писателя «Gödel, Escher, Bach: an Eternal Golden Braid» («GEB»), вышла на русском языке в издательском Доме «Бахрах-М» и без преувеличения явилась событием в культурной жизни страны.

Даглас Хофштадтер — профессор когнитивистики и информатики, философии, психологии, истории и философии науки, сравнительного литературоведения университета штата Индиана (США). Руководитель Центра по изучению творческих возможностей мозга. Член Американской ассоциации кибернетики и общества когнитивистики. Лауреат Пулитцеровской премии и Американской литературной премии.

Дэниел Деннетт — заслуженный профессор гуманитарных наук, профессор философии и директор Центра когнитивистики университета Тафте (США).

---

В-третьих, остаточный операционализм усугубляется остаточным дуализмом. Сильная версия ИИ имеет смысл только тогда, если принимается на вооружение дуалистическая гипотеза: там, где дело касается разума, мозг не важен. В сильной версии ИИ (как и в функционализме) важны только программы, и эти программы не зависят от их реализации в машинах: одна и та же программа может быть реализована в электронном компьютере, картезианской мыслительной субстанции или гегельянском мировом духе. Самое удивительное открытие, которое я совершил, обсуждая эти вопросы, состоит в том, что многие специалисты по ИИ были шокированы, когда я сказал, что феномен человеческого разума может находиться в зависимости от физико-химических свойств человеческого мозга. Однако если вы немного подумаете, то увидите, что я не должен был удивляться — ведь без той или иной формы дуализма сильная версия ИИ не имела бы никакого смысла. Сторонники этой версии пытаются воспроизвести и объяснить ментальные явления при помощи программ. Однако, поскольку программа полностью независима от ее реализации, этот проект может быть приведен в исполнение лишь в том случае, если разум не только концептуально, но и эмпирически независим от мозга. Если вы не верите в то, что разум можно отделить от мозга как концептуально, так и эмпирически — дуализм в сильной форме, — то вы не можете надеяться имитировать ментальные процессы путем написания и пуска в действие программ, поскольку программы должны быть независимы как от мозгов, так и от любой другой формы воплощения. Если ментальные процессы состоят в вычислительных операциях над формальными символами, из этого следует, что у них нет связи с мозгом. Единственная связь в таком случае заключалась бы в том, что мозг оказался бы одним из множества типов машин, на которых подобные программы могли бы работать. Эта форма дуализма отличается от традиционного картезианского варианта, утверждающего, что существуют два типа субстанций, картезианским его можно назвать из-за убеждения, что специфически ментальные свойства разума не связаны со свойствами мозга. Этот дуализм маскируется тем, что литература по ИИ содержит множество гневных тирад против “дуализма”; однако, авторы не замечают, что их собственная позиция предполагает сильную версию дуализма.

“Может ли машина думать?” Мое мнение в том, что только машины и могут думать. Эти особые машины называется мозгами или тем, что имеет ту же каузальную природу. Именно поэтому сильная версия ИИ не может сказать многого о мышлении, поскольку она не говорит нам многого о машинах. По определению, речь там идет о программах, а программы — это не машины. Чем бы еще ни была интенциональность, это прежде всего биологический феномен, который, скорее всего, находится в такой же каузальной зависимости от специфической биохимии своего происхождения, как лактация, фотосинтез и любой другой биологический феномен. Никто не предполагает, что мы можем получить молоко и сахар при помощи компьютерной симуляции формальных аспектов лактации и фотосинтеза, но когда речь идет о разуме, многие люди склонны поверить в подобное чудо, благодаря глубоко укоренившемуся, подспудному дуализму. Они считают, что разум — результат формальных процессов и, в отличие от молока и сахара, не зависит от специфических материальных причин.

В защиту подобного дуализма часто выражают надежду, что мозг по своей сути является цифровым компьютером (кстати, первые компьютеры часто называли “электронными мозгами”). Однако это нам не помогает. Разумеется, мозг — цифровой компьютер. Поскольку все на свете является цифровым компьютером, мозг — не исключение. Дело в том, что каузальная способность мозга порождать интенциональность не может зависеть от того, что на нем работает некая компьютерная программа, поскольку любая из программ может работать на другой машине, не имеющей ментальных состояний. Чего бы ни делал мозг, никакая программа сама по себе не достаточна для интенциональности.[7]

Размышления

Эта статья впервые появилась вместе с двадцатью восемью ответами на нее разных людей. Многие ответы содержали прекрасные замечания, но напечатать их здесь значило бы перегрузить нашу книгу; к тому же, некоторые из них были слишком техническими. Статья Сирля имеет то преимущество, что ее легко может понять человек, не обладающий специальными познаниями в области ИИ, неврологии, философии или других относящихся к делу дисциплин.

Наша позиция диаметрально противоположна позиции Сирля, но мы находим в нем красноречивого оппонента. Мы не будем пытаться опровергать каждый из его доводов, а сконцентрируемся лишь на нескольких из затронутых им проблем. Косвенным ответом на остальные его аргументы являются остальные главы нашей книги.

Статья Сирля основана на изобретательном примере “мысленного эксперимента китайской комнаты”. В этом эксперименте читателю предлагается представить себя в роли человека, вручную проделывающего те же шаги, которые предположительно проделывает хитроумная программа ИИ, когда она читает рассказы по-китайски и отвечает на поставленные вопросы настолько похоже на то, как это сделал бы человек, что может пройти тест Тьюринга. Нам кажется, что Сирл допускает серьезнейшую ошибку, предполагая, что человек на это способен. Принимая идею Сирля на веру, читатель оказывается незаметно втянутым в совершенно нереалистичную концепцию отношений между разумом и манипуляцией символами.

Иллюзия, которую Сирл надеется вызвать у читателя (разумеется, он не думает, что это иллюзия!), зависит от того, удастся ли ему заставить читателя проглядеть огромную разницу в сложности этих двух систем на разных концептуальных уровнях. Как только это ему удается, остальное оказывается проще пареной репы. В конце читателю предлагается ассоциироваться с Сирлем, когда тот вручную имитирует существующую программу ИИ, которая может определенным образом отвечать на некие определенные вопросы в определенной области. Для человека имитация вручную этой или любой другой существующей программы искусственного разума, имитация, во всех деталях повторяющая действия компьютера, потребовала бы дней, если не недель или месяцев, чудовищно скучного, скрупулезного труда. Вместо того, чтобы это упомянуть, Сирл, не уступающий в искусстве отвлечения публики опытному фокуснику, переключает воображение читателя на гипотетическую программу, проходящую тест Тьюринга. Не упомянув об этом ни словом, Сирл перескочил на несколько уровней. Читателя снова приглашают влезть в шкуру человека, шаг за шагом имитирующего компьютерную программу, и “почувствовать отсутствие понимания” китайского. В этом — основа аргументации Сирля.

Нашим (и Сирля, как выяснится в дальнейшем) ответом на это является, в основном, “ответ системы”. Мы считаем, что ошибочно приписывать понимание человеческому компоненту системы. Скорее, понимание — свойство всей системы в целом, что включает небрежно упомянутые Сирлем “клочки бумаги”. Это брошенное походя замечание показывает, как предвзятое мнение не дает Сирлю увидеть реальности. Думающий компьютер Сирлю так же отвратителен, как неэвклидова геометрия — ее случайному первооткрывателю, Джироламо Саккери, который полностью отказался от своего создания. То время — конец восемнадцатого века — еще не совсем созрело для принятия концептуального расширения, вызванного альтернативными геометриями. Однако примерно через пятьдесят лет неэвклидова геометрия была снова открыта и постепенно признана.

Возможно, такая же судьба ожидает и искусственную интенциональность, если она когда-нибудь будет создана. Если в один прекрасный день появится программа, способная пройти тест Тьюринга, то Сирл, вместо того, чтобы восхищаться мощью и глубиной этой программы, будет, вероятно, продолжать настаивать, что ей не хватает некой чудодейственной “каузальной силы мозга” (что бы это ни означало). Чтобы подчеркнуть несостоятельность этого понятия, Зенон Пылишин в своем ответе Сирлю, напоминающем “Историю мозга” Зубова (глава 12), спрашивает, не описан ли аргумент Сирля в следующем отрывке.

Если бы клетки вашего мозга одна за другой заменялись на чипы интегрированной сети, запрограммированные таким образом, чтобы функция входа и выхода каждого узла в точности повторяли функции замененного узла, вы продолжали бы разговаривать точно так же, как сейчас. Единственная разница заключалась бы в том, что ваша речь постепенно утратила бы всякое значение. То, что сторонним наблюдателям будет казаться словами, для вас стало бы просто шумами, которые вы издавали благодаря электронной системе.

Слабость позиции Сирля в том, что он не говорит, в какой момент настоящее значение — настоящий вы — исчезают из системы. Он просто настаивает на том, что некоторые системы, благодаря их “каузальной силе”, обладают интенциональностью, а остальные — нет. Он колеблется, не зная, чему приписать эту силу. Иногда ему кажется, что мозг состоит из “правильного материала”, иногда — что причины в другом. Каждый раз причина в том, что наиболее подходит для целей аргументации: то это некая скользкая квинтэссенция, отличающая “форму” от “содержания”, то это некая другая квинтэссенция, лежащая в основе различия между синтаксисом и семантикой, и так далее.