Даглас Хофштадтер - Глаз разума

• Название: Глаз разума
• Автор: Даглас Хофштадтер
• Издательство: Бахрах-М
• Жанр: Биология
• Год: 2003
• ISBN: 5-94648-023-5

Книга, которую Вы держите в руках, написана Д. Хофштадтером вместе с его коллегой и другом Дэниелом Деннеттом и в «соавторстве» с известными мыслителями XX века: классическая антология эссе включает работы Хорхе Луиса Борхеса, Ричарда Доукинза, Джона Сирла, Роберта Нозика, Станислава Лема и многих других. Как и в «ГЭБе» читателя вновь приглашают в удивительный и парадоксальный мир человеческого духа и «думающих» машин. Здесь представлены различные взгляды на природу человеческого мышления и природу искусственного разума, здесь исследуются, сопоставляются, сталкиваются такие понятия, как «сознание», «душа», «личность»…

«Глаз разума» пристально рассматривает их с различных точек зрения: литературы, психологии, философии, искусственного интеллекта… Остается только последовать приглашению авторов и, погрузившись в эту книгу как в глубины сознания, наслаждаться виртуозным движением мысли.

Даглас Хофштадтер уже знаком российскому читателю. Переведенная на 17 языков мира и ставшая мировым интеллектуальным бестселлером книга этого выдающегося американского ученого и писателя «Gödel, Escher, Bach: an Eternal Golden Braid» («GEB»), вышла на русском языке в издательском Доме «Бахрах-М» и без преувеличения явилась событием в культурной жизни страны.

Даглас Хофштадтер — профессор когнитивистики и информатики, философии, психологии, истории и философии науки, сравнительного литературоведения университета штата Индиана (США). Руководитель Центра по изучению творческих возможностей мозга. Член Американской ассоциации кибернетики и общества когнитивистики. Лауреат Пулитцеровской премии и Американской литературной премии.

Дэниел Деннетт — заслуженный профессор гуманитарных наук, профессор философии и директор Центра когнитивистики университета Тафте (США).

---

“Хорошо, но может ли думать цифровой компьютер?”

Если под “цифровым компьютером” мы понимаем нечто, что может быть на определенном уровне верно описано как воплощение действующей компьютерной программы, то ответ снова будет положительным, поскольку мы сами — воплощение множества компьютерных программ, а мы способны думать.

“Но может ли нечто думать, чувствовать и так далее, всего лишь будучи компьютером с соответствующей программой? Может ли работа программы — верной программы, разумеется — быть достаточным условием возникновения понимания?”

Думаю, что это правильный вопрос, хотя обычно его путают с предыдущими. Ответ на него — отрицательный.

“Почему?”

Потому что сама по себе манипуляция формальными символами не обладает интенциональностью и не имеет смысла. Нельзя даже сказать, что это манипуляция символами, поскольку символы ничего в данном случае не символизируют. Говоря языком лингвистов, они обладают только синтаксисом, но лишены семантического наполнения. Кажущаяся интенциональность компьютеров находится в головах тех, кто их запрограммировал и использует, кто вводит некие данные и интерпретирует ответ.

Цель моего примера с китайской комнатой в том, чтобы показать, что как только в систему вводится компонент, действительно обладающий интенциональностью (человек) и снабженный формальной программой, мы видим, что формальная программа не несет никакой дополнительной интенциональности. В данном примере она ничего не добавляет к способности человека понимать китайский язык.

То самое свойство ИИ, которое казалось таким привлекательным — различение между программой и ее реализацией — оказывается роковым для гипотезы о том, что симуляция может быть идентичной копией. Различие между программой и ее реализацией на определенной аппаратуре повторяет различие между уровнем мышления и уровнем мозговой деятельности. Если бы нам удалось описать мыслительные процессы в виде формальной программы, возможно, удалось бы описать основные характеристики разума, не прибегая к интроспективной психологии или нейрофизиологии мозга. Однако уравнение “разум для мозга = программа для аппаратуры” имеет слабые стороны.

Например, одна и та же программа могла бы иметь любые странные воплощения, некоторые из которых не имели бы интенциональности. Так, Вайценбаум (1976, гл. 2) описывает в деталях, как можно сделать компьютер из рулона туалетной бумаги и горсти маленьких камешков. Точно так же, программа, понимающая китайский рассказ, может быть воплощена в системе водопроводных труб или в англо-говорящем человеке, не понимающем китайского языка. Камни, туалетная бумага, водопроводные трубы и тому подобные материалы не могут иметь интенциональности, поскольку ею может обладать только нечто, приводимое в действие теми же каузальными силами, что и мозг. С другой стороны, хотя англо-говорящий человек и обладает нужным для интенциональности аппаратом, легко увидеть, что зазубрив программу, он не добавит себе интенциональности, поскольку его понимание китайского не улучшится.

Во-вторых, программа чисто формальна, в то время как интенциональные состояния этим типом формальности не обладают. Они определяются своим содержанием, а не формой. Например, убеждение в том, что на улице дождь, определяется не как некая формальная структура, но как содержание мыслей, обладающее условием удовлетворения, направленностью (см. Сирл 1979) и тому подобными характеристиками. В действительности, само убеждение вообще не обладает формальной структурой в синтаксическом смысле, поскольку одно и то же убеждение может быть выражено множеством различных способов в различных языковых системах.

В-третьих, как я уже говорил, ментальные состояния и события являются продуктами деятельности мозга, в то время как программа — не результат деятельности компьютера.

Но если программы не являются составляющими ментальных процессов, почему такое количество людей убеждены в обратном?

На этот вопрос у меня нет ответа. Идея о том, что компьютерная модель может быть тождественна реальному объекту, сомнительна уже потому, что компьютер ни в коем случае не ограничен симуляцией ментальных процессов. Никто не полагает, что компьютерная симуляция пожара может сжечь окрестные постройки или что компьютерная модель ливня промочит присутствующих насквозь. Почему же тогда мы должны считать, что компьютерная симуляция понимания что-либо понимает на самом деле? Иногда говорят, что компьютер очень трудно научить чувствовать боль или любовь, но боль и любовь ничуть не сложнее познания и других ментальных процессов. Для симуляции требуются всего-навсего правильные входные и выходные данные и программа, которая превращает первые во вторые. Это все, что делает компьютер. Принимать симуляцию за идентичную копию в случае боли, любви и познания ошибочно так же, как в случае пожаров или ливней.

Тем не менее, существует несколько причин того, что ИИ должен был казаться — и кажется многим до сих пор — воспроизведением и объяснением феномена мышления. Нам не удастся развеять это заблуждение, пока мы не выясним причин, по которым оно возникло.

Первая и, возможно, наиболее важная причина — это путаница с понятием “обработка информации”. Многие специалисты в области когнитивистики полагают, что человеческий мозг при помощи разума делает нечто, называемое “обработкой информации”, так же, как компьютер обрабатывает информацию при помощи программы. С другой стороны, пожары и ливни никакой информации не обрабатывают. Хотя компьютер может симулировать любые процессы, он находится в особом отношении к мозгу, поскольку правильно запрограммированный компьютер (в идеале программа должна быть идентичной программе мозга) занимается обработкой информации точно так же, как это делает мозг. Эта обработка информации и является квинтэссенцией разума. Проблема этого аргумента в том, что он основан на двусмысленности в понимании того, что считать “информацией”. Запрограммированный компьютер не обрабатывает информацию в том смысле, в каком это делает человек, когда он решает арифметические задачи, читает или пытается ответить на вопрос о прочитанном рассказе. Компьютер занимается только тем, что манипулирует формальными символами. То, что программист и интерпретатор выходных данных сопоставляют символы с явлениями действительности, находится вне компетенции компьютера. Повторяю, что компьютер обладает синтаксисом, а не семантикой. Таким образом, если вы напечатаете “2 + 2 =?”, компьютер напечатает в ответ “4”. Но он понятия не имеет, что 4 означает 4, или вообще что-нибудь означает. И дело не в том, что ему не хватает информации второго порядка об интерпретации символов первого порядка — скорее сами символы первого порядка вообще не имеют для компьютера никакой интерпретации. Все, что у компьютера имеется, это символы и еще раз символы. Таким образом, введение понятия “обработка информации” порождает дилемму: либо мы определяем этот процесс как нечто, обладающее интенциональностью, либо нет. В первом случае компьютер не обрабатывает информацию, а только манипулирует символами. Во втором случае компьютер, действительно, занимается обработкой информации, но делает это в том смысле, в каком обрабатывают информацию калькуляторы, пишущие машинки, желудки, термостаты, ливни и ураганы. Все они имеют некий уровень описания, на котором можно сказать, что они получают некие данные, трансформируют их и в результате выдают новую информацию. Однако в этом случае интерпретация входных и выходных данных как некой информации остается за наблюдателем. Между компьютером и мозгом не установлено здесь никакого сходства в терминах обработки информации.

Во-вторых, ИИ изобилует остаточным бихевиоризмом или операционализмом. Поскольку входные и выходные данные у соответствующим образом запрограммированных компьютеров могут быть схожи с этими данными у людей, нам хочется приписать компьютерам также и соответствующие ментальные состояния. Но как только мы убеждаемся в концептуальной и эмпирической возможности того, что система может проявлять человеческие способности в какой-либо области, не выказывая при этом абсолютно никакой интенциональности, мы без труда преодолеваем это желание. Мой калькулятор умеет вычислять, но не обладает интенциональностью. В этой статье я пытался показать, что входные и выходные данные некой системы могут точно повторять входные и выходные данные китайца, но тем не менее не понимать ни слова по-китайски, вне зависимости от того, как она запрограммирована. Тест Тьюринга, бессовестно бихевиористский и операционалистский, типичен для этой традиции. Мне кажется, что если бы специалисты по ИИ полностью отказались бы от бихевиоризма и операционализма, это положило бы конец путанице между подражанием и идентичной копией.