Тоби Уолш - 2062: время машин

• Название: 2062: время машин
• Автор: Тоби Уолш
• Жанр: Прочая научная литература
• Год: 2019
• ISBN: 978-5-17-112828-9

2062 год – что это за дата? Ведущие эксперты по искусственному интеллекту и робототехнике предсказывают: в 2062 году мы сможем создать искусственный разум, который превзойдет возможности человека. Еще в начале 1990-х Гарри Каспаров уверен, что «в классических шахматах на серьёзном уровне компьютерам ничего не светит в XX веке»… и в 1997 году проигрывает компьютеру Deep Blue. А двадцать лет спустя AlphaGo выигрывает партию у лучшего в мире игрока в го. В интервью ВВС Стивен Хокинг заметил, что «полноценный искусственный интеллект может стать концом человеческой расы, поскольку будет самостоятельно и стремительно совершенствоваться, а люди, зависящие от медленной биологической эволюции, неспособны с ним конкурировать». Так ли это? Что же нас ждет теперь? На этот вопрос отвечает Тоби Уолш, признанный специалист по искусственному интеллекту. В своей книге он внимательно и последовательно изучает каждую сторону нашего «светлого будущего»: от мировой экономики до новой человеческой идентичности. Уже поздно обсуждать, хорош или плох будет мир в этом очень недалеком будущем. Сейчас главное – понять, как к нему готовиться.

---

Аллен пишет: «Невероятная сложность человеческого сознания служит контраргументом для тех, кто утверждает, что сингулярность уже близко. Невозможно создать программное обеспечение, способное привести нас к сингулярности, без глубокого понимания того, как работает наше мышление. В отличие от Курцвейла, который предрекает бесконечно ускоряющееся развитие, мы считаем, что путь к этому пониманию, наоборот, замедляется»[33].

Он отмечает, что, просто увеличивая скорость работы программ, мы не создадим разумные машины. Нам необходим серьезный качественный прогресс в программном обеспечении. Такой прогресс потребует от нас прорыва в области изучения человеческого сознания. Здесь как раз в дело вступает замедление усложнений. Наше мышление так просто не раскусишь.

Осторожная экстраполяция

Девятый аргумент заключается в том, что нам стоит более критически относиться к выводам людей, экстраполирующих выводы из графиков (особенно с логарифмической шкалой). Журнал The Economist доказал это на забавном примере – простой одноразовой бритве[34]. Возможно, вы не обращали внимания, но бритвенные лезвия переживают экспоненциальный рост. Доказательства можно увидеть на следующем графике (см. рис. 1).

Рис. 1

Самый простой и проверенный временем способ визуализации экспоненциального роста – построение графика с вертикальной логарифмической шкалой: 1, 2, 4, 8 и т. д. На такой сжатой шкале экспоненциальный рост будет выглядеть как обычная прямая линия.

Пунктирная линия на графике показывает экспоненциальный рост числа лезвий в одноразовой бритве. Так это могло выглядеть, если бы число лезвий удваивалось каждые шестьдесят восемь лет. На самом деле число лезвий растет быстрее. Одно лезвие было в 1903 году. Два – шестьдесят восемь лет спустя, в 1971. Число лезвий удвоилось до четырех всего тридцать два года спустя, в 2003-м. Если экстраполировать данные за первые сто лет существования одноразовых бритв, можно прийти к выводу, что в современных бритвах должно быть два лезвия, а не пять, как это есть на самом деле. Так что закон Мура работает на бритвах. Однако бритвенной сингулярности в ближайшее время все же ждать не стоит.

Можно возразить, что использование таких маленьких чисел – это обманный трюк. Не так сложно показать экспоненциальный рост в случае, когда безопасная бритва Gillette с одним лезвием появилась в 1903-м, а в 2006-м появилась бритва Gillette Fusion с пятью лезвиями. Поэтому я приведу такой пример, где цифры выглядят более впечатляюще.

Представьте себе количество водителей Uber по всей планете. Uber называет их «водителями-партнерами», но, как мы вскоре увидим, они являются кем угодно, но только не партнерами в этом деле. Для демонстрации экспоненциального роста я вновь построю график с логарифмической шкалой, которая сжимает вертикальную ось (см. рис. 2). Каждая отметка на вертикальной оси обозначает удвоение количества водителей Uber: 5000, 10 000, 20 000, 40 000, 80 000, 160 000 и т. д.

Рис. 2

Здесь пунктирная линия опять показывает экспоненциальный рост. Мы снова видим, что закон Мура работает и с количеством водителей Uber. Каждый год с момента основания компании число водителей увеличивается в четыре раза. В 2013-м их было 8500 человек. В 2014-м – 45 000. В 2015-м – 180 000[35]. Однако это вовсе не значит, что произойдет сингулярность Uber и все люди на планете станут таксистами. Этот экспоненциальный рост неустойчив. Число водителей Uber рано или поздно перестанет расти. Произойдет насыщение рынка.

Простая «вирусная» модель объясняет, почему число водителей Uber может увеличиваться в четыре раза каждый год (как минимум поначалу). Представьте, что каждый водитель Uber раз в шесть месяцев советует своему приятелю начать работать с этой компанией. Скорее всего, Uber предлагает систему бонусов для тех, кто так поступает. Именно это и стимулирует такой экспоненциальный рост.

Предположим, что в начале первого года в Uber работало 10 000 водителей. Затем эти 10 000 человек приглашают еще 10 000 новых водителей в первые шесть месяцев. В сумме получается 20 000 водителей. Эти 20 000 приглашают еще 20 000 в следующие полгода. В результате к началу следующего года в Uber работают уже 40 000 человек. По такой логике к началу третьего года в Uber будет числиться 160 000 человек, а к началу четвертого – 640 000 (примерно так в реальности дело и обстояло). Как и любая схема-пирамида, такой экспоненциальный рост в конце концов прекратится. У водителей Uber закончатся друзья, которые там не работают. Спрос на водителей Uber будет удовлетворен полностью. Конкурентные фирмы станут предлагать более привлекательные условия сотрудничества, чем Uber (что не так уж сложно). По совокупности причин пирамида рухнет.

Похоже, многие подобные статистические выкладки за определенные периоды выглядят как экспоненциальный рост: количество лезвий в безопасной бритве, число водителей Uber, даже средняя цена высшего образования. Это, однако, не значит, что все эти показатели стремятся к сингулярности. Существует множество законов физики и экономики, которые не позволяют экспоненциальному росту бесконечно продолжаться.

Уроки прошлого

Наконец мы добрались до десятого (и последнего) аргумента против неизбежности технологической сингулярности. Необходимо учиться на ошибках историков прошлого. Точнее, необходимо учиться на ошибках одного из первых защитников идеи сингулярности.

В числе тех, кто впервые о ней написал, был Генри Адамс – внук Джона Куинси Адамса, шестого президента США, и правнук Джона Адамса, второго американского президента и одного из отцов-основателей. В 1904 году Генри Адамс опубликовал автобиографию под заголовком «Воспитание Генри Адамса», где описывал стык двух веков с точки зрения себя молодого. Книга получила Пулитцеровскую премию и вошла в список ста самых важных произведений литературы нон-фикшн.

В тридцать четвертой главе под названием «Закон ускорения» автор сообщает, что «закон ускорения, неизменный и постоянный, как и любой закон механики, не может смягчить свое действие ради удобства человека». Основываясь на этом законе, Адамс предполагает, что научная и иные сферы знания будут развиваться настолько быстро, что общество в 2000 году окажется совершенно недоступным воображению человека из 1900-го. С целью проиллюстрировать этот закон Адамс отмечает, что каждые десять лет с 1840-го по 1900-й объем энергии, извлекаемой из тонны угля, удваивается. На основании этого он предсказывает, что «каждый американец в 2000 году будет знать, как контролировать неограниченную энергию». Если бы это было так!

Адамс, конечно, ошибался. Мы не получили источник неисчерпаемой энергии в 2000-м. И жизнь в том году не была такой уж невообразимой для человека начала двадцатого века. Многие как раз довольно неплохо угадывали, как она будет выглядеть. Герберт Дж. Уэллс, например, спрогнозировал появление новых удивительных технологий, таких как лазеры или ядерное оружие[36]. Многие сегодняшние тренды вроде индустриализации и глобализации были вполне предсказуемы еще в начале прошлого века.

Сверхразумные машины

Названные мною десять причин того, что технологическая сингулярность может не случиться, не означают, что она точно никогда не наступит. Вероятность этого все равно остается. Однако я надеюсь, мне удалось убедить вас в том, что эта вероятность далеко не стопроцентная. Как и многие мои коллеги, пытавшиеся создать машины хотя бы со скромным интеллектом, я сомневаюсь, что мы в скором времени построим машину, способную бесконечно развиваться самостоятельно. Если все будет именно так, то технологическая сингулярность по-прежнему останется интересной, но фантастической идеей.

Несмотря на то что я скептически отношусь к идее сингулярности, это не значит, что мы не создадим машины, способные мыслить как человек или даже лучше. Я уверен, что мы к этому придем. Еще бы, ведь я потратил всю свою сознательную жизнь на то, чтобы приблизиться к этой цели. Нет ничего особенного в нашем интеллекте, как и в целом в нашей биологии. Именно поэтому я думаю, что рано или поздно мы создадим машины, способные мыслить. Возможно, их разум будет работать совсем иначе, чем наш[37]. Но скорее всего они достигнут нашего уровня. А если им удастся сравняться с нами, то трудно предположить, что может им помешать нас опередить. В определенных областях им это уже удалось. Кроме того, у них есть некоторые «врожденные» преимущества по сравнению с людьми.

Однако мне не верится, что сверхразум появится сам по себе, пока мы просто будем наблюдать за тем, как компьютеры развиваются самостоятельно. Я больше склонен считать, что мы добьемся этого таким же способом, как добивались других технологических открытий: тяжелым трудом, развитием науки с помощью изобретательности, программированием машин на то, чтобы они были умнее нас.