Симеон Гарфинкель - Все под контролем: Кто и как следит за тобой

• Название: Все под контролем: Кто и как следит за тобой
• Автор: Симеон Гарфинкель
• Издательство: «У-Фактория»
• Жанр: Публицистика
• Год: 2004
• ISBN: 5-94799-270-1

К каким результатам может привести использование достижений в сфере высоких технологий по отношению к нашей частной жизни в самом ближайшем будущем? Как мы можем защитить свою частную жизнь и независимость в условиях неконтролируемого использования новейших достижений в этой сфере? Эта проблема тем более актуальна, что даже США, самая свободная демократия мира, рискует на наших глазах превратиться в государство всеобщего учета и тотального контроля.

Книга талантливого публициста и известного специалиста по компьютерным технологиям Симеона Гарфинкеля – это анализ тех путей, по которым может осуществляться вторжение в частную жизнь, и способов, с помощью которых мы можем ему противостоять.

---

Очень похожие вещи происходили и с искусственным разумом в следующие 50 лет. Подходы, являющиеся сегодня многообещающими, будут усовершенствованы. Другие уйдут в сторону; будут открыты новые.

Рэй Курцвейль [Ray Kurzweil], один из пионеров искусственного интеллекта, основавший несколько успешных компаний, занимающихся ИИ-технологиями, предполагает, что рождение разумной машины произойдет неожиданно, в результате согласованных попыток создать аналог человеческого мозга для хранения в нем информации в качестве резервной копии. В своей вступительной речи на открытии Ближневосточной конференции по информационным технологиям, проводимой Gartner Group в июне 1995 года, Курцвейль обрисовал следующий возможный вариант развития.[236]

• К 1997 году компании, такие как Dragon Systems, выпустят на мировой рынок первую систему распознавания речи с большим словарем – настоящую «голосовую пишущую машинку», которая позволит говорить обычным образом, а компьютеру – записывать сказанное (это уже произошло). В 1998 году компании смогут предложить аналогичную систему, не зависимую от говорящего, и позволят использовать технологию в слуховых аппаратах для глухих (этого пока не произошло).

• К 2005 году «компьютеры смогут влиять на психическое состояние человека, по необходимости помогая справиться с такими расстройствами, как перенапряжение и беспокойство». Люди будут общаться с компьютерами преимущественно устно. Компьютерные дисплеи тем временем уменьшатся до размера очков, которые будет носить подавляющее большинство людей, эти очки будут представлять собой «трехмерный дисплей, перекрывающий обычный визуальный мир».

• К 2011 году компьютеры смогу играть роль людей настолько хорошо, что искусственные люди станут первичным средством обучения: «Вместо того чтобы читать о Конституционном конвенте, студент сможет… подискутировать с моделью Бена Франклина о чрезвычайных полномочиях в военное время, роли судов и других аспектах».

• К 2030 году люди смогут полностью воссоздать структуру нейронной организации человеческого мозга. Технология позволит людям просканировать собственный мозг и использовать «свои персональные компьютеры как персональные устройства резервного копирования».

Курцвейль размышляет далее:

Когда человек будет отсканирован и воссоздан в нейрокомпьютере, человечество задумается: «Кто же этот человек в машине?» Ответ зависит от того, кого спросить. Если спросить человека, находящегося внутри машины, он, несомненно, заявит, что является исходной личностью, прожившей несколько жизней, помещенной в сканер и проснувшейся в компьютере. «Ого! Эта технология действительно работает. Вы должны дать ей попытку!», – скажет он. С другой стороны, исходная личность, подвергнутая клонированию, заявит, что человек внутри машины – самозванец, который просто разделяет с ней память, историю, знакомых, но на самом деле является абсолютно другим человеком.

Тем не менее это происходит, и разумные машины будут созданы в ближайшие 50 лет. А будучи созданными, они поднимут одну не известную доселе проблему. Помещенный в кремниевые пластины разум всегда должен оставаться открытой книгой. Принципиально важно, чтобы этот компьютер ничего не скрывал от своих создателей – ни одного бита данных, ни одного кусочка информации, ни одного варианта расчета. Его память должна быть открыта для просмотра. Человек должен управлять созданными им разумными машинами так же, как Бог управляет людьми.

Не станет ли разум, которому не оставлено ни капли приватности, психически больным? Не получится ли так, что соединение разума и памяти внутри компьютерных банков данных станет настолько сложным, что не сможет быть расшифровано создавшими его людьми без помощи самих разумных машин? Будут ли этичными эксперименты над искусственным разумом, например стирание некоторых участков его памяти и наблюдение за реакцией? Будет ли это действие более этичным, если после его окончания искусственный разум будет возвращен в исходное состояние?

«Аморально или незаконно причинять боль и страдание вашей компьютерной программе? – размышляет Курцвейль. – Законно ли отключать вашу компьютерную программу? Возможно, это незаконно, если вы не сделали резервную копию».

Но эти вопросы – только начало, замечает Курцвейль:

К 2040 году в соответствии с законом Мура[237] обычный серийный персональный компьютер будет в состоянии моделировать разум 10 тысяч человек, каждый из которых будет функционировать в 10 тысяч раз быстрее реального человеческого мозга. Либо он сможет реализовать модель человека с емкостью памяти в 10 тысяч раз больше обычного мозга и работающую в 100 миллионов раз быстрее. Каковы будут последствия такого развития?

Учитывая реальную возможность того, что наши интеллектуальные потомки будут населять описанные Курцвейлем мифические машины в 2040 году, мы должны серьезно подумать о правовом и этическом режиме, в соответствии с которым эти разумные аватары будут функционировать, – если эти аватары действительно являются репликантами человеческого разума, если они думают и сами создают объекты творчества, они должны обладать теми же правами на приватность, что и люди из плоти и крови. С другой стороны, в этом случае произойдет описанный в главе 9 перехват разума. Если же пойти другим путем, то в наших собственных интересах гарантировать права компьютерному разуму: приватность, которую вы сохраняете, однажды может оказаться вашей!

11 Право на личную тайну сейчас!

Преамбула

…Принимая во внимание, что необходимо, чтобы права человека охранялись властью закона в целях обеспечения того, чтобы человек не был вынужден прибегать, в качестве последнего средства, к восстанию против тирании и угнетения…

Статья 12

Никто не может подвергаться произвольному вмешательству в его личную и семейную жизнь, произвольным посягательствам на неприкосновенность его жилища, тайну его корреспонденции или на его честь и репутацию. Каждый человек имеет право на защиту закона от такого вмешательства или таких посягательств.

«Всеобщая декларация прав человека».

Принята и провозглашена резолюцией 217 А (III) Генеральной Ассамблеи ООН от 10 декабря 1948 года (Doc A/810 at 71).[p70]

В XXI веке кампания против свободы и независимости личности разворачивается во всем мире, но наиболее явно это происходит в Соединенных Штатах. Эта кампания реализуется совместно правительством, бизнесом и обычными гражданами. Мы все виновны. Приватности наносятся тысячи смертельных ран. Свободные общества поворачиваются спиной к вопросам приватности на свой страх и риск, ведь приватность – одно из фундаментальных прав, из которого происходят все остальные права человека:

• сама жизнь не может существовать без возможности предотвращать или сдерживать вторжения. Простейшие организмы используют клеточную оболочку для защиты своего тела от вторжений. Мы, люди, при защите своей неприкосновенности и приватности полагаемся на нашу кожу, наши дома, заборы и наше оружие;

• без приватности мышления – свободы, позволяющей нам формировать свое собственное мнение, и секретности, дающей нам возможность хранить наше мнение в тайне до тех пор, пока мы сами не решим высказать его, – не может существовать личность и индивидуальность;

• без приватности коммуникаций не может существовать политической жизни и в конечном счете нормальных взаимоотношений. Люди не смогут вести откровенных разговоров друг с другом, зная, что их слова слышит, а возможно, и записывает кто-то еще. Точно так же, как приватность личности является непреложным условием развития собственного «я», приватность в отношениях между людьми является непреложным требованием для создания длительных дружеских отношений.

Эти определения приватности могут показаться доведенными до абсурда аргументами, содержащимися в обсуждаемой в первой главе статье «Право на приватность». В конце XIX века Уоррен и Брэндис не могли представить, что технологии будут представлять опасность для приватности людей на таком фундаментальном уровне. Расстаться с нашей физической целостностью? Открыть свои мысли? Что за вздор! Более того, сегодня нашему праву быть свободными от вмешательств угрожают как террористы с оружием массового уничтожения, так и правительство, стремящееся найти и уничтожить этих террористов. Угроза нашему праву на тайну мыслей и переговоров исходит со стороны правительств, продавцов и неумолимой техногенизации нашей планеты. Наши личные истории лежат открытыми перед страховыми компаниями. Наши мысли однажды могут быть промоделированы или, скорее всего, украдены мощными компьютерами. Очень сложно, взглянув на любой сегмент экономики, не найти там новых агрессивных нарушений приватности личности.