Читать онлайн «Все под контролем: Кто и как следит за тобой». Страница 79

Тем не менее это происходит, и разумные машины будут созданы в ближайшие 50 лет. А будучи созданными, они поднимут одну не известную доселе проблему. Помещенный в кремниевые пластины разум всегда должен оставаться открытой книгой. Принципиально важно, чтобы этот компьютер ничего не скрывал от своих создателей – ни одного бита данных, ни одного кусочка информации, ни одного варианта расчета. Его память должна быть открыта для просмотра. Человек должен управлять созданными им разумными машинами так же, как Бог управляет людьми.

Не станет ли разум, которому не оставлено ни капли приватности, психически больным? Не получится ли так, что соединение разума и памяти внутри компьютерных банков данных станет настолько сложным, что не сможет быть расшифровано создавшими его людьми без помощи самих разумных машин? Будут ли этичными эксперименты над искусственным разумом, например стирание некоторых участков его памяти и наблюдение за реакцией? Будет ли это действие более этичным, если после его окончания искусственный разум будет возвращен в исходное состояние?

«Аморально или незаконно причинять боль и страдание вашей компьютерной программе? – размышляет Курцвейль. – Законно ли отключать вашу компьютерную программу? Возможно, это незаконно, если вы не сделали резервную копию».

Но эти вопросы – только начало, замечает Курцвейль:

К 2040 году в соответствии с законом Мура[237] обычный серийный персональный компьютер будет в состоянии моделировать разум 10 тысяч человек, каждый из которых будет функционировать в 10 тысяч раз быстрее реального человеческого мозга. Либо он сможет реализовать модель человека с емкостью памяти в 10 тысяч раз больше обычного мозга и работающую в 100 миллионов раз быстрее. Каковы будут последствия такого развития?

Учитывая реальную возможность того, что наши интеллектуальные потомки будут населять описанные Курцвейлем мифические машины в 2040 году, мы должны серьезно подумать о правовом и этическом режиме, в соответствии с которым эти разумные аватары будут функционировать, – если эти аватары действительно являются репликантами человеческого разума, если они думают и сами создают объекты творчества, они должны обладать теми же правами на приватность, что и люди из плоти и крови. С другой стороны, в этом случае произойдет описанный в главе 9 перехват разума. Если же пойти другим путем, то в наших собственных интересах гарантировать права компьютерному разуму: приватность, которую вы сохраняете, однажды может оказаться вашей!

…Принимая во внимание, что необходимо, чтобы права человека охранялись властью закона в целях обеспечения того, чтобы человек не был вынужден прибегать, в качестве последнего средства, к восстанию против тирании и угнетения…

Никто не может подвергаться произвольному вмешательству в его личную и семейную жизнь, произвольным посягательствам на неприкосновенность его жилища, тайну его корреспонденции или на его честь и репутацию. Каждый человек имеет право на защиту закона от такого вмешательства или таких посягательств.

Принята и провозглашена резолюцией 217 А (III) Генеральной Ассамблеи ООН от 10 декабря 1948 года (Doc A/810 at 71).[p70]

В XXI веке кампания против свободы и независимости личности разворачивается во всем мире, но наиболее явно это происходит в Соединенных Штатах. Эта кампания реализуется совместно правительством, бизнесом и обычными гражданами. Мы все виновны. Приватности наносятся тысячи смертельных ран. Свободные общества поворачиваются спиной к вопросам приватности на свой страх и риск, ведь приватность – одно из фундаментальных прав, из которого происходят все остальные права человека:

• сама жизнь не может существовать без возможности предотвращать или сдерживать вторжения. Простейшие организмы используют клеточную оболочку для защиты своего тела от вторжений. Мы, люди, при защите своей неприкосновенности и приватности полагаемся на нашу кожу, наши дома, заборы и наше оружие;

• без приватности мышления – свободы, позволяющей нам формировать свое собственное мнение, и секретности, дающей нам возможность хранить наше мнение в тайне до тех пор, пока мы сами не решим высказать его, – не может существовать личность и индивидуальность;

• без приватности коммуникаций не может существовать политической жизни и в конечном счете нормальных взаимоотношений. Люди не смогут вести откровенных разговоров друг с другом, зная, что их слова слышит, а возможно, и записывает кто-то еще. Точно так же, как приватность личности является непреложным условием развития собственного «я», приватность в отношениях между людьми является непреложным требованием для создания длительных дружеских отношений.

Эти определения приватности могут показаться доведенными до абсурда аргументами, содержащимися в обсуждаемой в первой главе статье «Право на приватность». В конце XIX века Уоррен и Брэндис не могли представить, что технологии будут представлять опасность для приватности людей на таком фундаментальном уровне. Расстаться с нашей физической целостностью? Открыть свои мысли? Что за вздор! Более того, сегодня нашему праву быть свободными от вмешательств угрожают как террористы с оружием массового уничтожения, так и правительство, стремящееся найти и уничтожить этих террористов. Угроза нашему праву на тайну мыслей и переговоров исходит со стороны правительств, продавцов и неумолимой техногенизации нашей планеты. Наши личные истории лежат открытыми перед страховыми компаниями. Наши мысли однажды могут быть промоделированы или, скорее всего, украдены мощными компьютерами. Очень сложно, взглянув на любой сегмент экономики, не найти там новых агрессивных нарушений приватности личности.

Однажды на конференции я встретил студента MTI. Со всей искренностью он заявил мне, что технология нейтральна по отношению к приватности. «Технологии могут использоваться для нарушения приватности, либо они могут использоваться для защиты приватности», – сказал он.

Этот студент из MTI во многом напомнил мне себя самого: я говорил практически такие же вещи, когда был студентом этого института. Аргумент «технология нейтральна» очень удобен для людей, привыкших работать с самыми передовыми в мире технологиями. «Проблема не в технологии, – нравится нам думать, – проблема в способах использования этой технологии людьми!»

Тезис «технология нейтральна» очень удобный, но он неправильный. История полна примерами бесчеловечных проявлений технологий.[238] Хотя и возможно использовать технологии для защиты и усиления приватности, тенденция технологического прогресса заключается в обратном. Сложнее, а зачастую и гораздо дороже создавать устройства и услуги, которые защищают приватность людей, чем уничтожать их.

Например, когда я учился на последнем курсе MTI, институт получил очень дорогую электронную телефонную станцию 5ESS. В течение пяти лет цифровые ISDN-телефоны были установлены в институте повсюду. Каждый телефонный аппарат имел небольшой дисплей, более десятка кнопок, раза в два больше лампочек и встроенный микрофон для громкоговорящей связи. Когда я подробнее изучил устройство аппарата, я выяснил, что каждая кнопка и лампочка на нем являются «программными», т. е. любая кнопка и любая лампочка могут быть запрограммированы 5ESS на выполнение любой функции – это лишь вопрос программного обеспечения.

К сожалению, конструкция этих ISDN-телефонов позволяет использовать их в целях, для которых они никогда не были предназначены: установка жучков в офисах университетского городка. Роль жучка играет встроенный микрофон громкоговорящей связи. Обычно, когда вы делаете звонок, не поднимая трубки, красная лампочка рядом с микрофоном сигнализирует о том, что он включен. Но поскольку телефонный аппарат полностью управляется программой, включение микрофона и включение лампочки являются независимыми операциями. Путем перепрограммирования 5ESS можно включить микрофон, не включая световую индикацию. А между тем аппарат мог быть легко сконструирован по-другому, например, чтобы лампочка всегда загоралась при включении микрофона, безо всякого вмешательства со стороны 5ESS. Телефон не был сконструирован таким образом потому, что разработчики из AT &T не рассматривали обеспечение приватности как одну из основных целей разработки.

Существует и обратный пример. Это небольшая видеокамера, которой производитель компьютеров Silicon Graphics комплектует большинство своих настольных рабочих станций. Камера предназначена для организации видеоконференций, она установлена сверху на мониторе компьютера и направлена на пользователя. Обычно затвор камеры управляется программно: запустите программу, и камера начнет передавать видеоизображение. Остановите программу – и она остановится. Но эта камера имеет также и механический затвор – небольшую пластиковую шторку, которой можно закрыть объектив, заблокировав камере обзор. Конечно, камера с пластиковой шторкой более дорога в производстве, чем дешевые видеокамеры без механического блокирующего устройства. Но если вы сидите перед машиной и опустили шторку перед объективом, вы можете быть абсолютно уверены, что камера не в состоянии следить за вашими действиями. Эта шторка – дополнительный элемент конструкции, про который другие производители – увы! – предпочитают забывать.