Читать онлайн «Об интеллекте». Страница 49

Конечно, любая технология может быть применена с добрым или злым умыслом, но некоторые более предрасположены к злоупотреблению или трагическому исходу, чем другие. Атомная энергия опасна, воплощена ли она в ядерной боеголовке или на электростанции, потому что единственная катастрофа или единственное злоупотребление может искалечить или убить миллионы людей. И хотя ядерная энергия очень полезна, ей имеются альтернативы. Транспортные технологии могут принять форму танков и истребителей, или может принять форму автомобилей и пассажирских самолетов, и несчастный случай или злоупотребление могут навредить множеству людей. Но транспортные средства возможно и более присущи современной жизни и менее опасны, чем ядерная энергия. Разрушения, вызванные одиночным злоупотреблением самолета гораздо меньше, чем ядерной бомбы. Есть множество технологий, которые в основном полностью благотворны. Например, телефон. Его тенденция соединять людей превышает любые негативные эффекты. То же самое для электричества и здравоохранения. По моему мнению, интеллектуальные машины будут одной из наименее опасных из технологий, наиболее благотворной технологией, которую мы когда либо разрабатывали.

Тем не менее, некоторые мыслители, наподобие Билла Джоя, одного из соучредителей Sun Microsystems, опасаются, что мы можем разработать интеллектуальных роботов, которые могли бы избежать нашего контроля, кишели бы по Земле, и переделали бы ее в соответствии с их собственными намерениями. У меня в воображении возникает картинка тех живых метелок из Sorcerer'sApprentice, регенерирующих себя из своих щепок и неустанно делающих все, чтоб привести к катастрофе. Аналогичным образом, некоторые оптимисты ИИ предлагают тревожащие пророчества. К примеру, Рей Курцвейл говорит о дне, когда нанороботы проберутся в ваш мозг, запишут каждый синапс и каждое соединение, и затем передадут всю информацию суперкомпьютеру, который реконфигурирует себя в вас! Вы станете «программной» версией самого себя, которая станет практически бессмертна. Эти два предсказания о машинном интеллекте, сценарий обезумевающих интеллектуальных машин и сценарий загрузки мозга в компьютер, кажутся на первый взгляд очень жуткими.

Построение интеллектуальных машин — это не то же самое, что построение само копирующихся машин. Между ними нет какой бы то ни было логической связи. Ни мозг ни компьютер не могут напрямую само копироваться, и мозгоподобная система памяти не отличается от них. Пока одним из достоинств интеллектуальных машин будет наша способность их массового производства, мир избежит из самокопирования на манер бактерий или вирусов. Самокопирование не ведет к интеллекту, и интеллект не ведет к самокопированию.

Более того, я серьезно сомневаюсь в том, что мы когда либо сможем скопировать наш разум в машину. Сейчас, насколько мне известно, нет действительных или воображаемых методов, способных записать триллионы деталей, составляющих ваше «Я». Нам потребуется записать и воссоздать все части нервной системы и тела, не только неокортекс. И нам необходимо будет понять, как все это работает. Однажды, мы определенно сможем сделать это, но проблемы уходят далеко за понимание того, как работает кортекс. Понимание неокортикального алгоритма и встраивание его в машины с нуля — это одно, но сканирование в несметном количестве деталей живого мозга и воспроизведение этого в машине — это совсем другое.

После упоминания о саморепликации и копировании разума, у людей возникает другое отношение к интеллектуальным машинам. Могут ли интеллектуальные машины как то угрожать большой популяции людей, как ядерная бомба? Может ли их присутствие привести к захвату полномочий небольшой группой злых людей? Или могут ли машины стать злыми и обернуться против нас, подобно безжалостным негодяям из фильмов Терминатор или Матрица?

Ответ на эти вопросы отрицательный. Как информационные устройства, мозгоподобные системы памяти должны стать в число наиболее полезных технологий, которые мы когда либо разрабатывали. Но подобно автомобилям и компьютерам, они всего лишь инструмент. Всего лишь обретение интеллектуальности совершенно не обозначает обретение способностей к разрушению имущества или манипулированию людьми. И точно также, как мы не доверили бы контроль над ядерным арсеналом одному человеку или одному компьютеру, мы должны будем проявить осторожность и не полагаться слишком на интеллектуальные машины.

Это приводит нас к вопросу недружелюбия. Некоторые люди полагают, что быть интеллектуальным — это в основном то же самое, что иметь человеческий разум. Они боятся, что интеллектуальные машины обидятся на «порабощение», поскольку люди ненавидят быть рабами. Они боятся, что интеллектуальные машины попытаются захватить мир, потому что интеллектуальные люди в течение всей истории пытались захватить мир. Но эти опасения основаны на ложной аналогии. Они основаны на объединении интеллекта — неокортикального алгоритма — с эмоциональными мотивациями старого мозга — страх, паранойя и страсть. Но у интеллектуальных машин не будет таких способностей. У них не будет личных амбиций. Они не будут желать богатства, общественного признания, или чувственного удовлетворения. У них не будет потребностей, склонностей или плохого настроения. У интеллектуальных машин не будет ничего похожего на человеческие эмоции, если только мы специально не заложим этого в них. Наилучшее применение интеллектуальных машин будет там, где человеческий интеллект испытывает трудности, в тех областях, в которых наши чувства неадекватны, или в деятельности, которая скучна для нас. У этих видов деятельности минимальное эмоциональное содержание.

Интеллектуальные машины будут распространены от простых систем узкого применения до очень мощных сверхчеловеческих интеллектуальных систем, но пока мы не захотим сделать их человекоподобными — они не станут таковыми. Возможно когда-нибудь нам придется установить ограничения на то, что люди могут делать с интеллектуальными машинами, но этот день очень далек, и когда он настанет, этические вопросы скорее всего будут относительно легче по сравнению с моральными вопросами настоящего времени относительно генетики и ядерной технологии.

Теперь к вопросу Что будут делать интеллектуальные машины?

Меня часто просят рассказать о будущем мобильных компьютеров. Организаторы конференций нередко просят меня описать, на что будут похожи наладонники или сотовые телефоны через пять или двадцать лет. Они хотят услышать мое видение будущего. Я не могу этого сделать. Я пытаюсь избежать того, что все вместе я называю одним словом «V». Чтобы убедить в этом, я однажды вышел на сцену в шляпе волшебника и с хрустальным шаром. Я объяснил, что никто не может видеть будущее детально. Хрустальный шар — это фикция, и любой, кто претендует на точное знание того, что произойдет в грядущие годы, обречен на провал. Самое лучшее, что мы можем сделать вместо этого — это понять общую тенденцию. Если вы понимаете общую идею, вы вполне сможете отследить ее, как бы она ни развивалась по мере выявления деталей.

Наиболее известный пример технологической тенденции это закон Мура. Гордон Мур верно предсказал, что количество элементов, которые могут быть размещены на кремниевом чипе, должно удваиваться каждые полтора года. Мур не сказал, относится ли это к чипам памяти, процессорам или чему-то еще. Он не сказал, в каком виде продукции эти чипы будут использованы. Он не предсказывал, будут ли чипы в пластиковых или керамических корпусах или наклеенные прямо на плату. Он не сказал ничего о различных процессах, используемых при производстве чипов. Он привязался к наиболее общей тенденции, какой мог, и оказался прав.

В настоящее время мы не можем предсказать окончательное использование интеллектуальных машин. Просто нет способа узнать конкретные детали. Если я, или кто-то еще, предсказывает в деталях, что будут делать эти машины, мы неизбежно будем обмануты. Однако, мы можем сделать нечто большее, чем просто пожимать плечами. Есть две линии идей, которые могут быть полезны. Одна — вообразить наиболее краткосрочное использование мозгоподобной системы памяти — очевидное, но менее интересная вещь, которую можно попробовать для начала. Второй подход — подумать о долгосрочных тенденциях, подобных закону Мура, которые могут помочь нам вообразить применения таких машин, которые, возможно, могли бы стать частью нашего будущего.

Давайте начнем с некоторых краткосрочных применений. Это вещи, кажущиеся очевидными, подобно замене радиоламп на транзисторы или построению калькуляторов на микропроцессорах. И мы сможем начать с обозрения некоторых областей, в которых пытались применить ИИ, но не смогли — распознавание речи, техническое зрение и умные автомобили.