Читать онлайн «Стеклянная клетка. Автоматизация и мы». Страница 37

Инженеры и программисты еще больше усугубляют проблему, когда скрывают принципы работы системы от оператора, превращая каждую из них в непроницаемый черный ящик. Нормальным людям не хватает ума или образования для того, чтобы понять все сложности и хитросплетения работы программ или роботов. Если подробно рассказать человеку об алгоритмах или процедурах, управляющих работой системы, то можно либо его смутить, либо – что еще хуже – поощрить на самостоятельные действия с программным обеспечением. Гораздо безопаснее держать людей в неведении. Здесь опять кроется попытка избежать ошибок человека, сняв с него ответственность. Но, как ни парадоксально, при таких условиях повышается вероятность ошибок. Неквалифицированный оператор – это опасно. Профессор эргономики из Университета Айовы (University of Iowa) Джон Ли пишет: «Для автоматизированных систем характерно применение контролирующих алгоритмов, в которые заложены способы, противоречащие стратегии и ментальной модели, свойственной человеку, работающему с системой. Если человек не понимает эти алгоритмы, то он не может предвидеть ни поведение, ни ограничения автоматизированной системы. …Человек и машина, опирающиеся на противоречащие друг другу принципы, кончают тем, что движутся в противоположные стороны. Неспособность человека понять принципы устройства машины, на которой он работает, может также подорвать уверенность в своей компетенции, что удерживает его от вмешательства, когда ситуация начинает выходить из-под контроля системы» [20].

Специалисты по инженерной психологии давно призывают программистов и разработчиков вычислительной техники отойти от ориентированного на технологии подхода и направить усилия на создание автоматики, нацеленной на человека. Проекты должны начинаться с тщательного рассмотрения сильных и слабых сторон людей, которые будут работать с новой машиной или каким-либо иным способом с ней взаимодействовать. Такой подход вернет техническое развитие к его гуманистическим принципам, вдохновлявшим первопроходцев эргономики. Задача в этом случае будет состоять в распределении ролей и обязанностей, основывающихся только на скорости и точности компьютера, но с учетом качеств человека и возможностей включения его в рабочий цикл [21].

Удивительно, но достигнуть такого равновесия нетрудно. За десятки лет эргономические исследования показали, что эта задача может быть решена рядом простых способов. Систему надо запрограммировать так, чтобы через короткие и нерегулярные интервалы контроль над работой передавался от компьютера оператору. Ожидание момента, когда может потребоваться принятие решений, заставит людей быть в тонусе, сохранять внимание и мотивацию, разбираться в ситуации и повышать квалификацию. Разработчики программного обеспечения могут ограничить объем автоматизации, предоставив людям возможность выполнять важные операции, а не быть пассивными созерцателями происходящих на экране событий. Предоставление человеку большего объема работы помогает поддерживать эффект порождения. Программист может также обеспечить оператора прямой и обратной сенсорной связью с системой на всех этапах работы, используя для этого звуковые и тактильные средства, а также визуальную информацию на дисплее. Регулярная обратная связь усиливает вовлеченность оператора в работу системы и помогает ему сохранять бдительность.

Одно из самых интересных последствий подхода, ориентированного на человека, – это адаптивная автоматизация. В соответствующих системах компьютер запрограммирован так, что он сам обращает пристальное внимание на работающего с ним человека. Разделение труда между программой и оператором постоянно корректируется в зависимости от того, что происходит в каждый данный момент [22]. Если компьютер уловил, что оператор должен выполнить какое-то сложное действие, то машина может взять на себя все сопутствующие работы. Избавленный от необходимости отвлекаться на второстепенные задачи оператор сосредоточится на решении главной проблемы. При спокойном течении событий ЭВМ может передать выполнение рутинных операций человеку, что позволяет ему сохранять осведомленность о ситуации и совершенствовать навыки. Используя аналитические возможности электроники в гуманистических традициях, адаптивная автоматизация ставит своей целью держать оператора на пике кривой Йеркса – Додсона, предотвращая как чрезмерное увеличение, так и уменьшение когнитивной нагрузки. Министерство обороны США, породившее в свое время систему Internet, в настоящее время вплотную занимается проектами «нейроэргономических» систем, которые, используя разнообразные датчики работы головного мозга и тела, могут улавливать когнитивное состояние человека, а затем регулировать параметры задач таким образом, чтобы компенсировать недостаток восприятия, внимания или рабочей памяти [23]. Адаптивная автоматизация сулит большие перспективы в отношении внесения толики человечности в отношения между обычными пользователями и компьютерами. Первые пользователи таких систем говорят, что чувствуют себя так, словно общаются с коллегой, а не с машиной.

Исследования последствий автоматизации в основном посвящены изучению больших, сложных систем, связанных с рисками, например с управлением самолетами, работой машинных залов больших предприятий и военными операциями. Отказ таких систем может привести к гибели людей и материальному ущербу. Однако эти исследования важны также и для разработки вспомогательной автоматизации принятия решений, которая используется врачами, юристами, менеджерами и другими специалистами при анализе данных. Эти программы многократно тестируют, чтобы сделать их простыми в обучении и использовании, но тем не менее ориентированная на технологии этика продолжает править бал. «В типичных случаях, – пишет Джон Ли, – экспертные системы работают как протезы, заменяющие несовершенное и непоследовательное человеческое мышление более точными компьютерными алгоритмами» [24]. Они создаются в первую очередь для того, чтобы вытеснить, а не поддержать человеческое суждение. С каждым следующим усовершенствованием скорости обработки введенных данных и прогнозной способности компьютера программист все больше передает ответственность за принятие решения от профессионала к программе.

Раджа Парасураман, много лет добросовестно изучавший личностные последствия автоматизации, считает, что это в корне неверный подход. Парасураман утверждает, что вспомогательные системы принятия решений работают лучше всего, если они дают профессионалу необходимую информацию в нужный момент, не сопровождая ее инструкциями о возможных действиях [25]. Самые умные идеи приходят человеку в голову, когда он имеет возможность самостоятельно обдумать сложившуюся ситуацию. Ли соглашается с Парасураманом: «Менее автоматизированный подход, который ставит оператора в положение человека, принимающего решение, имеет большие шансы на успех, – пишет он. – Лучшие экспертные системы предоставляют операторам альтернативы в выборе интерпретаций и гипотез». Дополнительная и часто неожиданная информация помогает противодействовать естественному пристрастию к компьютерным инструкциям, которое иногда мешает человеку принять верное решение. Такой подход подталкивает аналитика к рассмотрению проблемы под разными углами зрения и с учетом большего числа возможных вариантов. Ли подчеркивает, что система должна оставить принятие окончательного решения человеку. «В отсутствие совершенной компьютерной автоматики и при использовании таких подверженных критике систем, – говорит он, – вероятность совершения ошибки, как подтверждают проведенные исследования, становится ниже» [26]. Компьютеры отлично справляются с просмотром огромных массивов данных, но специалист все равно остается более тонким и мудрым мыслителем, чем его цифровые партнеры.

Создание защищенного пространства для мыслей и суждений опытных практиков является целью ученых, которые хотят добиться гуманистического подхода к автоматизации в творческих профессиях. Многие специалисты критикуют системы автоматизированного проектирования за их назойливость. Бен Трейнел, архитектор фирмы Gensler в Сан-Франциско, с похвалой отзывается о компьютерах, высоко оценивая их способность расширять границы возможного в архитектуре. В качестве примера он приводит спроектированную фирмой «Шанхайскую башню» – спиралевидный энергосберегающий небоскреб, спроектировать и построить который было бы невозможно без компьютеров. Тем не менее он выражает и беспокойство по поводу того, что буквализм компьютерных программ, вынуждающих архитектора четко определять смысл и назначение каждого геометрического элемента, введенного в систему, препятствует свободному поиску, которому способствует рисование эскизов от руки [27].