Читать книгу "Стеклянная клетка. Автоматизация и мы - Николас Дж. Карр"

Психологи и нейрофизиологи до сих пор стараются понять, что происходит в нашем мозгу, когда возникает эффект порождения. Ясно только одно – в этот феномен вовлечены два вида процессов: глубинные когнитивные и запоминание информации. Если мы, не жалея сил, над чем-то работаем и уделяем этому предмету массу внимания, то разум вознаграждает нас глубоким пониманием изучаемого предмета. Со временем мы приобретаем умения и навыки, способность действовать быстро и целенаправленно, без напряжения ориентироваться в окружающем мире. Едва ли это может нас удивить. Большинство людей прекрасно знают, что овладеть навыком какого-либо действия можно только в том случае, если постоянно его повторять. Очень легко быстро собрать информацию с компьютерного экрана или почерпнуть ее из книги, но истинное знание, особенно такое, которое откладывается глубоко в памяти и проявляется потом как навык, дается с куда бо́льшим трудом. Оно требует энергичной и долгой борьбы с задачей и самим собой.

Австралийские психологи Саймон Фаррелл и Стивен Левандовский попытались установить связь между автоматизацией и эффектом порождения в статье, опубликованной в 2000 году. «В эксперименте Сламечки, – подчеркнули авторы, – показ второго слова в паре антонимов вместо первой буквы, которая заставляет человека думать, можно считать частным случаем автоматизации, потому что активность человека, порождение слова „холодный”, подавляется напечатанным стимулом». Расширяя понятие, можно сказать, что ухудшение качества деятельности, каковое мы наблюдаем при замене порождения простым чтением, можно считать проявлением подчинения автомату [15]. Такие работы позволяют выявить и оценить когнитивную цену автоматизации. Когда мы решаем задачу или выполняем работу сами, в нашем мозгу включаются процессы, отличающиеся от тех, что вовлечены в решение задачи или выполнение работы с помощью компьютера. Если компьютер уменьшает нашу вовлеченность в работу, отводит пассивную роль наблюдателя, то мы избавляемся от сознательной обработки информации, а именно она и производит эффект порождения. В результате снижается наша способность получать богатое знание о реальности, которое одно только приводит к формированию полезных, прочно усвоенных навыков. Эффект порождения требует борьбы, которую исключает автоматизация.

В 2004 году специалист по когнитивной психологии из Утрехтского университета (Universiteit Utrecht) в Нидерландах Кристоф ван Нимвеген провел серию простых, но изящных экспериментов, исследуя влияние компьютерных программ на формирование памяти и приобретение опыта [16]. Ван Нимвеген набрал две группы людей и предложил им поиграть в компьютерную игру, основанную на классической логической задаче о миссионерах и людоедах. Чтобы справиться с задачей, играющим надо было переправить через виртуальную реку пять миссионеров и пять людоедов (или, по версии Нимвегена, пять желтых шаров и пять синих), используя для этого лодку, вмещающую не больше трех пассажиров. Самой сложной частью задачи было условие, по которому ни на берегу, ни в лодке, количество людоедов не должно превышать количество миссионеров (надо полагать, для того чтобы людоеды не съели миссионеров). Подсчет минимального количества рейсов, необходимого для безопасной перевозки пассажиров, требует сложного анализа и тщательного планирования.

Одна из групп ван Нимвегена работала над задачей, пользуясь компьютерной программой, которая поэтапно предлагала подсказки, указывая, какие комбинации допустимы, а какие – нет. Другая группа пользовалась обычной программой, которая никак не помогала играющим. Как вы уже догадываетесь, те, кто работал с усовершенствованной программой, на первых порах справлялись с задачей быстрее, чем остальные. Испытуемые первой группы следовали подсказкам, а не делали паузы перед каждым ходом, соображая, как разместить пассажиров в следующем рейсе. Но по ходу игры те, кто пользовался простой программой, стал обгонять участников первой группы. Более того, к концу игроки второй группы стали работать с задачей более эффективно, чем в первой группе, совершая меньше ошибок. В отчете об эксперименте ван Нимвеген писал, что испытуемые, использовавшие простую программу, овладели более глубоким концептуальным пониманием задачи. Они лучше продумывали будущие действия и разрабатывали более удачную стратегию. Те же, кто полагался на компьютерную программу, часто терялись и просто бесцельно нажимали на клавиши.

Когнитивная цена использования подсказывающей программы стала еще более отчетливой, когда восемь месяцев спустя ван Нимвеген повторил опыт с участием тех же людей. Те, кто в первой игре пользовался упрощенной программой, справились с головоломкой в два раза быстрее, чем испытуемые первой группы. Испытуемые, использовавшие простую программу, писал ван Нимвеген, демонстрировали бо́льшую сосредоточенность во время решения задачи и к тому же лучше запомнили стратегию игры. То есть испытуемые второй группы воспользовались плодами эффекта порождения. Ван Нимвеген и некоторые его коллеги из Утрехтского университета провели затем серию других экспериментов, в которых решались более реалистические задачи. Например, с помощью календарной программы планирования встреч и мероприятий распределяли выступающих по аудиториям. Результаты были такими же. Те, кто полагался на компьютерную программу, демонстрировали недостаточное стратегическое мышление, совершали много лишних действий и слабо понимали концептуальные аспекты задачи. Те же, кто пользовался простыми программами, работали с бо́льшим пониманием и быстрее обучались [17].

Ван Нимвеген показал в своей лаборатории, что при автоматизации решения задач мы нарушаем способность мозга переводить информацию в знание, а знание – в твердо усвоенные навыки. Мы хорошо это видим и в реальном мире. На многих предприятиях менеджеры и другие специалисты зависят от так называемых экспертных систем, которые сортируют и анализируют информацию, а затем предлагают определенные действия. Бухгалтеры, например, пользуются компьютерными программами для корпоративного аудита. Такие компьютерные приложения, конечно, ускоряют работу, но уже сейчас становится очевидным, что по мере усложнения программ бухгалтеры неуклонно теряют квалификацию. В одном исследовании, проведенном группой австралийских профессоров, были изучены эффекты применения экспертной системы в трех международных бухгалтерских фирмах. В двух компаниях использовались усовершенствованные системы – на основании ответов бухгалтера на вопросы о клиенте машина выдавала заключение о рисках, которые надо было включить в документы о проведении аудита. Третья фирма использовала простые программы, где был представлен список потенциальных рисков, но бухгалтер должен был сам просматривать его и самостоятельно выбирать нужные пункты для пакета документов. Ученые устроили бухгалтерам всех трех аудиторских фирм экзамен, чтобы выяснить уровень знания рисков в тех отраслях, где они проводили аудит. Выяснилось, что специалисты фирмы с худшим программным обеспечением обладают значительно более глубоким пониманием различных форм риска, чем бухгалтеры двух других фирм. Снижение квалификации, обусловленное современным программным обеспечением, характерно даже для опытных аудиторов, проработавших в профессии больше пяти лет [18].

Другие исследования разнообразных компьютерных экспертных систем подтвердили, что программы, облегчающие принятие решений, могут в краткосрочной перспективе помочь новичку принять верное решение, но одновременно приводят к лености ума. Избавляя специалистов от необходимости напрягать ум, компьютеры подавляют у них способность надежно усваивать информацию и запоминать ее, а такое запоминание необходимо для формирования серьезного опыта [19]. Недостатки средств автоматизированного принятия решений могут быть незаметными, но они влекут за собой реальные неблагоприятные последствия, особенно в тех отраслях, где аналитические ошибки могут стать причиной несчастного случая. Неверный расчет риска в сочетании с быстродействующими компьютерными программами торгов едва не привел к краху мировой финансовой системы в 2008 году. По мнению преподавателя управления из университета Тафта Амара Биде, «роботизированные методы» принятия решений способствует распространению среди банкиров и других профи Уолл-стрит дефицита способности выносить самостоятельные суждения [20]. Конечно, невозможно точно определить роль, которую автоматизация сыграла в этой финансовой катастрофе или в последующих биржевых неудачах, подобных «мгновенному краху» 2010 года на американской фондовой бирже. Но нам кажется, что надо всерьез принять меры, ограничивающие чрезмерное применение современных технологий, так как это может привести к деградации знания или к ухудшению способности к самостоятельным суждениям у людей, занятых в соответствующих отраслях. В вышедшей в 2013 году статье специалисты по программному обеспечению Гордон Бакстер и Джон Картлидж предупредили о том, что ставка на автоматизацию приводит к снижению квалификации финансистов так же, как компьютерная система торговли повышает риски на финансовых рынках [21].