Читать книгу "Homo Roboticus? Люди и машины в поисках взаимопонимания - Джон Маркофф"

Фонд Слоуна направил Сирла в Йельский университет, чтобы обсудить тему искусственного интеллекта. В самолете тот начал читать книгу об искусственном интеллекте, написанную Роджером Шанком и Робертом Абелсоном, ведущими исследователями Йеля во второй половине 1970-х гг. В их книге «Сценарии, планы, цели и понимание» (Scripts, Plans, Goals and Understanding){138} говорилось, что программы искусственного интеллекта могли «понимать» истории, составленные их разработчиками. Например, разработчики могли предложить компьютеру простую историю, описывающую, как человек идет в ресторан, заказывает гамбургер, а затем убегает, не заплатив за него. В ответ на вопрос программа делала вывод, что человек не съел гамбургер. «Здесь что-то не так, – подумал Сирл. – Получается, что мне предлагают историю на китайском языке со множеством правил расстановки символов, я не понимаю ни слова по-китайски, но все равно могу дать правильный ответ»{139}. На его взгляд, из этого не следовало, что компьютер способен понимать что-либо в результате простого умения интерпретировать набор правил.

Так, по пути в Йель у него родился аргумент против разумных машин, названный «китайской комнатой». Сирл исходил из того, что никаких смоделированных «мозгов в коробке» существовать не может. Его аргумент отличался от критики Дрейфуса, который утверждал, что невозможно добиться от программ искусственного интеллекта эффективности, сопоставимой с человеком. Сирл просто указывал, что компьютер всего лишь очень быстрое средство перебора символов, использующее ряд синтаксических правил. Чего ему не хватает, так это способности биологического разума интерпретировать семантику. Биологические корни семантики, постижения смысла, остаются загадкой. Аргумент Сирла приводил представителей сообщества искусственного интеллекта в бешенство в какой-то мере потому, что связывал их доводы с теологическим представлением о разуме как о сущности за пределами физического, биологического мира. По мнению Сирла, умственная деятельность полностью определяется биологическими процессами в мозге и реализуется в нем, и думающая машина должна копировать, а не моделировать эти процессы. В тот момент Сирл полагал, что его возражение восприняли и на дискуссию не потребуются недели, не говоря уже о десятилетиях. Но все произошло с точностью до наоборот. Реакцией на первую статью Сирла стали 30 опровержений. И даже три десятилетия спустя дискуссия далека от завершения. Число публикаций с критикой его идеи достигло к настоящему моменту нескольких сотен. Сирл по-прежнему здравствует и продолжает защищать свою позицию.

Нужно также заметить, что дискуссии за ланчем о возможности создания интеллектуальных и предположительно обладающих самосознанием машин велись на фоне наращивания военного потенциала при Рейгане. Война во Вьетнаме закончилась, но активные группы политически несогласных еще сохранялись по всей стране. Философы собирались на перекрестке через дорогу от университетского городка в Беркли. Виноград и Дэнни Боброу из Xerox PARC стали постоянными участниками этих дискуссий, и Виноград заметил, что они шли вразрез с его представлениями о философских основах искусственного интеллекта.

В конечном итоге Виноград отошел от искусственного интеллекта как «религии» и уверовал в то, что в человеческом интеллекте нет ничего мистического. В принципе, если бы удалось понять, как работает мозг, можно было бы создать машину с искусственным интеллектом, но невозможно построить такую машину с помощью символической логики, которая доминировала в 1970-х и 1980-х гг. Интерес Винограда к искусственному интеллекту был двойственным: он служил и в качестве модели для понимания языка и человеческого мозга, и как система, способная выполнять полезные задачи. Но в этот момент он пошел за Энгельбартом. Философски и политически антропоцентрические компьютерные системы больше соответствовали его мировоззрению. Интеллектуальное единство Винограда и Флореса привело к рождению книги с критикой искусственного интеллекта «О понимании компьютеров и мыслительного процесса: Новая основа для разработки» (Understanding Computers and Cognition: A New Foundation for Design). Так или иначе книга касалась философского аспекта, а не науки, и Винограду все еще предстояло определиться, чем заниматься. В конце концов он оставил работу над созданием более умных машин и сосредоточился на использовании компьютеров для расширения возможностей людей. Виноград преодолел пропасть и переключился с разработки систем, вытесняющих людей, на создание технологий, улучшающих взаимодействие людей с компьютерами.

Хотя впоследствии Виноград утверждал, что политика не играла особой роли в его переходе в другой лагерь, политический климат того времени, без сомнения, повлиял на решение многих ученых оставить сферу искусственного интеллекта. В 1975–1985 гг. исследования в области искусственного интеллекта в основном финансировались Министерством обороны. Некоторых известных ученых, включая Винограда, беспокоило увеличение доли военных разработок в сфере компьютерных технологий. В глазах поколения, которое выросло на фильме «Доктор Стрейнджлав»[16] (Dr Strangelove), программа «звездных войн» правительства Рейгана была опасным балансированием на грани войны. Именно в таком морально-этическом и интеллектуальном контексте Виноград решил покинуть область, которую помогал создавать. Он называл себя «продуктом 1960-х гг.»{140} и в период отхода от разработки искусственного интеллекта играл вместе с исследователями из Xerox PARC и Стэнфорда ключевую роль в создании национальной организации компьютерщиков, обеспокоенных гонкой вооружений под флагом «звездных войн». Они очень не хотели, чтобы военная верхушка толкала страну к ядерной конфронтации с Советским Союзом. Во время учебы в аспирантуре Виноград активно выступал против войны во Вьетнаме, в Бостоне он входил в группу «Программисты за мир», а в 1981 г. включился в создание национальной организации специалистов-компьютерщиков, выступавших против ядерного оружия.

Выступавшие против Стратегической оборонной инициативы специалисты полагали, что могут более эффективно бороться против ядерных вооружений. В конечном итоге они превратились из «публики» в «профессионалов» и в 1981 г. основали новую организацию, названную Ассоциацией компьютерных профессионалов за социальную ответственность. Виноград провел первое организационное собрание в большой аудитории в Стэнфорде. Присутствовавшие вспоминали, что, в отличие от многих политических встреч антивоенной эры, пронизанных агрессией и спорами, собрание вызывало чувство необычайного единения и общности цели. Виноград показал себя умелым политическим организатором.