Читать книгу "Homo Roboticus? Люди и машины в поисках взаимопонимания - Джон Маркофф"

Если мир «Нейроманта» был прекрасной научной фантастикой, то реальное вхождение в изображенный Гибсоном мир представляется туманным. Появление киборгов ставит вопрос о том, что значит быть человеком. Сама по себе это не новая проблема. Хотя сегодня технологии развиваются быстрее, чем когда-либо, они трансформировали людей и прежде, еще во времена укрощения огня или изобретения колеса (и его использования для перевозок в XX в.). С начала индустриальной эры машины вытесняли физический труд человека. С появлением компьютеров и компьютерных сетей впервые машины вытесняют «интеллектуальный» труд. Изобретение компьютера с самого начала вызывало дебаты о последствиях создания обладающих интеллектом машин. Новая волна технологий искусственного интеллекта возродила споры с удвоенной силой.

Экономисты-традиционалисты утверждают, что со временем численность рабочей силы растет, несмотря на изменяющийся характер работы, обусловленный технологиями и инновациями. В XIX в. более половины работающих были заняты в сельскохозяйственном производстве. Сегодня их доля сократилась почти до 2 %, но в других сферах экономики количество работающих значительно выросло. В самом деле, несмотря на две рецессии, между 1990 и 2010 гг. общая численность занятых в Соединенных Штатах увеличилась на 21 %. Если эти экономисты правы, вследствие автоматизации в ближайшем будущем экономических катаклизмов на социальном уровне не будет.

Вместе с тем сейчас мы вступаем в эру, когда людей все легче включить в «контур управления» или исключить из него даже в высокооплачиваемых и статусных профессиональных областях. На одном конце спектра небольшие роботы могут заниматься погрузочно-разгрузочными работами, а на другом программные «роботы» могут заменять работников колл-центров и офисных клерков, а также видоизменять такие требующие высокой квалификации профессии, как врач-рентгенолог. Где в будущем будет проходить граница между человеком и машиной и кто проведет ее?

Несмотря на активизацию дискуссии о последствиях автоматизации следующего поколения, почти не слышно споров о разработчиках и их системе ценностей. Когда отвертеться не удается, специалисты по компьютерам, робототехнике и технологиям излагают противоречивые взгляды. Одни хотят заменить людей машинами, другие смиряются перед неизбежным (выражение «Что касается меня, я приветствую наших господ – насекомых», позднее «господ – роботов», было мемом, который получил популярность из-за сериала «Симпсоны»), а третьи столь же страстно хотят создавать машины, расширяющие возможности человека. Вопрос о том, появится ли настоящий искусственный интеллект (концепция, известная как сильный искусственный интеллект или универсальный искусственный интеллект) и смогут ли машины делать что-то большее, чем просто подражать людям, также обсуждается не одно десятилетие. Сегодня все громче раздаются голоса ученых и технологов, высказывающих новые опасения относительно возможности появления обладающих самосознанием машин. Дискуссии о текущем состоянии технологии искусственного интеллекта скатываются в царство научной фантастики, а то и религии. Однако автономия машин уже не философский или гипотетический вопрос. Мы достигли точки, когда машины способны выполнять множество функций человека, которые требуют и интеллекта, и силы: они могут работать на фабриках, водить автомобили, диагностировать болезни и понимать документы и совершенно определенно могут управлять оружием и убивать с беспощадной точностью.

Противостояние искусственный интеллект – усиление интеллекта нигде не проявляется более отчетливо, чем в новом поколении систем вооружений, уже появившемся на горизонте. Разработчики из DARPA близки к тому, чтобы пересечь новый технологический порог при замене нынешних крылатых ракет новой противокорабельной ракетой большого радиуса действия (LRASM). Она должна поступить в Военно-морские силы США в 2018 г. В отличие от предшественников, этот новый вид оружия способен автономно принимать решения о выборе цели. LRASM должна достигать противника без контакта с диспетчером, а затем самостоятельно принимать решение, какую цель поразить.

Возникает новая этическая дилемма – позволят ли люди этому оружию спускать крючок по своему усмотрению, без контроля со стороны человека? Вариант этой же проблемы присущ быстрой компьютеризации автомобиля. В самом деле, транспортная сфера в целом очень показательна с точки зрения последствий появления новой волны умных машин. Искусственный интеллект должен оказать более сильное воздействие на общество, чем персональные компьютеры и интернет в начале 1990-х гг. Символично, что направление этой трансформации определяет технологическая элита.

Несколько лет назад Джерри Каплан, ветеран Кремниевой долины, который начал карьеру как исследователь искусственного интеллекта в Стэнфорде, а затем в 1980-х гг. стал одним из тех, кто ушел из этой области, предупредил группу стэнфордских специалистов по вычислительной технике и аспирантов: «От ваших сегодняшних действий здесь, в Лаборатории искусственного интеллекта, воплощающихся в создаваемых вами системах, может зависеть, как общество будет справляться с этой проблемой». Он утверждал, что неизбежное появление искусственного интеллекта следующего поколения несет с собой критически важный этический вызов: «Есть опасность, что мы выращиваем живых роботов за счет нашей собственной жизни»{10}. Проблема двойственности, о которой он говорил исследователям, заключается в пропасти между обладающими интеллектом машинами, которые заменяют человека, и компьютерными системами, расширяющими возможности человека.

Подобно многим другим технологам в Кремниевой долине, Каплан считает, что мы на грани создания экономики, которая функционирует практически без участия человека. Это может звучать апокалиптически, но описываемое Капланом будущее почти определенно придет. Его более глубокая мысль заключается в том, что сегодняшнее ускорение развития технологии – не слепой процесс. Он зависит от личного выбора каждого из инженеров, которые создают облик нашего будущего.

Осенью 2007 г. на заброшенной военной базе в калифорнийской пустыне на импровизированную гоночную трассу вышел коренастый человек с клетчатым флагом и энергично взмахнул им, когда мимо него плавно проехал внедорожник Chevrolet Tahoe. Это был Тони Тетер, директор DARPA.

За рулем автомобиля, украшенного большими буквами GM, не было водителя. В машине отсутствовали и пассажиры, более того, водителей и пассажиров не было ни в одном из других участвовавших в «гонке» автомобилей. Это действо, в котором автомобили беспрерывно колесили по городку, ранее использовавшемся военными для отработки действий в городских кварталах, вообще не выглядело как гонка. Оно больше походило на послеполуденный трафик в воскресный день в научно-фантастическом фильме вроде «Бегущего по лезвию» (Blade Runner).

В самом деле, это было необычное по любым меркам событие. Проводимое DARPA состязание Urban Challenge свело вместе специалистов по робототехнике, исследователей в области искусственного интеллекта, студентов, автомобилестроителей и программистов, которые занимались созданием роботов-автомобилей, способных автономно передвигаться в городских условиях. Оно было третьим в ряду соревнований, организованных Тетером. В то время военные технологии разрабатывались с целью повышения поражающей способности солдата, а не его замены. Для управления роботизированными военными самолетами требовались люди, а в некоторых случаях – многочисленные команды. В отчете научного совета Министерства обороны в 2012 г. отмечалось, что во многих военных операциях для обеспечения полета одного дрона нужна команда из нескольких сот человек{11}.