Читать книгу "Искусственный интеллект и будущее человечества - Марк О’Коннелл"

Как обычно и случается с подобными идеями, она провалилась: во втором акте пьесы повсеместно распространившиеся роботы с отличной военной подготовкой отказываются подчиняться виду, который они считают ущербным, и решают уничтожить его с эффективностью и слаженным взаимодействием, которые так высоко ценились их создателями.

Помимо аллегорического описания механизации капитализма, пьеса в грубой преувеличенной манере оживляет связанный с Прометеем страх технологий, призванных воспроизвести человеческую жизнь. Восхождение роботов и следующее за ним почти полное уничтожение человечества представлены не иначе как месть богов, проклятие, неизбежный итог попытки вернуться в рай.

Роботы Чапека похожи на наших искаженных двойников. Согласно сценическим ремаркам, «одетые как люди», с «невыразительными» лицами и «застывшими» глазами они одновременно и машины, и трупы, удивительно похожие на живых мертвецов. Террор роботов в третьем акте пьесы, написанной сразу после Первой мировой войны, может быть интерпретирован как отражение европейского кровопролития; как действие, лишенное «человеческих ценностей», которому роботы научились у своих создателей. Когда Алквист, последний выживший человек, спрашивает, почему они уничтожили всех людей, главный робот отвечает: «Если вы хотите быть людьми, вам придется уничтожать и править. Читайте историю! Читайте человеческие книги! Если вы хотите быть людьми, вам придется захватывать и убивать!»

Роботы пьесы Чапека – это ночной кошмар технологий будущего, порожденный страхами человечества. «Нет ничего более странного для человека, – утверждает Алквист, – чем его собственное подобие». Эти первые фантастические роботы показывали, насколько технологии отражают забытые нами ценности, «еще более ужасные» от сходства с человеком, как говорил о себе монстр Франкенштейн.

Что это за увлечение, одержимость собственным разрушением, исходящим из нашей изобретательности? Дедал, этот древний инженер, является символом и духом нашего понимания самих себя и наших амбиций – стремительно падающая тень, брошенная во мраке истории.

Я неоднократно слышал мнение, что искусственный сверхинтеллект в перспективе может быть опасен именно из-за того, что слишком не похож на нас: он бесчеловечен, невосприимчив, в отличие от нас, к гневу, ненависти и сопереживанию. Но беглый взгляд на эту загадочную эсхатологию позволяет предположить, что этот страх перед возможностями наших самых современных технологий, наших последних изобретений – своего рода сублимированный ужас в отношении того, что мы уже сделали для мира и для себя. Мы, не замечая этого, уже находимся под контролем машин, которых не понимаем. История науки и техники и в лучшем, и в худшем случае является историей завоевания природы, лечения болезней и уничтожения огромного количества видов животных и растений. Возможно, поэтому появление подобного эволюционного наследника, несущего разрушения с новой силой, – это продолжение позора нашего существования. Возможно, это преображенная форма первородного греха, возвращение изгнанных, отражение более глубокого ужаса. Ничто не чуждо нам более, чем наше собственное подобие.

Глава 8

Всего лишь машины

В любом случае наше будущее – это роботы. Это мне дали понять трансгуманисты, с которыми я говорил, и предсказания будущего, которые я слышал. Если верить Рэндалу Кунэ, Наташе Вита-Мор и Нейту Соаресу, мы сами станем роботами: наши умы будут загружены в машины, намного более мощные и эффективные, чем наши животные тела. Или мы будем жить среди увеличивающегося количества роботов, все больше отдавая в их власть свою работу и свою жизнь. Или же устареем как технологии, и роботы заменят нас как вид.

Я завтракал, наблюдая за игрой своего сына с маленьким игрушечным заводным роботом, привезенным мной из Сан-Франциско. Смотрел на франкенштейновские шаги механизма по столу в сторону чаши с фруктами и задумался, какую роль будут играть роботы в будущем моего сына. Что благодаря полной автоматизации – последней мечты общего технокапитализма – уйдет в прошлое через каких-нибудь двадцать лет?

Однажды сын, посмотрев пару эпизодов мультфильма «Технозверята» (Animal Mechanicals), окликнул меня в коридоре.

– Я самоходная машина, – сказал он и обошел меня, раскачиваясь как робот. Так или иначе эти его слова звучали очень странно.

Я много думал о настоящих роботах, но никогда не видел их. Я не знал, что они из себя представляют. Вскоре я услышал о международном мероприятии DARPA Robotics Challenge, на котором ведущие инженеры-робототехники выставляли свои творения на соревнования по производительности труда в ситуациях крайней опасности.

В The New York Times событие назвали «Вудсток для роботов». Я хотел увидеть это своими глазами.

Помимо престижа и славы, победителя DARPA Robotics Challenge и его создателей ждал миллион долларов призовых от одноименного благотворителя конкурса. Управление перспективных исследовательских проектов министерства обороны США (сокращенно – DARPA) – крыло Пентагона, ответственное за разработку новых технологий в военных целях. Организация, созданная президентом Дуайтом Эйзенхауэром в 1958 году в ответ на запуск спутника СССР, занимается разработкой инновационных технологий. Например, проект ARPANET в конце 1960-х годов заложил технические основы Интернета. Технология GPS, благодаря которой мой водитель Uber быстро отвез меня на мероприятие из Западного Голливуда в Помону, также была инновацией DARPA – инструментом войны, благодаря которому я все больше ориентируюсь в мире. Согласно стратегическому плану DARPA ее главная цель состояла в «предупреждении появления непредвиденных для США технологических новшеств и в создании технологических новшеств, которых не ожидают враги».

Чем больше я увлекался трансгуманистическим движением, чем больше узнавал о нововведениях, с которыми эти люди связывали надежды на постчеловеческое будущее, тем чаще возвращался к DARPA и к финансированию инновационных технологий: интерфейса «мозг – компьютер», когнитивного протезирования, расширения сознания, кортикальных модемов, биоинженерных бактерий и так далее. Главная цель DARPA в эти дни, казалось, заключалась в выходе за границы человеческих тел; особенно тел американских солдат.

В огромном открытом павильоне Fairplex в Помоне шел финал конкурса, проводимого с 2012 года. Мероприятие походило на военно-промышленную торжественную церемонию чествования плодотворного союза обороны и корпоративного и научного интересов. По словам директора DARPA Robotics Challenge Джилла Пратта, конкурс стимулировал разработку полуавтономных роботов, способных выполнять «сложные задачи в опасных и пришедших в упадок зонах, созданных человеком».

Непосредственным толчком к появлению идеи мероприятия послужил взрыв водорода на АЭС Фукусима в 2011 году – катастрофа, последствия которой могли минимизировать роботы, способные к работе в условиях, не предназначенных для человеческого организма. На утреннем брифинге пресс-секретарь Брэдли обратился к переполненному сотрудниками DARPA и журналистами банкетному залу, оформленному в стиле ар-деко, сообщив, что оказание гуманитарной помощи в случае стихийных бедствий является «одной из основных миссий американских военных» и что человекоподобные роботы принимают в ней все больше участия.