Читать книгу "Человек и компьютер. Взгляд в будущее - Гарри Каспаров"

Тема отношений человека и машины захватила Азимова, о чем свидетельствует серия его еще более знаменитых рассказов о роботах. Учитывая время публикации «Чувства силы», можно заметить, что этот рассказ не просто высмеивал тенденцию к отуплению людей и замене их машинами. За несколько лет до этого США и СССР провели испытания водородной бомбы, и перспективы, связанные с использованием энергии термоядерного синтеза, обсуждались наравне с угрозами глобальной ядерной катастрофы. Как мы используем наши новые колоссальные возможности — для созидания или для разрушения?

На протяжении большей части своей истории человечество делало и то, и другое, хотя в последние несколько десятилетий мы движемся скорее в сторону созидания. Хотя после просмотра новостей на любом телеканале создается другое впечатление, сегодня наша жизнь стала более долгой, здоровой и безопасной, чем когда-либо в прошлом. В своей недавней книге «Зима близко» (2015) я предупреждаю, что это всего лишь геополитический сезонный тренд и, если не принять меры для его поддержания, он может обратиться вспять. Технологии сами по себе не несут добро или зло. Они нейтральны. Смартфоны, которые объединяют людей по всему миру, могут быть использованы и для общения с семьей, и для планирования террористических атак. Ключевой этический вопрос состоит в том, как мы, люди, используем наши технологии, а не в том, должны ли мы их развивать.

С этой проблемой связана масса противоречивых моментов, многие из которых затронуты в данной книге. Я не претендую на то, что знаю ответы на все вопросы. Волноваться о том, куда ведет нас развитие технологий, — естественно и необходимо. В целом я настроен оптимистично, хотя кое-что вызывает у меня беспокойство. Но больше всего я боюсь, что нам не хватит прозорливости, воображения и решимости сделать то, что должно быть сделано.

Я не раз замечал, что почти любой разговор об искусственном интеллекте быстро переходит на проблемы, затрагивающие вопросы технологии, биологии, психологии и философии. Для полноты картины сюда можно добавить теологию и физику. А также экономику и политику, поскольку сегодня интеллектуальная автоматизация стала играть жизненно важную роль в бизнес-моделях и ее последствия в равной степени важны для избирателей.

По моему опыту, тенденция так быстро расширять дискуссию на другие области знаний вызывает досаду у специалистов по технологиям. Почти у каждого из нас есть свое мнение насчет того, что делают технологи, как они это делают и что они должны и не должны делать. В ответах программистов и инженеров-электронщиков звучит усталость от вопросов о таких метафизических конструктах, как разум, не говоря уже о человеческой душе. Сами они, как правило, не донимают философов, не стучатся в двери церквей, чтобы подискутировать о природе человеческого сознания, и не звонят политикам, чтобы обсудить последствия использования своих суперинтеллектуальных роботов для глобальной безопасности. Хорошо еще, что многие из них продолжают снимать трубку, когда им звонят философы и политики.

Многие исследователи ИИ регулярно контактируют с нейробиологами и иногда снисходят до общения с психологами, но в основном они хотят, чтобы их оставили в покое и позволили мирно трудиться над своими машинами и алгоритмами. Как говорят Ферруччи, Норвиг и другие, они хотят решать проблемы, у которых есть конкретное решение, а не тратить десятилетия на не имеющие большого практического значения исследования, пусть даже успешные. Жизнь коротка, и специалисты в области ИИ хотят сделать этот мир лучше. Философские аспекты искусственного интеллекта, связанные с пониманием того, что делает нас людьми и что такое интеллект, могут быть хороши для пробуждения общественного интереса и привлечения внимания СМИ, но когда речь идет о решении конкретных проблем, они становятся не более чем эфемерными отвлекающими факторами.

Действительно ли так важно, что такое интеллект? Чем больше я узнаю об искусственном интеллекте, тем меньше нуждаюсь в определении этого термина, сколь бы точным оно ни было. Шахматы — прекрасный пример «эффекта искусственного интеллекта», описанного Ларри Теслером. По словам Теслера, «интеллект — это то, что машины еще не умеют делать». Едва придумав способ научить компьютер выполнению какой-то «интеллектуальной» задачи — например, игре в шахматы на уровне чемпиона мира, мы тут же приходим к мысли, что это не является настоящим проявлением интеллекта. Другие указывают на то, что технология, становясь хорошо отлаженной и привычной, вообще перестает восприниматься как ИИ. Это еще одна иллюстрация того, насколько недолговечны подобные определения.

Те редкие пытливые умы, которые хотят постичь потенциал машинного интеллекта путем углубления в тайны человеческого мышления, зачастую не пользуются благосклонностью деловых и академических кругов, которые все больше отдают приоритет практическим результатам. Некоторое исключение по-прежнему составляют крупнейшие университеты, но даже самые престижные учебные заведения, представляющие собой замкнутый мирок, всегда стремятся что-то публиковать, патентовать и приносить прибыль. Эпоха, когда гигантские транснациональные корпорации типа Bell и государственные программы типа DARPA вкладывали огромные деньги в фундаментальные исследования и экспериментальные проекты, осталась в прошлом. Ассигнования на НИОКР урезаются на протяжении многих лет, с ростом скептического отношения инвесторов ко всему, что не увеличивает напрямую конечную прибыль. Финансируемые государством исследования, как правило, сосредоточены на конкретных задачах, а не на открытых амбициозных миссиях вроде обозначенной Леонардом Клейнроком в его знаменитом вопросе: «Как научить все компьютеры в мире общаться друг с другом?».

Школа Джеймса Мартина при Оксфордском университете собрала под своей крышей немногочисленную команду таких исключительных личностей и поощряет междисциплинарные и свободные исследования, наподобие тех, что вышли из моды в эпоху специализации, контрольных показателей и 90-страничных заявок на гранты. Работая с 2013 года в этой школе, я лично знаком со многими ее замечательными сотрудниками, в том числе с Ником Бостромом, автором книги «Суперинтеллект» (2014), а также другими преподавателями и исследователями из Института будущего человечества. Йен Голдин, основатель и первый директор оксфордской Школы Джеймса Мартина, решил, что его коллегам будет интересно принимать участие в неформальных встречах, в ходе которых они смогут обсудить общую картину, а не только то, что видят каждый день в своих научных лабораториях.

Как гласит современная поговорка, если вы самый умный человек в комнате, то вы ошиблись помещением. Что ж, в дни своих ежегодных визитов в Оксфорд я порой чувствую себя самым неумным человеком в комнате. Я горжусь тем, что хорошо информирован и быстро вникаю в сложные темы. Я много читаю, у меня масса умных друзей в самых разных областях, которые не позволяют мне расслабляться в интеллектуальном плане. Но эти оксфордские дискуссии ведутся на совершенно ином уровне и всегда завершаются слишком быстро.

Моя задача на этих встречах — помимо того, чтобы не показать, что у меня нет полудюжины ученых степеней, как у остальных присутствующих, — подливать масла в огонь дискуссии. Я побуждаю ученых мужей выйти из их зоны комфорта и посмотреть на то, чем они занимаются, под другим углом: что вызывает у них наибольшее разочарование и чему общественность должна уделить наибольшее внимание? Мы обсуждаем, какие из ключевых предсказаний на минувшие пять лет не сбылись, и пытаемся сделать свои прогнозы на следующее пятилетие. Я предлагаю им поговорить о политических и бюрократических факторах, которые сдерживают жизненно важные исследования, и о зачастую извращенных схемах получения грантов и других видов финансирования.