Читать книгу "Технологии против человека - Герд Леонгард"

Во многом идеи, изложенные в данной книге, перекликаются с идеями, обсуждаемыми в рамках глобальной инициативы IEEE Global Initiative по этическим рекомендациям для искусственного интеллекта и автономных систем[4]. Эта инициатива является программой Института электротехники и электроники (IEEE), крупнейшей в мире технической профессиональной организации, насчитывающей более 400 000 членов в более чем 160 странах. Деятельность IEEE посвящена продвижению технологий на благо человечества[5].

В результате напряженной работы международного коллектива из более 100 специалистов разных областей науки появился проект документа под названием «Рекомендации для этически обоснованного проектирования. Концепция взаимодействия людей с искусственными интеллектом и автономными системами с приоритетом человеческих ценностей»[6]. Со стороны Российской Федерации в этом проекте участвовала рабочая группа, координируемая Павлом Михайловичем Готовцевым, заведующим лабораторией в НИЦ «Курчатовский институт»[7]. Программа IEEE по этическим рекомендациям для искусственного интеллекта и автономных систем уже привлекла большое внимание со стороны видных мировых политических и культурных организаций. Создание этого документа служит хорошим примером того, что предлагаемый Леонгардом подход по вынесению социальных и этических проблем, связанных с экспоненциальными технологиями, на общепланетарный уровень обсуждения может действительно привести к положительным сдвигам в обществе. Поэтому я вслед за автором книги призываю читателей вступить в «Команду людей» и «не поддаваться искушению предпочесть технологическое волшебство, т. е. великолепное моделирование реальности, самой реальности».

С глубокой благодарностью Григорию Анатольевичу Кабатянскому за обсуждение предисловия и Ксении Дмитриевне Поляковой за редактирование текста.

Максим Валериевич Федоров, профессор Сколтеха, директор Центра науки, образования и инноваций Сколтеха по научным и вычислительным технологиям для задач с большими массивами данных, директор Образовательной программы Сколтеха по наукам о данных, Сколковский институт науки и технологий (Сколтех)

Эту книгу я посвящаю своей любимой жене Анжелике Фельдман, которая так много рассказала мне о человечности, терпела мое постоянное отсутствие и поддерживала меня во время создания книги, а также высказывала критические замечания, которые были мне так необходимы. Без тебя я бы ее никогда не написал.

Введение

Как можно сохранить человечность перед лицом всеобъемлющих экспоненциальных[8] технологических изменений?

Наш мир вступает в эпоху по-настоящему значимых изменений, и многие из нас скоро будут потрясены неожиданными темпами технологического развития. Эти экспоненциально развивающиеся технологические достижения содержат в себе огромный потенциал, но вместе с тем и большую опасность, к которой следует подходить со всей ответственностью.

Человечеству брошен вызов

Я думаю, что изменения, произошедшие после недавних неожиданных событий, таких как, к примеру, Брекзит (решение Соединенного Королевства выйти из состава Европейского союза), покажутся ничтожными по сравнению с тем, что нас ожидает в сфере технологий: изменениям подвергнутся все стороны жизни на планете и даже сама наша человеческая сущность.

В прошлом все радикальные изменения, выпадавшие на долю человечества, происходили от последовательной эволюции одного ключевого фактора: от дерева, камня, бронзы и железа – к паровому двигателю, электричеству, автоматизации производства и интернету. Сегодня, напротив, я предвижу, что технологии спровоцируют такие мегасдвиги, которые будут действовать совместно и смогут изменить не только экономику, культуру и общество, но также нашу природу и мораль.

Манифест процветания человечества

«Технологии против человечества» – это не хвала стремительной технологической революции и не плач по краху цивилизации. Кинолюбителям, таким же, как и я, наверное, уже давно надоели голливудские утопические фантазии и постапокалиптические антиутопии. Будущее нельзя создать, основываясь исключительно на слепом оптимизме или парализующем страхе!

Цель этой книги – усилить и ускорить процесс обсуждения мер по контролю и безопасному использованию научных и технологических достижений, с тем чтобы технологии служили на благо человечества и способствовали его процветанию.

Я надеюсь выйти за рамки закрытой дискуссии между экспертами, учеными и аналитиками и донести эти проблемы до простых людей, которые сейчас мало ими интересуются или вовсе о них не знают. Как футуролог, а также исследователь настоящего, я бы хотел представить вашему вниманию более определенную картину будущего, которое многим кажется далеким и/или недостойным внимания.

Предназначение моей книги – положить начало оживленной дискуссии, которую я считаю самым важным разговором человечества. Моя роль заключается в том, чтобы стать ее катализатором, поэтому я не ставил себе задачей написать «инструкцию по применению»; вместо этого я предлагаю вам энергичный манифест. И, чтобы начатый мной разговор не смолк, я буду более подробно высказываться по обозначенным мной проблемам в своих будущих выступлениях, онлайн-публикациях и фильмах.

То, что мы можем что-то сделать, не значит, что мы должны это делать

Я думаю, что нам стоит отступить от разговоров о возможностях и путях их достижения, которые ведут эксперты. Вместе этого посмотрим на ситуацию с другой стороны: какую роль технологии могут оказать на развитие человечества? Возможность воплотить идею в жизнь еще не означает, что нам стоит это делать.

Чтобы разобраться в этой проблеме, я обозначил основные движущие силы изменений и представил оценку потенциальных осложнений, которые они могут спровоцировать. Я подчеркнул важность многих вопросов, возникающих на фоне ускоренного (часто даже экспоненциального) темпа развития науки и технологий.

Я считаю, что решения, принимаемые относительно научных и технологических исследований, их финансирования и регулирования, должны приниматься в первую очередь в интересах счастья и благополучия всего человечества. В конце концов, процесс познания осуществляется с помощью технологий, а не ради них.