Читать книгу "Нексус. Краткая история информационных сетей от каменного века до искусственного интеллекта - Юваль Ной Харари"

автономное оружие и манипулятивные алгоритмы, - не из чистого альтруизма, а ради собственного самосохранения.

 

ЧЕЛОВЕЧЕСКИЙ ВЫБОР

Разработка и соблюдение международных соглашений по ИИ потребует серьезных изменений в функционировании международной системы. Если в регулировании опасных технологий, таких как ядерное и биологическое оружие, у нас есть опыт, то регулирование ИИ потребует беспрецедентного уровня доверия и самодисциплины по двум причинам. Во-первых, скрыть нелегальную лабораторию ИИ легче, чем нелегальный ядерный реактор. Во-вторых, у ИИ гораздо больше двойного военно-гражданского применения, чем у ядерных бомб. Следовательно, несмотря на подписание соглашения, запрещающего автономные системы вооружений, страна может создавать такое оружие тайно или маскировать его под гражданскую продукцию. Например, она может разработать полностью автономные беспилотники для доставки почты и опрыскивания полей пестицидами, которые при незначительных модификациях смогут также доставлять бомбы и опрыскивать людей ядом. Следовательно, правительствам и корпорациям будет сложнее поверить в то, что их конкуренты действительно соблюдают согласованные правила, и не поддаться искушению самим отступить от них. Смогут ли люди выработать необходимый уровень доверия и самодисциплины? Есть ли в истории прецеденты подобных изменений?

Многие люди скептически относятся к способности человека меняться, и в частности к его способности отказаться от насилия и создать более прочные глобальные связи. Например, такие мыслители-"реалисты", как Ганс Моргентау и Джон Миршаймер, утверждают, что тотальная борьба за власть - неизбежное условие международной системы. Миршаймер объясняет, что "согласно моей теории, великие державы озабочены главным образом тем, как выжить в мире, где нет органа, который бы защитил их друг от друга", и что "они быстро осознают, что сила - это ключ к их выживанию". Затем Миршаймер задается вопросом, "какой власти хотят государства", и отвечает, что все государства хотят получить как можно больше власти, "потому что международная система создает мощные стимулы для государств искать возможности получить власть за счет соперников". Он заключает: "Конечная цель государства - быть гегемоном в системе".

Этот мрачный взгляд на международные отношения сродни популистским и марксистским взглядам на человеческие отношения, поскольку все они считают, что люди заинтересованы только во власти. И все они основаны на более глубокой философской теории человеческой природы, которую приматолог Франс де Ваал назвал "теорией шпона". Она утверждает, что в основе своей люди - охотники каменного века, которые не могут не воспринимать мир как джунгли, где сильные охотятся на слабых и где сила делает право. На протяжении тысячелетий люди пытались замаскировать эту неизменную реальность под тонкой и изменчивой оболочкой мифов и ритуалов, но так и не смогли освободиться от закона джунглей. На самом деле наши мифы и ритуалы сами по себе являются оружием, используемым верховными псами джунглей для обмана и заманивания в ловушку низших. Те, кто не осознает этого, опасно наивны и могут стать жертвой какого-нибудь безжалостного хищника.

Однако есть основания полагать, что "реалисты" вроде Миршаймера избирательно относятся к исторической реальности и что закон джунглей сам по себе является мифом. Как показал де Ваал и многие другие биологи в своих многочисленных исследованиях, реальные джунгли - в отличие от тех, что мы себе представляем, - полны сотрудничества, симбиоза и альтруизма, которые демонстрируют бесчисленные животные, растения, грибы и даже бактерии. Восемьдесят процентов всех наземных растений, например, находятся в симбиотических отношениях с грибами, а почти 90 процентов семейств сосудистых растений поддерживают симбиотические отношения с микроорганизмами. Если бы организмы в тропических лесах Амазонии, Африки или Индии отказались от сотрудничества в пользу тотальной конкуренции за гегемонию, тропические леса и все их обитатели быстро бы погибли. Таков закон джунглей.

Что касается людей каменного века, то они были не только охотниками, но и собирателями, и нет никаких веских доказательств того, что они обладали неудержимыми воинственными наклонностями. Хотя существует множество предположений, первое однозначное свидетельство организованных военных действий появилось в археологической летописи лишь около тринадцати тысяч лет назад, на месте Джебель-Сахаба в долине Нила. Даже после этой даты данные о войнах скорее изменчивы, чем постоянны. Некоторые периоды были исключительно жестокими, в то время как другие были относительно мирными. Самая четкая закономерность, которую мы наблюдаем в долгосрочной истории человечества, - это не постоянство конфликтов, а скорее растущие масштабы сотрудничества. Сто тысяч лет назад сапиенсы могли сотрудничать только на уровне групп. За тысячелетия мы нашли способы создавать сообщества незнакомых людей, сначала на уровне племен, а затем на уровне религий, торговых сетей и государств. Реалисты должны отметить, что государства - это не фундаментальные частицы человеческой реальности, а скорее продукт трудных процессов построения доверия и сотрудничества. Если бы людей интересовала только власть, они никогда бы не создали государства. Конечно, конфликты всегда оставались возможными - как между государствами, так и внутри них, - но они никогда не были неизбежной судьбой.

Интенсивность войны зависит не от неизменной человеческой природы, а от меняющихся технологических, экономических и культурных факторов. С изменением этих факторов меняется и война, что было наглядно продемонстрировано в эпоху после 1945 года. В тот период развитие ядерных технологий значительно увеличило потенциальную цену войны. Начиная с 1950-х годов сверхдержавам стало ясно, что даже если они каким-то образом смогут выиграть тотальный ядерный обмен, их победа, скорее всего, будет самоубийственной и повлечет за собой гибель большей части населения.

Одновременно с этим продолжающийся переход от экономики, основанной на материальных ценностях, к экономике, основанной на знаниях, снизил потенциальную выгоду от войны. Хотя завоевание рисовых полей и золотых приисков по-прежнему было возможным, к концу XX века они перестали быть основными источниками экономического богатства. Новые ведущие отрасли, такие как производство полупроводников, стали основываться на технических навыках и организационных ноу-хау, которые невозможно было приобрести путем военных завоеваний. Соответственно, некоторые из величайших экономических чудес эпохи после 1945 года были достигнуты побежденными державами - Германией, Италией и Японией, а также такими странами, как Швеция и Сингапур, которые избегали военных конфликтов и имперских завоеваний.

Наконец, во второй половине XX века произошла глубокая культурная трансформация, сопровождавшаяся отказом от вековых милитаристских идеалов. Художники все больше внимания уделяли изображению бессмысленных ужасов войны, а не прославлению ее архитекторов, а пришедшие к власти политики больше мечтали о внутренних реформах, чем о внешних завоеваниях. Благодаря этим технологическим, экономическим и культурным изменениям в течение десятилетий после окончания Второй мировой войны большинство правительств перестали рассматривать агрессивные войны как привлекательный инструмент для продвижения своих интересов, а большинство стран перестали фантазировать о завоевании и уничтожении своих соседей. Хотя гражданские войны и повстанческие движения остаются обычным явлением, в мире после 1945 года наблюдается