Читать книгу "Роботы-убийцы против человечества. Киберапокалипсис сегодня - Елена Ларина"

5. Единственный выход состоит в том, чтобы научиться жить в условиях множащихся угроз. Нужно коренным образом перестроить на государственном, деловом и общественном уровнях привычные нам методы работы, способы управления и регулирования, средства и инструменты обеспечения национальной безопасности. Необходимо согласиться с тем, что, по крайней мере, в ближайшие десятилетия главным критерием для всех решений на всех уровнях и во всех сферах должна стать не эффективность, а выживаемость. Главным должно стать умение по возможности ослабить удар со стороны деструктивных организаций и их вольных и невольных союзников, преодолеть последствия таких ударов и в ответ без разрушения ткани цивилизации максимально и ежедневно ослаблять деструктивные организации.

Совет по правам человека ООН. XXIII сессия. Доклад Специального докладчика по вопросу о внесудебных казнях, казнях без надлежащего судебного разбирательства или произвольных казнях Кристофа Хейнса. 9 апреля 2013 г. Извлечение

Резюме

Боевые автономные роботизированные системы (БАРС) представляют собой системы оружия, которые после приведения их в действие способны выбирать и поражать цели без последующего вмешательства оператора. В связи с этим возникают вопросы, имеющие далеко идущие последствия в том, что касается защиты жизни в условиях войны и мира. К их числу относится вопрос о том, в какой мере их можно программировать, чтобы соблюдались требования международного гуманитарного права и стандарты защиты жизни в соответствии с нормами права в области прав человека. Кроме того, их применение может являться неприемлемым ввиду того, что невозможно разработать сколько-нибудь адекватную систему правовой ответственности, и поскольку роботы не должны наделяться способностью решать вместо людей вопросы жизни и смерти. Специальный докладчик рекомендует государствам ввести национальные моратории на аспекты БАРС и предлагает учредить группу высокого уровня по вопросам БАРС для разработки в этой сфере политики для международного сообщества.

III. Боевые автономные роботизированные системы и защита жизни

…

26. Обществам, располагающим современной технологией, такая технология позволяет увеличить дистанцию между пользователями оружейных систем и смертоносной силой, которую они в себе несут. Например, БПЛА, обычно называемые «беспилотниками», позволяют тем, кто контролирует применение такой смертоносной силы, не присутствовать физически при их использовании, а приводить их в действие, находясь за компьютером вдалеке от места их применения и оставаться вдали от линии огня.

27. Боевые автономные роботизированные системы (БАРС), если они войдут в арсеналы государств, добавят новое измерение такой дистанци-онности в том смысле, что решения о выборе цели смогут приниматься самими роботами. Помимо физической отстраненности от кинетического действия таких систем человек будет также непричастен к принятию решений о нанесении удара и их исполнению.

28. Робототехническая революция рассматривается как следующая крупная революция в военной сфере, равная по своему значению изобретению пороха и созданию ядерного оружия[4]. Однако в одном важном отношении робототехническая революция отличается от этих более ранних революций: ведь развертывание БАРС повлечет за собой не просто качественное усовершенствование используемых систем оружия, но и приведет к изменению идентичности тех, кто их применяет. Перспектива появления БАРС будет стирать различие между вооружениями и воинами, поскольку такие системы будут автономно принимать решения о своем использовании.

29. Официальные заявления правительств стран, обладающих потенциалом для производства БАРС, свидетельствуют о том, что в настоящее время об их использовании в вооруженном конфликте или при иных обстоятельствах даже и не помышля-ют[5]. Хотя, возможно, это и так, следует вспомнить о том, что самолеты и беспилотники сначала использовались в вооруженных конфликтах только в разведывательных целях, а их наступательное использование исключалось ввиду потенциально нежелательных последствий[6]. Последующий опыт показывает, что когда имеется технология, позволяющая, как считается, получить превосходство над противником, первоначальные соображения отбрасываются в сторону. С другой стороны, военные технологии легко переносятся в гражданскую сферу. Если считать, что международно-правовую нормативную базу следует укреплять, чтобы противостоять давлению будущего, то это обязательно надо делать уже сейчас, пока для этого есть возможность.

30. Одна из самых сложных проблем, решить которую пытаются правовые, моральные и религиозные кодексы, заключается в отношении к убийству человека человеком. Перспектива такого будущего, когда полностью автономные роботы будут в состоянии решать вопросы жизни и смерти, ставит дополнительно целый ряд беспокоящих вопросов. Как будет показано ниже, появление столь мощных и в то же время вызывающих противоречия новых систем оружия потенциально может создать новые угрозы для права на жизнь. Это может также породить международный раскол и ослабить роль и верховенство международного права и тем самым подрывать систему международной безопасности[7]. Появление БАРС требует от всех сторон – государств, международных организаций и международных и национальных организаций гражданского общества – необходимости рассмотрения всех последствий следования по этому пути.

31. Некоторые авторы выдвигают тот довод, что роботы никогда не смогут отвечать требованиям международного гуманитарного права (МГП) или международного права прав человека (МППЧ) и что, даже если и смогли бы, роботов принципиально нельзя наделять способностью решать вопрос о том, кто будет жить, а кто должен погибнуть. Эти критики требуют полного запрещения их разработки, производства и применения[8]. По мнению других авторов, такой технологический прогресс – если его удерживать в определенных рамках – представляет собой законные достижения в военной сфере, которые в некоторых отношениях могут даже содействовать обеспечению более гуманного характера вооруженного конфликта и спасению человеческой жизни у всех сторон кон-фликта[9]. Согласно такому доводу полный отказ от такой технологии может сводиться к ненадлежащей защите жизни как таковой.