Читать книгу "Калибан - Айзек Азимов"

Теоретически роботы способны выносить независимые суждения и пережить без особых затруднений смерть преступника. Робот может прийти к выводу, что и для настоящего, и для будущего благополучия общества – то есть всех людей – необходимо, чтобы верх взял полицейский. И помощь преступнику или вмешательство в действия полицейского принесут людям только вред. Потому что если преступник избежит наказания, он обязательно снова начнет вредить людям, так или иначе. Тем не менее в действительности только самые высокоорганизованные роботы со специально отрегулированным соотношением напряжений Первого Закона способны справиться с такой ситуацией.

Все законы и правила поведения, согласно которым живут люди, предназначены как раз для того, чтобы разобраться в путанице таких вот сложных случаев. И мы, люди, настолько привыкли следовать этим правилам, что даже не замечаем их! Как войти в зал, когда обед уже начался, как вежливо обратиться к вдове своего дедушки, которая еще раз вышла замуж, когда надо и когда не надо цитировать источники в научном исследовании – мы так хорошо все это знаем, что даже не замечаем, что знаем. Для других, не таких повседневных, случаев тоже есть масса правил и условностей.

Например, все мы знаем, что убийство – это преступление. Тем не менее убийство при самозащите, при борьбе с преступником, посягающим на вашу жизнь, преступлением не считается. Но степень опасности преступника, соответствие защиты нападению, смягчающие и отягчающие обстоятельства, непреднамеренное убийство – все это полутона и оттенки серого в четком и ясном черно-белом законе против убийства. Но, как мы видим на моем примере с полицейским и преступником, ни одно из этих соображений не влияет на напряженность Первого Закона у роботов. Этот Закон не оставляет места оценке обстоятельств, вынесению самостоятельного суждения. Вместо этого у робота есть только оценка соотношения Первого, Второго и Третьего Законов – большего им не дано!

Так что же такое Три Закона? Чтобы ответить на этот вопрос, надо вспомнить, что Три Закона созданы как модель идеальной морали, чтобы обеспечить послушание и исполнительность роботов. Три Закона не рассчитаны на то, чтобы моделировать человеческое поведение! Но, как бы то ни было, им приходится это делать – хоть и упрощенно, и схематично.

Мы разобрали цели создания Трех Законов. Теперь коснемся их истории.

Все мы знаем Три Закона с пеленок. Мы относимся к ним как к природному явлению, неизменному и не зависящему от нас. И не видим причины делать что-то иное, кроме как просто принимать их, как они есть, вместе с миром, в котором живем.

Но это не единственный выход для нас. Повторю еще раз: Три Закона созданы людьми. Они основаны на человеческих суждениях и жизненном опыте, приобретенном в прошлом. В конце концов, эти Три Закона не менее поддаются оценке и преобразованию, чем все прочие изобретения человечества – такие, как колесо, космический корабль или компьютер. Все это изменилось со времени изобретения или вообще кануло в прошлое – уступив место новым открытиям, новым установлениям.

Мы можем понять, как и почему было создано все это, – и найти пути усовершенствования, изменения к лучшему, так чтобы оно соответствовало запросам настоящего. Времена ведь меняются! И точно так же, если будет нужно, мы можем изменить Три Закона!

Зал ахнул, как одно огромное существо, и буквально взорвался возмущенными криками. Фреде казалось, что эти выкрики обрушиваются на нее, как сокрушительные удары. Но она знала, что так все и будет. Она взяла себя в руки и ответила:

– Нет! Мы не станем вести себя так! Мы ведь пришли сюда, чтобы культурно обсудить важные вопросы. Как же можно называть наше общество самым развитым и цивилизованным в истории человечества, если простое предложение нового образа мыслей, небольшое отступление от общепринятых традиций превращает нас в толпу? Вы кричите так, будто мои слова – преступление против религии, которой, по вашему убеждению, у вас нет! Неужели вы в самом деле верите, что Три Закона – нечто вечное и незыблемое, что-то вроде магической формулы, заложенной в основу бытия?!

Это подействовало. Поселенцы раздулись от гордости за свое здравомыслие. По крайней мере, пока. В зале еще пошумели, покричали, но понемногу все успокоилось, они приготовились слушать дальше. Фреда еще немного подождала, пока шум утихнет, и продолжила:

– Три Закона – изобретение человечества. И, как любое такое изобретение, они отражают потребности того времени и места, когда и где были созданы. Хотя роботы, которых мы используем сейчас, во многом гораздо совершеннее тех, первых, моделей, но в главном они остались такими же, как и тысячи лет назад. Мозг наших роботов практически не изменился с тех пор, когда люди только начинали осваивать космос. Они – продукт культуры, исчезнувшей задолго до того, как были построены первые подземные города на Земле, до того, как первые колонисты заселили Аврору.

Я понимаю, что это кажется невероятным, но вы не можете этого не признать. Подумайте сами! Загляните в это отдаленное прошлое, и вы сами увидите! И не обязательно справляться у своих роботов. Все нужные сведения есть в справочнике. Посмотрите только, каким был мир, в котором создавались первые роботы. И вы увидите, что Три Закона придумали во времена, совсем непохожие на нынешнее.

Вам встретится часто повторяющееся словосочетание «комплекс Франкенштейна». Это ссылка на старинную легенду, ныне забытую, о том, как некий чародей сложил вместе части тел казненных преступников и оживил создание, которое получилось, – ужасающего монстра. В одних вариантах легенды этого монстра наделяют добрым и мягким характером, в других его выставляют закоренелым злодеем и убийцей. Но все варианты сходятся на том, что этого монстра все вокруг боялись и ненавидели. И в большинстве вариантов легенды и монстра, и его создателя убивает разъяренная толпа, боясь того, что вот-вот вся история повторится, когда еще один искусник откроет секрет оживления мертвой плоти.

С этим чудовищем, леди и джентльмены, часто сравнивали роботов, когда первые настоящие роботы только появились. Чудовище, сделанное из кусков мертвых тел. Извращенное, неестественное создание с самыми низкими и злобными порывами. И страх перед этим мифическим чудовищем, перенесенный на настоящих роботов, назывался «комплексом Франкенштейна». Я понимаю, что трудно в такое поверить, но к роботам относились не как к безупречно послушным слугам, а как к могучим, грозным, устрашающим чудовищам. Люди хватали своих детей и бежали прочь, завидев робота, настоящего, нормального робота с Тремя Законами, заложенными в позитронный мозг.

По залу пронесся ропот недоверия, но они по-прежнему слушали Фреду, увлеченные причудливым древним миром, о котором она рассказывала.

– Можно поведать еще очень и очень многое о тех незапамятных временах, когда создавались Три Закона. И нам трудно будет не то что понять – даже поверить в такое. Потому что первые роботы появились в мире, полном ненависти и страха, когда люди Земли сплачивались в могущественные военные организации и блоки. Они вооружались чудовищной силы оружием, способным разнести на куски саму Землю, и каждый боялся, как бы противники не начали войну первыми! Подумать только, ведь оружие тогда было главной политической силой, а все остальное – культура, мораль – играло второстепенную, незначительную роль. И чтобы не дать противнику себя опередить, каждая из сторон стремилась создать все более мощное, скоростное, совершенное оружие!