Читать книгу "Выдох - Тед Чан"

Идея простая, но я никогда не видел, чтобы ее излагали таким образом, пока не прочел объяснение Пенроуза. Я хотел посмотреть, получится ли изложить ее в художественной форме.

Чего от нас ждут

У «Монти Пайтона» есть сценка про шутку, такую смешную, что каждый, кто ее услышит или прочтет, умирает от смеха. Это пример старинного тропа, который называют «мотивом губительного ощущения», идеи о том, что можно умереть, просто услышав или увидев что-то. Или, в некоторых версиях, поняв. В сценке «Монти Пайтона» англичане могут спокойно пересказывать шутку на немецком, если не понимают, что говорят.

В большинстве разновидностей этого тропа используется сверхъестественный элемент; например, в ужасах часто упоминаются проклятые книги, которые сводят людей с ума. Я задумался, а существует ли несверхъестественный его вариант, и мне пришло в голову, что веский аргумент в пользу бессмысленности жизни может сработать. Не сразу – потребуется время, чтобы осознать его, но это лишь означает, что он распространится шире: люди будут в процессе размышлений пересказывать его другим.

Разумеется, даже самый непробиваемый аргумент не убедит каждого, кто его услышит. Аргументы слишком абстрактны, чтобы поколебать большинство людей. А вот наглядная демонстрация – другое дело.

Жизненный цикл программных объектов

В научной фантастике полно искусственных созданий, которые, подобно Афине из головы Зевса, появляются на свет полностью сформированными, но я не верю, что с сознанием такое возможно. Если верить нашим исследованиям человеческого разума, на получение полезного существа уходит не меньше двадцати лет, и я не вижу причин, по которым обучение искусственного интеллекта должно идти быстрее. Я хотел написать рассказ о том, что может случиться за эти двадцать лет.

Меня также интересовала идея эмоциональной связи между людьми и ИИ, причем я не имею в виду человеческую страсть к секс-роботам. Реальными отношения делает не секс, а желание эти отношения поддерживать. Некоторые влюбленные расстаются после первой серьезной ссоры; некоторые родители тратят на детей лишь необходимый минимум усилий; некоторые владельцы домашних животных не обращают внимания на своих любимцев, когда те им мешают. Во всех этих случаях люди не хотят стараться. Настоящие отношения – с возлюбленным, ребенком или домашним питомцем – требуют согласия сопоставлять желания и нужды партнера со своими собственными.

Я читал произведения, в которых люди утверждают, что ИИ заслуживает юридических прав, однако, сосредоточившись на крупном философском вопросе, истории эти приглаживают обыденную реальность. Сходным образом фильмы всегда показывают любовь в романтическом свете, в то время как в долгосрочной перспективе любить также означает решать финансовые проблемы и собирать грязное белье с пола. И потому, хотя признание юридических прав ИИ станет важным шагом, не меньшее значение имеют усилия, которые люди вкладывают в личные отношения с ИИ.

И даже если нам плевать на их права, есть еще одна причина относиться к разумным машинам с уважением. Необязательно считать, что обученные находить бомбы собаки заслуживают права голоса, чтобы понимать: не следует их обижать. Даже если вас волнует только то, насколько хорошо они умеют отыскивать бомбы, в ваших интересах обращаться с ними лучшим образом. И вне зависимости от того, в какой роли мы хотим видеть ИИ – работников, возлюбленных или домашних питомцев, – думаю, они справятся лучше, если в ходе обучения найдутся люди, которые будут о них заботиться.

В заключение позвольте процитировать Молли Глосс, которая в своем выступлении рассказала о том, какое влияние оказало материнство на ее писательскую карьеру. Воспитывая ребенка, сказала она, «ты неизбежно ежедневно сталкиваешься с весьма сложными вопросами: что такое любовь и откуда она берется? Почему в мире есть зло, и боль, и утраты? Где найти достоинство и терпимость? Кто у власти и почему? Какой лучший способ решить конфликт?» Если мы хотим доверить ИИ серьезную ответственность, ему нужно знать ответы на эти вопросы. Этого нельзя добиться, загрузив в память компьютера труды Канта; для этого потребуется аналог правильного родительского воспитания.

Запатентованная автоматическая няня дейси

Обычно я не в состоянии написать рассказ на заданную тему, но в редких случаях мне это удается. Джефф Вандермеер редактировал антологию, посвященную выставкам воображаемых артефактов: художники должны были нарисовать эти артефакты, а писатели – сочинить к ним описание. Художник Грег Броудмор предложил идею «автоматической няни», «машины-субробота, созданной для присмотра за младенцами», и мне эта тема понравилась.

Психолог-бихевиорист Б. Ф. Скиннер придумал специальную колыбель для своей дочери. Согласно живучему мифу, ее психика была искалечена, и она покончила с собой. Это не соответствует действительности; она выросла здоровой и счастливой. С другой стороны, вспомним психолога Джона Б. Уотсона, который считается основателем бихевиоризма. «Когда вам захочется приласкать своего ребенка, не забывайте, что материнская любовь – опасный инструмент», – говорил он родителям – и под его влиянием сформировались взгляды на воспитание детей первой половины двадцатого века. Он верил, что действует в интересах ребенка, но все его собственные дети в зрелом возрасте страдали депрессией и неоднократно пытались покончить с собой, причем один в этом преуспел.

Истина факта, истина чувства

В конце 1990-х я присутствовал на презентации о будущем персональных компьютеров, и докладчик сказал, что однажды мы сможем вести постоянную видеозапись всех мгновений нашей жизни. Это было смелое заявление – в те времена место на жестком диске стоило слишком дорого, чтобы хранить видео, – но я осознал его правоту: в конце концов мы сможем записывать все. И хотя я не знал, какую форму это примет, я не сомневался, что влияние на человеческую психику окажется колоссальным. Разумом мы понимаем, что наши воспоминания неточны, но редко сталкиваемся с этими неточностями. Что с нами произойдет, если мы обзаведемся поистине точной памятью?

Раз в несколько лет я возвращался к этому вопросу и размышлял о нем, но так и не собрался сочинить об этом рассказ. Биографы красноречиво писали о ненадежности воспоминаний, и я не хотел повторять их слова. Затем я прочел «Устность и грамотность» Уолтера Онга, книгу о воздействии письменности на устные культуры; хотя некоторые из его наиболее категоричных утверждений с тех пор были поставлены под сомнение, мне эта книга по-прежнему кажется откровением. Она подсказала мне, что можно провести параллель между последним случаем, когда технология изменила наши когнитивные способности, и следующим.

Великое безмолвие

На самом деле, есть два произведения под названием «Великое безмолвие», но лишь одно подходит для этого сборника. Я хочу разъяснить ситуацию.

В 2011 году я участвовал в конференции под названием «Построить мост через пропасть», целью которой было активизировать диалог между искусством и наукой. Среди участников была Дженнифер Аллора, член дуэта художников Аллора и Кальсадилья. Я совершенно не был знаком с их произведениями – смесью перформанса, скульптуры и звука, – но меня заворожил рассказ Дженнифер об идеях, с которыми они работают.