Читать книгу "Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта - Макс Тегмарк"

Планируя наше будущее, давайте подумаем о смысле не только для своих жизней, но и для самой Вселенной. В этом отношении два моих любимых физика, Стивен Вайнберг и Фримен Дайсон, представляют два диаметрально противоположных взгляда. Стало знаменитым высказывание Вайнберга, удостоенного Нобелевской премии за важнейший вклад в создание стандартной модели элементарных частиц: «Чем лучше мы понимаем Вселенную, тем бессмысленнее она кажется». Дайсон, со своей стороны, гораздо оптимистичнее, как мы могли убедиться в главе 6: хотя он тоже считает, что Вселенная была бессмысленной, она стала все больше и больше наполняться смыслом с возникновением жизни, но вершина осмысленности все еще впереди — когда жизнь сможет распространиться в космосе. Он закончил свою программную статью 1979 года так: «Какая из Вселенных, моя или Вайнберга, ближе к истине? Когда-нибудь, и не так уж не скоро, мы узнаем». Если когда-нибудь наша Вселенная навсегда вернется к своему бессознательному состоянию из-за того, что мы истребим жизнь на Земле, или из-за того, что мы позволим бессознательным зомби с искусственным интеллектом захватить нашу Вселенную, то Вайнберг возьмет верх окончательно и бесповоротно.

С этой точки зрения, хотя наше внимание в этой книге по большей части было обращено к будущему разума, будущее сознания куда как более важно, потому что это то, что создает смыслы. Когда речь заходит об этом различии, философы любят переходить на латынь, противопоставляя sapientia (способность разумно мыслить) и sentientia (способность к субъективному восприятию квалиа). Мы, люди, выстроили свою идентичность на идее принадлежности к виду Homo sapiens — самых разумных существ в природе. Сейчас мы готовимся к встрече с более разумными машинами и потому должны быть скромнее. Я предлагаю людям пройти ребрендинг и стать Homo sentiens.

Подведение итогов

• Нет общепринятого и не вызывающего споров определения сознания. Я использую достаточно широкое и не антропоцентрическое: сознание = субъективные переживания.

• Сознательны ли системы искусственного интеллекта в этом смысле — это принципиально важно для ответа на самые острые вопросы, возникающие в связи с развитием искусственного интеллекта вообще. Могут ли такие системы страдать? Могут ли они иметь права? Не окажется ли заливка человеческого разума в компьютерную память самоубийством? Не станет ли космос будущего, кишащий системами искусственного интеллекта, зомби-апокалипсисом?

• Проблема понимания разума не должна смешиваться с тремя различными проблемами понимания сознания: «довольно трудной проблемой» определения, какая физическая система обладает сознанием, «еще более трудной проблемой» предсказания квалиа и «по-настоящему трудной проблемой» — почему что-то вообще оказывается сознательным.

• «Довольно трудная проблема» научна, так как теория, предсказывающая, какие из процессов, протекающих у вас в мозгу, вами осознаются, может быть проверена экспериментально и фальсифицирована, притом что пока остается неясным, как наука может разрешить две более сложные проблемы.

• Нейробиологические эксперименты показывают, что многие действия и связанные с ними области мозга не осознаются, а бóльшая часть наших осознанных переживаний складывается из апостериорного суммирования значительного количества бессознательной информации.

• Для того чтобы предсказывать появление сознания у машин, требуется теория. Сознание, по-видимому, связано не с какой-то особой разновидностью полей или частиц, а с особой разновидностью информационных процессов, в большой степени автономных и интегральных, так что вся система в целом автономна, но каждая ее часть в отдельности — нет.

• Сознание ощущается исключительно нефизическим потому, что оказывается дважды независимым от субстрата: если сознание — это самоощущение, возникающее при обработке информации определенным образом, то значение имеет только структура собственно информационного процесса, но не структура вещества, обеспечивающего этот процесс.

• Если искусственное сознание возможно, то пространство возможных переживаний искусственного интеллекта в сравнении с человеческим должно быть несопоставимо велико, охватывая широчайший спектр квалиа и временных масштабов — включая ощущение свободы воли.

• Поскольку без сознания невозможен никакой смысл, то не наша Вселенная дает смысл сознающим существам, а сознающие существа дают смысл нашей Вселенной.

• Так как людям предстоит уступить место умнейших существ во Вселенной машинам, мы должны свыкнуться с новой ролью — Homo sentiens, а не Homo sapiens.

Эпилог

Сказание о команде FLI

Самая печальная сторона жизни сейчас заключается в том, что наука обретает знания быстрее, чем общество обретает мудрость.

Айзек Азимов

Итак, мой дорогой читатель, мы добрались до конца книги, изучив происхождение и судьбы разума, целей и смысла. Так как же воплотить эти идеи в действия? Что конкретно мы должны сделать, чтобы наше будущее было как можно лучше? Именно этот вопрос я задаю себе прямо сейчас, сидя у окна, по пути из Сан-Франциско в Бостон 9 января 2017 года, возвращаясь с конференции по искусственному интеллекту, которую мы только что провели в Асиломаре, поэтому позвольте мне закончить эту книгу, делясь с вами своими впечатлениями.

Мейя задремала в соседнем кресле, утомленная бессонными ночами, наполненными хлопотами и приготовлениями. О, что за неделька это была! Нам удалось на несколько дней собрать вместе на сиквел в Пуэрто-Рико почти всех, упоминавшихся в этой книге, включая Илона Маска, Ларри Пейджа, ведущих исследователей по искусственному интеллекту из университетов и компаний, таких как DeepMind, Google, Facebook, Apple, IBM, Microsoft и Baidu, а также многих экономистов, юристов, философов и других блестящих мыслителей (см. рис. 9.1). Результат превзошел мои самые смелые ожидания, и я пребываю на вершине оптимизма, какого не знал долгое время, по поводу будущего жизни. Здесь, в эпилоге, я хочу объяснить вам почему.

Рождение FLI

С тех пор как в возрасте четырнадцати лет я узнал о гонке ядерных вооружений, меня тревожило, что мощь наших технологий растет быстрее, чем мудрость, с которой мы управляем ими. Поэтому я решил вставить главу об этой проблеме в мою первую книгу Our Mathematical Universe, несмотря на то, что в основном она была о физике. К началу 2014 года я дал новогоднее обещание, что больше не стану жаловаться ни на что, не подумав сначала самым серьезном образом над тем, как лично я могу что-то сделать ради исправления ситуации, и я держал свое обещание, пока ездил, представляя книгу, на протяжении всего января: мы с Мейей провели в это время не один мозговой штурм, решая, как нам создать некоммерческую организацию, служащую для всемерного улучшения будущего жизни путем адекватного управления технологической средой.

Мейя настаивала на том, что мы должны дать этой организации какое-то оптимистическое название, как можно больше отличающееся от чего-нибудь вроде «Институт кошмара и ужаса» или «Давайте побеспокоимся о будущем». Так как название «Институт будущего человечества» было уже занято, мы сошлись на «Институте будущего жизни» (Future of Life Institute, FLI), у которого было дополнительное преимущество, заключающееся в возможности расширительных толкований. 22 января мы должны были проводить презентацию книги в Санта-Крузе, и во время ужина с нашим старым другом Энтони Агирре, глядя, как калифорнийское солнце опускается в Тихий океан, мы уговорили его объединить наши силы. Он не только один из умнейших людей, кого я знаю, и всегда полон идей, но у него уже есть опыт ведения дел одной из некоммерческих организаций, Института основополагающих вопросов (Foundational Questions Institute, http://fqxi.org), созданного нами более десятилетия назад.