Читать книгу "Искусственный интеллект и будущее человечества - Марк О’Коннелл"

Подобного рода утверждения были более или менее обыденными в мире технологий, в мире тех, кто верил в возможность создания искусственного интеллекта. При должном использовании сила таких технологий привела бы к стремительному росту объема нововведений и инноваций и к состоянию постоянной коперниканской революции. Вопросы, которые беспокоили ученых на протяжении веков, решались бы за несколько дней, часов, минут. Лекарства от болезней, уничтоживших огромное количество людей, нашлись бы одновременно с изобретением гениального решения проблемы перенаселения планеты. Услышать о подобном – это представить бога, давно отрекшегося от своего творения, триумфально вернувшимся под видом программного обеспечения – сути цифрового мира.

– С помощью искусственного интеллекта, о котором мы говорим, можно будет гораздо быстрее достичь физически доступных пределов, – сказал Нейт. – И совершенно очевидно: в таком мире станет возможна загрузка человеческого разума.

Нейт был убежден, что мы обретем цифровой рай, если нам удастся избежать уничтожения машинами. По его мнению, нет ничего мистического или фантастического в загрузке, потому что, как он выразился, «нет ничего особенного в углероде». Мы сами были механизмами, как и все в природе. Например, деревья Нейт описывал как «нанотехнологические машины, превращающие грязь и солнечный свет в еще большее количество деревьев».

Он сказал, что однажды мы достигнем достаточной вычислительной мощности, чтобы полностью, вплоть до квантового уровня, смоделировать функционал нашего мозга, который сейчас реализован в его текущей форме, в форме плоти.

Подобный функционалистический взгляд на сознание был популярен среди исследователей искусственного интеллекта и был в некотором смысле основой для всей области: разум – это программа, определяемая не тем, на чем запущена, а сущностью операций, которые способна выполнить (проект, над которым работали такие люди, как Рэндал Кунэ и Тодд Хаффман, несмотря на всю его сложность и отдаленность, мог бы быть закончен за выходные с помощью такого сверхинтеллекта, о котором говорил Нейт).

– Многие не осознают, – продолжал Нейт, – что, пока мы сидим тут, беседуя, на самом деле мы используем нанокомпьютеры для обмена информацией.

Я подумал о том, что это убеждение было естественным для Нейта и для таких людей, как он, потому что их мозг, их ра-зум функционировал настолько логически верно и методически строго, что делал эту метафору интуитивно верной и даже вовсе не метафорой. Тогда как сам я с беспокойством думал о своем мозге как о компьютере или о некоем другом механизме. Если это действительно так, я бы хотел заменить его новой моделью, потому что мой мозг был крайне неэффективным устройством, склонным к частым сбоям, ужасным просчетам и продолжительным блужданиям на пути к целям, которые с большой долей вероятности не будут достигнуты. Возможно, я сопротивлялся самой идее «мозга как компьютера», потому что для меня она означала бы согласие с тем, что мое собственное мышление неисправно и полно сбоев и ошибок.

Было что-то вероломное во всей этой склонности трансгуманистов, последователей сингулярности, технорационалистов относиться к людям, будто они просто компьютеры из белка, и настаивать на том, что мозг, как сказал Минский, «может быть машиной из плоти». Ранее в тот же день я прочитал в твиттере Нейта, где он традиционно постит то, что услышал в офисах МИРИ, такое сообщение:

«Вот что случается, когда вы запускаете программы на компьютере: они просто уделывают компьютеры из плоти».

Полагаю, такое заявление было крайне неприятным, ведь оно снижало сложность и удивительность человека до уровня упрощенной механической модели стимула и ответной реакции и тем самым открывало путь целой идеологии о том, что нас вполне можно заменить мощными машинами. В конечном счете развитие любой технологии подразумевает смену на более сложное, более полезное, более эффективное и функциональное устройство. Весь смысл заключался в том, чтобы как можно быстрее делать отдельные технологии избыточными. И, по такому технодарвинистскому взгляду на наше будущее, насколько быстро мы будем проектировать собственную эволюцию, настолько же быстро мы превратимся в «устаревшие» технологии. «Мы сами создаем своих преемников, – писал английский писатель Сэмюэл Батлер в 1863 году, во время промышленной революции и спустя четыре года после «Происхождения видов» Чарльза Дарвина. – Человек станет для машины тем, кем являются для человека лошадь и собака».

Но было в этом еще нечто банальное, но более тревожное: отвращение, связанное с объединением двух якобы непримиримых образов, плоти и техники. Пожалуй, причина моего отвращения к такому союзу заключалась в той запретной близости к невыразимой словами истине, что мы на самом деле – плоть, и что эта плоть – всего лишь механизм, который и есть мы. И в этом смысле действительно не было ничего особенного в углероде, точно так же, как нет ничего особенного в пластике, стекле и кремнии моего айфона, на который я записывал разговор с Нейтом Соаресом.

Для последователей сингулярности лучшим сценарием развития событий был тот, в котором мы сливаемся с искусственным сверхинтеллектом и становимся бессмертными машинами. Для меня он был ничуть не более привлекательным, а возможно, и даже более отвратительным, чем самый плохой сценарий, в котором сверхинтеллект уничтожит всех нас. Именно этот последний сценарий, вариант провала в противовес варианту стать богами, должен был ужасать меня. Я был уверен, что со временем перестану испытывать страх перед наилучшим сценарием.

Во время разговора Нейт периодически щелкал колпачком красного маркера, которым он иллюстрировал на доске некоторые исторические факты: например, как в разработке искусственного интеллекта мы достигли уровня человека. Из чего логически может следовать, что в ближайшем будущем искусственный интеллект сможет запрограммировать дальнейшие итерации развития самого себя, разжигая экспоненциально воспламеняющийся ад, который поглотит все живое.

– Как только мы сможем автоматизировать исследования в области компьютерных наук и искусственного интеллекта, – сказал он, – цикл замкнется, и мы получим системы, способные без нашей помощи создавать более совершенные системы.

Возможно, это был основополагающий постулат веры в сообществе исследователей искусственного интеллекта, мысль, лежащая в основе как блаженства сингулярности, так и ужаса перед катастрофической угрозой полного уничтожения. Этот постулат известен как интеллектуальный взрыв, понятие, впервые введенное британским статистиком Ирвингом Джоном Гудом, бывшим криптографом Блетчли-парка, который консультировал Стенли Кубрика по вопросам искусственного интеллекта для съемок «Космической Одиссеи 2001 года». В статье «Рассуждения о первой сверхразумной машине» (Speculations Concerning the First Ultraintelligent Machine), представленной на конференции НАСА в 1965 году, Гуд изложил перспективу странного и тревожного преобразования, которое, вероятно, произойдет при достижении искусственным интеллектом нашего уровня. «Дадим определение сверхразумной машине, – писал он, – как машине, которая намного превосходит любую интеллектуальную деятельность любого человека, каким бы умным он ни был. Поскольку проектирование машин является одной из таких интеллектуальных задач, сверхразумная машина смогла бы разрабатывать более совершенные машины; тогда, несомненно, случится «интеллектуальный взрыв», и разум человека останется далеко позади».