Читать книгу "Мегатех. Технологии и общество 2050 года в прогнозах ученых и писателей - Дэниел Франклин"

Расширяя границы возможного

Чтобы прояснить некоторые проблемы, необходимо понять один фундаментальный момент: искусственный интеллект успешен во многом из-за того, что мы строим среду, в которой умные технологии чувствуют себя как дома, а мы все больше напоминаем аквалангистов. Это мир адаптируется к ИИ, а не наоборот. Посмотрим, что это значит.

В промышленной робототехнике трехмерное пространство, задающее границы, в которых робот может успешно работать, определяется как оболочка последнего. Мы не строим дроидов вроде C‐3PO из «Звездных войн», которые бы мыли посуду в раковине точно так же, как это делаем мы. Мы подстраиваем среду вокруг простых роботов, чтобы она соответствовала их ограниченным возможностям, и используем их так, чтобы это приводило к желаемому результату. Посудомоечная машина выполняет свою задачу потому, что окружающие условия структурированы с учетом ее простых способностей. То же самое относится, например, к роботизированным полкам в Amazon. Эта среда разработана для удобства роботов. Беспилотные автомобили станут удобными в тот день, когда мы сможем создать для них подходящую окружающую обстановку.

Оболочка обычно была либо автономным явлением (вы покупаете робота с требуемыми функциями — например, с посудомоечной или стиральной машиной), либо реализовывалась в стенах промышленных зданий, тщательно подобранных для этих искусственных обитателей. Сегодня преобразование окружающей среды в удобную для искусственного интеллекта инфосферу пронизывает все аспекты реальности. Это можно видеть везде — в доме, в офисе и на улице. На протяжении десятилетий мы обволакиваем весь мир цифровыми технологиями, не реализуя их в полной мере.

В 1940-х и 1950-х годах компьютер занимал целую комнату, и, чтобы работать, Алисе приходилось заходить внутрь него. Программирование производилось при помощи отвертки. Взаимодействие человека и компьютера было похоже на соматические или физические отношения. В 1970-х дочь Алисы вышла из компьютера и встала перед ним. Взаимодействие человека и компьютера стало семантическим отношением, чему позже поспособствовали DOS (дисковая операционная система), взаимодействие при помощи текстовых команд, GUI (графический пользовательский интерфейс) и иконки. Сегодня внучка Алисы снова вошла в компьютер, представляющий собой целую инфосферу, которая окружает девочку — порой даже незаметно для нее. Взаимодействие человека и компьютера снова стало соматическим: с сенсорными экранами, голосовыми командами, прослушивающими устройствами, чувствительными к жестам приложениями, данными для определения местоположения и т. д.

В такой дружественной для искусственного интеллекта инфосфере нас регулярно просят доказать, что мы люди — для чего разгадать так называемую «капчу» (CAPTCHA, аббревиатура английской фразы «полностью автоматизированный публичный тест Тьюринга, определяющий, где компьютер, а где — человек»). Тест представляет собой слегка измененные буквы, иногда фрагменты изображений, иногда то и другое вместе. И при регистрации новой учетной записи, например в Википедии, мы должны дать правильный ответ, чтобы доказать: мы — люди, а не программы. Иногда это просто рамка с надписью: «Я не робот» и кнопкой подтверждения. Программы не могут поставить в ней галочку, поскольку не понимают это сообщение, люди же находят задачу тривиальной.

Каждый день в Интернет выходит все больше людей, он связывает все большее количество документов, инструментов, взаимодействующих друг с другом устройств, датчиков, RFID-меток, спутников, приводов, данных. Иными словами, постоянно расширяется пространство, приспособленное для нужд компьютеров, а не людей. Все больше рабочих мест и видов деятельности становятся цифровыми по своей природе: игры, обучение, развлечения, знакомства, встречи, борьба, лечение, сплетни, реклама. Мы делаем все это и многое другое в инфосфере, где все больше напоминаем гостей, а не хозяев. Это хорошая новость для будущего ИИ и умных технологий в целом. С каждым шагом они будут становиться экспоненциально полезнее и успешнее. Ведь они — настоящие «цифровые аборигены». Однако преобразование мира в оболочку ИИ — это процесс, связанный с серьезными проблемами. Некоторые — например, «цифровая пропасть» — хорошо известны и очевидны; другие менее заметны и не так известны.

Брак, заключенный в инфосфере

Представьте себе двух людей — назовем их И и Л. Они женаты и хотят, чтобы их отношения были успешными. И — более активный, он непреклонен, упрям, нетерпим к ошибкам и вряд ли изменится. Л — полная его противоположность, но постепенно становится все ленивее и зависимее от И. То есть возникает дисбаланс, при котором И в конце концов формирует отношения под себя, меняя поведение Л — возможно, он даже с самого начала планировал это сделать. Если брак сохраняется, то лишь потому, что все очень тщательно подогнано под желания И.

В этой аналогии искусственный интеллект и «умные» технологии играют роль партнера И, в то время как люди явно оказываются на месте партнера Л. Риск, которому мы подвергаемся, заключается в том, что, подстраивая мир под себя, технологии могут формировать нашу физическую и концептуальную среду и сдерживать нашу способность приспособиться к ним, поскольку это лучший или самый простой (а иногда — единственный) способ заставить все работать. Ведь ИИ — это глупый, но трудолюбивый супруг, а человечество — умный, но ленивый. Так кто к кому будет приспосабливаться, учитывая, что развод невозможен? Вы наверняка вспомните много эпизодов из реальной жизни, когда «договориться» с компьютером либо не получалось вообще, либо только каким-нибудь громоздким или нелепым образом, который оказывался единственным способом заставить электронную систему сделать то, что необходимо. «Компьютер говорит „нет“, — сообщает персонаж Кэрол Бир в английском комедийном скетче „Маленькая Британия“ на любой запрос клиента.

Очень важно, что все большее присутствие в нашей жизни все более умных технологий оказывает огромное влияние на наше представление о себе и о мире, а также на взаимодействие с последним. В связи с этим важно не начать думать, что машины обладают сознанием или умом или способны понимать или знать что-то так же, как мы. Они этого не могут.

Есть множество известных случаев, демонстрирующих пределы возможностей компьютерных технологий, так называемые нерешаемые задачи, для которых можно доказать невозможность построения алгоритма, всегда приводящего к правильному ответу в виде „да/нет“. Мы знаем, что наши вычислительные машины, например, удовлетворяют так называемому соответствию Карри — Ховарда, утверждающему, что между математическими доказательствами и програмами для компьютеров наблюдается структурная эквивалентность. Поэтому любое логическое ограничение относится и к компьютерам. Многие машины способны делать удивительные вещи: среди прочего, они легко выигрывают у нас в разные настольные игры: шашки, шахматы, го — и даже побеждают в викторинах! И это не предел. И все же все они — варианты машины Тьюринга, абстрактной модели, устанавливающей пределы того, что может быть сделано компьютером посредством математической логики. Квантовые компьютеры тоже ограничены пределами того, что может быть вычислено (так называемыми вычисляемыми функциями). Из машины Тьюринга не может волшебным образом появиться никакая сознательная, разумная, обладающая волей сущность.