Читать книгу "Архитекторы интеллекта. Вся правда об искусственном интеллекте от его создателей - Мартин Форд"

Д. Ф.: Когда мы научимся создавать системы, умеющие обучаться автономно, то есть понимать прочитанное и строить на его основе модели, а затем синхронизировать их в процессе общения, можно будет говорить, что мы приблизились к тому, что я назвал бы целостным интеллектом.

Я делю полный ИИ на три части: восприятие, контроль и знание. Многие из процессов, происходящих в сфере глубокого обучения, позволили значительно продвинуться в первых двух элементах. Третьим элементом мы пытаемся заниматься в компании Elemental Cognition.

М. Ф.: Решить проблему понимания – одна из заветных целей всех, кто занимается ИИ. После этого многое станет возможным. Например, перенос обучения – применение знаний из одной области в другой.

Д. Ф.: Совершенно верно. Среди прочего мы занимаемся тестированием того, как система понимает и объединяет сведения, которые она в процессе чтения извлекла даже из самой простой истории. Может ли она, прочитав рассказ о футболе, разобраться, что происходит во время игры в баскетбол? Как она использует концепции, с которыми познакомилась? Может ли проводить аналогии?

Сложность в том, что люди рассуждают разными способами. Они делают то, что можно сравнить со статистическим машинным обучением. То есть обрабатывают множество данных, формируют обобщенный шаблон и применяют его. Они формируют в голове своего рода линию тренда и с ее помощью интуитивно ищут новые ответы. Могут взглянуть на набор значений и сказать, какое значение может быть следующим. По сути, происходит сопоставление с образцом и экстраполяция. Причем обобщение может оказаться более сложным, чем в случае с линией тренда. Это сравнимо с методами глубокого обучения.

Но когда человек говорит: «Я считаю, что следующим в этом наборе чисел должно быть число 5, потому что…», у него появляется логическая или причинная модель. Это уже совсем другой, гораздо более полезный вид информации, потому что появляется возможность аргументированно возразить: «Вот здесь твои рассуждения ошибочны, потому что…». Подобное невозможно в ответ на заявление: «Это просто моя интуиция, основанная на данных. Доверься мне».

Мы сталкиваемся с дилеммой, противопоставляя эти два вида интеллектуальной обработки данных. Ту, которая связана с построением объяснимой модели, доступной для осмотра, обсуждения и совершенствования, и ту, которая утверждает: «Я считаю так, потому что…». Полезны и необходимы оба вида. Мир под управлением машин, которые не могут объяснить ход своих рассуждений, мне не нравится.

М. Ф.: Но многие считают, что для движения вперед достаточно глубокого обучения, которое соответствует второй из описанных вами моделей. Вы же, как я понимаю, говорите о необходимости других подходов.

Д. Ф.: Я не фанатик какого-то единственного подхода. Глубокое обучение и нейронные сети успешно обнаруживают нелинейные, очень сложные зависимости в больших объемах данных. Поведение сложных систем зачастую описывается функциями многих переменных, которые могут иметь разрывы во многих измерениях.

Системе глубокого обучения можно предоставить огромный объем необработанных данных, и она найдет сложную функцию, но изучать ее в итоге придется вам. Вы можете, конечно, возразить, что любая форма интеллектуальной обработки данных, по сути, сводится к изучению функций. Но если вы не попытаетесь найти функцию, которая реализует сам человеческий интеллект, вы не поймете, почему система дает именно такие ответы.

Можно ли обучить нейронную сеть на данных, присваивающих каждому английскому рассказу его значение? Возможно, да. Но такие данные у нас отсутствуют, и мы не знаем, как изучать их с точки зрения сложности функции. Я не знаю, как при современном состоянии нейронных сетей должна выглядеть методология получения такой информации. Кое-какие идеи у меня, конечно, имеются. И для этого я использую и нейронные сети, и другие методы машинного обучения как часть комплексной архитектуры.

М. Ф.: В документальном фильме «Доверяете ли вы этому компьютеру?» вы сказали, что через три-пять лет появится компьютерная система, которая найдет общий язык с человеком. Каким образом?

Д. Ф.: Это, конечно, нереалистичный срок, но, мне кажется, такие технологии вполне могут появиться в течение следующего десятилетия. Я думаю, что быстрый прогресс начнется в таких аспектах, как восприятие и контроль. Это сильно повлияет на общество, рынок труда, национальную безопасность и производительность. Третий аспект – понимание – при этом даже не будет затронут, но это позволит привлекать людей к решению задач, связанных с языком и мышлением.

Называя срок от трех до пяти лет, я имел в виду, что рабочие идеи у нас уже есть, просто нужны инвестиции в определенные разработки. Если бы я не знал способа достичь сильного ИИ, оценка срока была бы совсем другой. Пока деньги по большей части вкладываются в машинное обучение из-за быстрой окупаемости. Я же пытаюсь привлекать инвестиции в технологию, которая позволит развить понимание. В отличие от других, я не считаю, что для достижения сильного ИИ нужно ждать какого-то огромного прорыва. Думаю, мы уже знаем, как действовать, просто нужно доказать эффективность этого пути.

М. Ф.: То есть компания Elemental Cognition занимается вопросами сильного ИИ?

Д. Ф.: Мы работаем над созданием естественного интеллекта, способного автономно обучаться, читать и понимать, и таким способом мы хотим получить ИИ, умеющий свободно общаться с людьми.

М. Ф.: Мне известна всего одна компания, которая также занимается этой проблемой – DeepMind. Поразительно, насколько разные подходы вы применяете. В DeepMind ориентируются на глубокое обучение с подкреплением в играх и симуляциях, а от вас я слышу, что путь к интеллекту лежит через язык.

Д. Ф.: Я бы немного переформулировал нашу цель. Мы хотим создать интеллект, основанный на логике, языке и разуме, совместимый с человеческим. Другими словами, мы работаем над системой, умеющей обрабатывать язык, как это делают люди. Помимо нейронных сетей мы применяем длинный диалог, формальные рассуждения и формальные логические представления. Для вещей, которые невозможно эффективно изучать с помощью нейронных сетей, мы находим другие способы работы.

М. Ф.: Если я правильно помню, еще вы работаете над обучением без учителя, которое, как мне кажется, повлияет на реальный прогресс в сфере ИИ.

Д. Ф.: Мы применяем оба варианта обучения. Например, используем обучение без учителя на больших текстах, а обучение с учителем – на аннотированных информационных материалах.

М. Ф.: Ждет ли нас в ближайшем будущем экономический спад с массовой потерей рабочих мест?

Д. Ф.: Не знаю, ждут ли нас такие же драматические события, как после промышленной революции, но мне кажется, что ИИ несет с собой не менее резкие перемены. Многие столкнутся с необходимостью переквалификации. Переход будет болезненным, но, в конце концов, он может привести к появлению еще большего числа рабочих мест. Потому что работы меньше не станет, изменится только ее характер.