Читать книгу "Homo Deus. Краткая история будущего - Юваль Ной Харари"

Глядя на то, как проявил себя VITAL, понимаешь, что он уже успел перенять по крайней мере один порок управленцев: непотизм. Он неизменно голосовал за инвестирование в компании, предоставляющие алгоритмам значительную свободу действий. Например, с его благословения Deep Knowledge Ventures вложил средства в компанию Pathway Pharmaceuticals, использующую алгоритм OncoFinder для персонализированного подбора онкотерапии[229].

По мере вытеснения алгоритмами людей с рынка труда богатство и власть будут концентрироваться в руках тонкого слоя элиты – владельцев всемогущих алгоритмов. Социальное и политическое неравенство достигнет беспрецедентного уровня. Сегодня миллионы водителей такси, автобусов и грузовиков обладают серьезным экономическим и политическим весом, ведь у каждого из них своя крошечная доля рынка перевозок. Если их коллективные интересы не соблюдаются, они объединяются в профсоюзы, устраивают забастовки и бойкоты, создают избирательные блоки. Но если на смену миллионам водителей придет один алгоритм, то все доходы и влияние достанутся корпорации, владеющей алгоритмом, и нескольким миллиардерам, владеющим корпорацией.

Следующая ступень – алгоритмы сами могут стать владельцами корпорации. Законы человеческого общества уже признают «субъектами права» интерсубъективные сущности, такие как корпорации и нации. Хотя Toyota или Аргентина не имеют ни тела, ни разума, они являются субъектами международного права, которые могут владеть землей и деньгами, а также привлекать и привлекаться к суду. Не исключено, что в недалеком будущем такой же статус получат и алгоритмы. И тогда ничто не помешает алгоритму сделаться хозяином транспортной империи или венчурного фонда и перестать подчиняться желаниям человеческих особей.

Если алгоритм будет принимать правильные решения, он может стать владельцем огромного состояния, а затем инвестировать по своему усмотрению – например, купить дом, в котором вы снимаете квартиру. Если вы посягнете на его права – скажем, задерживая квартплату, – алгоритм наймет адвокатов и подаст на вас в суд. Если такие алгоритмы будут успешнее капиталистов-людей, дело может кончиться тем, что в собственности у алгоритмической элиты окажется бóльшая часть нашей планеты. Это выглядит невероятным, но тут полезно будет вспомнить, что уже сейчас законными владельцами почти всей планеты являются интерсубъективные сущности, а именно страны и корпорации. А пять тысяч лет назад почти весь Шумер принадлежал вымышленным богам Энки и Инанне. Если владеть землей и нанимать людей могут боги, то почему не алгоритмы?

Так чем же займутся люди? Часто приходится слышать, что нашим последним (и уникально человеческим) прибежищем является искусство. В мире, где компьютеры заменят докторов, водителей, учителей и даже арендодателей, – смогут ли в нем все люди стать художниками и артистами? Да и где гарантия, что художественное творчество также не покорится алгоритмам? Откуда в нас уверенность, что компьютеры никогда не станут сочинять музыку лучше? С точки зрения естественных наук искусство является продуктом не вдохновенного духа или трансцендентной души, а органических алгоритмов, распознающих математические модели. Если это так, то почему бы алгоритмам неорганическим не научиться этому?

Дэвид Коуп – профессор-музыковед из Калифорнийского университета в Санта-Крузе и одна из самых противоречивых фигур в мире классической музыки. Коуп пишет компьютерные программы, которые сочиняют концерты, хоралы, симфонии и оперы. Его первое детище называлось ЭМИ (эксперименты с музыкальным интеллектом) и специализировалось на имитации стиля Иоганна Себастьяна Баха. На создание программы ушло семь лет, зато, когда работа была закончена, ЭМИ за день сочинила пять тысяч хоралов а-ля Бах. Коуп организовал исполнение нескольких новых хоралов на музыкальном фестивале в Санта-Крузе. Восторженные слушатели расхваливали проникновенную интерпретацию и с воодушевлением объясняли, в какие глубины их душ проникла музыка. Когда им сказали, что эту музыку написала программа, одни замкнулись в мрачном молчании, другие стали возмущаться и скандалить.

ЭМИ продолжала совершенствоваться и научилась имитировать Бетховена, Шопена, Рахманинова и Стравинского. Коуп договорился со студией звукозаписи о контракте для ЭМИ, и ее первый альбом – «Классическая музыка, сочиненная компьютером» – разошелся на удивление быстро. Поклонники реальной классики еще более разгневались. Профессор Стив Ларсон из университета Орегона послал Коупу вызов на музыкальный поединок. Ларсон предложил, чтобы профессиональный пианист сыграл подряд три пьесы: одну Баха, одну ЭМИ и одну самого Ларсона. Затем слушатели попытаются определить, что было чем. Ларсон был уверен, что люди без труда отличат исполненные чувств творения человека от безжизненных поделок компьютера. Коуп принял вызов. В назначенный день сотни преподавателей, студентов и любителей музыки собрались в концертном зале университета. После концерта провели опрос. Публика приняла пьесу ЭМИ за истинного Баха, пьесу Баха сочла написанной Ларсоном, а авторство пьесы Ларсона приписала компьютеру.

Критики, конечно же, не прекращали твердить, что музыка ЭМИ технически безупречна, но чего-то в ней все же недостает. Она слишком правильна. Ей не хватает глубины. В ней нет души. Но когда люди слушали композиции ЭМИ, не подозревая об их происхождении, они часто хвалили их именно за одухотворенность, глубину и способность волновать.

Не удовольствовавшись успехами ЭМИ, Коуп придумал еще более хитроумные программы. Его высшим достижением стала Энни. В отличие от ЭМИ, создававшей музыку по заложенным в нее правилам, Энни самообучаема. Ее музыкальный стиль постоянно меняется и развивается по мере поступления новой информации из внешнего мира. Коуп не имеет представления, каким будет ее следующее произведение. Энни преуспела не только в сочинении музыки, но и в других видах творчества. В 2011 году Коуп издал сборник «Ночь огней настает: 2000 хайку, сложенных человеком и машиной». Часть хайку принадлежит Энни, остальные – органическим поэтам. Авторство не раскрыто. Если вы полагаете, что сможете отличить сотворенное человеком от созданного компьютером, эта книга – отличный шанс себя проверить[230].

В XIX веке промышленная революция породила многочисленный новый класс – городской пролетариат, – который уверовал в социализм, поскольку никакая другая религия не откликалась на не имевшие прецедентов запросы, чаяния и страхи этого нового рабочего класса. Либерализм со временем победил социализм, взяв на вооружение все лучшее, что было в социалистической программе. В XXI веке мы можем стать свидетелями появления многомиллионного неработающего класса: людей, лишенных какой бы то ни было экономической, политической и даже культурной ценности, никак не содействующих процветанию, силе и славе общества. Этот «бесполезный класс» будет не просто неработающим – он будет неработоспособным.