На английском вышла книга «Nexus» Юваля Ноя Харари — автора бестселлера по истории человечества «Sapiens», разошедшегося многомиллионным тиражом по всему миру. После шести лет молчания Харари возвращается с концептуальной историей об информационных сетях, которые помогли создать человеческую цивилизацию, а теперь готовы ее уничтожить. Дмитрий Горшенин, автор Telegram-канала «Рембодлер», прочитал книгу и делится основными идеями из нее.
«Nexus» и предыдущие книги Харари
Став суперзвездой после выхода «Sapiens», в последующих двух своих книгах Юваль Ной Харари скорее монетизировал этот статус, чем пытался повторить или переплюнуть свои достижения (распространенная практика для суперзвезд из разных индустрий). И «Homo Deus», и «21 урок для XXI века» получились менее интересными, убедительными и сенсационными — возможно, потому что Харари, по образованию историк-медиевист, занялся футурологическими прогнозами. Впрочем, не без успеха: «После публикации [„Homo Deus“] я внезапно обнаружил, что у меня репутация эксперта по ИИ», — вспоминает он в новой книге.
«Nexus», написанная после шестилетнего перерыва, похожа на начало новой франшизы: если в прошлых книгах автор разбирался с человечеством, то здесь предмет исследования — информация. И концептуально, и с точки зрения амбиций проект ближе всего к «Sapiens». Харари берет одну простую теорию — развитие информационных сетей — и нанизывает на нее исторические события, объясняет через нее, как устроен мир. Самые лихие главы в новой книге, как и в «Sapiens», — тоже о прошлом.
Об информации
Мы привыкли думать, что информация — это репрезентация, набор фактов о предмете или явлении, попытка отразить реальность. Харари утверждает, что все иначе: информация не обязательно должна что-то представлять, главная ее функция — объединять людей и образовывать сеть. Например, музыка объединяет множество людей и синхронизирует их эмоции.
Человеческие сообщества сформировались благодаря информационным сетям. Чтобы быть эффективной, такая сеть должна одновременно делать две вещи — открывать некую истину и поддерживать социальный порядок. История человечества в этом смысле — хождение по натянутому канату между истиной и порядком. Существуют сети, в которых одна функция почти полностью заглушает другую, поэтому не стоит ждать правды от политических передач по центральному каналу.
Политические режимы тоже существуют благодаря информационным сетям. Харари не приводит такой аналогии в тексте, но здесь сеть можно сравнить со шкалой на радио: подкрутил вправо — больше порядка и меньше истины (автократия), покрутил влево — режим стал более демократичным, но менее прогнозируемым для власти. На эту же шкалу можно нанести страны, как города на старых советских приемниках: справа — Москва, слева — Берлин.
Такая точка зрения противоречит идеологии прогресса, которая связывает достижения в науке и технологиях со светлым будущим.
«Чем больше информации, тем сложнее найти баланс на канате, — говорит Харари. — Человечество в шаге от того, чтобы с него сорваться».
Информационные революции рождают новые политические, культурные и экономические структуры. Сейчас мы находимся на пороге крупнейшей такой революции. Никто не знает, что нас ждет, будущее покрыто туманом. Впрочем (и здесь историк-медиевист достает из сундука расшитый звездами халат футуролога), у Харари есть некоторые догадки.
Об искусственном интеллекте
Крупнейшая информационная революция — понятно, ИИ, но автор рассматривает ее шире, как часть развития компьютерных технологий. Это удачный ход: на рынке много книг про нейросети (некоторые из них писали нейросети), новости про ИИ воспринимаются уже как белый шум. Отношение пользователей к ИИ эволюционирует не хуже самой технологии — этап воодушевления прошел, настал этап раздражения/отторжения. Обложка книги сохраняет эту логику: здесь изображен голубь, а не злые красные глаза (или добрые руки) робота.
ИИ может кардинально изменить информационные сети, а значит, и нашу жизнь. Например, он может вовлечь еще больше групп в политическую дискуссию и сделать демократию более представительной или, наоборот, превратить автократии в тоталитарные режимы. У плохого исхода несколько вариантов: технологию могут использовать захватившие власть сумасброды для тотальной слежки за населением, или технология сама начнет управлять сумасбродами и населением. На ум приходят пугающие кадры с гигантскими фермами, где людей используют как батарейки.
Но есть и более зловещая иллюстрация: представьте себе диктатора, который никогда не умрет.
ИИ уже участвует в убийстве людей, но не так, как в фильме «Терминатор» — без дробовиков и колюще-режущих рук, а более тонкими методами. Во время политического кризиса в Мьянме 2016 года Facebook стал повышать в ленте выдачи посты с призывами к расправе над мусульманским народом рохинджа. Алгоритмы не жаждали крови, у них была задача повысить вовлеченность пользователей. Так получилось, что лучше других эмоций пользователей притягивают возмущение и ненависть.
Техновизионеры в свою защиту обычно повторяют тезис из старого мема про мопед и объяву: площадка — это просто инструмент, она не несет ответственности за действия пользователей. Харари утверждает, что в случае Meta это не так: алгоритмы уже формируют реальность, навязывают пользователям определенное поведение. Проблема в том, что никто, включая техновизионеров, не знает, как эти алгоритмы работают.
Об идеологии
«Nexus» — это все тот же привычный нам Харари, только на скорости 1,5x. Он выступает против идеологической интерпретации данных, но его собственные выводы порой исходят из идейных предпосылок. Сталин в книге упоминается почти так же часто, как ИИ. Харари яростно разносит раскулачивание в «Курганской области в Сибири» и сравнивает кулаков со средневековыми ведьмами (и те, и другие — сущности, придуманные репрессивными органами). Невозможность политического диалога в США он объясняет идеологическим «самоубийством консерваторов», из-за которого демократам приходится стоять на страже старого порядка.
В главах про США текст иногда напоминает колонки в журнале The Atlantic, где республиканцы изображены с рогами и копытами.
Сложные концепции Харари сводит до легких в усвоении нарративов, повторяет одни тезисы дважды, а потом через пару глав еще дважды. Нагнетает, чтобы вызвать у читателей сильные эмоции, например возмущение. Легко увидеть в Харари алармиста, а как мы знаем, подобные нагнетание нередко заканчивается пшиком. Про новую информационную революцию мы уже слышали совсем недавно. Три года назад Марк Цукерберг, надев симпатичные очки виртуальной реальности, убеждал, что скоро ничего не останется, будет одна метавселенная. В 2022 году Gartner прогнозировала, что к 2026 году четверть всего человечества будет проводить в метавселенной минимум час в день. Сам Марк рассчитывал на 1 миллиард пользователей, которые, как пьяные матросы, будут тратить сотни долларов в метавселенной ко второй половине десятилетия.
До второй половины несколько месяцев, прогнозы не сбываются. Оказалось, что симпатичные очки натирают лицо, от них болит шея, стоят они недешево, а в метавселенной жутко скучно. Последние два года инвесторы отказываются от вложений в метаверс-проекты. Революция, похоже, провалилась.
О том, что делать дальше
Потенциал ИИ несравним с метавселенной по многим параметрам, но у читателей книги может появиться соблазн вспомнить эти неудобные очки. Что нам сделает ИИ-диктатор, если мы сможем по щелчку его замедлить, как YouTube, или вообще отключить ему интернет? При всем пафосе книга Харари хороша тем, что предлагает конкретные и рациональные шаги по обращению с технологией. Регулирование ИИ — это десятки актов и протоколов, они разнятся от страны к стране, а нечеткие формулировки делают их недоступными для понимания. Но есть очевидные вещи, о которых мы уже сейчас можем договориться.
По мнению Харари, необходим закон о благонамеренности: информация, собранная о пользователе, должна быть использована для помощи ему и не должна — для манипуляции. Неплохо было бы объявить вне закона нейросети, выдающие себя за человека: это и цифровые аватары, и безликие чат-боты (никто не будет апеллировать к правам человека, потому что у чат-ботов никаких прав нет). Сделать прозрачными для общества работу ИИ-алгоритмов, а также бизнес-модели и политические связи корпораций. Пересмотреть налоговое законодательство — обязать корпорации платить налоги там, где они собирают информацию о пользователях, а не только в странах с головными офисами.
Юридический термин «нексус» относится к этому налоговому правилу. В общем смысле название книги отсылает к латинскому слову, означающему «связь» или «сцепление» — к элементу, который соединяет одно с другим.
Да, ИИ — мощнейшая информационная технология, которая может завершить историю. Но история не детерминирована. Люди на протяжении веков изобретают что-то на свою беду, но все еще живы и правят миром. Мы не до конца знаем, как работает искусственный интеллект, но и про наш, органический, тоже не все понятно. Человечество со всеми его недостатками рано списывать со счетов, даже если идеальный ИИ в будущем бросит ему вызов. Добежит слепой, победит ничтожный — такое вам и не снилось.
Автор: Дмитрий Горшенин
