Читаем Nexus полностью

Не стоит сбрасывать со счетов и огромную социальную пользу, которую принесли YouTube, Facebook и другие социальные медиаплатформы. Следует уточнить, что большинство видеороликов на YouTube и постов в Facebook не являются фальшивыми новостями и подстрекательством к геноциду. Социальные медиа оказались более чем полезны для объединения людей, предоставления права голоса ранее бесправным группам и организации новых ценных движений и сообществ. Они также стимулировали беспрецедентную волну человеческого творчества. В те времена, когда телевидение было доминирующим средством массовой информации, зрителей часто называли "диванным картофелем": пассивными потребителями контента, который создавали несколько талантливых художников. Facebook, YouTube и другие социальные медиа-платформы вдохновили "диванных картошек" встать и начать творить. Большая часть контента в социальных сетях - по крайней мере, до появления мощного генеративного ИИ - создавалась самими пользователями, их кошками и собаками, а не ограниченным кругом профессионалов.

Я тоже регулярно использую YouTube и Facebook для общения с людьми и благодарна социальным сетям за то, что они соединили меня с моим мужем, с которым я познакомилась на одной из первых ЛГБТК-платформ в социальных сетях в 2002 году. Социальные сети сделали чудеса для таких рассеянных меньшинств, как ЛГБТК. Мало кто из геев рождается в семье геев в районе, где живут геи, а во времена до появления Интернета просто найти друг друга было очень сложно, если только вы не переехали в один из немногих толерантных мегаполисов, где была гей-субкультура. Выросший в небольшом гомофобном городке в Израиле в 1980-х и начале 1990-х годов, я не знал ни одного открытого гея. Социальные сети в конце 1990-х - начале 2000-х годов предоставили членам разрозненного ЛГБТК-сообщества беспрецедентный и почти волшебный способ найти друг друга и наладить контакт.

И все же я уделил так много внимания проблеме "вовлеченности пользователей" в социальных сетях, потому что она иллюстрирует гораздо более серьезную проблему, поразившую компьютеры, - проблему выравнивания. Когда перед компьютерами ставится конкретная задача, например, увеличить посещаемость YouTube до миллиарда часов в день, они используют всю свою мощь и изобретательность для достижения этой цели. Поскольку компьютеры работают совсем не так, как люди, они, скорее всего, будут использовать методы, которые их человеческие хозяева не предусмотрели. Это может привести к опасным непредвиденным последствиям, которые не соответствуют изначальным целям человека. Даже если рекомендательные алгоритмы перестанут поощрять ненависть, другие случаи проблемы согласования могут привести к более серьезным катастрофам, чем кампания против рохинджа. Чем мощнее и независимее становятся компьютеры, тем больше опасность.

Конечно, проблема выравнивания не является ни новой, ни уникальной для алгоритмов. Она мучила человечество на протяжении тысячелетий до изобретения компьютеров. Например, она стала основополагающей проблемой современного военного мышления, закрепленной в теории войны Карла фон Клаузевица. Клаузевиц был прусским генералом, воевавшим во время Наполеоновских войн. После окончательного поражения Наполеона в 1815 году Клаузевиц стал директором Прусского военного училища. Он также начал разрабатывать большую теорию войны. После его смерти от холеры в 1831 году его жена, Мария, отредактировала незаконченную рукопись и опубликовала "О войне" в нескольких частях в 1832-1834 годах.

Книга "О войне" создала рациональную модель понимания войны, которая и сегодня является доминирующей военной теорией. Ее важнейшая максима заключается в том, что "война - это продолжение политики другими средствами". Это означает, что война - это не эмоциональная вспышка, не героическое приключение и не божественная кара. Война - это даже не военное явление. Скорее, война - это политический инструмент. Согласно Клаузевицу, военные действия абсолютно иррациональны, если они не связаны с какой-то всеобъемлющей политической целью.

Предположим, Мексика раздумывает, не вторгнуться ли ей в Белиз и не завоевать ли своего маленького соседа. И предположим, что детальный военный анализ показывает, что если мексиканская армия вторгнется, то она одержит быструю и решительную военную победу, разгромив небольшую армию Белиза и захватив столицу Бельмопан за три дня. Согласно Клаузевицу, это не является рациональной причиной для вторжения Мексики. Сама по себе способность одержать военную победу не имеет смысла. Главный вопрос, который должно задать себе мексиканское правительство, - каких политических целей достигнет военный успех?