Читаем Nexus полностью

Однако неопределенность и субъективность репутационного рынка ранее ограничивали его потенциал для тоталитарного контроля. Поскольку никто не знал точной ценности каждого социального взаимодействия и никто не мог уследить за всеми взаимодействиями, оставалось значительное пространство для маневра. Отправляясь на вечеринку в колледж, вы могли вести себя так, чтобы заслужить уважение друзей, не заботясь о том, что могут подумать будущие работодатели. Когда вы шли на собеседование, вы знали, что там не будет никого из ваших друзей. А когда вы смотрели дома порнографию, вы предполагали, что ни начальство, ни друзья не знают, чем вы занимаетесь. Жизнь была разделена на отдельные репутационные сферы, с отдельными статусными соревнованиями, и было также много несетевых моментов, когда вам вообще не нужно было участвовать ни в каких статусных соревнованиях. Именно потому, что статусная конкуренция так важна, она также чрезвычайно стрессогенна. Поэтому не только люди, но и другие социальные животные, такие как обезьяны, всегда приветствовали некоторую передышку от нее.

К сожалению, алгоритмы социального кредитования в сочетании с вездесущими технологиями наблюдения теперь грозят объединить все статусные соревнования в одну бесконечную гонку. Даже в собственном доме или во время расслабленного отдыха люди должны будут крайне внимательно следить за каждым своим поступком и словом, как будто выступают на сцене перед миллионами. Это может создать невероятно напряженный образ жизни, разрушительный как для благополучия людей, так и для функционирования общества. Если цифровые бюрократы будут использовать точную систему баллов, чтобы постоянно следить за всеми, то зарождающийся рынок репутации может уничтожить частную жизнь и контролировать людей гораздо жестче, чем это когда-либо делал денежный рынок.

ВСЕГДА ВКЛЮЧЕН

Люди - органические существа, живущие по циклическому биологическому времени. Иногда мы бодрствуем, иногда спим. После интенсивной деятельности нам нужен отдых. Мы растем и разрушаемся. Сети людей также подвержены биологическим циклам. Они то включаются, то выключаются. Собеседования не длятся вечно. Полицейские агенты не работают двадцать четыре часа в сутки. Бюрократы берут отпуск. Даже денежный рынок уважает эти биологические циклы. Нью-Йоркская фондовая биржа работает с понедельника по пятницу, с 9:30 утра до 4:00 дня, и закрыта по праздникам, таким как День независимости и Новый год. Если война разразится в пятницу в 16:01, рынок не отреагирует на нее до утра понедельника.

В отличие от этого, сеть компьютеров может быть всегда включена. Следовательно, компьютеры подталкивают людей к новому виду существования, в котором мы всегда подключены и всегда находимся под наблюдением. В некоторых контекстах, например в здравоохранении, это может быть благом. В других контекстах, например для граждан тоталитарных государств, это может стать катастрофой. Даже если сеть потенциально благотворна, сам факт того, что она всегда "включена", может оказаться губительным для таких органических существ, как люди, поскольку лишит нас возможности отключиться и расслабиться. Если у организма нет возможности отдохнуть, он в конце концов разрушается и умирает. Но как заставить неумолимую сеть замедлиться и дать нам передышку?

Мы должны предотвратить полный контроль компьютерной сети над обществом не только для того, чтобы дать нам время на отдых. Перерывы еще более важны для того, чтобы дать нам шанс исправить ситуацию в сети. Если сеть продолжит развиваться ускоренными темпами, ошибки будут накапливаться гораздо быстрее, чем мы сможем их выявить и исправить. Ведь несмотря на то что сеть неумолима и вездесуща, она также небезупречна. Да, компьютеры могут собирать беспрецедентные объемы данных о нас, наблюдая за тем, что мы делаем двадцать четыре часа в сутки. И да, они могут выявлять закономерности в океане данных со сверхчеловеческой эффективностью. Но это не значит, что компьютерная сеть всегда будет точно понимать мир. Информация - это не истина. Система тотального наблюдения может сформировать очень искаженное представление о мире и людях. Вместо того чтобы узнать правду о мире и о нас, сеть может использовать свою огромную мощь для создания нового типа мирового порядка и навязывания его нам.

ГЛАВА 8.

Неверный: Сеть часто ошибается