Читаем Nexus полностью

В сентябре 2023 года, в годовщину смерти Махсы Амини, парламент Ирана принял новый, более строгий закон о хиджабе. Согласно новому закону, женщины, не носящие хиджаб, могут быть наказаны крупными штрафами и тюремным заключением сроком до десяти лет. Им грозят дополнительные наказания, включая конфискацию автомобилей и средств связи, запрет на вождение, вычеты из зарплаты и пособий, увольнение с работы и запрет на доступ к банковским услугам. Владельцам бизнеса, не соблюдающим закон о хиджабе среди своих сотрудников или клиентов, грозит штраф в размере до трех месяцев от прибыли, а также запрет на выезд из страны и участие в общественной или онлайн-деятельности на срок до двух лет. Новый законопроект направлен не только против женщин, но и против мужчин, которые носят "откровенную одежду, демонстрирующую части тела ниже груди или выше лодыжек". Наконец, закон предписывает иранской полиции "создавать и укреплять системы искусственного интеллекта для выявления лиц, совершивших противоправное поведение, с помощью таких инструментов, как стационарные и мобильные камеры". В ближайшие годы многие люди, возможно, будут жить в условиях тотальной слежки, по сравнению с которой Румыния Чаушеску покажется либертарианской утопией.

РАЗНОВИДНОСТИ НАБЛЮДЕНИЯ

Говоря о слежке, мы обычно имеем в виду государственные аппараты, но чтобы понять, что такое слежка в XXI веке, следует помнить, что она может принимать и другие формы. Например, ревнивые партнеры всегда хотели знать, где находятся их супруги в каждый момент времени, и требовали объяснений за любое небольшое отклонение от привычного распорядка. Сегодня, вооружившись смартфоном и дешевым программным обеспечением, они могут легко установить супружескую диктатуру. Они могут контролировать каждый разговор и каждое движение, записывать телефонные разговоры, отслеживать сообщения в социальных сетях и поиск на веб-страницах и даже активировать камеры и микрофоны телефона супруга, чтобы он служил шпионским устройством. Американская организация National Network to End Domestic Violence обнаружила, что более половины домашних обидчиков используют подобные технологии "преследования". Даже в Нью-Йорке супруги могут оказаться под наблюдением и ограничениями, как если бы они жили в тоталитарном государстве.

Все больший процент сотрудников - от офисных работников до водителей грузовиков - также подвергаются слежке со стороны своих работодателей. Начальство может точно определить, где находятся сотрудники в любой момент, сколько времени они проводят в туалете, читают ли они личные письма на работе и как быстро выполняют каждое задание. Корпорации также следят за своими клиентами, желая знать, что им нравится и не нравится, предсказать будущее поведение, оценить риски и возможности. Например, автомобили следят за поведением своих водителей и передают полученные данные алгоритмам страховых компаний, которые повышают страховые взносы для "плохих водителей" и снижают для "хороших". Американский ученый Шошана Зубофф назвала эту постоянно расширяющуюся систему коммерческого мониторинга "капитализмом наблюдения".

Помимо всех этих разновидностей нисходящего наблюдения, существуют и одноранговые системы, в которых люди постоянно следят друг за другом. Например, корпорация Tripadvisor поддерживает всемирную систему наблюдения, которая следит за отелями, арендой жилья, ресторанами и туристами. В 2019 году ею пользовались 463 миллиона путешественников, которые просмотрели 859 миллионов отзывов и 8,6 миллиарда мест проживания, ресторанов и туристических достопримечательностей. Именно сами пользователи, а не какой-то сложный алгоритм искусственного интеллекта, определяют, стоит ли посетить тот или иной ресторан. Люди, которые ели в ресторане, могут оценить его по шкале от 1 до 5, а также добавить фотографии и письменные отзывы. Алгоритм Tripadvisor просто агрегирует данные, вычисляет средний балл ресторана, ранжирует его по сравнению с другими подобными заведениями и выставляет результаты на всеобщее обозрение.

Алгоритм одновременно оценивает и гостей. За публикацию отзывов или статей о путешествиях пользователи получают 100 баллов; за загрузку фотографий или видео - 30 баллов; за сообщения на форуме - 20 баллов; за оценку заведений - 5 баллов; за голосование за чужие отзывы - 1 балл. Затем пользователи ранжируются от 1-го (300 баллов) до 6-го (10 000 баллов) уровня и получают соответствующие привилегии. Пользователи, нарушающие правила системы - например, оставляющие расистские комментарии или пытающиеся шантажировать ресторан, написав необоснованный плохой отзыв, - могут быть наказаны или вовсе исключены из системы. Это и есть взаимное наблюдение. Каждый постоянно оценивает другого. Tripadvisor не нужно вкладывать деньги в камеры и шпионские программы или разрабатывать сверхсложные биометрические алгоритмы. Почти все данные предоставляются и почти всю работу выполняют миллионы пользователей-людей. Работа алгоритма Tripadvisor заключается лишь в агрегировании оценок, полученных людьми, и их публикации.