Читаем Nexus полностью

ВЗЛОМ ОПЕРАЦИОННОЙ СИСТЕМЫ ЧЕЛОВЕЧЕСКОЙ ЦИВИЛИЗАЦИИ

Когда в 1940-1950-х годах были созданы первые компьютеры, многие люди считали, что они будут хороши только для вычисления чисел. Идея о том, что когда-нибудь они смогут овладеть тонкостями языка и такими языковыми творениями, как законы и валюты, была отнесена к области научной фантастики. Но к началу 2020-х годов компьютеры продемонстрировали удивительную способность анализировать, манипулировать и генерировать язык, будь то слова, звуки, изображения или кодовые символы. Сейчас, когда я пишу эти строки, компьютеры могут рассказывать истории, сочинять музыку, создавать модные образы, снимать видео и даже писать собственный код.

Овладев языком, компьютеры завладевают главным ключом, отпирающим двери всех наших учреждений, от банков до храмов. С помощью языка мы создаем не только юридические кодексы и финансовые устройства, но и искусство, науку, нации и религии. Что означало бы для людей жить в мире, где запоминающиеся мелодии, научные теории, технические инструменты, политические манифесты и даже религиозные мифы создаются нечеловеческим инопланетным интеллектом, умеющим с нечеловеческой эффективностью использовать слабости, предубеждения и пристрастия человеческого разума?

До появления искусственного интеллекта все истории, которые формировали человеческие общества, зарождались в воображении человека. Например, в октябре 2017 года на сайте 4chan появился анонимный пользователь, назвавшийся Q. Он утверждал, что имеет доступ к самой закрытой или "Q-уровня" секретной информации правительства США. Q начал публиковать загадочные посты, в которых якобы раскрывал всемирный заговор с целью уничтожения человечества. Q быстро завоевала большую аудиторию в Интернете. Его или ее сообщения в сети, известные как Q drops, вскоре стали собирать, почитать и интерпретировать как священный текст. Вдохновленные более ранними теориями заговора, восходящими к "Молоту ведьм" Крамера, Q drops пропагандировали радикальное мировоззрение, согласно которому ведьмы-педофилы и каннибалы, поклоняющиеся Сатане, проникли в администрацию США и множество других правительств и учреждений по всему миру.

Эта теория заговора, известная как QAnon, была впервые распространена в Интернете на американских ультраправых сайтах и со временем обрела миллионы приверженцев по всему миру. Невозможно определить точное число, но когда в августе 2020 года Facebook решил принять меры против распространения QAnon, он удалил или ограничил доступ к более чем десяти тысячам связанных с ней групп, страниц и аккаунтов, крупнейший из которых насчитывал 230 000 подписчиков. Независимые расследования показали, что группы QAnon в Facebook насчитывали более 4,5 миллиона подписчиков, хотя, скорее всего, их состав частично совпадал.

QAnon также имеет далеко идущие последствия в офлайн-мире. Активисты QAnon сыграли важную роль в нападении на Капитолий США 6 января 2021 года. В июле 2020 года один из последователей QAnon попытался ворваться в резиденцию премьер-министра Канады Джастина Трюдо, чтобы "арестовать" его. В октябре 2021 года французскому активисту QAnon было предъявлено обвинение в терроризме за планирование переворота против французского правительства. На выборах в Конгресс США в 2020 году двадцать два кандидата-республиканца и два независимых кандидата назвали себя последователями QAnon. Марджори Тейлор Грин, конгрессмен-республиканец, представляющая штат Джорджия, публично заявила, что многие утверждения Q "действительно оказались правдой", а о Дональде Трампе сказала: "Возможность уничтожить эту глобальную кабалу педофилов, поклоняющихся Сатане, выпадает раз в жизни, и я думаю, у нас есть президент, который сможет это сделать".

Напомним, что капли Q, с которых началось это политическое наводнение, были анонимными онлайн-сообщениями. В 2017 году их мог сочинить только человек, а алгоритмы лишь помогали их распространять. Однако в 2024 году тексты, схожие по лингвистической и политической изощренности, могут быть легко составлены и размещены в сети нечеловеческим интеллектом. Религии на протяжении всей истории утверждали, что их священные книги были написаны нечеловеком; скоро это может стать реальностью. Могут появиться привлекательные и могущественные религии, чьи священные писания будут написаны ИИ.

И если это так, то между этими новыми священными писаниями на основе ИИ и древними священными книгами вроде Библии будет еще одно существенное различие. Библия не могла сама себя курировать или толковать, поэтому в таких религиях, как иудаизм и христианство, реальная власть принадлежала не якобы непогрешимой книге, а человеческим институтам, таким как еврейский раввинат и католическая церковь. В отличие от этого, ИИ не только может сочинять новые священные писания, но и полностью способен их курировать и интерпретировать. Никаких людей не нужно.