Читаем Футурология полностью

Одна из основных задач ИИ — понимание. Например, если дана фраза «Я пошел в кино», то алгоритм IBM Watson может быть применен к каждому из слов в этой фразе, чтобы установить: о ком именно идет речь, что означает «пойти в кино», когда это произойдет и на какое кино я пойду. Для этого необходимо, чтобы его база была не просто глобальной, но и контекстно ориентированной, пополняемой за счет недавнего опыта. Это можно сделать, непрерывно применяя алгоритм «Ватсона» ко всем поступающим данным, тем самым классифицируя их. Кроме того, этот алгоритм поможет и в интеллектуальном распознавании образов.

Компьютер, на котором работает программа «Ватсон», стоит 1 миллион долларов, его производительность примерно 10 терафлопс. Для того чтобы создать ИИ с использованием «Ватсона», необходимо применять этот алгоритм тысячи раз в секунду, что вероятно, требует в тысячи раз более мощного компьютера.

Принцип работы «Ватсона» основан на применении сотен разных алгоритмов поиска правильного ответа и затем выделении из них наиболее вероятного. К алгоритму «Ватсона» можно подключать новые алгоритмы поиска или отсеивать ненужные. Это может привести к тому, что ресурсоемкость «Ватсона» уменьшится, а скорость его работы возрастет. Таким образом, создание ИИ на основе «Ватсона» окажется гораздо более близким к реальности. Тем более, что успехи IBM доказывают, что именно большие корпорации способны реализовывать крупномасштабные проекты.

Подходы к проблеме самооптимизации ИИ

Основной вопрос ИИ — это даже не формальное возникновение компьютерной программы, способной пройти тест Тьюринга (то есть эффективно притворяться человеком), а скорость процесса самооптимизации уже существующего глобального интеллекта человечества. Под самооптимизацией мы имеем в виду процесс, когда некий интеллект решает задачу о том, как стать еще «умнее».

По этому вопросу существуют две крайние точки зрения.

Возможен быстро самооптимизирующийся ИИ, реализованный целиком на компьютере, возникающий локально как некая точка кристаллизации, за которой следует фазовый переход. Метафорически про такой ИИ говорят: «Компьютер из подвала захватывает мир». Юдковски полагает, что такой быстрый старт возможен и займет период от дней до недель. Очевидной стратегией для такого ИИ будет установка контроля над всей планетой с целью недопущения своего отключения другими ИИ-проектами. Поскольку он будет обладать более высокой степенью оптимизации (а значит, более высокой концентрацией «интеллекта» на объем памяти), то он может захватывать уже существующие вычислительные ресурсы. Проекты вроде AIXI ближе по духу к такой возможности.

Усиление глобального интеллекта человечества будет состоять в плавном росте суммарного интеллекта всех участников, а также в оптимизации за счет обмена результатами в форме науки, рынка, государства и социальных сетей и приведет к плавному и естественному слиянию всех людей в «надчеловечество».

ИИ как личность и как среда

Как среда ИИ будет в чем-то подобен идеальному государству или всемирной операционной системе, проявляющей себя только когда есть запрос или какая-то угроза людям. Мы ждем от государства, что оно будет заботиться о нашей безопасности, воспитывать, лечить, предоставлять нам все необходимое. Идеальный ИИ будет в этом смысле подобен заботливой матери — распределенный повсюду, он будет защищать нас от любых возможных неприятностей. Зачатком такого ИИ являются сети тотального видеонаблюдения. ИИ как среда нелокален, то есть он распределен по сетям, узлам, носителям, подобно тому, что мы видели в фильмах «Матрица» и «Терминатор-2: Судный день» (Skynet).

Более традиционно восприятие ИИ как личности, а именно разумного робота. Чтобы он стал личностью, его, как минимум, надо дополнить рядом «блоков»: памяти, целеполагания и т. д. Мы думаем, что проблема создания искусственной личности (в смысле активно действующего агента с определенной системой целей) будет решена одновременно с созданием ИИ как процесса оптимизации.

Однако это еще не создание «искусственного сознания». Одним из признаков человеческого сознания является способность переживать квалиа — качественный аспект любого субъективного переживания. Наиболее очевидным примером квалиа является боль. Такие философы, как Дэвид Чалмерс считают, что квалиа невозможно передать с помощью информации, невозможно описать как часть физического мира. Вопрос о том, сможет ли ИИ на самом деле переживать сенсорный опыт, является предметом дальнейших исследований в области философии и нейрофизиологии.