Читаем «Если», 2016 № 03 полностью

Усиление интеллекта и Коллективное сознание должны помочь нам решить самую главную задачу — включить заветные человеческие цели и мечты в «безлюдные технологии». Результатом должны стать те, кого можно назвать нашими «детьми разума» (обратите внимание на книгу Ганса Моравека 1988 года с таким же названием). Если мы достигнем успеха, то обычное неразвитое человечество сможет остаться в живых, а в то же самое время некоторая форма наших человеческих сознаний сможет расти, навеки став частью куда более великих мыслящих сущностей Вселенной. Вспомните маленькое стихотворение Огастеса де Моргана…

Какие новые угрозы, реальные или воображаемые, могут появиться под влиянием этих технологий?

В очень коротком горизонте (даже сейчас!) противоестественный союз сетей и Интернета вещей способен привести к масштабным физическим катастрофам. Что касается более долгосрочного периода, Ник Бостром провел превосходный анализ правдоподобных угроз существованию человечества со стороны чисто машинного искусственного интеллекта.

Каким станет мир после «революции безлюдных технологий»? Как изменится под ее влиянием человечество?

Если нам удастся миновать физическую катастрофу (или мировую войну), я думаю, мир будет во многом похож на мой роман «Конец радуг», но с непрекращающимися разрушительными изменениями от растущей эффективности автоматики. Одним из важнейших приоритетов человечества станет управление плавным развитием этого процесса (недопущение войн, решение проблем вездесущей безработицы, растущей под влиянием технологий, установка доброкачественной этики в грядущие суперсознания).

_____

_{© Артем Косгюкевич, илл., 2016}

Ник Востром. Экзистенциальные риски: анализ сценариев исчезновения человечества

Категории классификации экзистенциальных рисков:

• Взрыв — разумная жизнь земного происхождения исчезает вследствие относительно внезапной катастрофы, связанной или со случайностью, или с намеренным актом уничтожения.

• Хруст — потенциал развития человечества в постчеловечество перманентно потерян, хотя его существование в той или иной форме продолжается.

 Визг — достигнута некая форма постчеловечества, но в чрезвычайно узкой форме, чем было бы желательно и возможно.

• Хныканье — постчеловеческая цивилизация возникает, но развивается в направлении, которое постепенно, но необратимо ведет или к полному исчезновению вещей, которые мы ценим, или к состоянию, когда эти вещи доступны лишь в минимальной степени.

_____

Что произойдете миром, если ИскИны станут частью распределенного мышления человечества? Возможно ли это? К чему это приведет нас? И будем ли мы этому рады?