Сложно найти хоть один сценарий вымирания человечества (или любой сценарий чего-то такого же рода), который ещё не был задействован хотя бы в каком-нибудь голливудском фильме. Так же обстоят дела и со следующим потенциальным злодеем, искусственно созданным машинным разумом. В известных фильмах «Терминатор» и «Терминатор 2» (и в некоторой степени также в «Матрице») мир ближайшего будущего управляется свирепыми роботами, которые пытаются истребить род человеческий, или, по крайней мере, поработить его. Такой сценарий казался весьма вероятным Тэду Качински, печально известному «Унабомберу», который в своём манифесте, опубликованном в The New York Times и The Washington Post, написал следующее: «Давайте представим себе, что учёные по компьютерам добились успеха в создании развивающихся интеллектуальных машин, которые могут работать лучше, чем это делают человеческие существа... Если позволить машинам воплощать в жизнь все их собственные решения ..., судьба человеческой расы была бы отдана на милость машин».

Эту точку зрения также выражают специалист по робототехнике Ханс Моравец в своей книге «Робот: от простой машины до превосходящего ума» (Robot: Mere Machine to Transcendent Mind) и Билл Джой, соучредитель и ведущий учёный Sun Microsystems в своей пугающей статье 2000 года «Почему мы не нужны будущему» (Why the Future Doesn’t Need Us). Как говорит Моравец, «На полностью свободном рынке, роботы, превосходящие человека, несомненно, оказали бы влияние на людей.... Будучи неспособными позволить себе удовлетворение жизненных потребностей, биологические люди были бы вытеснены из существующего мира». Моравец предвидит слияние человеческого существа и роботизированного тела или производство своего рода сверхинтеллектуального гибрида (как всегда, научная фантастика уже сделала это, и Борг из сериала «Стар Трек» является одним из самых последних представителей этого жанра). По Моравецу, такое существо стало бы наследником человечества – и причиной нашего вымирания, которое рано или поздно случилось бы.

Почему робототехника? Часть перспективы – это лучший образ жизни для органических изготовителей, для нас. Покончить с угнетающим разум трудом, в котором погрязла значительная часть человечества – это действительно стало бы социальным и интеллектуальным прорывом. Но робототехника заключает в себе ещё большие перспективы – расширение нашего индивидуального интеллекта, если не нашего тела. Если мы сможем загрузить наше сознание в машину (а под машиной я подразумеваю как созданный органическим путём, так и вполне неорганический искусственный интеллект), мы действительно окажемся на грани своего рода бессмертия. Но какова цена этого? Как замечает Билл Джой, «если мы загрузимся в нашу технологию, каковы шансы того, что после этого мы останемся самими собой или даже людьми вообще? Мне кажется гораздо более вероятным, что роботизированное существование не было бы похоже на человеческое ни в одном из тех смыслов, которые мы вкладываем в это, и что роботы ни в каком смысле не были бы нашими детьми, и потому, избрав подобный путь, наше человечество наверняка погибнет».

«Серая слизь»

Из всех угроз, с которыми сталкивается человечество, возможно, ни одна так не опасна – или же так плохо распознана – как та, что таят в себе нанотехнологии. «Нано» означает «маленький», и многие специалисты по технологиям теперь видят будущее технологии как манипуляции и сборку в понятиях молекулярных и даже атомарных масштабов. Такие машины-ассемблеры на молекулярном уровне могли бы коренным образом изменить человеческое общество, создавая чрезвычайно дешёвые изделия, лекарства и даже энергию путём постройки фактически ничего не стоящих солнечных батарей. Поскольку большая часть новых изделий была бы создана скорее из органического материала, чем из металла и другого неорганического материала, в ходе такого производства будет получаться гораздо меньше загрязнений и меньше других последствий для окружающей среды.

Будущее в таком мире могло бы стать утопическим. С другой стороны, это могло бы означать исчезновение человечества. Именно такое видение наиболее ярко описано в предостерегающем эссе 2000 года, написанном Биллом Джоем. Джой рассматривает нанотехнологию как самую опасную составляющую объёмов инвестиций во все нанотехнологии. К сожалению, как и в случае с ядерной технологией, гораздо проще освоить разрушительные области применения нанотехнологии, чем созидательные. У нанотехнологии существуют явные военные и террористические области применения».