Что если Сингулярности не будет?

translated from What If the Singularity Does NOT Happen by Vernor Vinge

Учитывая название моего доклада, следует сначала определить, что я подразумеваю под технологической Сингулярностью.

Представляется вполне вероятным, что с помощью технологий мы сможем в ближайшем будущем создать организмы (или же стать ими), превосходящими человека по интеллекту и креативности. То, что произойдет после (того, что можно назвать Технологической Сингулярностью) является для нас непостижим, как музыкальная опера для червяка.
Предыдущее предложение кажется ставит под вопрос целесообразность долгосрочного планирования Сингулярности.
Однако Сингулярность может и не произойти вовсе, и это приведет к серьезным последствиям в ближайшие пятьдесят лет. В любом случае у хорошего фантаста-писателя или сценариста должен быть в запасе альтернативный сценарий.
Следует добавить, что в альтернативной истории, о которой я сейчас веду речь, предполагается, что космических путешествий быстрее скорости света еще не придумали!

Еще одно необходимое замечание для тех, кто читает этот доклад вне контекста :-) Я по-прежнему полагаю, что Сингулярность является одним из наиболее вероятных сценариев ближайшего будущего, не имеющих катастрофических последствий.

Существует великое множество катастрофических вариантов развития событий (см. напр. Мартин Реес "В наш последний час"). Но мы сегодня попробуем взглянуть на будущее более оптимистично.
+ +

Век несбывшихся иллюзий

Наиболее правдоподобным объяснением "провала Сингулярности" может быть наше неумение "создать программу" (или "вложить душу в машину" для более мистически настроенных читателей).

Вот основные признаки этого:

Создание программного обеспечения остается побочной функцией программирования. Проекты создания софта, основанные на использовании растущей мощи машин терпят неудачу за неудачей. Эти неудачи невозможно компенсировать финансовыми вливаниями, они заставляют разработчиков отказываться от проектов. Наглядные сбои в системах общей автоматизации (диспетчеры посылают самолеты навстречу друг другу; одна такая ошибка способна фатально скрестить в одном времени и пространстве десяток самолетов).

Такие неудачи приведут к сокращению спроса на передовые технологии, которые никто не сможет безопасно использовать - что заставит производителей приостановить выпуск таких технологий. По сути закон Мура не будет работать - ведь неочевидны даже физические препятствия для дальнейшего совершенствования технологий.
В конечном счете, фундаментальные научные исследования определенных проблем будут прекращены, в частности из-за отстуствия нового поколения вычислительных систем, которые перестали разрабатывать и производить. Жертвой подобной стагнации станут также усовершенствования в простых областях, к примеру, хранении данных. Дальше у нас будут только неплохие развлекательные аудиовизуальные продукты, и некоторое количество баз данных (но без необходимого софта).

Люди уже не удивляются провалам попыток создания серьезного искусственного интеллекта. Другие, более успешные чем AI проекты, такие как нанотехнологии, тоже неизбежно будут заморожены.
Все это можно назвать "Эпохой несбывшихся иллюзий".

Дальнейшее распространение стагнации

Итак в 2045 году очкарики ходят вокруг своих старых домов, крутят головами и вопрошают: "А.. как же сингулярность?" Некоторые последствия могут показаться даже утешительными:

Закон Эдельсона гласит: "Число важных, но недостигнутых открытий растет экспоненциально со временем". Это может быть вызвано опасным ускорением технологического прогресса - и в не меньшей степени отставанием простого человеческого мышления.

Когда прогресс замедлится, то может быть, нам придется его ускорить (хотя, подозреваю, что наши биологические базы данных будут заполняться быстрее, чем мы сможем их анализировать). Может, тогда настанет время вернуться назад, к заре программного обеспечения и заново создать его, на сей раз на более рациональной основе. Да, право.
С другой стороны, шансы человечества пережить столетие, все еще под сомнением: все еще актуальны проблемы окружающей среды и ресурсов. Проблема войн. В начале 21 века мы расслабились и (заслуженно) получили угрозу ядерного терроризма. Мы бы хотели забыть период с 1970 по 1990 гг., когда десятки тысяч ядерных зарядов могли разорваться в течение дня, даже без обоснованной политической позиции.

Возвращение к этому безумию, учитывая проблемы с окружающей средой, выглядит очень правдоподобным.

+ +

Последствия наших возможностей

Предположим, однако, что человечество пережило 21 век. Каковы его перспективы, учитывая Век утраченных иллюзий? Я хочу проиллюстрировать некоторые возможности с помощью диаграмм, чтобы показать весь период сразу - от десятков тысяч лет до нашей эры до десятков тысяч лет после. Все сразу и без явных ссылок на само течение времени, чтобы вся человеческая эра воспринималась как единый вектор.

Вместо графиков переменных, таких как население, хронология, я представлю график соотношения аспекток технологии сравнительно с численностью населения. Вот кстати, пример подобного подхода.

Не очень впечатляюще. Но на самом деле наиболее впечатляет то, что на картинке мы, человечество, выглядим очень постоянной величиной. Даже эпидемия чумы едва ли повлияла на наш технопрогресс. Может, график отражает действительность, а возможно мы все-таки не видим всей картины. (Отметим, что крайне правое значение (население) или крайнее верхнее (которое относится к деструктивному потенциалу) вероятно имело бы катастрофические последствия для земной цивилизации.

Без Сингулярности, здесь существует только три варианта развития событий, три самостоятельных сценария:

+ +

Сценарий 1: Возвращение к Безумию

Я обещал, что попытаюсь избежать фатальных сценариев, но вероятность все равно сохраняется. Приоритетной задачей долгосрочного планирования должно стать предотвращение катастрофы.

"Черные дни", идущие по верхней части диаграммы хорошо знакомы тем, кто с головой погружался в:

• "Судьбу Земли" Джонатана Шелла
• исследования, посвященные ядерной зиме TTAPS.
• Подобно многим другим людям я скептически отношусь к содержанию двух предыдущих ссылок. Что же касается последствий обмена ядерными ударами. В изощренной логике Безумных планов порог "допустимого урона" постоянно повышается. В деле уничтожения задействуются очень умные люди и очень большие ресурсы. Другой такой области, в которой интеллектуалы изощрялись бы в способах нашего уничтожения, я не знаю.

Сценарий 2: Золотой Век

(этот сценарий призван внести немного оптимизма в Возвращении к Безумию)

Существуют определенные тенденции, способные помочь в осуществлении сценария Золотого Века:

• пластичность человеческой психики (в масштабах по крайней мере одного поколения). Когда у людей есть надежда, информация и средства коммуникации, они становятся разумнее с поразительной скоростью.
• интернет предоставляет людям удивительные возможности, даже если мы не работаем на ускорение Сингулярности. (Иллюстрацией этого может служить моя последняя книга Rainbows End; в зависимости от того, как понимать доказательства игроков, находящихся в зачаточном трансчеловеческом состоянии;-))
  

Этот сценарий похож на видение Гюнтера Штента в "Пришествии Золотого Века" - Конец Прогресса (за исключением того, что время действия закона Эдельсона по моему мнению составляет тысячи лет).

Сокращение количества населения (крайне левая загогулина на траектории) - мирное и доброкачественное явление, которое в конечном итоге приводит ко всеобщему высокому уровню жизни.

На более длительном отрезке времени у нас наблюдается определенный рост и в силе и в количестве населения:

• Эта цивилизация приходит к выводу, что лучше много счастливых людей, чем мало счастливых. На всем временном отрезке были испробованы оба варианта.
• Так что же произойдет на самом дальнем конце этого огромного периода (через 20 тыс. лет, 50 000 год)? Даже без Сингулярности ясно, что в какой-то момент the species become smth greater.

Предложения (подходят для большинства сценариев)