Что хотите найти?

Великий американский фантаст Вернор Виндж считается одним из авторов пророчества о сингулярности. В своей статье 1993 года он предсказал, что между 2005 и 2030 годами «эра человека закончится». Это произойдет в связи с тем, что имеющиеся технические средства наконец позволят создать настоящий сверхчеловеческий интеллект. Такая перемена, по его мнению, будет сравнима по масштабу и значению с появлением человечества на Земле. Путей к этой точке, которую он называет сингулярностью, может быть несколько: развитие компьютеров; более продвинутое взаимодействие человека и компьютера; прорывный качественный рост человеческо-компьютерных сетей; наконец, прорывное развитие биологической науки. Результатом сингулярности станет то, что «прогресс, подхлестнутый интеллектом сильнее человеческого, пойдет намного быстрее». Предыдущий скачок в скорости прогресса был связан с появлением человечества, резко ускорившего весьма медленные темпы биологической эволюции. Следующий скачок обещает аналогичное, если не более существенное ускорение. Поэтому «события, которые, как считалось ранее, могли случиться где-то через миллион лет (если вообще могли), с большой вероятностью произойдут» уже в XXI веке.

Сингулярность — это момент, когда все прежние модели перестают работать и начинается в буквальном смысле новое время. Ее сутью является не изобилие технических новшеств, а сверхчеловеческий характер. Если появится интеллектуальная машина, способная проектировать еще лучшие машины, все последующие изобретения и изменения станут плодом деятельности ее, а не человека. И конечно же, она станет своим собственным орудием, а не орудием человека — точно так же, как люди руководствуются собственной волей, а не волей «кроликов, птиц или шимпанзе». Иными словами, подчинить ИИ своей воле человеку не удастся. Тут важно различать «слабый» и «сильный» ИИ: первый ничего не создает сам, он послушен человеку, второй же сам решает, что делать. Наступление сингулярности связано именно с появлением сильного, а не слабого ИИ. Это означает, что постчеловеческое общество появится в эпоху не галактических, а всего лишь межпланетных империй, то есть гораздо раньше. Симптомами его приближения Виндж называет прогрессирующую автоматизацию труда, когда давний прогноз о наступлении эры технологической безработицы наконец начнет сбываться. Другой симптом — ускорение распространения новых идей. Подготовка займет много времени, но сам момент сингулярности подобен взрыву, а значит, произойдет очень быстро и неожиданно. Людям может показаться, что все созданные ими «предметы внезапно проснулись».

Власть компьютерного Франкенштейна, безусловно, пугает, и естественным образом возникает желание а) взять его под контроль и б) предотвратить его появление. Первое, по мнению фантаста, невозможно по определению, и никакие «законы робототехники» от Айзека Азимова тут не помогут. Второе тоже не во власти человека: «если технологическая сингулярность может случиться, то она случится», что бы ни предпринимали отдельные люди и правительства. Дело в том, что конкурентное преимущество любого прогресса в автоматизации — «настолько императивный фактор, что любые законы и обычаи, запрещающие подобные вещи, гарантируют лишь одно: это преимущество получит кто-то другой». Кстати, любые запреты и ограничения на свободу ИИ настолько снижают его эффективность, что конкуренция между людьми и государствами неизбежно будет вести к появлению все более свободных (а значит, и опасных) моделей ИИ. Все ведет к тому, что либо нами — людьми — будет управлять сверхчеловеческий интеллект, либо мы ему вообще не понадобимся — и он либо уничтожит нас, либо встроит в свой мир в качестве подчиненных элементов (как мы в свое время одомашнили животных и заставили их жить и умирать по нашим правилам и для нашего, но не для их блага).

Если же создание сильного ИИ окажется технически невозможным, сингулярность может наступить другим путем — благодаря успехам в «усилении интеллекта». Прежде всего речь идет о более глубокой интеграции человека и компьютера, с одной стороны, и более широком распространении всевозможных человеко-компьютерных сетей (наподобие интернета). Такое будущее тоже сильно выходит за «классические рамок добра и зла», поскольку они основаны на «идее об изолированных неизменных умах, соединенных слабыми низкоскоростными связями». Поэтому прогнозирование и планирование такого будущего представляется Винджу бессмысленным: слишком уж оно будет отличаться от всего, что мы знаем и к чему привыкли. Только если момент сингулярности не наступит, эти занятия сохранят свое значение. Автор полагает, что сингулярность — наиболее вероятный сценарий развития человечества, но стоит рассмотреть и другие. Главных из них три, и наибольшую вероятность, в порядке убывания, имеет сценарий «Взаимного гарантированного уничтожения». Речь идет о возвращении к реалиям холодной войны, когда человечество несколько десятилетий жило в напряженном ожидании своего скорого конца.

Что может отдалить или нейтрализовать вселенскую катастрофу? Появление многочисленного поколения «молодых (т. е. более или менее здоровых и дееспособных) стариков». Это может стать конкурентным преимуществом человечества, сравнимым по эффекту с тем, что получало доисторическое племя, если каким-то образом ухитрялось сохранить живыми своих стариков и воспользоваться их мудростью и опытом. Так что спасение нашего рода может зависеть от успеха исследований в области продления человеческой жизни… Сценарий #2 — «Колесо времени» — предполагает, что после глобальной катастрофы отдельные островки человечества сохранятся и за периодом длительного и глубокого упадка произойдет возрождение цивилизации. Наилучший способ повысить его вероятность — создать самодостаточные внеземные поселения людей, а это потребует критического снижения стоимости вывода полезного груза на космическую орбиту (ау, Илон Маск!). Наконец, наименее вероятный сценарий #3 называется «Золотой век» и исходит из пластичности человеческой психики и возможности быстрого (в течение одного поколения) изменения глобальных ценностей. Для этого потребуются «надежда, информация и общение».