Конец науки: Взгляд на ограниченность знания на закате Века Науки

— Робот, способный вытирать пыль и пылесосить, возможен в этом десятилетии. Я уверен в этом. Это даже не спорный вопрос.

На самом деле домашние роботы кажутся даже менеереальными по мере приближения нового тысячелетия, но это неважно: научной теологии требуется некое постоянное напряжение.

К середине следующего столетия, сказал Моравек, роботы будут такими же умными, как люди, и в основном возьмут на себя экономику.

— На этом этапе мы на самом деле окажемся без работы, — засмеялся Моравек.

Люди вполне могут заняться «эстетическими вещами, такими, как поэзия», которые происходят из психологических капризов, все еще находящихся вне охвата роботов, но все важные работы будут у роботов.

— Нет смысла привлекать людей для работы в компанию, — сказал Моравек, — потому что они просто все испортят.

Если смотреть с другой стороны, продолжал он, то машины будут создавать так много богатства, что людям, возможно, просто не нужнобудет работать; машины также уничтожат бедность, войны и другие трагедии истории.

— Это тривиальные проблемы, — сказал Моравек.

Люди все равно смогут путем покупательского спроса осуществлять какой-то контроль над корпорациями, управляемыми роботами.

— Мы будем выбирать, какие нам купить, а какие нет. Так что мы будем выбирать производителей домашних роботов, которые делают необходимых и эффективных роботов.

Люди также смогут бойкотировать корпорации роботов, чья продукция или политика кажутся враждебными людям.

Неизбежно, продолжал Моравек, что в поисках сырья машины отправятся в открытый космос. Они развернутся по всей Вселенной, превращая материю в приспособления, обрабатывающие информацию. В рамках этих границ роботы, неспособные расти физически, попробуют использовать доступные ресурсы все более и более эффективно и займутся чистыми вычислениями и моделированием.

— В конце концов, — объяснил Моравек, — каждый маленький квантум действия имеет физическое значение. Базово у вас киберпространство, которое считает со все большей и большей эффективностью.

По мере того как существа внутри киберпространства учатся обрабатывать информацию все быстрее, будет казаться, что послания между ними проходят дольше, так как эти послания все равно смогут передаваться только со скоростью света.

— Так что результатом всего этого улучшения в кодировании будет увеличение размера эффективной Вселенной, — сказал он.

Киберпространство будет в некотором смысле становиться больше, более плотным, более замысловатым и более интересным, чем фактическая физическая Вселенная.

Большинство людей с радостью откажутся от своих смертных оболочек из плоти и крови в пользу большей свободы и бессмертия киберпространства. Но всегда возможно, размышлял Моравек, что останутся «агрессивные примитивные люди, которые будут говорить: „Нет, мы не хотим присоединяться к машинам"». Машины могут позволить этим атавистам остаться на Земле в окружающей среде, подобной раю или парку. В конце концов, Земля — «это просто частичка грязи в системе, и она не имеет огромной исторической важности». Но машины, страстно желающие сырья, представленного Землей, могут в конце концов заставить ее последних жителей принять новый дом в киберпространстве.

Но что, спросил я, будут делать эти машины, со всей их мощностью и ресурсами? Они будут заинтересованы в занятии наукой ради науки? Абсолютно верно, ответил Моравек.

— Это стержень моей фантазии: наши небиологические потомки, не имеющие большинства наших ограничений, способные перепрограммировать себя, могут заниматься базовым знанием о вещах.

Фактически, наука будет единственно достойной умных машин.

— Занятия, подобные искусству, которым люди иногда увлекаются, не кажутся очень глубокими в том смысле, что они являются первичными видами моделирования.

Его хихиканье переросло в раскаты смеха. Моравек сказал, что он твердо верит в бесконечность науки или, по крайней мере, прикладной науки.

— Даже если основные правила являются конечными, — сказал он, — то вы можете идти в направлении их соединения.

Теоремы Геделя и работа по алгоритмической теории информации Грегори Чайтина подразумевали, что машины могут продолжать изобретать все более сложные математические проблемы, расширяя свою базу аксиом.

— В конце вам может захотеться взглянуть на системы аксиом астрономических размеров, — сказал он. — И затем вы сможете извлекать из них то, что вы не можете извлекать из более мелких систем аксиом.

Конечно, машинная наука может, в конце концов, походить на человеческую науку даже меньше, чем квантовая механика походит на физику Аристотеля.

— Я уверен, что основное видение природы реально не изменится.

Например, машины могут рассматривать человеческое отношение к сознанию как безнадежно примитивное, сродни примитивным физическим концепциям древних греков.

Но затем Моравек резко переключился на другое. Он подчеркнул, что машины будут такими разнообразными — в гораздо большей степени, чем биологические организмы, — и станет бессмысленно размышлять о том, что они найдут интересным; их интересы будут зависеть от их «экологической ниши». Потом он признался, что, как и Фукуяма, видит будущее в строго дарвинистских концепциях. Наука для Моравека была только побочным продуктом вечного соревнования между умными, развивающимися машинами. Он указал, что знания на самом деле всегда накапливались. Большинство биологических организмов вынуждены искать знания, которые помогают им выжить в будущем.

— Если вы лучше выживаете, это означает ваши успехи в поиске пищи на длительное время. И таким образом, множество второстепенных активностей, субактивностей выживания, выглядят как чистый поиск информации.

Даже кот Моравека демонстрирует такое поведение.

— Когда ему непосредственно не требуется пища, он ходит кругами и исследует окружающую среду. Неизвестно, когда найдешь мышиную нору, которая может оказаться полезной в будущем.

Другими словами, любопытство адаптивно, «если вы можете себе его позволить».

Таким образом, Моравек сомневается, смогут ли машины когда-нибудь уйти от конкуренции и сотрудничать в поиске чистого знания или любых других целей.

Без конкуренции нет выбора, а без выбора «вы можете получить любое старое дерьмо», сказал он. Нужен какой-то принцип отбора. В противном случае не будет ничего. В конечном счете Вселенная может превзойти всю эту конкуренцию, «но требуется какая-то стимулирующая сила, чтобы нас туда доставить. Так что это и есть путь. Путь — это половина удовольствия!» Он демонически засмеялся.

Я не могу удержаться, чтобы не рассказать то, что произошло на этом этапе, — не во время фактического интервьюирования Моравека, а позднее, когда я транскрибировал запись нашего разговора. Моравек стал говорить все быстрее и быстрее, и его голос все время повышался. Вначале я думал, что диктофон верно пародирует нарастающую истерию Моравека. Но когда его голос стал каким-то завывающим, я понял, что слушаю звуковую иллюзию; очевидно, к концу разговора батарейки моего диктофона сели. По мере того как я прокручивал пленку, то, что говорил своим высоким голосом Моравек, стало совсем трудноразличимо и в конце концов ушло за пределы понимания — словно голос выскользнул в дыру, которая унесла его в будущее.

Разнообразие Фримэна Дайсона

Ханс Моравек — не единственный энтузиаст искусственного интеллекта, сопротивляющийся идее, что машины могут слиться в один метаразум, чтобы вместе идти к своим целям. Не удивительно, что Марвин Минский придерживается той же точки зрения.

— Сотрудничество начинается только в конце эволюции, — сказал мне Минский, — когда вы не хотите, чтобы состояние вещей после этого сильно менялось. Конечно, добавил Минский презрительно, всегда возможно, что суперумные машины будут заражены каким-то типом религии, который заставит их отказаться от их индивидуальности и слиться в один метаразум.