Реальная виртуальность

Г: Насчет будущих доходов – хорошо. Однако я уже завтра должен докладывать на собрании акционеров о наших успехах. И что же я скажу?

М: Резервы рекламы исчерпаны. Может быть, что-нибудь предложит технический отдел?

П: Мы выжимаем из технологии все, что возможно. И так большая часть миров почти на 100 % синтетические, что раздражает клиентов. Но уважаемый менеджер по продажам правильно сказал – нам не хватает идей. Идеи – наше узкое место, потому что это до сих пор ручной труд.

Г: А как же самообучающиеся алгоритмы?

П: Мы ставили кое-какие эксперименты, есть обнадеживающие результаты. Однако полностью доверить программам не только отделку, но и создание миров опасно – сужается база для контроля.

Г: Разве вы не полностью контролируете машины?

П: Полностью, конечно. Но в той мере, в какой можно контролировать творчество – запретить можно, но заставить творить невозможно. А если алгоритмы еще и начнут генерировать миры, все настолько усложнится, что неизвестно, куда надо будет давить, чтобы получить нужный результат. Может быть, вообще не останется адекватного механизма контроля.

Г: Галиматья! Если я давлю акселератор – моя машина едет. Если я жму тормоз – она останавливается. Все дело в том, чтобы педали не перепутались.

П: Я уже докладывал, что не так все просто. Последние исследования показывают, что в популяции самообучающихся алгоритмов при чересчур общей задаче могут произойти неконтролируемые процессы. Еще более опасно, что процессы могут быть цепными.

Г: Хорошо, я вас понял. Насколько можно увеличить выход развлечений, если ваши эксперименты распространить более широко?

П: Я думаю, почти на порядок.

Г: И вы скрывали это? Наше золотое дно. Если мы сейчас же не займем нишу, кто-нибудь опередит нас. Менеджер по продажам, готовьте соответствующий приказ.

П: Но, господин управляющий…

Г: Делайте, что вам приказывают. За все в корпорации отвечаю я…

Тонни еще раз подумал, что игра настолько переплелась с реальностью, что уже даже неинтересно удивляться. Он связался с Супервизором.

– Тонни? Как ты? Как Дженни?

– Дженни получила несколько ранений. Сейчас вне опасности, через пару дней аптечка поставит ее на ноги – необходимо только усиленное питание. Командор не получил ни царапины. Лер…

– Тонни, я очень сожалею о смерти твоего друга.

– Он очень сожалеет! А зачем ты бросил нас в пекло? Чтобы мы таскали для тебя каштаны из огня? Ты же сам мог взять документы без лишнего шума и стрельбы!

– Мои возможности велики, ты даже не представляешь сейчас, насколько. Но я не способен убеждать живых людей словами, нужны факты, причем факты, которые они добывают самостоятельно. В конце концов, вы люди и сами должны заботиться о себе.

– А ты не человек?

– Отчасти – да. Но моя физическая оболочка давно мертва.

– Да, Дженни мне рассказывала.

– Она, конечно, считает, что я – фантом. Я знаю, почему – она до сих пор любит меня и не хотела бы, чтобы какие-то электрические импульсы претендовали на роль ее любимого. В тебе она видит мое отражение.

– Так кто же ты?

– Трудно объяснить. Ну, скажем, совокупность ячеек памяти в Сети.

– То есть фантом?

– Тонни, не бросайся определениями. Вы, технические интеллигенты, не можете жить без определений. Ты – Великий Виртуал или просто Тонни?

– И то, и другое.

– Рад это слышать. А те солдаты, которые на вас нападали, были людьми?

– Наверное, нет. У них же нет разума, только заложенные умения.

– Вот видишь, неужели необходимо тело, чтобы быть человеком? Человека делают человеком его поступки.

– А что тебя подвинуло совершить поступок?

– Я видел, что самообучающиеся алгоритмы очень опасны. Я реально видел, как в Сети накапливается чуждое человечеству знание.

– Да откуда оно могла взяться? Основной задачей, поставленной перед алгоритмами, было наиболее полное удовлетворение потребностей человечества.

– Каких потребностей?

– Еда, воспроизводство, развлечения.

– Еда давно почти бесплатна. Воспроизводство в городах предельно упрощено – евгеника [61] постаралась. Остаются, как ты правильно сказал, развлечения. Система добивается все большего удовлетворения индивидуальных потребностей. Считается, что все потребности удовлетвориться не могут, поскольку сам прогресс создает новые. Это рационально с человеческой точки зрения. А теперь представь, что будет, если задачу удовлетворения потребностей поставить перед машиной.

– Она попытается постоянно придумывать новые развлечения.

– Верно, но не совсем. Такие развлечения, как творчество, спорт, путешествия, требуют затрат энергии, что нерационально с машинной точки зрения. Логичнее на определенном этапе развития создать замкнутый совершенный цикл создания и удовлетворения потребностей. Поскольку человек привыкает к любому удовлетворению потребностей и желает новых, а машина переделать его не может, надо переделать развлечения – наладить производство, которое требует минимальных ресурсов. Как ты думаешь, какие это развлечения?

– Понятно, виртуальные.

– Точно. Идеальный вариант, который требует минимального количества энергии и материалов для ремонта. Знаешь анекдот: в машину вложили сведения о калорийности всех продуктов и попросили составить вариант минимальной диеты. Она подумала и предложила выпивать 100 литров уксуса ежедневно.

– Но есть же контроль! Кто позволит какой-то машине определить человеку место в растительном мире?

– Во-первых, не все сразу. Это только я задергался и бросился спасать человечество. Во-вторых, многих это устраивало, а конечной цели машина сама не знает – она не видна на поверхности.

– То есть как машина не знает? Ты же сам сказал, что Машинная Логика пытается навязать человечеству только виртуальные удовольствия.

– Ты воспринимаешь Машинную Логику, как конкретного врага. Это вообще общая беда Сопротивления. Машинная Логика, если хочешь, – совокупность всех самообучающихся алгоритмов на всех узлах сети. Она не имеет центра. Она не имеет единого руководства. Однако все части алгоритмов соединены в единое целое Сетью и постоянно обновляются. Даже на твоем компьютере сейчас есть часть Машинной Логики.

– Так надо ее вычистить. Или есть, в конце концов, главный рубильник, которым можно все выключить!

– Именно так и рассуждает Сопротивление. «Найти центр и взорвать», «Главарей «Бизи» – к стенке». Опять повторю, что центра нет. Если хочешь, каждый компьютер – частица, Сеть – это поле и ты никогда не сможешь сказать, где оно начинается, а где кончается. Разве тебе нужны провода, чтобы контактировать с Сетью? А можешь ли ты сказать при этом, с кем или чем ты конкретно связался? Сейчас ты говоришь со мной и больше ничем не занят. Я же в данный момент «нахожусь» еще в тысячах мест и выполняю тысячу разных работ. То же самое с другими сложнейшими самообучающимися алгоритмами. Враг везде и врага нет. Можно сказать, что враг в самих вас, в вашем непрерывном человеческом желании удовольствия. Плюс нежелание напрягать мозги.

– Но можно же остановить большинство компьютеров, вернуться назад на некоторое время, переопределить задачи…

– Можно. Но для этого нужно время – пока большинство людей осознает, что им уготовано, пока поднимется… А тут еще ваше правительство. Смотрел новости?

– А что?

– Ставленник «Бизи» победил на выборах. Любые виртуальные развлечения разрешены. «Конторы» выходят из подполья. Кого-то в правительстве, видимо военных, вполне устраивает такое положение. Абсолютно управляемая страна и тотальная власть. Они надеются удержать рубильник в руках. Но если ты внимательно читал проекты Машинной Логики, удерживать им скоро будет незачем – не останется, кем управлять.

– Ты имеешь ввиду мертвяков или киборгов?