Три Закона роботехники

– Прекрасно, – сказал Бейли. – По распоряжению капитана корабля ты не должен никому ничего говорить о нашей беседе, пока тебе не будет дано на это разрешение. Можешь быть свободен.

Экран померк, и Бейли, затянувшись, выпустил клуб дыма.

– Капитан все слышал, Дэниил?

– Разумеется. Он – единственный свидетель, не считая нас.

– Очень хорошо. А теперь давай второго робота.

– Но зачем, друг Элидж? Ведь Р.Аид во всем признался!

– Нет, это необходимо. Признание Р.Аида ничего не стоит.

– Ничего?

– Абсолютно ничего. Я объяснил ему, что доктор Гумбольдт находится в худшем положении, чем его хозяин. Естественно, если он лгал, защищая Себбета, то тут он сказал бы правду, как он и утверждает. Но если он говорил правду раньше, то теперь он солгал бы, чтобы защитить Гумбольдта. Это по-прежнему зеркальное изображение, и мы ничего не добились.

– Но в таком случае чего мы добьемся, допросив Р.Престона?

– Если бы зеркальное изображение было абсолютно точным, мы бы ничего не добились. Но одно различие существует. Ведь кто-то из роботов начал с того, что сказал правду, а кто-то солгал. И вот тут симметрия нарушена. Давай-ка мне Р. Престона, а если запись допроса Р.Аида готова, я хотел бы ее посмотреть.

На стене вновь появилось изображение. Р.Престон ничем не отличался от Р.Аида, если не считать узора на грудной пластине.

– Добрый день, Р.Престон, – сказал Бейли, держа перед собой запись допроса Р.Аида.

– Добрый день, сэр, – сказал Р.Престон. Голос его ничем не отличался от голоса Р.Аида.

– Ты камердинер Альфреда Гумбольдта, не так ли?

– Да, сэр.

– И давно ты у него служишь?

– Двадцать два года, сэр.

– И репутация твоего хозяина для тебя важна?

– Да, сэр.

– Ты считаешь необходимым защищать его репутацию?

– Да, сэр.

– Наравне с его жизнью?

– Нет, сэр.

– Наравне с репутацией какого-нибудь другого человека?

После некоторого колебания Р.Престон сказал:

– Тут не может быть общего ответа, сэр. В каждом подобном случае решение будет зависеть от конкретных обстоятельств.

Бейли сказал:

– Если бы ты решил, что репутация твоего хозяина важнее репутации другого человека, например Дженнана Себбета, ты бы солгал, чтобы защитить репутацию твоего хозяина?

– Да, сэр.

– Солгал ли ты, давая показания о споре твоего хозяина с доктором Себбетом?

– Нет, сэр.

– Но если бы ты солгал, ты бы отрицал это, чтобы скрыть свою ложь, не так ли?

– Да, сэр.

– В таком случае, – сказал Бейли, – рассмотрим ситуацию поподробнее. Твой хозяин, Альфред Гумбольдт, имеет репутацию замечательного математика, но он старик. Если доктор Себбет сказал правду и твой хозяин, не устояв перед искушением, действительно совершил неэтичный поступок, его репутация, конечно, несколько пострадает. Однако его почтенный возраст и замечательные открытия, которые он делал на протяжении столетий, перевесят этот единственный неверный шаг и заставят забыть о нем. Эта попытка плагиата будет объяснена утратой чувства реальности, свойственной старикам. Если же, с другой стороны, искушению поддался доктор Себбет, то положение создается гораздо более серьезное. Он молод, и репутация его не столь прочна. При обычных обстоятельствах его ждали бы столетия, чтобы он мог совершенствовать свои знания и делать великие открытия. Теперь же он будет всего этого лишен – из-за единственной ошибки молодости. Будущее, которое он теряет, несравненно больше, чем то, которое еще остается твоему хозяину. Таким образом, ты видишь, что положение Себбета намного более серьезно и чревато, несомненно, более опасными последствиями, не так ли?

Наступила долгая пауза. Затем Р.Престон сказал ровным голосом:

– Мои показания были по…

Внезапно он умолк и больше не издал ни звука.

– Так что же ты хотел сказать, Р.Престон? – спросил Бейли.

Робот молчал.

– Боюсь, друг Элидж, – вмешался Р.Дэниил, – что Р.Престон находится в состоянии полного отключения.

Он вышел из строя.

– Наконец-то мы добились асимметричности, – сказал Бейли. – Теперь мы можем установить, кто виновен.

– Каким же образом, друг Элидж?

– А вот подумай. Предположим, ты – человек, который не совершил преступления, что известно твоему личному роботу. Тебе не нужно предпринимать никаких действий. Твой робот скажет правду и подтвердит твои слова. С другой стороны, если ты – человек, который совершил преступление, тебе будет нужно, чтобы твой робот солгал. А это сопряжено с определенным риском: хотя робот в случае необходимости и солжет, стремление сказать правду останется достаточно сильным. Другими словами, правда оказывается намного надежнее лжи. Чтобы обезопасить себя, человек, совершивший преступление, скорее всего прямо прикажет роботу солгать. В результате Первый закон будет подкреплен Вторым законом, и, возможно, в значительной степени.

– Это выглядит логичным, – заметил Р.Дэниил.

– Предположим, мы имеем по одному роботу каждого типа. Один из них переключится с ничем не подкрепленной правды на ложь. И проделает это после некоторых колебаний без каких-либо неприятных последствий. Второй робот переключится от сильно подкрепленной лжи на правду, но при этом он рискует сжечь позитронные связи своего мозга и впасть в состояние полного отключения.

– А поскольку Р.Престон впал в состояние полного отключения…

– Значит, хозяин Р.Престона, доктор Гумбольдт, виновен в плагиате. Если вы передадите это капитану и рекомендуете ему немедленно переговорить с доктором Гумбольдтом, тот, возможно, во всем сознается. В таком случае, я надеюсь, вы мне немедленно об этом сообщите.

– Непременно. Вы меня извините, друг Элидж? Я должен поговорить с капитаном без свидетелей.

– Ну конечно. Пройдите в зал заседаний, он полностью экранирован.

Р.Дэниил вышел, а Бейли обнаружил, что не в состоянии ничем заняться. Он волновался. Слишком многое зависело от правильности его анализа, а он остро чувствовал, как мало знает о психологии роботов.

Р.Дэниил вернулся через полчаса, и эти полчаса, пожалуй, были самыми длинными в жизни Бейли.

Разумеется, по невозмутимому лицу робота, несмотря на все его сходство с человеком, нельзя было ни о чем догадаться, и Бейли также постарался сохранить полную невозмутимость, когда спросил:

– Ну так что же, Дэниил?

– Все произошло, как вы сказали, друг Элидж. Доктор Гумбольдт признался. По его словам, он рассчитывал, что доктор Себбет отступит и позволит ему насладиться этим последним триумфом. Теперь дело улажено, и капитан просил передать вам, что он в восторге. И думаю, мне тоже зачтется, что я рекомендовал вас.

– Вот и хорошо, – сказал Бейли, который теперь, когда все окончилось благополучно, вдруг почувствовал, что еле держится на ногах. – Но, черт побери, Дэниил, не впутывайте меня больше в такие истории, ладно?

– Постараюсь, друг Элидж. Но, разумеется, дальнейшее будет зависеть от того, насколько важной окажется проблема, от вашего местонахождения в тот момент и от некоторых других факторов. Однако мне хотелось бы задать вам один вопрос…

– Валяйте.

– Разве нельзя было предположить, что переход от лжи к правде должен быть легким, а переход от правды ко лжи трудным? Это означало бы, что робот, полностью отключившийся, собирался вместо правды сказать ложь, а так как полностью отключился Р.Престон, то это означало бы, что виновен не доктор Гумбольдт, а доктор Себбет, не так ли?

– Совершенно верно, Дэниил. Можно было бы рассуждать и таким образом, но правильным оказалось обратное предположение. Ведь Гумбольдт-то признался. Разве нет?

– Да, конечно. Но раз оба эти построения были равно возможны, каким образом вы, друг Элидж, так быстро сделали свой выбор?

Губы Бейли задергались. Он не выдержал и улыбнулся.

– Дело в том, Дэниил, что я исходил из психологии людей, а не роботов. В людях я разбираюсь лучше, чем в роботах. Другими словами, еще до того, как стал допрашивать роботов, я довольно точно представлял себе, кто из математиков виновен. Когда же мне удалось добиться асимметричной реакции роботов, я истолковал ее как доказательство вины того, в чьей виновности я уже не сомневался. Реакция робота была настолько эффективной, что виновный человек не выдержал и сознался. А одним только анализом человеческого поведения я вряд ли сумел бы этого добиться.