Мечты роботов(Сборник)

Я не старался облечь в слова Три закона в своем рассказе «Лжец», который появился в мае 1941 года. Однако в следующем рассказе под названием «Хоровод», появившемся в марте 1942 года, я уделил им самое пристальное внимание. В этом номере на седьмой строке страницы сто, один из героев говорит: «Теперь слушай. Начнем с Трех основных законов роботехники — трех правил, которые прочно закреплены в позитронном мозгу», и дальше я их цитирую. Насколько мне известно, это первое появление в печати слова «роботехника», которое я изобрел.

С тех пор в течение более чем сорока лет, когда я написал множество рассказов и романов о роботах, ни разу не возникло такой ситуации, чтобы мне пришлось модифицировать Три закона. Однако время шло, мои роботы становились более сложными и разносторонними, и я почувствовал, что можно внести кое-какие изменения. Таким образом, в «Роботах и Империи», романе, опубликованном в 1985 году, я заговорил о том, что в достаточной степени продвинутый робот может почувствовать себя обязанным предотвратить вред, который, возможно, будет причинен всему человечеству в целом, а не какому-то отдельному индивидууму. Я назвал его «Нулевым законом роботехники» и все еще продолжаю над ним работать.

Изобретение Трех законов роботехники — пожалуй, самый крупный вклад, внесенный мной в научную фантастику. Теперь их часто цитируют даже те, кто не имеет никакого отношения к данной области литературы, и уж точно можно сказать, что история роботехники не будет считаться полной без упоминания Трех законов. В 1985 году издательство «Джон Уайли и сыновья» опубликовало «Руководство по промышленной роботехнике» под редакцией Саймона Й. Нофа, и по просьбе главного редактора я написал вступление, касающееся Трех законов.

Сейчас авторы произведений научной фантастики произвели на свет целое море самых разнообразных идей, доступных остальным писателям. Именно по этой причине я никогда не возражал против того, чтобы мои коллеги, посвящающие свои произведения роботам, пользовались моими Тремя законами.

Однако я категорически выступал против прямого их цитирования другими авторами. Относитесь к Трем законам как к данности, но не повторяйте их — такова моя позиция. Понятия принадлежат всем, а слова — только мне!

Законы науки о человеке

Три моих первых романа о роботах были в основе своей посвящены таинственным убийствам, в роли детектива выступал Илайджа Бейли. Из этих трех во втором романе — «Обнаженное солнце» — местом преступления является запертая комната, в которой находят труп и никакого оружия, хотя с самого начала ясно, что спрятать или вынести оружие было невозможно.

Мне удалось придумать вполне удовлетворительное решение, но я больше никогда не писал ничего подобного.

Четвертый роман о роботах — «Роботы и Империя» — изначально не является историей о загадочном убийстве. Илайджа Бейли умер собственной смертью в преклонном возрасте, а дальше повествование поворачивает в сторону вселенной «Основания», так что становится ясно, что обе мои известные серии — о роботах и «Основание» — сливаются вместе в единое, расширенное целое. (Нет, я сделал это не случайно. Мною двигала необходимость, возникшая после написания в 1980-х годах продолжения серий, созданных в 1940-х и 1950-х.)

В «Роботах и империи» герой-робот по имени Жискар, которого я очень люблю, рассуждает о «Законах науки о человеке», могущей, по моему мнению, впоследствии положить начало науке психоистории, играющей существенную роль в серии «Основание».

Строго говоря, Законы науки о человеке должны являться описанием (в сжатой форме) поведения человека. Естественно, такого описания в природе не существует. Даже психологи, изучающие данные проблемы с научной точки зрения (по крайней мере, я на это очень надеюсь), не могут представить никаких «законов» и отделываются лишь длинными и запутанными рассуждениями на тему о том, что люди делают, по их мнению. Когда психолог говорит, что человек реагирует определенным образом на определенный стимулятор, он имеет в виду, что так происходит с некоторыми людьми в некоторый момент. Другие в другой момент могут вести себя иначе или вовсе никак не реагировать.

Если мы будем действительно дожидаться появления неких правил поведения человека с целью создания науки психоистории, я полагаю, мы будем вынуждены ждать очень долго.

В таком случае, что нам делать с Законами науки о человеке? Думаю, нужно потихоньку начать и постепенно развивать их — если у нас, конечно, получится.

Таким образом, в «Роботах и Империи» появляется робот Жискар, который поднимает эти вопросы. Будучи роботом, он должен смотреть на все происходящее с точки зрения Трех законов роботехники, которые жестко предписывают ему, как он должен себя вести, поскольку он обязан им подчиняться и не может их нарушить.

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен повиноваться всем приказам, которые отдает человек, кроме тех случаев, когда эти приказы противоречат Первому закону.

3. Робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому и Второму законам.

Мне кажется, робот не может не думать о том, что человеческим существам следует вести себя таким образом, чтобы роботам стало легче выполнять эти Три закона.

По правде говоря, я считаю, что люди, придерживающиеся этических норм, должны стараться облегчить жизнь роботам, как на их месте поступили бы роботы. Данные размышления стали темой рассказа «Двухсотлетний человек», опубликованного в 1976 году. Один герой-человек говорит:

«Раз человек имеет право отдать роботу любой приказ, лишь бы он не был во вред другому человеку, то простая порядочность не должна позволять ему отдавать роботу распоряжения во вред этому роботу, за исключением тех случаев, когда этого бесспорно требует спасение человеческой жизни. Чем больше власть, тем больше и ответственность, и если роботы подчинены Трем законам, гарантирующим безопасность людей, неужели так уж много — попросить, чтобы люди ввели закон-другой для защиты роботов?»

Например, Первый закон состоит из двух частей. Первая: «робот не может причинить вред человеку» — однозначна, и с ней ничего не нужно делать. Вторая: «или своим бездействием допустить, чтобы человеку был причинен вред», — дает нам некоторые возможности для полета фантазии. Человек может пострадать от какого-то неодушевленного предмета. На него упадет что-нибудь тяжелое, или он поскользнется и свалится в озеро, или с ним случится любой из тысяч несчастных случаев, предвидеть которые невозможно. В такой ситуации робот должен попытаться спасти человека: вытащить в безопасное место, поддержать и тому подобное. Или человеку будет угрожать какое-нибудь живое существо, например лев, и тогда робот тоже обязан прийти ему на помощь.

А что, если человеку угрожает другой человек? Здесь роботу придется принимать решение, что ему делать. Сможет ли он спасти одного человека, не причинив вред другому? Или если избежать этого невозможно, какие действия следует предпринять, чтобы вред был минимальным?

Роботам жилось бы намного легче, если бы люди так же беспокоились о благополучии других людей, как должны это делать роботы. И разумеется, любой кодекс морали потребует от человека заботиться о других и стараться сделать все, чтобы им не был причинен вред. Что, в конце концов, и является мандатом, который люди дали роботам. Получается, что Первый закон науки о человеке с точки зрения роботов должен звучать так:

1. Человек не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

Если этот закон будет выполняться, роботам останется лишь оберегать людей от несчастных случаев с неодушевленными предметами и живыми существами (не людьми), что освободит их от решения этических проблем. Разумеется, робот должен оберегать человека от вреда, который может неосознанно причинить ему другое человеческое существо. Кроме того, он обязан быть готов прийти ему на помощь, если другой человек по объективным причинам не в состоянии оказать ему эту помощь достаточно быстро. Однако даже робот может неосознанно навредить человеку, и даже робот может не проявить достаточной сноровки и не успеть попасть к месту действия, да и умений ему может не хватить, чтобы предпринять необходимые меры. Ничто в нашем мире не идеально.