Мечты роботов: Фантастические произведения (сборник)

Однако, как ни странно, в жизни все получается именно так, как я тогда себе представлял. Роботы используются на конвейерах, и с каждым годом им находится все больше и больше применений. Машиностроительные компании десятками тысяч внедряют их у себя на заводах. Кроме того, роботы появляются и в других областях нашей жизни, и уж можете не сомневаться, более сложные и умные роботы скоро займут места у чертежных досок и в проектировочных мастерских. Естественно, благодаря роботам отпадет необходимость в некоторых видах деятельности, но и появятся новые профессии. Прежде всего, их нужно будет конструировать. Строить и устанавливать на рабочих местах. Затем, поскольку ничто не безупречно, их придется время от времени чинить. Чтобы такие ситуации возникали как можно реже, а поломки не носили серьезного характера, потребуется достаточно сложная система обслуживания. Вполне возможно, что робота даже придется переделывать, чтобы он в сложившейся ситуации мог выполнять другую работу.

Для этих целей нам понадобятся люди, которых мы будем называть... например, специалистами по роботам, роботехниками. Существует предположение, что к тому моменту, когда придуманная мной Сьюзен Кэлвин закончит колледж, только в Соединенных Штатах будет около двух миллионов таких специалистов и еще шесть миллионов в других странах мира. Так что Сьюзен не будет одиноко. К этим специалистам мы прибавим людей, которые будут работать в быстро развивающихся отраслях промышленности, прямо и косвенно связанных с производством роботов. Вполне может получиться, что благодаря появлению роботов количество рабочих мест значительно увеличится по сравнению с тем количеством, которое исчезнет. Впрочем, разумеется, эти работы будут сильно отличаться друг от друга, и потому потребуется некоторый переходный период для того, чтобы те, кто лишился своей старой работы, смогли переучиться, чтобы получить новую.

Это будет возможно не в каждом случае, и, следовательно, потребуется ввести некоторые изменения в систему социальной защиты населения, чтобы помочь тем, кто, в силу возраста или темперамента, не сможет приспособиться к изменившимся обстоятельствам.

В прошлом развитие технологий всегда требовало пересмотра системы образования. Крестьянам не требовалось знать грамоту, однако рабочим на заводах это было необходимо. И потому после промышленной революции индустриальным странам .пришлось открыть государственные школы, где их граждане могли получить образование. В настоящий момент в связи с новым скачком в развитии экономики и высоких технологий необходимо внести изменения в программы общеобразовательных школ. К обучению науке и технике следует подходить очень серьезно и организовать его таким образом, чтобы люди могли постоянно учиться, поскольку изменения будут происходить с такой скоростью, что они просто не смогут существовать за счет знаний, приобретенных в молодости.

Подождите! Я упомянул роботехников, но этот термин можно принять лишь в широком смысле. Сьюзен Кэлвин не была таким специалистом: ее профессия называлась «робопсихолог». Она занималась «разумом» роботов, их «мыслительными процессами». Я еще ни разу не слышал, чтобы кто-нибудь употребил этот термин в реальной жизни, но, полагаю, придет время, когда его станут использовать не реже, чем термин «роботехника» после того, как я его изобрел. В конце концов, ученые пытаются создать роботов, которые способны видеть, понимать устные приказы, отвечать. Поскольку предполагается, что роботы будут выполнять все больше и больше работ, причем их эффективность будет постоянно расти, а разнообразие задач станет необъятным, они начнут казаться нам «умными». По правде говоря, даже сейчас некоторые ученые очень серьезно работают над решением проблемы «искусственного интеллекта».

Впрочем, если нам и удастся сконструировать и построить роботов, которые будут казаться нам умными, весьма сомнительно, что их можно будет считать разумными в том смысле, в каком разумен человек. Во-первых, их «мозг» сделан из материалов, отличающихся от тех, из которых «построен» наш мозг. Во-вторых, их мозг будет состоять из различных компонентов, соединенных и систематизированных совсем не так, как у нас. К тому же почти наверняка робот станет подходить к проблеме, которую ему следует решить, совершенно иначе.

Разумность робота и человека могут настолько отличаться друг от друга, что на свет, вполне возможно, появится новая наука — «робопсихология». Вот тут-то и придет время Сьюзен Кэлвин. Именно она и ее коллеги смогут разобраться в проблемах, решить которые обычные психологи будут не в силах. Эта область знаний может оказаться самой важной во всей роботехнике, поскольку, если мы сумеем детально изучить два совершенно разных интеллекта, возможно, мы научимся понимать, что такое интеллект в гораздо более фундаментальном и широком смысле, чем это возможно сейчас. И что самое главное, мы сумеем лучше понять, что представляет собой интеллект человека, а это практически невозможно сделать, изучая только его.

 Робот как враг?

В 1942 году я изобрел Три закона роботехники. Самым важным из них является, естественно, Первый закон. Он гласит: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред». В своих рассказах я всегда старался подчеркнуть, что законы, особенно Первый, являются неотъемлемой частью робота, и он не может их нарушить.

Кроме того, я старался, хотя, возможно, и не так настойчиво, дать понять своим читателям, что эти законы не являются врожденными. Материал, из которого сделан робот, не содержит в себе этих законов. Они совершенно сознательно вносятся в мозг готового робота, иными словами, в компьютеры, которые контролируют его деятельность. Может так получиться, что какой-то определенный робот окажется не наделен знанием Трех законов, поскольку его примитивная конструкция не позволяет внести в него поведенческие схемы, достаточно сложные, чтобы он был вынужден им подчиняться, или поскольку человек, который создает робота, решит сознательно не вносить в его мозг знание Трех законов.

Пока — и, возможно, так будет еще достаточно долго — мы имеем дело с первой причиной. Роботы слишком примитивны, чтобы предвидеть, что какой-то их поступок может причинить вред человеку, и изменить свое поведение, чтобы этого не произошло. В настоящий момент у нас имеются лишь компьютеризированные устройства, которые способны выполнять набор определенных действий и не могут отойти в сторону от данных им инструкций. В результате роботы уже стали причиной смерти людей (как, впрочем, и обычные машины). Это ужасно, но вполне объяснимо, и мы можем предполагать, что по мере создания роботов с более сложной системой восприятия и способностью гибкого реагирования на изменение ситуации увеличится вероятность того, что в них будут внесены защитные блоки, эквивалентные Трем законам.

А как насчет второй альтернативы? Станут ли люди сознательно создавать роботов, не наделяя их знанием Законов роботехники? Боюсь, что такая возможность тоже существует. Уже идут разговоры о роботах-охранниках. Роботы могут патрулировать какие-нибудь территории или даже охранять вестибюли. В их задачу будет входить общение с людьми, которые появляются на данной территории или в здании. Вероятно, тот, кто имеет право войти или приглашен, получит карточку, идентифицирующую его личность, и тогда робот его пропустит. В наше время, когда столько внимания уделяется вопросам безопасности, такие идеи могут показаться вполне разумными, поскольку они явятся надежным способом борьбы с вандализмом и терроризмом,— получается, что робот будет выполнять роль дрессированной сторожевой собаки.

Однако стремление к безопасности порождает усложнение системы. Робот сумеет остановить непрошеного гостя, но сигнала тревоги может оказаться недостаточно. Людям захочется наделить его способностью изгнать посетителя, даже если при этом робот причинит ему вред — собака ведь тоже может укусить вас за ноги или перегрызть глотку. А что произойдет, если, например, глава фирмы забудет свою карточку в других брюках и, расстроившись, не успеет покинуть здание достаточно быстро? Или ребенок случайно войдет на охраняемую территорию? Я подозреваю, что, если робот причинит вред человеку, который не имеет никаких дурных намерений, мгновенно поднимется шум и ученые получат задание внести соответствующие изменения, чтобы ошибка не повторилась.