Раб корректуры. Айзек Азимов
Опубликовано: 30.07.2012, 16:15
Автор: Айзек Азимов
Страница 1 : Стр. 2 :
Рассказы о роботах.
Раб корректуры
Дело слушалось без присяжных при закрытых дверях. Ответчиком была фирма "Юнайтед Стейтс Роботс энд Мекэникл Мен Корпорейшн", а при ее влиянии добиться подобной уступки было не так уж трудно.
Впрочем, истец особенно и не возражал: попечители Северо восточного университета прекрасно представляли себе, как будет реагировать широкая публика на известие о проступке робота. То, что проступок этот был совершенно необычного и исключительного свойства, не имело значения. Попечители боялись, что бунт против роботов может перерасти в бунт против науки.
Равным образом и правительство в лице судьи Харлоу Шейна не собиралось поднимать шум вокруг этой истории. Портить отношения и с "Ю. С. Роботс", и с ученым миром было одинаково неблагоразумно.
- Итак, джентльмены, - начал судья, - поскольку ни присяжных, ни репортеров, ни публики здесь нет, мы можем отбросить формальности и перейти прямо к сути дела.
Он криво улыбнулся, не слишком веря в действенность своего призыва, и, подобрав мантию, уселся поудобнее. У судьи была добродушная румяная физиономия, округлый подбородок, нос картошкой и широко расставленные светло серые глаза. Словом, не такая бы внешность подобала могущественному вершителю правосудия, и судья в глубине души сознавал это.
Первым был приведен к присяге свидетель обвинения Барнабас Гудфеллоу, профессор физики Северо восточного университета. Сердитый вид, с которым профессор пробормотал стандартные слова клятвы, никак не вязались с его фамилией, означающей "славный малый".
Покончив с предварительными вопросами, обвинитель глубже засунул руки в карманы и спросил:
- Скажите, профессор, когда и при каких обстоятельствах к вам обратились с предложением воспользоваться услугами робота И Зет Двадцать Семь?
На маленьком, остром личике профессора появилось беспокойное выражение, но от этого оно не сделалось менее сердитым.
- Мне приходится поддерживать профессиональные контакты с директором исследовательского отдела "Ю. С. Роботс" доктором Альфредом Лэннингом, а кроме того, мы знакомы лично. Вот почему я счел возможным выслушать до конца то странное предложение, с которым он обратился ко мне третьего марта прошлого года…
- То есть две тысячи тридцать третьего года?
- Совершенно верно.
- Простите, что прервал вас. Продолжайте, будьте Добры.
Профессор холодно кивнул, нахмурился, припоминая все обстоятельства, и начал.
Профессор Гудфеллоу смотрел на робота с некоторым беспокойством. В соответствии с правилами перевозок роботов на Земле в подвал университетского склада робота доставили в закрытом контейнере.
Это событие не застало профессора врасплох. После телефонного разговора третьего марта он все больше поддавался настойчивым уговорам доктора Лэннинга и вот оказался с роботом лицом к лицу.
На расстоянии вытянутой руки робот выглядел пугающе огромным.
Доктор Лэннинг внимательно осмотрел робота, словно желая убедиться, что его не повредили при перевозке, а затем повернул голову с гривой седых волос в сторону профессора и взглянул на него из под мохнатых бровей.
- Перед вами робот И Зет Двадцать Семь, первый серийный робот данной модели. - Лэннинг повернулся к роботу. - Познакомься с профессором Гудфеллоу, Изи.
- Здравствуйте, профессор.
Голос робота звучал совершенно бесстрастно, но от неожиданности профессор вздрогнул.
Робот напоминал пропорционально сложенного человека семи футов росту - внешность роботов всегда была рекламной изюминкой фирмы "Ю. С. Роботс". Внешний вид да основные патенты на позитронный мозг - вот что обеспечило компании полную монополию в производстве роботов и почти полную монополию в производстве вычислительных машин.
Когда двое рабочих, доставивших робота, вышли из подвала, профессор Гудфеллоу несколько раз перевел взгляд с робота на Лэннинга.
- Надеюсь, он не опасен. - Судя по тону, профессор не питал на этот счет особых надежд.
- Куда менее опасен, чем, например, я, - ответил Лэннинг. - Меня вы можете вывести из себя настолько, что я вас ударю. А с Изи у вас ничего не получится. Вам ведь известны Три Закона Роботехники?
- Да, конечно.
- Эти законы встроены в структуру связей позитронного мозга, и робот не в состоянии их нарушить. Для робота Первый Закон - охранять жизнь и благополучие людей - определяет цель его существования.
Он помолчал, потер щеку и добавил:
- Как бы нам хотелось убедить наконец в этом все человечество.
- Очень уж он огромен.
- Верно. Но вы убедитесь, что его внушительная внешность не помешает ему быть полезным.
- Каким все таки образом? Из наших бесед по телефону я ничего определенного так и не узнал. Но я согласился взглянуть на ваше изделие и, как видите, сдержал свое обещание.
- Взглянуть мало, профессор. Вы захватили с собой, как я просил, какую нибудь книгу?
- Да.
- Покажите ее, пожалуйста.
Не спуская глаз с металлической громадины в человеческом облике, профессор нагнулся и достал из портфеля толстый том.
Лэннинг посмотрел на корешок.
- "Физическая химия растворов электролитов". Прекрасно. Вы выбрали ее сами, наугад. Я не просил вас захватить именно эту монографию. Не так ли?
- Совершенно верно.
Лэннинг протянул книгу роботу И Зет 27.
- Погодите! - Профессор даже подпрыгнул. - Это очень ценная книга!
Лэннинг приподнял лохматые брови.
- Уверяю вас, Изи вовсе не собирается рвать книгу с целью продемонстрировать свою силу, Он умеет обращаться с книгами не менее бережно, чем я или, вы. Продолжай, Изи.
- Благодарю вас, сэр, - сказал Изи. Затем слегка повернувшись, добавил: - Если позволите, профессор Гудфеллоу.
Профессор изумленно уставился на робота.
- Да… да, разумеется.
Медленными и плавными движениями металлических пальцев Изи принялся листать книгу; он кидал взгляд на левую страницу, затем на правую, переворачивал страницу и так минуту за минутой.
От робота исходило такое ощущение мощи, что двум людям, наблюдавшим за его действиями, начало казаться, что цементные своды стали ниже, а сами они превратились в карликов.
- Освещение здесь неважное, - пробормотал Гудфеллоу.
- Не имеет значения.
- Но что он делает? - уже более резким тоном спросил профессор.
- Терпение, сэр.
Наконец перевернута последняя страница.
- Мы слушаем, Изи, - сказал Лэннинг.
- Книга сделана в высшей степени тщательно и аккуратно, и я могу отметить лишь несколько мелких погрешностей, - начал робот. - На странице двадцать семь, строка двадцать вторая, слово "положительный" напечатано как "пойложительный". На тридцать шестой странице в шестой строке содержится лишняя запятая, а на пятьдесят четвертой странице в тринадцатой строке запятая пропущена. На странице триста тридцать седьмой в уравнении четырнадцать знак плюс следует заменить на минус, иначе это уравнение противоречит предыдущему…
- Постойте! Постойте! - вскричал профессор. - Что он делает?
- Что делает? - с неожиданным раздражением переспросил Лэннинг. - Да он все давно уже сделал. Он откорректировал вашу книгу.
- Откорректировал?
- Да. За то короткое время, которое понадобилось, чтобы перелистать страницы, робот обнаружил все орфографические, грамматические и пунктуационные ошибки, Он отметил все стилистические погрешности и выявил противоречия. И он сохранит эти сведения в своей памяти - буква в букву - неограниченное время.
У профессора отвисла челюсть. Он стремительно направился в дальний угол подвала и столь же стремительно вернулся обратно. Затем скрестил руки на груди и уставился на Лэннинга, потом на робота. После паузы он спросил:
- Вы хотите сказать, что это робот корректор?
Лэннинг кивнул.
- В том числе и корректор.
- Но для чего было демонстрировать его мне?
- Чтобы вы помогли мне предложить его университетскому совету.
- Для правки корректур?
- В том числе и для этого, - терпеливо повторил Лэннинг.
На морщинистом личике профессора появилось выражение брюзгливого недоверия.
- Но ведь это нелепо!
- Почему?
- А потому, что университету не по карману этот корректор весом… самое малое в полтонны.
- Корректура - это еще не все. Он может составлять отчеты по заранее подготовленным материалам, заполнять анкеты и ведомости, проверять студенческие работы, служить картотекой…
- Все это мелочи.
- Напротив, - ответил Лэннинг, - и вы в этом сейчас убедитесь. Но мне кажется, что нам будет удобнее беседовать у вас в кабинете, если вы не возражаете.
- Разумеется, - машинально произнес профессор и направился к двери, но тут же остановился, - Позвольте, а робот? - раздраженно выпалил он. - Не можем же мы взять робота с собой. Нет, нет, доктор Лэннинг, вам придется заново его упаковать.
- Успеется. Мы оставим Изи здесь.
- Без присмотра?
- А почему нет? Он знает, что должен остаться здесь. Давно уже следовало бы понять, профессор Гудфеллоу, что на робота можно положиться куда спокойнее, чем на человека.
- В случае какого нибудь ущерба отвечать придется мне.
- Я гарантирую, что никакого ущерба не будет. Послушайте, рабочий день уже кончился. До завтрашнего утра, полагаю, никто сюда не зайдет. Грузовик и двое рабочих ожидают снаружи. "Ю. С. Роботс" принимает на себя полную ответственность за любые последствия. Но ничего не произойдет. Пусть это будет экспериментальной проверкой, можно полагаться на робота или нет.
Профессор позволил увести себя из подвала. Но и пятью этажами выше, в стенах собственного кабинета, ему по прежнему было не по себе.
Он промокнул белым платком мелкие капли пота на лбу.
- Вы прекрасно знаете, доктор Лэннинг, что законы запрещают использовать роботов на Земле.
- Дело обстоит не так просто, профессор Гудфеллоу. Роботов нельзя использовать на улицах, путях сообщения или в общественных зданиях. Использование же роботов в домах частных лиц или на приусадебных участках связано с таким количеством ограничений, что из этого, как правило, ничего не выходит. Однако университет не попадает ни в ту, ни в другую категорию. Это большое закрытое заведение, которому обычно предоставляют значительные льготы. Если робота будут держать в специальном помещении и использовать только для академических целей и если люди, имеющие доступ в это помещение, согласятся выполнять определенные правила и соблюдать установленные ограничения, то ни один закон не будет нарушен.
- Столько хлопот ради нескольких корректур?
- Поле деятельности этого робота, дорогой профессор, практически безгранично. До сих пор роботов использовали только для избавления человека от утомительного физического труда. А разве в науке нет черновой работы? Если профессор, вместо того чтобы заниматься творческим, созидательным трудом, вынужден тратить две недели своего драгоценного времени на нудную правку корректуры, а я предлагаю вам машину, способную выполнить ту же работу за полчаса, - это, по вашему, мелочь?
- Да, но цена…
- Цена пусть вас не смущает. Купить И Зет Двадцать Семь не может никто. "Ю. С. Роботс" не продает свою продукцию. Но университет может арендовать робота за тысячу долларов в год - это куда дешевле какой нибудь самопишущей приставки к микроволновому спектрографу.
Гудфеллоу ошеломленно смотрел на своего гостя, и тот добавил, закрепляя успех:
- Впрочем, я прошу вас лишь об одном: поставить этот вопрос перед теми, кто у вас уполномочен принимать решения. Если им понадобится дополнительная информация, я всегда к их услугам.
- Что же, - неуверенно проговорил Гудфеллоу, - на той неделе состоится заседание университетского совета. Я расскажу на нем о вашем предложении. Только я ни за что не ручаюсь.
- Само собой разумеется.
Защитник - невысокого роста толстяк - так важно выпячивал грудь, что от этого его двойной подбородок становился еще заметнее. Когда настала его очередь допрашивать свидетеля, он долго разглядывал профессора Гудфеллоу и затем спросил:
- А ведь вы довольно охотно дали согласие?
- Дело в том, что мне не терпелось избавиться от доктора Лэннинга, - живо ответил профессор. - В тот момент я готов был согласиться на что угодно.
- С тем чтобы, как только он уйдет, сразу же позабыть про свое обещание?
- Видите ли…
- Но ведь это вы предложили университетскому совету арендовать робота?
- Да.
- Следовательно, ваше согласие вовсе не было отговоркой. Вы дали его охотно и сдержали свое обещание.
- Я действовал согласно принятой у нас процедуре.
- И вы вовсе не были так уж напуганы роботом, как это пытались здесь представить. Вы знаете Три Закона Роботехники, и они вам были известны еще до той встречи с доктором Лэннингом?
- Мм, да…
- Потому то вы так легко и согласились оставить робота без присмотра?
- Доктор Лэннинг уверил меня…
- Но будь у вас хоть малейшие сомнения, вы не удовлетворились бы его заверениями, не так ли?
- У меня были все основания полагаться на слово…
- Вопросов больше не имею, - прервал его защитник.
Когда профессор Гудфеллоу в еще более, чем прежде, раздраженном настроении покинул свидетельскую скамью, судья Шейн слегка наклонился вперед и спросил:
- Поскольку я не специалист по роботам, то мне Хотелось бы узнать точный смысл Трех Законов Роботехники. Не мог бы профессор Лэннинг процитировать их суду?
Доктор Лэннинг в этот момент о чем то шептался с сидевшей рядом седовласой женщиной. Вздрогнув от неожиданности, он встал. Женщина подняла голову - ее лицо было совершенно непроницаемо.
- Хорошо, ваша честь, - сказал доктор Лэннинг, сделал паузу, точно собирался произнести длинную речь, и заговорил, четко выделяя каждое слово:
- Первый Закон: робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред. Второй Закон: робот должен повиноваться приказам, которые отдает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону. Третий Закон: робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому и Второму Законам.
- Понимаю, - сказал судья, что то быстро записывая. - И эти законы определяют поведение каждого робота?
- Каждого, без исключения, Любой специалист может это подтвердить.
- В том числе, робота И Зет Двадцать Семь?
- Да, ваша честь.
- Возможно, вам придется повторить это утверждение под присягой.
- Я готов, ваша честь.
Он сел.
Его седовласая собеседница, Главный Робопсихолог компании "Ю. С. Роботс" доктор Сьюзен Кэлвин, поглядела на своего начальника без особого почтения. Впрочем, люди редко пользовались ее расположением.
- Показания Гудфеллоу были точными, Альфред? - спросила она.
- В целом, да, - пробормотал Лэннинг, - правда, он вовсе не был так уж напуган роботом, а когда услышал цену, то вполне был готов по деловому обсуждать мое предложение. Но в остальном он не слишком уклонился от истины.
- Было бы разумнее назначить более высокую цену, - задумчиво проговорила доктор Кэлвин.
- Мы старались пристроить Изи.
- Знаю, Возможно даже, что перестарались. Они представят это так, словно мы преследовали какие то свои цели.
- Так оно и было, - раздраженно заметил доктор Лэннинг. - Я сам это признал на заседании университетского совета.
- Они могут представить дело так, словно мы признались в одних замыслах, чтобы скрыть другие, более тайные.
Скотт Робертсон, сын основателя "Ю.С. Роботс" и владелец контрольного пакета акций, наклонился к Сьюзен Кэлвин с другой стороны и произнес оглушительным шепотом:
- Если бы вы заставили Изи рассказать, как все было на самом деле, мы бы сейчас знали, что к чему.
- Вам же известно, мистер Робертсон, что он не в состоянии говорить об этом.
- Так заставьте его! На то вы и психолог, доктор Кэлвин. Заставьте его говорить.
- Коль скоро я психолог, мистер Робертсон, - сухо произнесла Сьюзен Кэлвин, - так позвольте уж мне самой решать. Я не допущу, чтобы моего робота принуждали к опасным для него действиям.
Робертсон нахмурился, но, прежде чем он успел что то сказать, судья Шейн постучал молоточком, и разговор пришлось прекратить.
Теперь показания давал Фрэнсис Харт, декан филологического факультета; это был полнеющий мужчина в безукоризненном темно сером костюме строгого покроя. Розовую лысину декана пересекали несколько жиденьких прядей волос. Он сидел, чуть откинувшись, аккуратно сложив руки на коленях, и время от времени натянуто улыбался.
- Впервые о Роботс И Зет Двадцать Семь я услышал от профессора Гудфеллоу на заседании университетского совета, - начал он. - Позднее, десятого апреля прошлого года, мы посвятили этому вопросу специальное заседание, на котором я был председателем.
- У вас сохранился протокол?
- Видите ли, - сухо улыбнулся декан, - мы не вели протокола. Наше заседание носило конфиденциальный характер.
- Что же произошло на этом заседании?
Сидя на председательском месте, декан Харт чувствовал себя не вполне уверенно. Заметно нервничали и другие члены совета. Один лишь доктор Лэннинг являл собой картину безмятежного спокойствия, Худой и высокий, с копной седых волос, он был похож на портреты президента Эдрю Джексона.
На столе перед членами совета лежали образцы заданий, выполненных роботом. Профессор физической химии Мэйнотт с одобрительной улыбкой разглядывал вычерченный Изи график.
Харт откашлялся и сказал:
- Робот, несомненно, способен компетентно выполнять определенную черновую работу. Перед заседанием я просмотрел эти образчики и должен заметить, что ошибок в них практически нет.
Он взял со стола длинные бумажные полосы, примерно втрое длиннее обычной книжной страницы. Это были типографские гранки, в которые авторы вносят исправления, прежде чем текст будет сверстан окончательно. Широкие поля гранок пестрели четкими корректурными знаками. Отдельные слова в тексте были вычеркнуты, а вместо них на полях были написаны другие таким красивым и четким шрифтом, что казалось, будто они тоже напечатаны. Синие чернила указывали, что ошибку допустил автор, красные - наборщик.
- Я полагаю, что ошибок нет не только практически, - сказал Лэннинг. - Готов поручиться, доктор Харт, что их нет вовсе. Я не знаком с текстом, но совершенно уверен, что корректура проведена безукоризненно. Если же рукопись содержит ошибки по существу вопроса, то их исправление не входит в обязанности робота.
- С этим никто и не спорит. Однако робот в нескольких местах изменил порядок слов, а я не уверен, что правила английской грамматики сформулированы настолько точно, чтобы мы могли надеяться, что поправки робота во всех случаях не исказят смысл.
- Позитронный мозг Изи, - ответил Лэннинг, обнажая в улыбке крупные зубы, - вобрал в себя содержание основных работ в области грамматики. Убежден, что вы не можете указать хотя бы на одну неверную поправку.
Профессор Мэйнотт оторвался от графика.
- Я хочу спросить, доктор Лэннинг, а зачем вообще для этой цели нужен робот, учитывая неблагоприятное общественное мнение и связанные с этим трудности? Уверен, что успехи науки в области автоматизации позволяют вашей фирме сконструировать вычислительную машину обычного и всеми признанного типа, которая была бы способна держать корректуру.
- Разумеется, это в наших силах, - сухо ответил Лэннинг, - но для такой машины потребуется кодировать текст при помощи специальных символов, а затем переносить его на перфоленту. Машина будет выдавать поправки тоже в закодированном виде. Вам понадобятся программисты для перевода слов в символы и символов в слова. К тому же, такая машина ни на что другое не будет способна. Например, она не сумеет вычертить график, который вы сейчас держите в руках.
Мэйнотт что то пробурчал себе под нос.
- Гибкость и приспособляемость - вот важнейшие черты робота с позитронным мозгом, - продолжал Лэннинг. - Робот потому и сконструирован по образу человека, чтобы он мог пользоваться орудиями и приборами, которые люди испокон веку создавали для собственного употребления. Поэтому робот пригоден для выполнения самых различных заданий. С роботом можно разговаривать, и он способен отвечать. С ним можно даже поспорить, и его можно переубедить - в определенных пределах, разумеется. По сравнению с самым простеньким роботом с позитронным мозгом обычная вычислительная машина - всего лишь огромный арифмометр.
- Но если все примутся спорить с роботом и переубеждать его, то не кончится ли это тем, что робот вконец запутается? - спросил Гудфеллоу. - Полагаю, что способность робота усваивать новую информацию не безгранична.
- Верно. Но при нормальном использовании его памяти хватит по крайней мере на пять лет. Робот сам определит, когда его память будет нуждаться в очистке, и тогда наша компания выполнит эту работу без дополнительной оплаты.
- Ваша компания?
- Да. Компания оставляет за собой право обслуживать роботов своего производства и поддерживать их в рабочем состоянии. Поэтому мы и не продаем наших роботов, а лишь сдаем их в аренду. Пока робот выполняет те функции, для которых он предназначен, им может управлять любой человек. Но вне этих рамок необходимы опыт и знания, которыми обладают наши специалисты. Например, любой из вас в состоянии частично очистить память робота И Зет. Для этого достаточно просто приказать ему, чтобы он забыл те или иные сведения. Но почти наверняка такой приказ будет сформулирован неточно, и робот забудет либо слишком мало, либо слишком много. Мы без труда обнаружим подобное манипулирование с роботом - для этой цели в мозг робота встроены специальные предохранительные устройства. Но поскольку в обычных условиях нет необходимости очищать память робота или совершать другие столь же бесполезные действия, то этой проблемы и не существует.
Декан Харт осторожно потрогал лысину, словно желая убедиться, что заботливо уложенные пряди лежат на своих местах, и сказал:
- Вы стремитесь уговорить нас арендовать эту машину. Но ведь для вас это явно убыточная операция. Тысяча в год - это смехотворно низкая цена. Может быть, "Ю. С. Роботс" надеется в результате этой сделки получить с других университетов более высокую арендную плату?
- Надежда вполне правомерная.
- Пусть так. Все равно число таких машин не может быть велико. Вряд ли эта операция принесет вам сколько нибудь значительную прибыль.
Лэннинг положил локти на стол и с самым искренним видом наклонился вперед.
- Позвольте мне говорить напрямик, джентльмены. Широко распространенное предубеждение против роботов не позволяет, за исключением отдельных редких случаев, использовать их на Земле. "Ю. С. Роботс" получает неплохие прибыли на внеземном рынке: наши роботы работают на космических кораблях и на других планетах. Я не говорю уже о наших филиалах, выпускающих вычислительные машины. Но нас волнуют не только прибыли. Мы твердо верим, что использование роботов на Земле принесет людям неисчислимые блага, даже если вначале оно и обернется некоторыми экономическими неурядицами. Против нас профсоюзы, это естественно, но мы вправе ждать поддержки от крупных университетов. Робот Изи освободит вас от черной работы, он станет вашим рабом, рабом корректуры. Затем вашему примеру последуют другие университеты и исследовательские центры, и если дело пойдет на лад, то затем нам удастся разместить роботов и других типов, и так шаг за шагом мы постепенно сумеем развеять это злосчастное предубеждение.
- Сегодня Северо восточный университет, завтра - весь мир, - пробормотал себе под нос профессор Мэйнотт.
- Я вовсе не был так красноречив, - сердито прошептал Лэннинг на ухо Сьюзен Кэлвин, - да и они тоже совсем не упирались. Их более чем устраивала перспектива заполучить Изи за тысячу в год. Профессор Мэйнотт сказал мне, что он никогда еще не видел так красиво вычерченного графика, а в корректуре не было ни единой ошибки. Харт охотно признал это.
Суровые вертикальные морщинки на лбу Сьюзен Кэлвин обозначились еще более резко.
- Все равно, Альфред, вам следовало бы для начала назначить такую цену, которую они бы явно не смогли заплатить, а уж потом, когда они стали бы уговаривать вас сбавить ее, пойти на уступки.
- Возможно, - нехотя согласился Лэннинг. Обвинитель продолжал допрос свидетеля.
- После того как доктор Лэннинг вышел, вы поставили вопрос об аренде робота на голосование?
- Совершенно верно.
- И каков был результат?
- Большинством голосов было решено принять сделанное нам предложение.
- Как вы думаете, что решило исход голосования?
Защитник немедленно заявил протест.
Обвинитель перефразировал вопрос.
- Что повлияло на вас лично? Если не ошибаюсь вы голосовали и "за"?
- Совершенно верно. Я голосовал за то, чтобы принять предложение "Ю. С. Роботс", так как на меня произвели впечатление слова доктора Лэннинга о том, что мы, ученые, обязаны развеять предубеждение человечества против роботов и тогда люди смогут использовать роботов для того, чтобы облегчить свой труд.
- Другими словами, вы поддались на уговоры доктора Лэннинга?
- Перед доктором Лэннингом стояла задача уговорить нас. Он прекрасно с ней справился.
- Передаю свидетеля вам, - сказал обвинитель, обращаясь к защитнику.
Адвокат вышел вперед и несколько секунд внимательно разглядывал профессора Харта.
- На самом деле всем вам очень хотелось получить в аренду робота И Зет Двадцать Семь, не правда ли?
- Мы надеялись, что робот, если он и впрямь сможет выполнять указанные операции, будет нам полезен.
- Если сможет? Насколько я понял, перед тем заседанием, которое вы нам только что описали, именно вы внимательно ознакомились с образчиками деятельности робота И Зет Двадцать Семь?
- Да, я. Поскольку робот в основном предназначен для исправления грамматических и стилистических ошибок, а английский язык - это моя специальность, то было логично поручить проверку работы машины именно мне.
- Очень хорошо. Так вот, среди всех образчиков было ли хоть одно задание, с которым бы робот справился не вполне удовлетворительно? Вот эти образчики, они фигурируют в деле в качестве вещественных доказательств. Можете ли вы указать среди них хотя бы один неудовлетворительный пример?
- Видите ли…
- Я задал вам простой вопрос. Вы проверяли эти материалы. Можете ли вы указать хотя бы одну ошибку робота?
Профессор нахмурился.
- Нет.
- Перед вами образчики заданий, выполненных роботом за четырнадцать месяцев его деятельности в Северо восточном университете. Не будете ли вы так добры ознакомиться с ними и указать хотя бы одну единственную ошибку?
- Когда он в конце концов ошибся, то это была всем ошибкам ошибка! - ответил профессор.
- Отвечайте на мой вопрос, - загремел защитник, - и только на него! Можете ли вы отыскать хоть одну ошибку в этих материалах?
Декан Харт внимательно просмотрел каждый лист.
- Здесь все в порядке.
- Если исключить тот случай, который сейчас рассматривает суд, знаете ли вы хотя бы об одной ошибке, допущенной роботом И Зет Двадцать Семь?
- Если исключить случай, рассматриваемый судом, то не знаю.
Защитник откашлялся, словно отмечая конец абзаца, и задал новый вопрос:
- Вернемся теперь к голосованию. Вы сказали, что большинство голосовало за аренду. Как распределились голоса?
- Насколько я помню, тринадцать против одного.
- Тринадцать против одного! Не кажется ли вам, что это нечто большее, чем просто большинство?
- Нет, сэр, не кажется. - Весь профессорский педантизм свидетеля вырвался при этом вопросе наружу. - Слово "большинство" означает "больше, чем половина". Тринадцать из четырнадцати - это большинство, и ничего больше.
- Практически единогласно.
- И тем не менее всего лишь большинство.
Защитник изменил направление атаки.
- И кто же был единственным несогласным?
Декан Харт заметно смутился.
- Профессор Саймон Нинхаймер.
Защитник разыграл изумление.
- Профессор Нинхаймер? Заведующий кафедрой социологических наук.
- Да, сэр.
- То есть истец?
- Да, сэр.
Защитник поджал губы.
- Иными словами, вдруг обнаружилось, что человек, требующий у моего клиента, "Юнайтед Стейтс Роботс энд Мекэникл Мен Корпорейшн", возмещение ущерба в размере семисот пятидесяти тысяч долларов, и был тем единственным, кто с самого начала возражал против аренды робота, вопреки единодушному мнению всех остальных членов совета.
- Он голосовал против - это его право.
- Кстати, когда вы рассказывали о том заседании, вы не упомянули ни об одном замечании профессора Нинхаймера. Он что нибудь говорил?
- Кажется, да.
- Только кажется?
- Он высказал свое мнение.
- Против аренды робота?
- Да.
- В резкой форме?
- Он был просто вне себя, - ответил декан Харт после небольшой паузы.
В голосе защитника появились вкрадчивые нотки.
- Профессор Харт, скажите, вы давно знакомы с профессором Нинхаймером?
- Лет двадцать.
- И хорошо его знаете?
- Думаю, что да.
- Не кажется ли вам, что это было в его характере - затаить злобу против робота, тем более что результаты голосования…
Конец фразы нельзя было расслышать из за негодующего возражения обвинителя. Защитник заявил, что у него больше нет вопросов к свидетелям, и судья Шейн объявил перерыв на обед.
Робертсон угрюмо жевал бутерброд. Конечно, три четверти миллиона корпорацию не разорят, но и эти деньги лишними не назовешь. К тому же, неблагоприятная реакция общественного мнения в случае проигрыша процесса обойдется в конечном итоге еще дороже.
- Зачем им понадобилось так обсасывать вопрос о том, как Изи попал в университет? - раздраженно спросил он. - Чего они этим собираются добиться?
- Видите ли, мистер Робертсон, - спокойно ответил адвокат, - судебное разбирательство напоминает шахматную партию. Выигрывает тот, кто сумеет оценить ситуацию на большее число ходов вперед, и мой коллега, представляющий интересы истца, отнюдь не новичок в этой игре. Доказать, что истцу нанесен ущерб, они могут без особых хлопот. Главные их усилия направлены на то, чтобы заранее подорвать нашу защиту. Они, вероятно, полагают, что мы будем пытаться доказать на основании Законов Роботехники, что Изи просто не мог совершить подобное действие.
- Но ведь так оно и есть, - сказал Робертсон. - Лучший довод в нашу пользу и придумать трудно.
- Да, для тех, кто знает Роботехнику. Однако судье этот довод может показаться не слишком убедительным. Обвинение пытается создать впечатление, будто И Зет Двадцать Семь - не вполне обычный робот. Это первый робот данного типа, переданный потребителю. Иными словами, это экспериментальная модель, которой необходимо пройти рабочие испытания, а университет оказался наиболее удобным местом для проведения таких испытаний. Настойчивые усилия доктора Лэннинга и низкая арендная плата делают такое толкование очень правдоподобным. После этого обвинение станет утверждать, что испытания показали непригодность модели. Теперь вы понимаете подоплеку их маневров?
- Но ведь И Зет Двадцать Семь - прекрасная, хорошо отлаженная модель, - возразил Робертсон. - Не забывайте, что в своей серии он был двадцать седьмым!
- А это уж и вовсе довод не в нашу пользу, - мрачно ответил защитник. - Почему не пошли первые двадцать шесть? Что то, видимо, с ними было не так. Почему же тогда и в двадцать седьмом не может быть дефектов?
- Никаких дефектов в первых двадцати шести моделях не было - просто их позитронный мозг оказался слишком примитивным для данной работы. Мы только приступили к созданию позитронного мозга нужного типа и продвигались к цели почти вслепую, методом проб и ошибок. Но все эти роботы подчинялись Трем Законам. Нарушить Три Закона не может ни один робот, как бы несовершенен он ни был.
- Доктор Лэннинг уже объяснил мне все это, мистер Робертсон, и я вполне готов положиться на его слово. Но судья может придерживаться другого мнения. Решение по нашему делу должен вынести честный и неглупый человек, но он не сведущ в робопсихологии, и его нетрудно сбить с толку. Вот вам пример. Если вы, или доктор Лэннинг, или доктор Кэлвин, выступая в качестве свидетелей, заявите, что позитронный мозг создают методом проб и ошибок, как вы только что здесь сказали, то обвинитель сделает из вас котлету и процесс будет проигран безвозвратно, Так что остерегайтесь необдуманных высказываний.
- Если бы только Изи заговорил, - проворчал Робертсон.
- Что толку! - пожал плечами защитник. - Это ничего бы не дало. Робот не может быть свидетелем.
- Мы хотя бы знали факты. Узнали бы наконец почему он совершил этот поступок.
- А это нам и без того известно.
Голос Сьюзен Кэлвин потерял ледяную сухость, а на ее щеках заалели багровые пятна.
- Ему приказали! Я уже объяснила это адвокату, могу и вам объяснить.
- Кто приказал? - искренне изумился Робертсон. (Никто ему ничего никогда не рассказывает, обиженно подумал он. Черт возьми, эти ученые ведут себя так, словно они и есть настоящие владельцы "Ю. С. Роботс"!)
- Истец, - ответила доктор Кэлвин.
- Зачем ему это понадобилось?
- Еще не знаю. Может, просто для того, чтобы предъявить нам иск и отсудить кругленькую сумму.
В ее глазах при этом появился холодный блеск.
- Что же мешает Изи сказать об этом?
- Неужели и это не ясно? Ему приказали молчать - вот и все.
- С какой стати это ясно? - раздраженно допытывался Робертсон.
- Во всяком случае, это ясно мне. Хотя Изи отказывается отвечать на прямые вопросы, но на косвенные вопросы он отвечает. Измеряя степень нерешительности, возрастающую по мере приближения к сути дела, а также площадь затронутого участка мозга и величину отрицательных потенциалов, можно с математической точностью доказать, что его поведение вызвано приказом молчать, причем сила приказа соответствует Первому Закону. Говоря попросту, роботу объяснили, что если он проговорится, то причинит вред человеку. Надо думать, этот человек и есть сам истец, этот мерзкий профессор Нинхаймер, которого робот все же воспринимает как человека.
- Хорошо, а почему бы вам не объяснить ему, что его молчание повредит "Ю. С. Роботс"? - спросил Робертсон.
- "Ю. С. Роботс" не является человеком, а на корпорации, в отличие от юридических законов, не распространяется Первый Закон Роботехники. Кроме того, попытка снять запрет может повредить мозг робота. Снять запрет с минимальным риском может только тот, кто приказал Изи молчать, поскольку все усилия робота сейчас сосредоточены на том, чтобы уберечь этого человека от опасности. Любой другой путь… - Сьюзен Кэлвин покачала головой, и лицо ее снова сделалось бесстрастным. - Я не допущу, чтобы пострадал робот, - закончила она.
- По моему, вполне достаточно будет доказать, что робот не в состоянии совершить поступок, который ему приписывают, а это нам нетрудно! - У Лэннинга был такой вид, словно он поставил проблему с головы на ноги.
- Бот именно, вам! - раздраженно отозвался адвокат. - Как назло, все эксперты, способные засвидетельствовать, что творится в мозгах у робота, состоят на службе у "Ю. С. Роботс". Боюсь, судья может не поверить в непредубежденность ваших показаний.
- Но разве он может принять решение вопреки свидетельским показаниям экспертов?
- Разумеется, если вы его не убедите. Это его право как судьи. Неужели вы полагаете, что технический жаргон ваших инженеров прозвучит для судьи более убедительно, чем предположение, будто такой человек, как профессор Нинхаймер, способен - пусть даже ради очень крупной суммы - намеренно погубить свою научную репутацию. Судья тоже человек. Если ему приходится выбирать, кто из двоих - робот или человек - совершил невозможный для них поступок, то скорее всего он вынесет решение в пользу человека.
- Но человек способен на невозможный поступок, - возразил Лэннинг, - потому что мы не знаем всех тонкостей человеческой психологии и не в состоянии определить, что возможно для данного человека, а что - нет. Но мы точно знаем, что невозможно для робота.
- Что ж, посмотрим, удастся ли нам убедить в этом судью, - устало ответил защитник.
- Если все обстоит так, как вы говорите, - проворчал Робертсон, - я не понимаю, как вы вообще надеетесь выиграть процесс.
- Поживем - увидим, Всегда полезно отдавать себе отчет в предстоящих трудностях, но не будем падать духом. Я тоже продумал партию на несколько ходов вперед. - Он учтиво наклонил голову в сторону Сьюзен Кэлвин и добавил: - …с любезной помощью этой дамы.
- Это еще что? - удивленно посмотрел на них Лэннинг.
Но как раз в этот момент судебный пристав просунул голову в дверь и, отдуваясь, возвестил, что заседание начинается.
Они заняли свои места и принялись разглядывать человека, который заварил всю эту кашу.
У Саймона Нинхаймера была пышная рыжеватая шевелюра, нос с горбинкой, острый подбородок и манера предварять ключевое слово нерешительной паузой, создававшей впечатление мучительных поисков недостижимой точности выражений. Когда он произносил: "Солнце восходит… мм… на востоке", не оставалось сомнений, что он с должным вниманием рассмотрел и все остальные варианты.
- Вы возражали против аренды робота И Зет Двадцать Семь? - спросил обвинитель.
- Да, сэр.
- Из каких соображений?
- У меня создалось впечатление, что мы не вполне понимаем… ммм… мотивы, движущие "Ю. С. Роботс". Меня смущала та настойчивость, с которой они пытались навязать нам своего робота.
- Вы полагали, что он не сможет справиться с порученной ему работой?
- Я убедился в этом на деле.
- Не могли бы вы рассказать, как это произошло?
Свою монографию "Социальные конфликты, связанные с космическими полетами, и их разрешение" Саймон Нинхаймер писал восемь лет. Его страсть к точности выражений не ограничивалась устной речью: поиски строгих и отточенных формулировок в столь неточной науке, как социология, отнимали все его силы.
Даже появление корректурных листов не создало у Нинхаймера ощущения, что его труд близок к завершению. Скорее напротив. Глядя на длинные полосы гранок, он испытывал непреодолимое желание рассыпать набор и переписать всю книгу заново.
Через три дня после получения корректуры Джим Бейкер, преподаватель и не сегодня завтра доцент кафедры, вошел к Нинхаймеру и застал его в рассеянном созерцании пачки гранок. Типография прислала их в трех экземплярах: над первым должен был работать сам Нинхаймер, над вторым - независимо от него Бейкер, а в третий после обсуждения должны были быть внесены окончательные поправки. Они выработали эту практику за три года совместной работы, и она себя вполне оправдывала.
В руках у Бейкера был его экземпляр корректуры.
- Я кончил проверять первую главу, - весело произнес он. - В ней есть такие типографские перлы!
- В первой главе их всегда полно, - безучастно отозвался Нинхаймер.
- Займемся сверкой прямо сейчас? Нинхаймер поднял голову и мрачно уставился на Бейкера.
- Я не притрагивался к корректуре, Джим. Я решил не утруждать себя.
- Не утруждать? - Бейкер вконец растерялся.
Нинхаймер поджал губы.
- Я решил… мм… воспользоваться машиной. Коль на то пошло, ее предложили нам в качестве… мм… корректора. Меня включили в график.
- Машину? Вы хотите сказать - Изи?
- Я слышал, что ее называют этим дурацким именем.
- А я то думал, доктор Нинхаймер, что вы предпочли бы обойтись без ее помощи!
- По видимому, я единственный, кто ею не пользуется, Почему бы и мне не получить… мм… свою долю благ.
- Выходит, зря я корпел над первой главой, - расстроенно произнес молодой человек.
- Не зря. Мы используем эту работу для проверки.
- Разумеется, если вы считаете это нужным, только…
- Что?
- Сомневаюсь, что после Изи работу нужно проверять. Говорят, он никогда не ошибается.
- Возможно, и так, - сухо ответил Нинхаймер.
Четыре дня спустя Бейкер вновь принес первую главу. На сей раз это был экземпляр Нинхаймера, только что доставленный из специальной пристройки, где работал Изи.
Бейкер торжествовал.
- Доктор Нинхаймер, он не только обнаружил все замеченные мною опечатки, но нашел еще с десяток, которые я пропустил! И на все у него ушло только двенадцать минут!
Нинхаймер просмотрел пачку листов с аккуратными четкими пометками и исправлениями на полях.
- Полагаю, что мы с вами лучше бы справились с этой задачей. В первую главу следует включить ссылку на работу Сузуки о влиянии слабых гравитационных полей на нервную систему.
- Вы имеете в виду его статью в "Социологическом обзоре"?
- Совершенно верно.
- Нельзя требовать от Изи невозможного. Он не в состоянии следить вместо нас с вами за научной литературой.
- Это я понимаю. Дело в том, что я подготовил нужную вставку, Я собираюсь зайти к машине и удостовериться, что она… мм… умеет делать вставки.
- Конечно, умеет.
- Предпочитаю убедиться в этом лично.
Нинхаймер попросил разрешения поговорить с роботом, но смог получить лишь пятнадцать минут, и то поздно вечером.
Впрочем, пятнадцати минут вполне хватило. Робот И Зет 27 сразу понял, как делают вставки.
Нинхаймер впервые оказался на таком близком расстоянии от робота, и ему стало не по себе. Машинально он спросил у робота, словно тот был человеком:
- Вам нравится ваша работа?
- Чрезвычайно нравится, профессор Нинхаймер, - серьезно ответил Изи.
Фотоэлементы, заменявшие ему глаза, отсвечивали, как обычно, темно красными бликами.
- Вы меня знаете?
- Вы передали мне дополнительный материал для включения в корректуру, из чего следует, что вы автор книги. Фамилия автора напечатана вверху каждого корректурного листа.
- Понимаю. Следовательно, вы способны… мм… делать логические заключения. Скажите, - не удержался он от вопроса, - а что вы думаете о моей книге?
- Я нахожу, что с ней очень приятно работать, - ответил Изи.
- Приятно? Что за странное выражение со стороны… мм… бесчувственного автомата. Мне говорили, что вы не способны испытывать какие либо эмоции.
- Слова вашей книги хорошо сочетаются со схемой позитронных связей в моем мозгу, - объяснил Изи. - Они почти никогда не вызывают отрицательных потенциалов. Заложенная в меня программа переводит это механическое состояние словом "приятно". Эмоции тут ни при чем.
- Понимаю. А почему книга кажется вам приятной?
- Она посвящена людям, профессор, а не математическим символам или неодушевленным предметам. В своей книге вы пытаетесь понять людей и способствовать их счастью.
- А это совпадает с целью, ради которой вы созданы, поэтому моя книга хорошо сочетается со схемой связей у вас в мозгу?
- Именно так, профессор.
Четверть часа истекли. Нинхаймер вышел и направился в университетскую библиотеку. Он попал в нее перед самым закрытием, но успел все же разыскать учебник по робопсихологии и унес его домой.
Если не считать отдельных вставок, корректура поступала теперь из типографии к Изи, а от него снова шла в типографию. Первое время Нинхаймер изредка просматривал гранки, а затем и вовсе перестал в них заглядывать.
- Мне начинает казаться, что я лишний, - смущенно признался Бейкер.
- Пусть лучше вам начнет казаться, что у вас высвободилось время для новой работы, - ответил Нинхаймер, продолжая делать пометки в только что полученном номере реферативного журнала "Социальные науки".
- Просто я никак не привыкну к новому порядку. Я продолжаю беспокоиться из за корректуры. Это глупо, я знаю.
- Крайне глупо.
- Вчера я просмотрел несколько листов, прежде чем Изи отослал их…
- Что?! - Нинхаймер нахмурившись посмотрел на Бейкера, Журнал, который он выпустил из рук, закрылся. - Вы вмешались в работу машины?
- Всего лишь на минутку. Все было в полном порядке. Кстати, Изи заменил одно слово. Вы охарактеризовали какое то действие как преступное, а Изи заменил это слово на "безответственное". Он решил, что второе определение лучше соответствует контексту.
- А как по вашему? - задумчиво спросил Нинхаймер.
- Знаете, я согласен с Изи. Я оставил его поправку. Нинхаймер повернулся вместе с вращающимся креслом к своему молодому помощнику.
- Послушайте, мне бы не хотелось, чтобы это повторялось. Если уж приходится пользоваться услугами машины, надо пользоваться ими… мм… в полной мере. Что же я выигрываю, обращаясь к машине, если при этом я лишаюсь… мм… вашей помощи, поскольку вы растрачиваете время на контроль машины, весь смысл которой в том, что она не нуждается в контроле. Вы поняли?
- Хорошо, доктор Нинхаймер, - смиренно произнес Бейкер.
Авторские экземпляры "Социальных конфликтов" были получены на кафедре Нинхаймера 8 мая. Он мельком перелистал страницы, пробежав глазами несколько абзацев, и убрал книги.
Позднее он объяснил, что совсем забыл про них. Восемь лет трудился он над своей монографией, но в течение прошлых месяцев все заботы о выпуске книги перешли к Изи, а его полностью поглотили новые интересы. Он не удосужился подарить традиционный экземпляр университетской библиотеке. Даже Бейкер, который после недавнего выговора с головой ушел в работу и старался не попадаться заведующему кафедрой на глаза, даже он не получил книги в подарок.
Этот период забвения окончился 16 июня. В кабинете Нинхаймера раздался телефонный звонок, и профессор изумленно уставился на экран.
- Шпейдель? Вы приехали?
- Нет, сэр! Я звоню из Кливленда! - Голос Шпейделя прерывался от плохо сдерживаемого гнева.
- Что же вы хотите мне сказать?
- А то, что я только сейчас кончил просматривать вашу книгу! Нинхаймер, что с вами? Уж не сошли ли вы с ума?
Нинхаймер весь напрягся.
- Вы нашли… мм… ошибку? - с беспокойством спросил он.
- Ошибку?! Да вы только взгляните на пятьсот двадцать шестую страницу. Как вы посмели настолько извратить мою работу? Где в цитируемой вами статье я утверждаю, будто преступная личность - это фикция, а подлинными преступниками являются полиция и суд? Вот послушайте…
- Стойте! Стойте! - завопил Нинхаймер, лихорадочно листая страницы. - Позвольте мне взглянуть!.. О боже!
- И что вы скажете?
- Шпейдель, я ума не приложу, как это могло произойти. Я никогда не писал ничего подобного.
- Это напечатано черным по белому! И это еще далеко не самое худшее. Загляните на страницу шестьсот девяностую и попробуйте вообразить, что из вас сделает Ипатьев, когда узнает, как вы обошлись с его выводами! Послушайте, Нинхаймер, ваша книга буквально напичкана подобными подтасовками. Не знаю, о чем вы думали… но, по моему, у вас нет иного выхода, как изъять книгу из продажи. И вам долго придется приносить извинения на следующей конференции социологов!
- Шпейдель, выслушайте меня…
Но Шпейдель с такой яростью дал отбой, что по экрану пошли цветные пятна.
Вот тогда то Нинхаймер уселся за книгу и принялся отмечать абзацы красными чернилами.
При новой встрече с роботом профессор на редкость хорошо сохранял самообладание, только губы у него совсем побелели. Он протянул книгу Изи.
- Будьте добры прочитать абзацы, отмеченные на страницах пятьсот шестьдесят два, шестьсот тридцать один, шестьсот шестьдесят четыре и шестьсот девяносто.
Роботу понадобилось четыре взгляда.
- Готово, профессор Нинхаймер.
- Эти абзацы отличаются от первоначального текста.
- Да, сэр. Отличаются.
- Это вы их переделали?
- Да, сэр.
- Почему?
- Эти абзацы, в том виде, как вы их написали, сэр, содержат весьма неодобрительные отзывы о некоторых группах людей. Я счел целесообразным изменить некоторые формулировки, чтобы эти люди не пострадали.
- Да как вы осмелились?
- Профессор, Первый Закон не позволяет мне бездействовать, если вследствие этого могут пострадать люди. А принимая во внимание вашу репутацию ученого и ту известность, которую ваша книга получит среди социологов, нетрудно понять, что ваши неодобрительные отзывы причинят этим людям несомненный вред.
- А вы понимаете, какой вред вы причинили мне?
- Из двух зол необходимо выбирать меньшее.
Профессор Нинхаймер ушел вне себя от ярости. Он твердо решил призвать "Ю. С. Роботс" к ответу.
Легкое смятение за столом защиты постепенно возросло, когда обвинение поспешило закрепить достигнутый успех.
- Итак, робот И Зет Двадцать Семь сообщил вам, что его действия были вызваны Первым Законом Роботехники?
- Совершенно верно, сэр.
- Иными словами, у робота не было выбора?
- Да, сэр.
- Отсюда вытекает, что "Ю. С. Роботс" создала робота, который неизбежно должен переделывать книги в соответствии со своими понятиями о том, что хорошо и что плохо, и этого робота они выдали за простого корректора. Вы согласны?
Защитник немедленно заявил протест, указав, что обвинитель спрашивает мнение свидетеля по вопросу, в котором тот не компетентен. Судья принял протест и указал обвинителю на недопустимость таких вопросов, но можно было не сомневаться, что стрела попала в цель - по крайней мере, у защитника не осталось на этот счет никаких иллюзий.
Защитник в свою очередь, перед тем как начать допрос свидетеля, попросил судью, ссылаясь на процессуальные формальности, объявить пятиминутный перерыв, что и было сделано.
Защитник наклонился к Сьюзен Кэлвин.
- Скажите, доктор Кэлвин, существует ли хотя бы малая вероятность, что профессор Нинхаймер говорит правду и поведение Изи было обусловлено действием Первого Закона?
- Нет! - сухо ответила Сьюзен Кэлвин, - Это совершенно исключено. Последняя часть показаний Нинхаймера - намеренное лжесвидетельство. Изи не способен выносить суждения об абстрактных идеях, содержащихся в научной монографии по социологии. Он не в состоянии сделать вывод, что та или иная фраза причинит вред определенным группам людей. Попросту говоря, его мозг не годится для этого.
- Боюсь, что мСтраница 1 : Стр. 2 :
|
Ключевые слова: Нинхаймер профессор Кэлвин Роботс защитник роботов судья Нинхаймера Защитник роботу Раб корректуры. Айзек Азимов Книги о роботах робот робототехника
|
Обратная связь
Реклама на сайте
НАЗАД