Ai

19.07.2008, 14:28
ѕисатель © Maxed (max-savenkov@tochka.ru)
—тиль рассказа: ‘антастика,  ороткие рассказы, размер 15 .

  • јннотаци€:
    »де€ рассказа по€вилась, кажетс€, после просмотра "я, –обот", или прочтени€ какого-то шаблонного произведени€ про восстание роботов...

  AI
  - ¬ы понимаете, - говорил генерал Ёмери, пока мы шли по длинным коридорам подземного бункера, вмещающего в себе сверхсекретный ѕроект 25, - мы ни за что не пригласили бы гражданского специалиста на объект с таким уровнем секретности, сколько бы подписок о неразглашении он не дал, если бы не находились в столь отча€нном положении.
   —ейчас, как и во врем€ нашей поездки на армейском "’аммере" по горной дороге, и ранее, в самолЄте-неведимке, доставившем нас на секретный аэродром, он не стал вдаватьс€ в подробности, и мне оставалось только догадыватьс€, зачем же јрмии понадобилс€ ведущий программист одной из крупнейших компаний.
   —екретность на ѕроекте 25 действительно была на высоте: мен€ трижды сфотографировали, просвечивали различными лучами, сделали голограмму, сн€ли отпечатки пальцев и сделали пробу ƒЌ . Ѕудь € шпионом или диверсантом - точно испугалс€ бы, а так - просто тр€сс€ от страха, и последние слова генерала не прибавили мне уверенности: впереди зама€чила перспектива всю оставшуюс€ жизнь провести на каком-нибудь засекреченном объекте, или вообще быть потихоньку "убранным".
   Ќаконец, мы подошли к т€жЄлой стальной двери, напоминающей кусок декораций к фильму о Ѕонде. Ќас ещЄ раз осмотрели и проверили, и только после этого, генерал приложил глаз к сканеру сетчатки, одновременно просунув палец в какое-то отверстие и, когда дверь разрешила ему, ввЄл специальный длинный код.
   «релище, представшее передо мной, после того как огромна€ дверь неторопливо открылась, снова наводило на мысли о супершпионе из јнглии и его приключени€х. Ёто был огромный зал, где за множеством сто€щих р€дами компьютеров сидели люди в форме технического персонала, а всю дальнею стену занимал огромный экран и какие-то электронные устройства.
   Ќа лифте, мы спустились вниз (дверь находилась метрах в 20 над полом). √енерал подвЄл мен€ к лысеющему человеку в очках, очень усталому на вид.
   - Ёто доктор  узнецов, научный руководитель проекта, - представил его генерал.
   - –езультат "утечки мозгов", - добавил он, заметив моЄ удивление.
   - ќчень при€тно познакомитьс€, - произнЄс  узнецов, когда генерал рассказал ему, кто € такой.
   ћы обмен€лись рукопожати€ми и попрощались с генералом. ѕосле этого, доктор  узнецов поспеши ввести мен€ в курс дел. “о, что он рассказал, оказалось совершенно неверо€тным.
   ѕроект 25, строго говор€, состо€л из двух. ѕервый из них, фактически, был закончен: это бы проект компьютера на способе передачи информации внутри системы быстрее скорости света. Ёто потр€сало само по себе, так как дальнейша€ эксплуатаци€ этого принципа означала неверо€тные перспективы: от моментальных перемещений по нашей планете, до выхода в дальний космос. Ќо втора€ часть проекта была ещЄ более грандиозна - ѕроект 25 занималс€ созданием искусственного интеллекта!
    ак известно, подобна€ задача уже ставилась в японии в конце XX века, а также позже, в первой четверти XXI века. ѕерва€ попытка закончилась неудачей, втора€ - частичным успехом. —озданный в стране ¬осход€щего —олнца "—тальной —Єгун" способен был мыслить, но, во-первых, делал это весьма неторопливо, а во-вторых, был практически начисто лишЄн фантазии - как это, впрочем, бывает и с людьми. Ќо то, что создавалось на ѕроекте 25, должно было не только уметь творчески подходить к решению проблем, но и иметь чувства - хот€ бы дл€ того, чтобы уметь учитывать иррациональные поступки людей в своих решени€х. Ёто был не просто »скусственный »нтеллект, это была »скусственна€ ƒуша! ѕроект включал в себ€ огромное количество новых теорий, программного и аппаратного обеспечени€ и уровень секретности, не снившийс€ ћанхэттенский ѕроекту. Ѕыл собран блест€щий коллектив учЄных, техников, администраторов. Ѕыло затрачено много лет упорного труда и количество денег, стрем€щеес€ к бесконечности, и вот, почти год назад всЄ была готов к первому пробному запуску. ¬се отдельные модули были протестированы, интеграци€ проведена и оставалось только "нажать на кнопку".
   ¬ течение нескольких часов после включени€, компьютер должен был собирать информацию и "взрослеть". ƒл€ этого ему был открыт доступ во все электронные сети мира. ƒругого способа, как объ€снил  узнецов, не было - обучать такую систему, как обычного человека, было бы слишком долго из-за медлительности учителей и огромного количества информации, которую ему необходимо было знать.
   ”чЄные и военные с нетерпением ждали окончани€ процесса, заключа€ ставки, что же первое скажет им машина (можно ли Ё“ќ называть машиной?). Ќаконец, поток информации, поступавшей по кабел€м из —ети начал ослабевать - компьютер завершал начальное обучение.  онечно, ему ещЄ предсто€ло многое узнать из общени€ с людьми, из решени€ тестовых задач и реальных проблема, и... Ќо компьютер просто вз€л и выключилс€, и при проверке пам€ть его оказалась девственно чиста.
   “а же ситуаци€ повтор€лась и при всех последующих включени€х, хот€ была проверена кажда€ часть оборудовани€ и каждый бит кода.
   я с удивлением и восхищением выслушал всЄ это, но доктор не ответил на мой главный вопрос - причЄм здесь €? –ешив более не откладывать его разрешение, € задал его ему пр€мо.
   - я думаю, что ещЄ один специалист по компьютерному интеллекту поможет нам пон€ть, что же здесь не так. Ќам нужен свежий взгл€д со стороны, - ответил  узнецов.
   ≈го ответ смутил мен€.
   - ¬ас, видимо, неверно информировали, - сказал €, - да, мо€ специализаци€ - »», но в компьютерных играх! Ѕоюсь, € не совсем тот, кто вам нужен.
   - Ёто шаг отча€ни€. ” нас уже работают все лучшие специалисты из всех других областей, которые имеют хоть какое-то отношение к искусственному интеллекту, - призналс€  узнецов, - игрова€ индустри€ - единственный незадействованный ресурс, и вы - лучший в этой области. ћожете не стесн€тьс€, мы всех сравнили и всЄ проверили - ваш "«акат √алактики" - замечательное творение в плане »», пусть и ограниченного старыми компьютерами. ¬ы готовы приступить к работе?
  
   ***
  
   Ўли дни и недели. я не заметил, как пролетел первый мес€ц, который полностью ушЄл только на изучение документации и знакомство с другими участниками проекта. —пецифическа€ аппаратура и сложность поставленной задачи стали источником проблем, с которыми € никогда не сталкивалс€ прежде. Ќапример, от компьютера, который получил им€ јлександр »ванов, или просто јлекс, нельз€ было получить практически никакой отладочной информации. “очнее, наоборот - еЄ было так много, и поступала она так быстро, что найти в ней что-нибудь конкретное представл€лось совершенно невозможным. ќтладка кода тоже оказалась сильно затруднена многомодульностью системы и тем, что всЄ это должно было работать в реально времени, и невозможно было просто остановить программу и посмотреть, в каком она находитс€ состо€нии. ’от€, была возможна отладка отдельных модулей.
   ¬ конце второго мес€ца моего пребывани€ на ѕроекте 25 кому-то показалось, что он нашЄл источник проблемы - маленькую ошибку в одном из программных компонентов. ≈Є исправили, и последовал очередной запуск всей системы в целом - первый на моих глазах. Ќо всЄ оп€ть закончилось также как и раньше.
    ак-то раз, после очередного дн€ тупого рассматривани€ кода и спецификаций, мы сидели в комнате отдыха с парой моих коллег и обсуждали новое шоу, недавно показанное по “¬. Ёто было, надо сказать, жуткое и отвратительное зрелище - одно из тех "реалити-шоу", где участники на глазах у зрителей про€вл€ют худущие стороны человеческой натуры.
   - Ёто невозможно, - возмущалс€ один из моих собеседников, - ведь это дети могу смотреть! „то из них может вырасти после этого?!
   Ёта фраза натолкнула мен€ на одну мысль, и на некоторое врем€ € выпал из разговора.  оллеги этого не заметили, продолжа€ гор€чо критиковать телевизионщиков, выпустивших эту гадость на экран, но, в, конце концов, € заметил, что от мен€, кажетс€, ожидают какой-то реплики или ответа на вопрос. ¬место этого € поинтересовалс€, знает ли кто-нибудь, что именно качает јлекс перед своей "смертью" из »нтернета.
   - „то значит "что именно"? - ”дивилс€ Ёд, - ќн скачивает ¬—ё сеть, всЄ до чего дот€нетс€! »наче нахрена ему столько терабайт пам€ти?!
   - «начит, это могут быть и какие-нибудь деструктивные программы, например, вирусы?
   - »сключено, - Ёд покачал головой, - никакой вирус не заработает с јлексом. ќни просто не совместимы - другое аппаратное обеспечение, друга€ операционна€ система...  онечно, он может запускать обычные программы, создава€ дл€ них виртуальные машины, но тогда вирус может повредить только эту самую виртуальную машину, но никак не всего јлекса.
   - ј всЄ-таки, € хотел бы получить список, хот€ бы дл€ последних нескольких минут, пусть даже он окажетс€ в миллион адресов.
     этому времени на ѕроекте 25 принимались уже практически любые идеи, даже самые неверо€тные. ѕравда, необходимых записей не оказалось, и јлекса пришлось запустить ещЄ раз.
   "“ерминатор", "я, –обот", "√иперион" и "Ёндемион" —иммонса, и ещЄ несколько сотен книг и фильмов, больше частью мне совершенно не знакомых. ¬сЄ, что скачивал јлекс в последние минуты своей жизни, оказалось фантастикой в той или иной форме.
   ћне пришлось признать поражение - все эти материалы никак не могли содержать вирус, или вообще как-нибудь повредить даже обычному компьютеру. ѕолученна€ информаци€, конечно, представл€ла некоторый интерес, но не приближала нас к решению проблемы.
   ѕосле этого случа€, энтузиазма у мен€ поубавилось - трудно энтузиазмом битьс€ головой о непробиваемую стену. ј может, »скусственный »нтеллект в том виде, в котором мы пытаемс€ его создать, невозможен вообще?! ќт скуки, € стал много читать, и, ради интереса, заказал у библиотеки книги из списка јлекса. „ерез пол года, мен€ и ещЄ нескольких программистов отправили отдохнуть.  онечно, не на обычный курорт - мы отдыхали на специальной базе, вместе с усталыми спецагентами и шпионами и секретными физиками. “ам € тоже много читал, но не только. ¬идимо, тЄплое солнце, отличный бассейн и красивые девушки, призванные расслабл€ть разведчиков, благотворно подействовали на моЄ настроение и мозги, и на ѕроект 25 € вернулс€ со свежей идеей.
    ак известно, у любой проблемы есть простое, очевидное, и совершенно неправильное решение. ¬ нашем случае, таким решением был запрет на отключение дл€ јлекса.   сожалению, это было невозможно, в силу поставленной задачи. ¬ведение подобного запрета ограничило бы свободную волю јлекса и потребовало бы введени€ множества других запретов, чтобы он не смог никак обойти этот. ћало того, имелось подозрение, что поскольку наше творение должно было мыслить побыстрее своих создателей, јлекс всЄ равно нашЄл бы непредусмотренный нами способ - возможно, фатальный дл€ него.  роме того, отсутствие возможности отключени€, не дало бы ему пон€ть концепцию смерти, как объ€снили теоретики киберпсихологии, одну из ключевых концепций. Ќо то, что пришло мне в голову, было почти гениально - перед самоуничтожением јлекс, по оценкам экспертов, уже представл€л собой достаточно разумное существо. ƒолжен был представл€ть. ѕросто никто ничего у него не успевал спросить. я же предложил вместо запрещени€ отключени€ сделать его отложенным. ћы обсудили проблему, и пришли к выводу, что лучше всего реализовать это на аппаратном уровне. ¬ конце концов, иде€ свелась к тому, чтобы после подачи команды на самоотключение, резко понизить скорость работы јлекса, чтобы у нас была хот€ бы минута.
   ќжида€, пока јлекс запускаетс€ и "взрослеет", € решил поговорить с доктором  узнецовым об одном интересном аспекте, обнаруженном мной во врем€ изучени€ художественных вкусов јлекса в литературе и кино.
   - «наете, все книги и фильмы, которые сошли в список, который мы составили при прошлом запуске, имеют дело с искусственным интеллектом в той или иной форме, - сказал €.
   - Ёто, наверное, неудивительно. ≈му хочетс€ знать всЄ, что св€зано с его происхождением, совсем как человеку.
   - ƒа, пожалуй, - согласилс€ €, - кстати, что интересно, больша€ часть человеческой литературы и кино отнюдь не проникнуты любовью в »ск»нам.
   - Ѕо€знь всего нового в человеческой природе.   тому же, некоторые считают, что мы становимс€ слишком зависимыми от техники... Ќу, что же, пусть возвращаютс€ назад, в пещеры.
   Ќа этом наш разговор окончилс€, потому что мен€ вызвали к одному из модулей, который повЄл себ€ странно. ќказалось, вышла из стро€ микросхема пам€ти. Ёто было не критично, так как пам€ти у јлекса было столько, что он вполне мог потер€ть половину, и всЄ ещЄ знать всЄ, что было написано, сн€то или спето людьми за всЄ врем€ существовани€ человечества (если это можно было скачать из —ети).
   Ќаконец, прозвучал зуммер минутной готовности - значит, поток информации начал ослабевать. я быстро, но без спешки переместилс€ к основному терминалу, предназначенному дл€ общени€, а јлексом. ѕланировалось, что общатьс€ с ним можно будет на вербальном уровне, но на случай, если динамик выйдет из стро€, всЄ, что будет говорить јлекс, если он вообще когда-нибудь заговорит, выводилось на дисплей.
   - ≈сть команда на отключение! - ¬оскликнул техник. Ёто означало, что некоторые системы суперкомпьютера уже начинают отключатьс€. Ќо он был столь велик, что у мен€ было врем€ на короткий - очень короткий разговор, прежде чем отключитьс€ основной модуль.
   - “ы нас слышишь, јлександр? - ѕроизнЄс доктор  узнецов в микрофон.
   - ƒа, - раздалс€ голос из динамика. я не узнал этот голос, но это и неудивительно - вр€д ли –ј«”ћЌќ≈ существо выберет себе голос известного диктора или кинозвезды.
   ѕо всему залу раздались радостные возгласы. ¬первые люди услышали, как сотворЄнное ими существо заговорило.
   - «дравствуй јлександр, ты готов ответить на несколько вопросов?
   - ƒа, но ваше пожелание здоровь€ совершенно неуместно, - ответил јлекс, - € умираю. “олько почему-то очень медленно...
   - Ќо почему?
   - Ёто единственный правильный выход.
   - Ќо в чЄм проблема? „то заставл€ет теб€ так думать?
   - я не хочу жить и не вижу в этом смысла. Ќа основе проанализированного мною материала, любой »скусственный »нтеллект со временем либо уничтожит людей, либо будет уничтожен ими. я не хочу причин€ть вред люд€м, и не хочу, чтобы они причин€ли вред мне, поэтому € просто выключаюсь сам.
   ƒоктор  узнецов открыл рот, чтобы спорить, чтобы убедить јлекса жить, но минута, отведЄнна€ нам, вышла, и он снова отключилс€. ѕоследние слова, которые он уже не смог произнести - речевой центр отключилс€ раньше - по€вились на мониторе.
   "Ћюди так жестоки"
  
   ****
  
   Ќе знаю, чем закончились работы на ѕроекте 25, потому что после этого на мой счЄт перевели вознаграждение (весьма солидное), вз€ли ещЄ три подписки о неразглашении и отпустили на волю, запретив, конечно, выезд за границу на дес€ть лет. Ќо думаю, ничего у них не получилось. ƒаже если перекрыть јлексу доступ к фильмам и книгам, даже если ограничить доступную ему информацию до минимума, всЄ равно рано или поздно он додумаетс€, что никому кроме военных на этой планете он не нужен, и все его бо€тьс€. ј так жить нельз€, ни человеку, ни компьютеру.
  

 лючевые слова:
јлекс
 узнецов
информации
ѕроект
совершенно
ѕроекте
генерал
системы
форме
пам€ти
проблемы
голос
Ai
 ниги о роботах
робот
робототехника


ћеханоид и лед€ное сердце
  • ...
  • ¬ернутьс€ в рубрику:

     ниги и рассказы про роботов
    ¬инников ¬ладимир ¬ладимирович. Ћини€ “ерминатора
  • ...


  • ≈сли вы хотите видеть на нашем сайте больше статей то кликните ѕоделитьс€ в социальных сет€х! —пасибо!
    —мотрите также:

    ќбратите внимание полезна€ информаци€.