Можноли доверять роботам?: зависимость отмашин
- Некси Самый узнаваемый проект Personal Robots Group, первый в запланированной серии роботов класса MDS (Mobile Dextrous Social). Как раз в Массачусетском технологическом когда-то были заложены фундамент для научного направления, названного «ИИ» (AI)
Кобиан Эта японская игрушка является плодом интеллектуальной любви двух роботов, появившихся в университете Васеда, — один с весьма ясным личиком, второй — с человекоподобным телом.
- Создатели назвали нового робота «эмоциональный гуманоид». Он высказывает собственные эмоции всем своим тельцем
Леонардо Первый социальный робот, сконструированный в Media Lab МIT группой Синтии Бризил.
- Он антропоморфен и может высказывать собственные эмоции перемещениями головы и лап, и демонстрировать социальное поведение в ответ на внешние раздражители. Программные методы управления, созданные для Леонардо, будут использованы и в роботе Некси
Зено Это не просто раздельно забранный человекообразный робот, а грандиозный бизнес-проект компании Hanson Robotics.
- В случае если эта игрушка понравится детям, она окажется самым широкомасштабным в мире (и самым неконтролируемым) опытом в сфере роботов и взаимодействия людей
В просторном кампусе Массачусетского технологического университета, правильнее в его лаборатории Media Lab, отведенной под исследовательские работы Personal Robots Group, везде спотыкаешься о спутанные провода, под ногами то ли обломки разломанных игрушек, то ли подробности, оставшиеся по окончании вскрытия роботов. И среди всего этого беспорядка внезапно просыпается трехколесный робот, что начинает пристально оглядывать помещение.
Сперва фокусируются глаза, за ними поворачивается белое, пухлощекое кукольное личико. Вот оно остановилось, и огромные глазищи пристально всматриваются в фигуру очередного визитёра. Сейчас Nexi (Некси) поворачивается и смотрит мне прямо в лицо.
Он моргает, и я рефлекторно отвечаю на данный взор, как бы задавая вопросы глазами: «Чего ты желаешь?» Данный взор не оставляет никакого шанса на бесстрастную журналистскую позицию, которой я собирался придерживаться.
«на данный момент он просто изучает обстановку, — говорит сотрудник лаборатории Мэтт Берлин. — Он заметил новое лицо- и он доволен». В других робототехнических лабораториях роботам ставят конкретные задачи — пройти, не упав, через всю помещение, отыскать мячик, к тому же легко пнуть его в нужную сторону. Таланты отечественного Некси формализовать сложнее.
Это социальный робот, и его единственное назначение — сотрудничество с людьми.
Некси несомненно может принимать во внимание высшим достижением в сфере сотрудничества робота с человеком (human-robot interaction, HRI) — но его слава устойчиво связана с эмоцией страха. Еще до визита Media Lab я видел ролики на YouTube, где Некси въезжает в поле зрения, неуклюже поворачивается лицом к камере и говорит приветственные слова приятным женским голосом. У робота громадные ясные глаза, красивое инфантильное личико, и однако все в нем выглядит как-то не так.
То ли это одержимая бесами кукла, пробующая имитировать жестикуляцию трехлетнего ребенка, то ли что-то еще более пугающее — робот, наделенный настоящими чувствами и в равной степени талантливый и к любви, и к презрению. Многие отмечают, что у них мурашки бегут по телу при виде этого существа.
на данный момент, ответив взором на взгляд Некси, я на какой-то момент почувствовал себя его твёрдым приверженцем. Мне захотелось убедить всех соперников и сомневающихся, что у идеи HRI сияющее будущее. Разве вы сможете устоять, в случае если вам подаст лекарство в постель вот таковой разговорчивый, подмигивающий робот, живущий у вас в доме на правах медсестры либо горничной?
Да и детям точно понравится такая нянька, даже если она не всегда сумеет их успокоить, а другой раз и по большому счету будет впадать в оцепенение где-нибудь в углу из-за сбоев в программе либо севшего аккумулятора. Нынешняя безликая механическая прислуга типа пылесоса Roomba может легко превратиться в отечественного завтрашнего друга — активного, независимого и радостного. Для этого необходимо всего лишь последовать примеру Некси и посмотреть вовнутрь бесконечного, а другой раз и неуправляемого людской подсознания.
Вот для чего Некси неуверено поводит собственными мелкими железными ручками, оглядывает окружающий мир в отыскивании людских лиц и старается наблюдать вам в глаза. Некси моргает с еле слышным жужжанием сервомоторчика, и я нечайно радуюсь ему в ответ. Я отвечаю на его ужимки так, как одно живое социальное существо отвечает на жесты другого.
Некси еще и слова не сообщил, а мне уже хочется с ним подружиться.
Кроме того если вы понимаете о том, что ваш мозг просто-напросто атакован изощренной программой этого робота, вам отнюдь не делается легче сопротивляться его обаянию. Возможно, тут и кроется самая основная опасность, которую воображают социальные роботы: появлявшись лицом к лицу с настоящими роботами, люди смогут подпасть под их обаяние. А тут, как и в настоящих людских отношениях, любая привязанность может оказаться отягчена самыми разнообразными горестями.
Заберём, например, какую-нибудь бабушку, любимой электронной компаньонке которой требуется ремонт. Что будет, в случае если данный робот возвратится к себе «совсем вторым человеком»?
Так возможно, ужас перед подобным существом появляется не на безлюдном месте? Возможно, мы не того, чего в действительности стоит опасаться?
Никаких роботов еще не было на свете, а ужас перед ними уже был. В первой половине 20-ых годов XX века чешский автор Карел Чапек написал пьесу R.U.R. (Rossumovi Univerz З ln Т Roboti, «Россумские универсальные роботы»). Именно он разрешил войти в оборот само слово «робот», а вместе с ним и апокалиптические страхи, тянущиеся за этим понятием. Уже в первом акте пьесы неодушевленные существа, производимые серийно в качестве недорогой рабочей силы, недвусмысленно заявляют о собственных заинтересованностях: «Роботы всей земли!
Мы, первая организация россумских универсальных роботов, провозглашаем человека неприятелем естества и объявляем его вне закона! Роботы всей земли, приказываем вам истребить человечество. Не щадите мужчин.
Не щадите дам».
На самом-то деле образ антропоморфного механизма, наделенного недоброй волей, уходит корнями намного глубже (см. врезку), но как раз бездушные чудовища Чапека заполнили страницы бульварной фантастики 1940-х и 1950-х годов — задолго перед тем, как начались какое количество-нибудь важные работы в области робототехники. Кстати, и само понятие «робототехника» (robotics) также вышло из-под пера фантаста — Айзека Азимова, что в собственной книге «Я, робот» (в русском переводе выходила называющиеся «Три закона роботехники») попытался сформулировать «моральный кодекс» специально для роботов и проиллюстрировал его маленькими рассказами.
Позднее показался и Т-800 в исполнении Арнольда Шварценеггера. «Терминатор» перерос в знак: в этом фильме нашли собственный отражение все отечественные предрассудки касательно роботов, ИИ а также нынешних удач в области беспилотной бронетехники. В Отделе военно-морских изучений ВМФ США обсуждался, например, таковой вопрос — необходимо ли в программы боевых роботов закладывать какие-либо этические правила? В черновике доклада, заметившем свет в 2008 году, самый мрачный вариант финала, где автомобили ополчаются против нас, ничтожных представителей человечества, назван «Терминатор».
Иначе, Патрик Лин, член совета по этике в Академии ВМФ США, считает, что этические базы нужны роботам не только на поле боя. «В полной мере быть может, социальные роботы воображают для простого человека бoльшую опасность, чем роботы боевые, — говорит он.- У таких роботов не будет оружия, но уже весьма не так долго осталось ждать мы будем регулярно сталкиваться с ними лицом к лицу». Вправду, за роботами смогут находиться такие настоящие угрозы, в которых нет ничего общего со сценарием «Терминатора». Так как все-таки до тех пор пока что роботов можно считать абсолютнейшими идиотами по сравнению кроме того с самыми что ни на имеется тупыми вооруженными террористами.
Посмотрим хотя бы на Некси. Он так как считается одним из самых продвинутых социальных роботов в мире. И что же? Ему понятны только самые примитивные речевые команды. На момент отечественной встречи он не имел возможности делать и этого — в его мозг загружали программы, созданные для другого робота MIT, — лопоухого и пушистого Леонардо (последний на данный момент «на пенсии» — у него изношены подшипники).
Леонардо многому обучился у людей: как складывать головоломки либо как различать фигурки зверей — домашних от диких. «Где-нибудь через год Некси догонит Леонардо по возможностям, и вы в полной мере сможете разговаривать с ним на равных, — говорит сотрудник MIT Берлин. — Возможно, это будет весьма нудное занятие, в случае если сказать с ним по душам, но оно сходу станет весьма занимательным, в случае если, скажем, вам необходимо будет выбраться из горящего дома».
Основатель техасской компании Hanson Robotics Дэвид Хансон уже к Январю собирается познакомить Некси с хорошим собеседником по имени Зено (Zeno). Данный гуманоид ростом чуть больше полуметра и ценой $2500 непременно стоит собственных денег, причем основное в нем не моторчики с микросхемами, а умные программы, засунутые в мультяшечную голову. «Его ПО разрешает распознать присутствие в помещении нескольких человек, — говорит Хансон. — Робот самостоятельно сооружает в собственном уме определенные представления о том, кто вы имеется, что вам нравится и что вы сообщили.
Мы близко приближаемся к порогу, за которым отечественные роботы смогут вести свободную беседу на произвольные темы». В 2011 либо 2012 году Хансон планирует выставить на рынок массовую модель с этими же возможностями понимания речи и распознания лиц, но ценой всего $250. Наряду с этим он желал бы убить сходу двух зайцев — взять эргономичную экспериментальную платформу для предстоящих изучений и наладить выпуск игрушечного робота с таковой программной начинкой, которая не надоест обладателю за первые же 15 мин..
Зено и Некси изумляют собственными навыками общения, фантастической имитацией эмоционального контакта, но все же они остаются существами, действующими на уровне инстинкта и не способными к самоанализу. Определенные главные слова запускают в них строго расписанные стереотипы ответа но вот вы вышли из помещения, и им уже не разрешено понять, куда вы делись, как вы отнеслись к только что закончившейся беседе, и уж тем более они не думают, как скинуть ваше правительство.
Но, многие исследователи предвещают стремительное развитие «цифровой неврологии», которое неизбежно должно привести к созданию замечательного ИИ. Он уже будет не просто дописывать ваши фразы в поисковом окне Гугл, а сможет действительно имитировать движение вашей мысли. на данный момент компания IBM ведет работы по проекту Blue Brain, и ее обещания к 2019 году создать настоящий виртуальный мозг льют воду на мельницу пророчествующих пессимистов.
И все равно, пока не будет создана неврологическая схема, обрисовывающая, как в отечественном мозгу рассчитываются результаты отечественных действий и формируется ответственность, нет никаких оснований сказать о технологических прорывах, угрожающих созданием настоящих электронных злодеев, рвущихся к власти.
Обозримой перспективе у нас нет оснований ожидать мятежа. Возвратимся к этому вопросу лет через сто, а до тех пор пока покинем его фантастам. Так как, как и все другие связанные с роботами страхи, эта фобия страшна тем, что загораживает от нас более насущные неприятности. К примеру, перед нами больной, страдающий аутизмом. Он нападает на робота-сиделку и пробует его сломать. И как наряду с этим должен вести себя сам робот? Легко выключиться?
Но так как это очень дорогой аппарат. Так может, ему лучше защищаться? В случае если такие роботы будут функционировать везде, мы будем регулярно сталкиваться со случаями, в то время, когда они станут причиной сопутствующего ущерба — как физического, так и морального.
Готовы ли мы к этому?
В то время, когда мы видим независимого робота, что по собственной воле движется перед нами, жестикулирует, издает звуки, в отечественном мозгу возбуждаются так именуемые зеркальные нейроны. Эти нейроны возбуждаются как при исполнении определенного действия, так и при наблюдении за исполнением этого действия вторым существом. Ученые считают, что они несут ответственность за обучение при помощи подражания.
Зеркальные нейроны не будут реагировать при виде восковой фигуры либо машинки с дистанционным управлением, но будут возбуждаться как раз как реакция на исполнение каких-либо действий независимого робота, потому, что отечественный мозг по какому-то недоразумению воспримет его как живое существо.
Отыщем в памяти еще один, более узнаваемый пример загадочной реакции отечественного мозга на лицезрение роботов. Его принято именовать «ужасной равниной». Данный термин ввел в обращение ученый Масахиро Мори. В собственной статье 1970 года, обрисовывая некоторый график, в котором отображалась мера дружелюбия со стороны человека по отношению к машине, он сделал неспециализированный вывод, что человеку в большинстве случаев приятнее иметь дело с механизмом, имеющим антропоморфные черты.
Действительно, эта закономерность имела силу до определенного порога, и в то время, когда машина делается через чур уж похожей на человека, в психике наблюдателя включаются механизмы тревоги — такие же, как при виде мертвого либо больного людской существа. Сейчас на графике отмечается провал (это и имеется «ужасная равнина»), а позже уже кривая опять тянется вверх, по мере того как имитация делается все более похожа на настоящего человека, другими словами совершенного андроида.
Видим ли мы тут некое преломление отечественных рефлексов, касающихся выбора между бегством и обороной, либо же имеет место что-то более сложное — в любом случае Мори выбрал для этого провала весьма подходящее слово. В «ужасной равнине» мы сталкиваемся не с чистым страхом, а со смесью испуга и узнавания, с переплетающимися между собой отвращением и симпатией. Это пример когнитивного диссонанса, с которым отечественный разум ужиться просто не в силах.
Мы будем реагировать похожим образом, в случае если повстречаемся с говорящей елкой либо смеющимся трупом.
У Некси много столь же вызывающих большие сомнения друзей. Вот, например, японский социальный робот СВ2 с пропорциями обычного ребенка, серой и живыми глазами кожей, совершенно верно так же приводит к ужасу у блоггеров и репортеров. Либо заберём другую японскую игрушку, KOBIAN.
У нее страстное, ясное лицо, выступающие надбровные дуги и пухлые красные губы. Пресса единодушно признала ее чудовищем. Авторы всех этих социальных роботов приложив все возможные усилия пробовали перескочить через «ужасную равнину», и однако в лабораториях множатся натуралистически вылепленные куклы, каковые так и не смогли перебраться через пропасть и упокоились в этом кишащем всякой нечистью ущелье.
К счастью, теория «ужасной равнины» в действительности оказывается далеко не столь убедительной, как представляется на первый взгляд. Испугавшись ролика на YouTube, я ожидал, что при личной встрече с Некси у меня легко волосы поднимутся дыбом. Вместо этого я видел на стенах лаборатории мониторы, многократно отображающие мою тщетную ухмылку. Во лбу у Некси вмонтирована инфракрасная камера. Она трудится как дальномер, и мое лицо в нем прорисовывается легко как черно-серая каша.
Но камера, встроенная в его правый глаз, видит меня во всех цветах. Вот я сдвигаюсь в сторону, и взор Некси медлено переходит на следующее лицо. Вместо отвращения я ощущаю легкий укол ревности.
Мне хочется, дабы Некси опять взглянуть на меня.
«Чтобы отечественные роботы не приводили к, мы используем достаточно простые и действенные приемы», — говорит Берлин. Секрет успеха — чуть потрепанная книга с жёсткой обложкой: «Иллюзия судьбы — мультипликация Диснея». Эту книгу листают все в Personal Robots Group. «Так как мы, по сути, занимаемся мультипликацией, лишь прямо в реальном времени», — говорит Берлин.
Как и у многих мультяшных храбрецов, в жестикуляции и чертах Некси заложена некая утрированная человечность. В то время, когда он тянется к какому-нибудь предмету, его рука не выстреливает вперед со ужасной механической безупречностью. Некси не торопится — вот он сфокусировал взор, принял подобающую позу и медлено замахнулся рукой.
В плане механическом это не через чур действенно, но в психотерапевтическом — успех налицо.
Много людей, включая жителей трех домов старых в окрестностях Бостона, успели пообщаться с Некси, и не было ни одного случая, дабы человек бежал от робота с криками кошмара. Наоборот — многие старички норовили пожать роботу руку либо похлопать его по плечу, а один — так кроме того поцеловал. «Его сотрудничество с людьми так похоже на настоящее общение, что люди включаются в эту игру и принимают его как партнера, а вовсе не как машину, — говорит Синтия Бризил, начальник Personal Robots Group. — Экспериментируя с Некси, мы убедились, что, в случае если поведение робота соответствует общепринятым представлениям о доверительности и дружелюбии, окружающие реагируют на него совершенно верно так же, как реагировали бы на людей. Мы нащупали те же самые кнопки».
В случае если прямо на отечественных глазах «ужасная равнина» преобразовывается в поверхностную канаву и настоящая встреча с андроидом позволяет без проблем через нее перепрыгнуть, успех Некси и его соплеменников ставит перед человечеством более глубочайший вопрос — из-за чего мы так легко привязываемся к роботам?
«Похоже, мы легко беспомощны перед эмоциональными привязанностями к тем либо иным объектам, — говорит Шерри Теркл (начальник проекта «личность и Технология»), — так прилично ли нам спекулировать на этом?» Теркл изучала сильную привязанность, которая появляется у людей в отношении таких роботов, как, скажем, Paro. (Это созданный в терапевтических целях робот, снаружи похожий на тюленьего детеныша. Он мило копошится у вас на руках, урчит, в то время, когда вы его гладите, и затихает, подзаряжаясь от подключенной к сети соски.) Шерри экспериментально подтвердила, что дети, играясь с роботизированными куклами, действительно видят в них разумных существ, наделенных чувствами.
Ее тревога только окрепла, в то время, когда она заметила, какую роль в жизни стариков может играться такая мелочь, как Paro — всего лишь плюшевая игрушка с электрической начинкой. «Сообщите, для чего вам роботизированная няня?- задаёт вопросы Шерри. — Что мы в большинстве случаев говорим отечественным старикам и детям? Что мы заняты, что пускай они подождут, пока мы разберемся с новостями из интернета».
Такие исследователи, как Теркл, прекрасно знают, что широкое распространение социальных роботов страшно, не смотря на то, что и неизбежно. Кое-какие аналитики предвещают, что к 2015 году масштаб рынка персональных роботов достигнет $15 млрд. По сути, Теркл всего лишь призывает нас к осторожности, потому что страшно передоверять святыню людской общения безличным автомобилям.
Огромную тревогу обязана вызывать будущее тех, для кого и создается новая отрасль, а это и дети в школах, которым не по карману нанять полный штат педагогов, и старики, страдающие заболеванием Альцгеймера. Армия роботов, присматривающих за ветхими и малыми, обойдется значительно дешевле, чем профессиональных сиделок и тысячи учителей. Но представим себе, как будет ориентироваться в мире непредсказуемых людских взаимоотношений новое поколение, которое вырастет среди роботов-педагогов и роботов-друзей.
Одно из вероятных ответов — забыть на время об уже достигнутой автономности и применять социальных роботов легко в качестве игрушек. Вот, например, Huggable — еще один робот, выстроенный в MIT Personal Robots Group. Это медвежонок, управляемый прямо через интернет-браузер.
Его создатели сохраняют надежду, что эта игрушка будет к месту в детских поликлиниках, она сможет смешить прикованных к постели детей, а ее дистанционное управление возможно передать в руки родственников либо докторов. До тех пор пока еще Huggable не имеет собственной «личности». Это всего лишь механическая кукла. Она может передавать голос того, кто ею руководит, но ей до тех пор пока еще далеко до полноценного социального существа.
Ноэль Шарки, доктор наук с кафедры робототехники и искусственного интеллекта в английском университете Шеффилда, в собственной недавней статье об страшных тенденциях в современном японском производстве роботизированных игрушек (обращение шла о моде на «родительские повадки» в их поведении и о соблазне применять роботов в качестве сиделок) упомянул Huggable как пример, в то время, когда отказ от автономности возможно принимать как хороший момент. «В отличие от обстановки, в то время, когда всецело независимый либо практически независимый робот берет на себя функции сиделки, такие дистанционно управляемые машинки уже не вызывают опасений этического порядка».
Фактически все исследователи согласны, что для общения с роботами нам нужны хоть какие-то этические ориентиры, причем прямо на данный момент. Дело не в том, что мы должны закладывать в роботов что-то наподобие моральных правил, а в том, что их создатели вынуждены трудиться в ситуации этического и юридического вакуума.
В то время, когда дискуссия вязнет в абстрактных рассуждениях и не подкрепляется достаточным числом эмпирических данных, некоторый комплект четко сформулированных нравственных ориентиров имел возможность бы послужить чем-то наподобие страхового полиса. «Меня страшат не столько мнимые пакости, которых возможно было бы ожидать от роботов, — говорит инженер Крис Элиот, соавтор недавнего доклада Королевской Академии об независимых совокупностях.- Меня страшат те пакости, которых возможно ожидать от людей». Пускай кроме того окажется, что в психотерапевтическом замысле социальные роботы полностью безвредны, — Элиота заботит таковой поворот событий, в то время, когда чья-то одна-единственная промашка сможет породить таковой социальный откат, при котором отправятся прахом многие годы неспециализированного труда. Представьте себе шумиху в массмедиа по поводу первого больного, погибшего под ножом робота-врача, сообщение о том, что управляемая роботом машина врезалась в школьный автобус, либо клип, где робот-санитар дерется со слабоумным больным. «Законодательство отстало от ситуации , — говорит Элиот. — Неподалеку то время, в то время, когда мы не сможем отыскать применения новым роботам легко из-за атмосферы полной юридической неразберихи».
Философы, моралисты, юристы и робототехники лишь начали облекать плотью давешние наброски Азимова о моральном кодексе робота. Пройдет время, и мы, возможно, избавимся от давешних иррациональных страхов перед перекроем и роботами все мыслимые возможности для какого-либо отката назад. И вот тогда может прийти время для роботов типа Некси.
Я вспоминаю, что мне сравнительно не так давно говорила Бризил: для детей, каковые выросли среди роботов, «ужасной равнины» не существует, а сюжет «Терминатора» никак не ужаснее сказок братьев Гримм. Похоже, детям легко понять и принять как загадочные свойства роботов, так и пределы, положенные этим свойствам. Так же легко они принимают и похожие на них автомобили, намерено созданные чтобы все время быть с ними рядом.
Может, в этом и имеется назначение Некси — послужить первым осмотрительным опытом, чем-то наподобие прививки против сумасшедших страхов и извращенных представлений, в которых выросли мы, старшее поколение.
Ужас перед планетой роботов
Не добрый робот стал одним из самых живучих мифов западной культуры. Нас пугают не сами по себе механические люди, а их «ИИ», то ПО, которое превращает машину в чудовище. Тут мы перечисляем самые известные примеры, в то время, когда «ИИ» вгонял в ужас в людские души
Пражский Голем
Неустойчиво трудящийся ИИ
В соответствии с ветхим преданиям, пражский Голем был слеплен из речной глины, а оживили его посредством колдовства. По всему видно, что это настоящий робот — громадный, фантастически сильный и начисто лишенный чувств. Его ИИ, как и нынешние, страдает некоей ограниченностью.
Ему забывают дать приказ об окончании работы — и он таскает воду, пока не затапливает целый дом. В более поздних предположениях данной сказки он в итоге по большому счету сходит с ума.
Монстр Франкенштейна
Неестественный гений
Чудовище, созданное Франкенштейном, — обреченный романтический мизантроп, владеющий блестящим умом, что был для него настоящим проклятьем. За считанные месяцы он обучился сказать и просматривать. Так же скоро он сформулировал претензии к собственному создателю. Критики уверены в том, что из всех историй о злых роботах эта была самой влиятельной.
Франкенштейн отказывается создать подругу для монстра, опасаясь, что этим даст начало высшей, злобной расе, которая сотрёт с лица земли человечество.
Радиус
Восстание роботов
Так же как и чудище Франкенштейна, роботы из пьесы R.U.R. являются злодеями из крови и плоти. Отличие лишь в том, что роботов создают в массовом порядке из выращенных на фабрике органов, и еще в том, что им все-таки удается стереть человечество с лица почвы. Предводитель роботов Радиус заявляет без обиняков, что «желает быть господином над людьми».
Автомобили
Восстание не такое ожесточённое, но полностью тайное
Фантаст Айзек Азимов в маленьком рассказе «Конфликта возможно избежать» разрешил автомобилям прийти ко власти над всей всемирный экономикой. В сфере коммерции автомобили показали высшую степень усердия. В фильме «Я, робот» Голливуд развернул данный сюжет в мелодраму, а негромкий денежный переворот, идеальный ИИ, перевоплотил в домашний арест, наложенный на все люди.
HAL 9000
Совокупности, управляемые ИИ
Нас должны сходу встревожить занудливые советы, произносимые монотонным голосом робота HAL 9000. Со временем фильм «2001: Космическая одиссея» из научной фантастики преобразовывается в ужастик, но выясняется уже поздно. ИИ выбрасывает в открытый космос всех живых участников команды, полагая, что они — лишь обуза при исполнении поставленного перед ним задания.
Как и автомобили Азимова, HAL не демонстрирует какой-то особенной злонамеренности — он просто чуть умнее, чем нужно, но старается лишь для отечественной же пользы.
Т-800 / Skynet
Самоорганизующийся ИИ, объединенный в глобальную сеть
В фильме «Терминатор» мы ни разу не видим на экране сам «Скайнет», но тот крутой персонаж, что дал фильму собственный имя, внятно излагает всем позиции неприятеля — на планете не хватит места для сосуществования биологического и машинного разума. Фильм не показывает, в какой момент центральный компьютер совокупности обороны обретает самосознание. Вместо этого нам демонстрируют тлеющие прочие радости и руины войны, вдохнув новые кошмары в данный ветхий миф.
ED-209
Вооруженные независимые роботы
В фильме «Робокоп» робот ED-209 демонстрирует интеллект сообразительной полицейской овчарки и огневую мощь целого боевого вертолета. Как это не редкость время от времени у сторожевых псов, ED-209 время от времени кусает не того, кого нужно. В одной из самых запоминающихся сцен робот работы безопасности, показывая клиентам собственные способности, по недоразумению убивает невооружённого человека.
Автомобили
Роботы-рабовладельцы
В фильме «Матрица» «автомобили» — это некрасиво извращенный вид ИИ. Автомобили превращают собственных пленников в электробатарейки, придумывают огромные виртуальные миры всего лишь чтобы избавить нас от безделья, а помимо этого, как возможно делать выводы по агенту Смиту, эти автомобили способны на самую злобу и мерзкую подлость. Самое ужасное в «Матрице» (мы пока не говорим о всех последовавших дальше сериях) — видеть, как автомобили не только покорили все люди, но еще и разрешают себе заигрывать с поверженным неприятелем.
Статья размещена в издании «Популярная механика» (№89, март 2010).
<
h4>