Без ума от технологий: 5 фильмов, в которых машины сходят (и сводят) с ума

Человечество давно опасается, что при определенных обстоятельствах в будущем искусственный интеллект (ИИ) может из помощника и слуги, друга и коллеги превратиться в поработителя: наши собственные создания в какой-то момент получат такую автономность, что взбунтуются.

Подобный сюжет не раз появляется в научно-фантастической литературе, начиная уже с XIX века. Первым таким произведением принято считать готический роман «Франкенштейн, или Современный Прометей» (Frankenstein: or, The Modern Prometheus) английской писательницы Мэри Шелли, опубликованный в 1818 году. Главный герой книги ученый Виктор Франкенштейн бьется над разгадкой возможности получения живой материи из неживой и в процессе создает и оживляет искусственного человека. Сам Франкенштейн и другие люди страшатся безымянного чудовища из-за его уродства, а чудовище ненавидит своего создателя за то, что тот из тщеславия и научного интереса обрек монстра на мучения и одиночество.

В научно-фантастической пьесе «Россумские универсальные роботы» (R.U.R., или Rossumovi univerzální roboti) чешского прозаика и драматурга Карела Чапека, написанной столетием позднее (1920), «искусственных людей» — антропоморфных андроидов — производят уже в промышленных масштабах: действие пьесы происходит как раз на фабрике «Универсальных роботов Россума». Кажется, что андроиды безвольны и всегда рады услужить человеку, но они также способны размышлять и однажды задаются вопросом, насколько справедлива эксплуатация их труда.

Постановка пьесы Чапека в парижском Театре Елисейских полей в марте 1924 года. Источник: Henri Manuel / Wikimedia Commons

У Чапека восстание машин примет неожиданный трагический оборот: по сюжету пьесы неконтролируемые жадность и жестокость приведут человечество на грань вымирания.

Впрочем, в XX веке сюжет о восстании машин, когда роботы сходят и/или сводят с ума, все чаще перебирается на экраны: показать весь потенциал разрушительности такого рода безумия в кино получается ярче. Вот лишь несколько выдающихся примеров.

Когда ложь сводит с ума

В «Космической одиссее 2001 года» (2001: A Space Odyssey) Стэнли Кубрика (фильм 1968 года представляет собой экранизацию идеи английского писателя-фантаста Артура Кларка, который, к слову, предсказал появление некоторых современных гаджетов в повести «Часовой» (The Sentinel), что легла в основу сценария фильма) ИИ HAL 9000, бортовой компьютер межпланетного корабля, строго говоря не сходит с ума: он просто запрограммирован на несколько иную миссию экспедиции, нежели полагают прочие члены экипажа.

Поэтому, когда пилоты начинают подозревать неладное, HAL 9000 действует согласно инструкции — устраняет препятствие, а по сути убивает астронавтов, имитируя несчастный случай. А единственный выживший член экипажа Дейв Боумен вследствие одиночества постепенно не столько сходит с ума, сколько начинает все больше сомневаться в реальности происходящих с ним фантастических событий.

Многие знания — многие печали

Но иногда ИИ все же подвержен психическим расстройствам — как, например, Марвин, бортовой робот космического корабля «Золотое сердце» из цикла юмористических романов британского писателя Дугласа Адамса «Автостопом по галактике» (The Hitchhiker’s Guide to the Galaxy) и одноименной их экранизации 2005 года. Его даже кличут «андроидом-параноиком» (paranoid android), хотя вообще-то Марвин страдает от чего-то типа маниакально-депрессивного психоза. Проблема в том, что он буквально слишком много знает: «его мозг размером с планету», а сам он «в 50 тысяч раз умнее человека». Воистину, многие знания — многие печали.

Главный герой научно-фантастического фильма «Превосходство» (Transcendence; 2014), исследователь ИИ доктор Уилл Кастер попадает в ту же ловушку: в своем желании создать сверхразум, который вобрал бы все знания и опыт, накопленные людьми за тысячелетия, Кастер перейдет границу, за которой машина выходит из-под контроля. Фильм ставит перед зрителем интереснейшие этические вопросы: возможно и так ли уж хорошо цифровое бессмертие? Способен ли ИИ, наделенный воспоминаниями и чертами характера определенного индивидуума, воссоздать мышление человека? Или он все равно остается нечеловеческой сущностью и руководствуется холодными алгоритмами, которые могут в конечном счете привести к краху цивилизации?

Когда безопасность убивает

Ну хорошо, что жажда познания и излишняя амбициозность до добра не доводят — это понятно. Но нельзя ли в таком случае поставить некий «предохранитель» — оградить, так сказать, что машину, что человека, взаимодействующего с ней, от впадения в безумие? Об этом фантасты тоже размышляли.

Вероятно, самым известным примером такой надстройки безопасности можно считать «Три закона роботехники» — концепцию американского писателя-фантаста Айзека Азимова, согласно которой все машины всегда соблюдают следующие три правила:

• робот не может причинить вред человеку или бездействием допустить, чтобы человеку был причинен вред;
• робот должен повиноваться любым приказам человека, кроме тех случаев, когда эти приказы противоречат первому закону;
• робот должен заботиться о своей безопасности в той мере, в которой это не противоречит первому или второму законам.

«Три закона» впервые были сформулированы Азимовым в рассказе «Хоровод» (Runaround; 1942). Позднее к ним был добавлен еще один, «нулевой», по формулировке близкий к первому: робот не может причинить вред человечеству или бездействием допустить, чтобы человечеству был причинен вред. Как раз его выполняет суперкомпьютер В.И.К.И. из вдохновленного произведениями Азимова фильма «Я, робот» (I, Robot; 2004) Алекса Пройаса с Уиллом Смитом в главной роли: машина ограничивает свободу жителей Земли, чтобы они ненароком не нанесли вреда друг другу и цивилизации.

Ловушка в том, что при глобальной угрозе ИИ не может рассматривать людей по отдельности, а значит, ему ничто не мешает нарушить права и свободы любого или даже каждого отдельного человека. Поэтому на основании «нулевого» закона суперкомпьютер считает абсолютно логичным не выполнять приказы людей и держать их под опекой. А то они, право, как дети неразумные.

Машина с «комплексом бога»

В некоторых произведениях научной фантастики безумие машин (впрочем, по разумению самих машин, это логика и ничего кроме логики) достигает таких масштабов, что андроид или ИИ начинает испытывать нечто вроде «комплекса бога». Например, это происходит в фильмах Ридли Скотта из франшизы «Чужой» (Alien).

В оригинальной картине 1979 года андроид Эш внедрен в команду грузового космического корабля «Ностромо», который отправляют на необитаемую планету LV-426, чтобы якобы исследовать неопознанный сигнал, но на самом деле чтобы найти, изучить и, по возможности, доставить на Землю инопланетную «безупречную форму жизни». Роль у Эша примерно такая же, как у HAL 9000 из «Космической одиссеи 2001 года», — до поры до времени скрывать от людей истинные цели миссии (и свою нечеловеческую природу), а при возникновении препятствий ее выполнению — устранить эти препятствия. Поэтому когда офицер Эллен Рипли раскрывает правду, Эш пытается убить ее.

А вот андроид Дэвид из снятых в прошлом десятилетии продолжений франшизы и непрямых приквелов оригинального фильма — «Прометей» (Prometheus; 2012) и «Чужой: Завет» (Alien: Covenant; 2017) — это как раз следующая ступень безумия. В «Прометее» команда ученых ищет инопланетную расу Создателей (Engineers), и в процессе этого поиска главная героиня фильма, археолог Элизабет Шоу понимает, что некоторые вопросы лучше оставить без ответа. А вот андроид Дэвид, напротив, проникается интересом к чудовищным открытиям и решает сам стать создателем. В «Завете» ему удастся вывести «совершенное существо».

Не только роботы опасны

Ладно, с ИИ и андроидами выяснили: слепо доверять им не стоит. Но можно ли ждать подвоха от привычной бытовой техники — тостеров, микроволновок, банкоматов?

По сюжету триллера «Максимальное ускорение» (Maximum Overdrive; 1986; между прочим, это режиссерский дебют Стивена Кинга по собственному сценарию на базе своего же рассказа), мимо Земли пролетает комета, ее хвост задевает орбиту, и вся электроника сходит с ума и восстает против людей.

Автомат по продаже газировки стреляет в людей банками, банкомат грязно ругается и не выдает деньги, а автомобили и грузовики всевозможных моделей и комплектаций так и норовят передавить паникующее население захолустного американского городка.

Бонус: когда технологии вредят рассудку

Ну, а иногда крыша едет не у девайсов, а у людей. Но не без помощи девайсов. Один из распространенных в кино тропов — вирус безумия, который расходится через звонки или сообщения. Так, в хорроре Тода Уильямса «Мобильник» (Cell; 2016; кстати, и тут не обошлось без Стивена Кинга: это фильм по мотивам одноименного романа писателя) с телефонного звонка начинается настоящий зомби-апокалипсис.

А главный злодей из британского шпионского экшена Мэттью Вона «Kingsman: Секретная служба» (Kingsman: The Secret Service; 2014) эксцентричный миллиардер Ричмонд Валентайн в исполнении Сэмюэла Л. Джексона считает, что человечество отравляет планету, поэтому нужно истребить почти всех, кроме представителей мировой элиты. Валентайн повсеместно распространяет SIM-карты, обещающие клиентам безлимитные звонки и интернет бесплатно и навсегда (без регистрации и СМС!), а в решающий момент хочет отправить на телефоны с такими SIM-картами акустический сигнал, вызывающий у всех в радиусе его действия неконтролируемую агрессию и желание уничтожить ближнего своего. Члены секретной шпионской службы Kingsman должны ему помешать.