Роботы на войне

(апрель 2009)

В боевых действиях роботы ныне применяются уже тысячами, однако никаких законов и правил на этот счет пока нет

Два одновременных и совершенно независимых события, связанных с одной и той же, в сущности, проблемой – это всегда повод для более внимательного рассмотрения вопроса.

В последних числах марта (2009) в Гааге была устроена международная конференция «Вооруженные силы будущего 2020: готовы ли мы?», организованная совместными силами Академии министерства обороны Нидерландов и TNO, национального центра прикладных научных исследований.

А в США только что вышла из печати книга «Собраны для войны: революция и конфликты роботехники в 21 столетии» [“Wired for War: The Robotics Revolution and Conflict in the Twenty-First Century” by P. W. Singer, Penguin Press, 2009], автор которой П. Сингер является ведущим сотрудником аналитического центра Brookings Institution и директором его подразделения «Оборонная инициатива 21 века».

Дабы острая актуальность темы боевых роботов стала совсем очевидна, достаточно обратить внимание, что на сегодняшний день созданием роботов военного применения занимаются уже свыше 40 государств. А общую динамику развития в данной области можно оценить по таким аналитическим данным из книги Сингера.

Когда вооруженные силы США в 2003 вторглись в Ирак, в составе сухопутных сил поначалу вообще не было роботов. К концу 2004 года на территории Ирака американские военные использовали 150 роботов, год спустя их было 2400, а к началу 2009 года – уже свыше 12 тысяч роботов, насчитывающих примерно с две дюжины разных специализаций.

И если уж США на сегодняшний день являются бесспорными лидерами в военной роботехнике, имеет смысл рассмотреть эту тему на конкретном примере данной страны, воспользовавшись богатым фактическим материалом, собранным в упомянутой работе П. Сингера.

В НЕБЕСАХ

Беспилотный летательный аппарат, кратко БПЛА, или же просто дрон Raven (Ворон), наиболее популярный робот-самолет в американской армии, имеет длину чуть меньше метра и весит около двух килограммов, так что его запускают с руки – броском вверх и вперед, наподобие копья.

В воздухе Raven может находиться до полутора часов, летая на небольших высотах порядка 100-120 метров и неся на борту три видеокамеры, одна из которых инфракрасная. Солдатам эта модель нравится больше всего, потому что Raven позволяет им рассмотреть, что творится за ближайшими холмами в полевых условиях или, в условиях города, оценить ситуацию в ближайших кварталах.

А самое главное – солдаты сами запускают-сажают своего шпиона и полностью управляют его маршрутами облета, т.е. не надо просить у вышестоящего начальства, чтобы прислали воздушного разведчика для поддержки. Научить управлять таким дроном можно практически любого, так что за два первых года иракской войны число «Воронов» в войсках подскочило с 25 штук до восьми сотен.

Функциональный диапазон летающих дронов ныне весьма широк. Небольшие БПЛА, вроде Raven или совсем маленького Wasp (Оса), летают чуть выше крыш домов, отсылая хозяевам видеосъемку о происходящем в ближайших окрестностях. Машины покрупнее, вроде Shadow и Hunter, способны патрулировать целые районы.

Еще более крупные БПЛА Predator могут держать под контролем целиком город, сочетая в себе продвинутые возможности наблюдения (по неофициальным свидетельствам, номера автомобилей распознаются на расстоянии порядка двух миль) и весьма серьезную огневую мощь (одиннадцать из двадцати уничтоженных лидеров Аль-Каиды были ликвидированы пусками ракет с «Предаторов»).

Наконец, летающий так высоко, что его и не увидеть, БПЛА Global Hawk способен вести наблюдение за всей страной, передавая разведке кадры подробной видеосъемки местности.

Суммируя все эти машины, к 2008 году в Ираке американской армией использовалось 5331 БПЛА, что почти вдвое больше соответствующего количества пилотируемых боевых самолетов. В тот же год один из генералов ВВС США предсказал, что «с такими темпами роста разумно предполагать, что в следующих военных конфликтах будут задействованы десятки тысяч дронов».

Среди наиболее вероятных будущих применений БПЛА называют «Предаторов», переоборудованных для ведения электронной войны, охоты за субмаринами противника и даже для атак против других летательных аппаратов. В качестве боевой единицы в проектах часто фигурирует дрон-штурмовик Reaper – более крупный, более умный и мощнее вооруженный потомок «Предатора».

У военных имеется и множество других планов: на крошечные микро-БПЛА, некоторые из которых имеют размер насекомого; на Peregrine – дрон, специально разработанный для поиска и уничтожения других роботов; а также на беспилотные стелс-бомбардировщик и высокоскоростной дрон-истребитель.

[ВРЕЗКА]
Страницы истории

Ранние виды автоматического оружия стали появляться в XIX веке вместе с механизацией массового производства. Военные эксперименты с машинами, передвигающимися без водителя внутри, начались в годы первой мировой войны – включая даже радиоуправляемые аэропланы.

Во время второй мировой войны обе воюющие стороны реально применяли в боях несколько видов беспилотных военных машин, включая дистанционно управляемые бомбы, а также это был период быстрого развития аналоговых и дискретных компьютерных устройств на электронных схемах.

В период холодной войны интерес к роботехнике стал эпизодическим, поскольку для успеха исследований гораздо важнее оказывалась не техническая достижимость, а способность изобретателей к преодолению бюрократических преград. Опыт локальной вьетнамской войны для американской военной роботехники был таким же неудачным, как и для всей армии США.

В условиях отсутствия интереса властей и минимального финансирования военной роботехники, в 1960-70-80-е годы в этой области были лишь единичные проекты с БПЛА и очень скромными результатами. Лидирующие позиции в данном секторе рынка заняли другие страны, вроде Израиля и Японии.

Поэтому когда в 1991 г. разразилась война в Персидском заливе, у американской армии из роботов на вооружении было лишь несколько старых танков M-60, переделанных в радиоуправляемые машины для расчистки минных полей, да еще один израильский летающий дрон Pioneer, использовавшийся ВМС для наведения дальнобойной стрельбы из огромных орудий 40-сантиметрового калибра.

Важнейшей особенностью войны в заливе стало массовое использование компьютеров во множестве самых разных военных задач. В 1990-е годы, одновременно с прогрессом процессоров и сенсоров, очень быстро стали развиваться и технологии роботов. Примерно в 1995 году для успехов военной роботехники наступил переломный момент вместе с интеграцией в беспилотные машины систем навигации GPS.

К сентябрю 2001 года, когда роль армии в США резко подскочила и столь же стремительно вырос военный бюджет, в стране сложились все условия для появления военной роботехнической индустрии. Ныне в эту область ежегодно вкладываются миллиарды долларов, а число компаний давно перевалило за тысячу.

[КОНЕЦ ВРЕЗКИ]

НА СУШЕ

Главными рабочими лошадками в обширном парке армейских сухопутных роботов США являются машины PackBot и Talon от двух бостонских фирм, iRobot и Foster-Miller, соответственно.

Аппарат PackBot весит чуть больше 20 кг, стоит порядка 150 000 долларов и по габаритам имеет размер газонокосилки. Как правило, с ним работают через пульт дистанционного управления, однако робот способен и на самостоятельные действия, включая возвращение в точку, откуда была начата очередная миссия. Передвигается PackBot на четырех гусеничных лентах, что позволяет ему забираться по лестницам, протискиваться в узкие тоннели и даже неплохо плавать под водой.

Другой робот, Talon, как и PackBot является платформой многоцелевого назначения. Внешне «Талоны» похожи, как шутят в армии, на лампу дантиста с гусеницами трактора. Аппарат весит чуть больше 50 кг, в стандартной комплектации имеет складную руку-манипулятор с захватом, а основные сенсоры и зум-камера находятся в специальной мачте-антенне. Робот передвигается со скоростью до 10 км/час и работает без перезарядки в течение 5 часов.

Первой областью применения Талонов и Пэкботов на войне стали задачи визуальной разведки в наиболее опасных для солдат местах. В Афганистане роботов начали привлекать для разведки пещер, в которых прятались талибы, поскольку, как выразился один из американских военных, у них «стали кончаться афганцы».

Вскоре роботам нашлось еще одно очень важное применение – обезвреживать на дорогах мины и самодельные взрывные устройства, наносящие войскам очень чувствительные потери. Радиоуправляемые машины оказались настолько успешны в этих задачах, что к 2008 году число Талонов, к примеру, возросло в армии до 2000, а Foster-Miller получила новый контракт на удвоение этого количества.

Talon впечатлил американское руководство до такой степени, что из него решили сделать настоящего бойца, вооруженного смертоносным оружием. Сконструированный на том же шасси, боевой робот Swords может нести на борту самые разные виды оружия, включая пулемет, гранатомет или противотанковую ракетную установку. Электронные системы наведения обеспечивают машине высочайшую точность типа «сколько выстрелов, столько попаданий».

Однако, хотя роботы Swords служат в Ираке с 2007 года, в боевых операциях их использовать пока воздерживаются, поскольку машины норовисты и не очень стабильны для наиболее критичных приложений. На смену этой модели уже готовится более надежный боевой робот под названием Maars.

Было бы, однако, неверно полагать, будто для всех военных роботов в будущем предполагается сугубо боевое применение. Некоторые виды машин разрабатываются в качестве «медботов» для предоставления дополнительных возможностей в работе военно-полевых врачей.

Например, модель Bloodhound, еще одна версия универсальной платформы PackBot, скоро будет способна самостоятельно отыскивать на поле боя раненых солдат, а затем, уже посредством дистанционного управления, оказывать простейшие виды первой медицинской помощи.

Следующим шагом станут специально сконструированные медботы, такие как REV и REX. Робот-эвакуатор REV (от Robotic Evacuation Vehicle) представляет собой автоматизированную версию машины скорой помощи, которая несет в себе REX (Robotic Extraction Vehicle) – нечто вроде робота-санитара, перемещающего раненых в камеру машины.

Конструктивно REX представляет собой выдвижную гибкую руку с шестью суставами, способную аккуратно перетащить солдата в безопасность, а REV имеет в себе систему жизнеобеспечения, включая видеокамеру и ЖК-экран перед лицом раненого, чтобы операторы могли видеть и общаться с солдатом, если тот находится в сознании.

Предполагается, что в конечном счете REV удастся сконфигурировать так, чтобы внутри медбота можно было проводить даже сложные хирургические операции.

И НА МОРЕ

Менее заметно, чем в воздухе или на суше, для военных операций на море ныне также внедряется довольно широкий набор роботов, основные различия которых сводятся к области их применения – на поверхности, подобно лодкам, или же под водой, подобно субмаринам.

Аппараты, работающие на поверхности, носят общее название USV (unmanned surface vessel) и имеют много общего с упрощенными моделями наземных роботов, коль скоро оперируют в двумерном пространстве и оснащаются сенсорами или оружием. Одну из типичных моделей такого рода, Spartan Scout, впервые начали применять в реальных операциях в 2003 году в Ираке, поручив дрону визуальную инспекцию небольших гражданских судов в Персидском заливе.

На борту USV также смонтирован громкоговоритель и микрофон, чтобы арабский переводчик с «корабля-матки» мог допросить любую подозрительную лодку, остановленную «спартанским разведчиком». Как рассказывают участники этих досмотров, «гражданские моряки приходили в заметное замешательство, когда их начинало допрашивать говорящее по-арабски судно, не имеющее никого на борту».

Существенно иной, подводный тип морских роботов носит название UUV (unmanned underwater vehicle). Эти машины чаще всего предназначены для таких подводных заданий, как поиск и обезвреживание мин – причина большинства боевых морских потерь в два последних десятилетия.

Многие из конструкций UUV вдохновлены биологическими организмами, вроде «Робо-лобстера», способного работать в неспокойных прибрежных водах. Другие аппараты больше похожи на мини-субмарины или переделанные торпеды, вроде дрона REMUS, применявшегося в Ираке для очистки водных путей от мин и взрывчатки.

АВТОНОМНОСТЬ И МОРАЛЬ

Не подлежит никакому сомнению, что за последние десятилетия роботы стали несравненно более сложными и умными, однако все они предназначены для решения очень специфических задач. В целом же даже многофункциональные машины типа Talon или PackBot остаются не более умны, чем какая-нибудь садовая улитка.

Они вполне могут делать неверные движения, идентифицировать неверные цели, давать самые разные сбои, и уж что они не могут сделать наверняка – это захватить мир и поработить человечество.

У современных роботов пока что немного автономности, причем по вполне понятным причинам. Даже сами солдаты, использующие их в операциях, сильно нервничают по поводу идеи оснащения машин пулеметами с последующей их отправкой на самостоятельные боевые задания.

Однако, по общим свидетельствам, от высокого начальства постоянно чувствуется давление вместе с требованиями делать поводок для роботов все длиннее и длиннее. Потому что роботы способны реагировать на происходящее значительно быстрее человека.

Если, к примеру, взвод попал под обстрел снайпера, то робот с инфракрасной видеосистемой может мгновенно зафиксировать точку выстрела и ответным огнем уничтожить вражеского стрелка еще до того, как тот успеет укрыться.

Однако, если в соответствии с текущими правилами человек-оператор будет давать санкцию на каждый выстрел, то снайпера противника, скорее всего, будет уже не достать.

Постепенно проявляется и проблема с нехваткой персонала. В настоящее время каждый крупный самолет-робот, летающий над Ираком, имеет пилота из плоти и крови, который сидит в кабинке на авиабазе в штате Невада и управляет дроном с помощью джойстика. Каждый робот Talon, соответственно, имеет своего солдата с дистанционным управлением.

Понятно, что это довольно дорогостоящее решение проблемы – а самым эффективным ее решением видится вариант, когда роботы полностью автономны и сами способны решать поставленные перед ними задачи.

Кроме того, уже просматриваются ситуации, когда человек просто не сможет управляться с продвинутыми роботами, которые становятся слишком быстрыми, или же слишком маленькими и многочисленными, создавая ситуации, чересчур сложные для прямого управления человеком. Иначе говоря, с неизбежностью встает вопрос об автономных военных машинах.

И вот в этом-то и сосредоточена центральная проблема, которая должна обеспокоить человечество очень серьезно. Потому что независимо от того, насколько умными и надежными их можно сделать, такие роботы все равно будут делать ошибки.

Сколь бы ни были ныне продвинуты системы искусственного интеллекта, их разработчики по-прежнему имеют большие трудности в своих попытках, скажем, обучить программу эффективно различать яблоки и помидоры. Что уж тут говорить о выявлении различий между мирными гражданами и бойцами противника?

И при этом, как пишет исследовавший данную проблему П. Сингер, «закон просто безмолвствует» – пока что никто из законодателей не задался всерьез вопросами о том, а можно ли в принципе выдавать автономным роботам лицензию на убийство?

Или, формулируя иначе, что должно происходить в тех случаях, когда робот убивает «не того» человека. Ведь если в цепочке принятия решений участвуют люди, то может быть установлена и юридическая ответственность. Но когда машина сама делает все, то ответственность исчезает – а вместе с ней исчезают и общепринятые нормы права.

Как считает Сингер, одним из возможных решений было бы разрешить роботам автономное использование только нелетальных видов оружия. Благо арсенал таких вооружений ныне весьма велик и разнообразен – от устройств, выстреливающих липкую и быстро отвердевающую массу для обездвиживания противника (goo-gun) до микроволновых излучателей, вызывающих болевые ощущения.

Подобные предложения для многих представляются вполне разумными. Однако в условиях, когда самолеты-роботы уже не первый год уничтожают ракетами и бомбами цели в зонах, заведомо населенных людьми, подобные идеи потребуют очень существенной корректировки фактически принятой практики.

И нынешние лидеры в области хайтек-вооружений, в первую очередь США, пока что совершенно не демонстрируют готовность связывать себе руки некими данными откуда-то извне ограничениями.

[ВРЕЗКА]
Война как видеоигра

Военным удалось очень умно воспользоваться продукцией индустрии видеоигр, в частности, их разработками в тщательно продуманных интерфейсах и контроллерах- манипуляторах. Для игровых консолей Xbox и PlayStation, к примеру, их разработчики затратили многие миллионы долларов на создание систем управления, которые идеально подходят для строения человеческих рук.

Неудивительно, что военные тоже стали использовать эти устройства, заодно бесплатно получив в свои кадры целое поколение молодых людей, которые уже натренированы в использовании таких систем.

Но в этом процессе имеется еще один существенный аспект – специфическая ментальность, формирующаяся у людей при использовании подобных систем. Один из американских военных операторов, участвующих в управлении летающими дронами Predator, описал, каковы ощущения при уничтожении противника, находящегося за многие тысячи километров.

Он сказал, что «это словно видеоигра». Если задуматься, получается очень странное, но и очень показательное сравнение для опыта абсолютно реального убийства людей. Пример того, как технологии способны менять восприятие чрезвычайно важных вещей в сознании целого поколения.

Обозначилась фундаментальная разница в сравнении с пилотом бомбардировщика второй мировой войны или даже с пилотом бомбардировщика сегодняшнего. Компьютеры и дальняя связь не только полностью отсоединяют человека от аморальности происходящего, но и вообще от боли, сопутствующей войне – как физической, так и психологической.

Ведь «боевой» опыт пилота нынешних дронов выглядит примерно так. Утром он садится в свою Тойоту, едет на службу, садится за компьютер, пачками убивает вражеских бойцов где-то там за океаном, опять садится в свою машину и едет домой.

Через полчаса после своего «хождения на войну» он уже дома и за кухонным столом обсуждает с ребенком школьное домашнее задание.

То есть понятие о том, что означает «идти на войну» изменилось в корне, а ценность жизни реальных людей стала примерно такой же, как у монстров в видеоигре.

[КОНЕЦ ВРЕЗКИ]

ГЛЯДЯ ИНАЧЕ

Помимо уже сказанного, имеется и существенно иной взгляд на происходящее.

Наша цивилизация имеет за плечами весьма постыдную историю с бездумным применением разрушительных новых технологий еще до того, как рассмотрены и проанализированы их ужасные последствия – будь это авиабомбы, отравляющие газы или ядерное оружие.

Сегодня имеется вполне реальный шанс учесть прошлые ошибки и подумать заранее.

Поэтому, конечно же, затевая разговор о боевых роботах и морали, было бы чрезвычайно странно не помянуть знаменитые «Три закона роботехники» от писателя-фантаста Айзека Азимова: (1) робот не должен наносить вреда человеку; (2) робот должен подчиняться приказам человека, если это не противоречит п.1; (3) робот должен защищать свое собственное существование, если это не противоречит пп.1 и 2.

На сегодняшний день, согласно исследованиям Сингера, среди работающих в роботехнике специалистов практически никто не обращает внимания на «старомодные и наивные» идеи Азимова. А если вдруг и вспоминают, то лишь чтобы указать, что все его рассказы из цикла «Я робот» по сути своей демонстрируют внутренние противоречия и ограничения основополагающих законов.

При этом, однако, никто из всех таких людей не желает видеть одну очень существенную вещь – для Азимова изначально была неприемлемой сама идея об автономных вооруженных роботах, запрограммированных на умышленное нанесение вреда человеку, не говоря уже об убийствах. В азимовском мире будущего такого не могло быть в принципе.

И если в нашем сегодняшнем мире это уже есть однозначно, то это означает, что с пониманием драгоценности человеческой жизни, аморальностью убийства вообще, тем более убийства механического, а значит и с базовыми основами морали у современного общества по-прежнему имеются очень большие проблемы.

И кто их способен лечить, пока неясно.