Эксперт: Через два года настанет время роботов-убийц

"Назад!"
Голос разносится на расстояние трех километров.
"Назад, или открываем огонь!"

Говорящий - не человек, и люди не помогают ему обнаружить цель и поворачивать дуло тяжелого пулемета, угрожающе следуя за приближающимся автомобилем. Южнокорейский робот Super aEgisII проделывает все это автоматически. Единственное, чего он не делает сам, - это стрельба.

Вернее, стрелять самостоятельно ему нельзя.

"Прототип мог автоматически открывать огонь, но все наши клиенты предпочитали установить барьер безопасности. Технически это не проблема, но они беспокоятся, что робот может ошибиться", - рассказывает BBC инженер из компании-производителя робота DoDAAM Чен Сук Парк (Jungsuk Park).

Вот будущее военных технологий.

Задачи в демилитаризованной зоне между Северной и Южной Кореей, где установлены Super aEgisII, весьма просты - отстрелять тех, кто пересекает поле. Super aEgisII не отличает своих от чужих, и - что, вероятно, намного более критично - он не способен учиться на ошибках.

Пока.

Один грамм взрывчатки

Вооруженный механизм может доставить большие неприятности, даже если он не оснащен человеческим интеллектом.

Вооруженные дроны уже широко применяются, во всяком случае, американские Reaper - беспилотные летательные аппараты, послушно обстреливающие ракетами подозреваемых в терроризме. Но Reaper - не роботы, ими управляют с американских баз, и решения о том, кого убивать и как, принимаются людьми.

Полностью автономное оружие - это другое дело. Машины сами решают, кому умереть, люди не влияют на их выбор.

Короче говоря, речь идет о роботах-убийцах.

Стюарт Расселл (Stuart Russell), профессор информатики в Университете Беркли в Калифорнии, уточняет, что, говоря о роботах-убийцах, мы не должны представлять себе Арнольда Шварценеггера (Arnold Schwarzenegger) в "Терминаторе", скорее - тысячи квадрокоптеров три-четыре сантиметра в диаметре, каждый из которых оснащен одним граммом взрывчатки - зарядом, достаточным, чтобы пробить человеческий череп.

Такие дроны запрограммированы на поиск, распознавание и уничтожение тысяч объектов.

"Появятся производители, выпускающие миллионы таких вооружений, и их можно будет купить, как сейчас покупают ружье, с той лишь разницей, что миллион ружей бессмысленны, если нет миллиона солдат. А чтобы запрограммировать и выпустить дроны, нужно всего три человека. Только представьте себе, какая охота на людей начнется во многих частях мира", - говорит Стюарт Расселл Buzzfeed.

Он полагает, что она может стартовать через два-три года.

"Собственно, не требуется никаких технологических прорывов. Каждая технология уже имеется в коммерческом доступе в той или иной форме. Вопрос лишь в размере инвестиций", - продолжает Стюарт Расселл.

Нужен запрет

Похоже на запугивание или научную фантастику?

Многие выдающиеся ученые в области искусственного интеллекта так не думают. Они открыто требуют запретить автономное оружие. В открытом письме, подписанном такими знаменитостями, как глава Tesla Илон Маск (Elon Musk), физик Стивен Хокинг (Stephen Hawking) и соучредитель Apple Стив Возняк (Steve Wozniak), подчеркивается, что автономное оружие может стать реальностью уже "в ближайшие годы, а не десятилетия".

"Автономное оружие идеально для таких целей, как заказные убийства, национальная дестабилизация, угнетение населения, выборочная ликвидация отдельных этнических групп", - пишут ученые, которые также предупреждают, что может начаться новая гонка вооружений.

Окружение и уничтожение кораблей

Но развитие все более автономных типов вооружений продолжается, одни проекты открыты, другие засекречены.

Агентство по перспективным оборонным научно-исследовательским разработкам США (DARPA) показало в программе CODE, как стая беспилотников Reaper обыскивает обозначенный район, докладывает о найденных целях, например, танках, и по команде уничтожает их.

Американское Управление военно-морских исследований (ONR) открыто продемонстрировало прием, когда большая группа лодок-роботов полностью автоматически и синхронно окружает вражеские корабли. "Новая технология позволяет лодкам находить, сдерживать и уничтожать атакующего врага", - сообщило ONR в проектном отчете. Роботы сами поддерживают связь друг с другом, вмешательство человека в их действия минимально.

Роботы моральнее людей

Сторонники роботов-убийц выделяют несколько весомых преимуществ.

- Скорее всего, использование роботов будет дешевле, чем обучение, содержание, транспортировка и оснащение обычных военных.

- Их можно применять в опасных ситуациях, не рискуя жизнями солдат.

- Роботы моральнее людей: если машина не запрограммирована на совершение военных преступлений, то она и не будет этого делать.

- У них нет инстинкта самосохранения, они не склонны принимать необдуманные решения из-за страха или неправильного понимания ситуации.

Снижение порога войны

Угрозы не менее очевидны.

- Роботы снизят порог развязывания войн. Применить военные средства проще, когда не рискуешь жизнями собственных солдат.

- Доступ к новейшим вооружениям будет лишь у богатых и могущественных игроков.

- Роботы станут новым средством угнетения населения в диктатурах.

"Ими будут пользоваться диктаторы и тираны, которым сейчас нередко бывает трудно убедить военных применить силу против собственного народа. Мы видели такую ситуацию в Египте, военные отказались атаковать народ на площади Тахрир", - рассказывает Питер Уоррен Сингер (Peter Warren Singer), специалист по военным роботам и сотрудник аналитического центра New America в Вашингтоне.

Прогресс не остановить

Профессор информатики в университете Умео Тумас Хелльстрем (Thomas Hellstrom) возглавляет исследовательскую группу Intelligent Robotics, которая изучает варианты конструкций боевых роботов.

Он считает, что прогресс уже не остановить.

"Если быть реалистом, то в долгосрочной перспективе это будет сложно. Если результаты исследований окажутся применимы на практике, их обязательно используют в военных целях, несмотря на активные протесты в среде ученых-робототехников, - говорит Тумас Хелльстрем. - Развитие дронов продолжается. Такие системы относительно легко снабдить функцией автоматической стрельбы, а у политиков не возникнет больших сложностей с утаиванием обстоятельств. Думаю, мало кого волнует, кто именно пустил ракету в Афганистане - сидящий в Неваде оператор или сам летательный аппарат".

При этом Хелльстрем не считает неизбежным появление думающих антропоморфных роботов.

"Большая общая проблема всех роботов заключается в том, что они не способны чувствовать окружение и давать корректную оценку происходящего, что отлично получается у людей: мыслить здраво. Даже человеку бывает непросто отличить мирного жителя от солдата, а для робота это по большому счету нереально. Это чисто технический момент. И даже если решить эту проблему, остается вопрос этических рамок. На основании чего робот делает вывод о правильности или неправильности действий?" - продолжает Тумас Хелльстрем.

Он не уверен, что маленькие квадрокоптеры, о которых говорит Стюарт Расселл, способны отличать друзей от врагов.

"Это будет как кассетная бомба, убивающая всех без разбора. Компьютер не отличит ребенка с прутиком от взрослого мужчины с ружьем. Такие задачи не решаемы даже в перспективе".

Роботы, которые уже существуют

Одна техасская фирма построила "Купидон" (Cupid) - летающий беспилотник для охраны дома. Обнаружив взломщика, "Купидон" просит его удалиться, а если несчастный не подчиняется, то получает электрический разряд в 80 тысяч вольт.

Американский флот уже давно использует системы "Иджис" (Aegis) и "Фаланкс" (Phalanx) для защиты от вражеских ракет. "Фаланкс" построена на основе 20-миллиметровой пушки Гатлинга и может самостоятельно, то есть без помощи человека, обнаруживать, идентифицировать и сбивать приближающиеся снаряды.

Русские СМИ сообщают, что Россия разработала "Железного человека" - робота, "способного заменить человека в бою".

В Северной Дакоте действует закон, позволяющий полиции оснащать свои беспилотники электрошоковым оружием или оружием, стреляющим резиновыми пулями.

Никлас Вент (Niclas Vent)
Aftonbladet, Швеция