КРАСНЫЙ ЖЕЛТЫЙ ЗЕЛЕНЫЙ СИНИЙ
 Архив | Страны | Персоны | Каталог | Новости | Дискуссии | Анекдоты | Контакты | PDARSS  
 | ЦентрАзия | Афганистан | Казахстан | Кыргызстан | Таджикистан | Туркменистан | Узбекистан |
ЦентрАзия
  Новости и события
| 
Воскресенье, 26.11.2017
23:18  Скончался Народный писатель Казахстана поэт Музафар Алимбаев
23:00  Казахстанские биатлонисты смешанной эстафеты впервые в истории взяли медаль этапа Кубка мира
22:06  Полина Богусевич из России выиграла "Детское Евровидение-2017"
14:16  Остановим (пока не поздно) роботов-убийц! - Le Monde
13:19  Свожу в кинотеатр... Секс-предпочтения московских мигрантов - Е.Иващенко
12:18  Инаугурация Жээнбекова. На пути к стабильности в Киргизии, - А.Уваров
12:16  Эрдоган против Центробанка Турции. Контур противостояния, - В.Катасонов

12:06  Украинские "ученые" утверждают, что в 1930-х годах от голода умерло 22,4% казахстанцев
10:56  "В казахском обществе очень много поддерживающих Атамбаева, говорящих, что он правильно сказал", - Р.Жээнбеков
10:52  Саудовское молчаливое большинство явно сыто по горло царящей несправедливостью, - Томас Фридман
10:41  "Партизаны подорвали колчаковский поезд, в котором была вся наша семья", - история жизни автора "Батыя" Василия Яна
10:38  Кремль заткнет нефтяной фонтан, - "СП"
08:03  Украина превратилась в страну проституток и бандитов, - И.Полонский
Суббота, 25.11.2017
15:56  Температура культа. Как в Таджикистане умирает честная публицистика
14:46  Принц Мохаммед – настоящий правитель Саудовской Аравии, он управляет волей своего больного отца, - Амр Элдиб
11:00  Как русские немцев в Парагвае разгромили (история), - В.Малышев
10:57  Трамп пообещал больше не продавать оружие курдам
10:48  Все госслужащие Киргизии с 2019 г. обязаны знать кыргызский язык. Приказом премьера Исакова
10:31  Почему серьезные инвесторы не хотят "бросать якорь" в Казахстане? - П.Своик
10:21  Мировоззрение Фитрата, идеология большевизма и современность, - Б.Мусаев
09:44  В Бишкеке неизвестный порезал и ограбил 17-летнюю дочь депутата Парламента Бокоева
08:37  Луганскую Народную Республику возглавил экс-МГБ Леонид Пасечник
08:25  Немецкий путь Украины: От войны до развала, - Л.Николаева
02:26  Круглый стол в Алматы или парад предателей?
01:30  Яков Кедми: Асад победил, и США тут бессильны
01:28  Чем киргизы отличаются от казахов
00:58  "Арабская весна" Саудовской Аравии: наконец-то, - New York Times
00:56  Теперь Путина просят установить мир в Афганистане, - Bloomberg
Пятница, 24.11.2017
23:53  Падение Сулеймана (Керимова) Великолепного в Ницце, - Le Monde
23:04  В Египте уничтожили 15 террористов, причастных к взрыву в мечети
18:01  Бойня в египетской мечети Аль-Рауда - 235 погибших
17:50  Третий год пьющий только воду Ертысбаев назначен послом Казахстана в Беларуси
17:48  КазНеЗдрав. Руководители управлений здравоохранения 5 областей уже... задержаны
17:44  Саудовский урок для Путина: Коррупционеры сами отдали $ 100 млрд, - С.Аксенов
15:17  Шумахер и саксаул. Аркадаг лично показал дрифт на гоночном каре (видео)
15:12  Не заслужила? КырПридворПевице Юлии Руцкой не дали звания заслуженной (видео)
15:09  В Узбекистане появятся особые спортивные паспорта
14:22  Путин уронил стул Эрдогана на пресс-конференции в Сочи (видео)
13:28  "Туркменнефть" четвертый год не выплачивает одному из поставщиков долг в размере $8,5 млн
13:25  Усатый нянь. Зампрокурора Павлодарской области Казахстана Артыкбаев ушел в декретный отпуск
13:21  Обиделся за какахи... КазСпикер Токаев утверждает, что турецкие врачи давно лечат Атамбаева от алкоголизма и паранойи
13:15  Госавиакомпания Киргизии "Эйр Кыргызстан" приостановила рейсы. Сломали последний самолет...
13:10  Центральный банк – главное детище и венец буржуазной революции, - В.Катасонов
13:09  Новая тройка. Россия, Иран и Турция делают крупный шаг к миру в Сирии, - А.Арешев
12:58  Шавкат Мирзиеев стал "Почетным гражданином" корейского Сеула
12:51  Кто отхеппибездит в этом году Астану? - Б.Абилкасимов
12:46  Тудан-Судан. Как для Владимира Путина подбирали ключи к Африке, - репортаж А.Колесникова
12:26  Главным по языку в правительстве Казахстана стал Куат Борашев
11:47  Африканских мигрантов продают как рабов, - "Le Figaro"
11:18  Чистка контрактов. Борьбу за передел ближневосточного оружейного рынка выигрывают США и Израиль, - Е.Сатановский
11:11  За что дали пожизненное сербскому генералу Младичу, - А.Мезяев
Архив
  © CentrAsiaВверх  
    ЦентрАзия   | 
Остановим (пока не поздно) роботов-убийц! - Le Monde
14:16 26.11.2017

Роботы-убийцы - угроза для нашей безопасности?
Искусство войны
НКО и представители цифровой среды требуют запрета автономного летального оружия. Мнения на этот счет расходятся, а ООН поводит исследование.

От появившегося на YouTube видео (более миллиона просмотров за неделю) бросает в холодный пот. На нем американский топ-менеджер представляет миниатюрный дрон, который сначала сидит у него в руке, а затем взрывается у стоящего в нескольких шагах манекена. "За 25 миллионов долларов вы можете разрушить половину города, худшую половину" - говорит он. Далее следует вставка из выпуска новостей, где нам показывают, как эти насекомые-убийцы бросаются на студентов какого-то университета…

После просмотра сражу же открываешь Google: на своем сайте производитель разместил кнопку "покупка". Если нажать на нее, кошмар прекращается, и вас перенаправляют на интернет-сайт кампании "Нет роботам-убийцам". Речь идет о международной коалиции более 65 некоммерческих организаций, которые выступают против автономных оружейных систем. "Эта короткометражка демонстрирует то, что происходит в результате интеграции и милитаризации существующих технологий", - предупреждает в конце видео Стюарт Рассел (Stuart Russell), профессор Калифорнийского университета в Беркли и гуру искусственного интеллекта.

"Нам хотелось предупредить общественное мнение о том, что может произойти в ближайшем будущем, если мы пустим все на самотек", - заявил Рассел Le Monde. Видео не оставили без внимания в женевском Дворце наций, где с 12 по 17 ноября проходило первое собрание межправительственной группы экспертов, которым было поручено установить необходимость мер регулирования автономных оружейных систем в рамках Конвенции ООН о запрещении или ограничении применения конкретных видов обычного оружия.

"Запрет принесет пагубные последствия"

НКО поддерживает часть занимающегося искусственным интеллектом сообщества. Google, Tencent и Alibaba, соревнующиеся в разработке беспилотного автомобиля, как никто понимают опасть нецелевого использования их технологий глубокого обучения и связи. В августе 2016 года 116 предпринимателей интернет-сектора, в том числе создатель SpaceX Илон Маск (Elon Musk), вновь обратились с тревожным предупреждением к ООН.

"Запрет принесет пагубные последствия. Любой технологический прорыв по самой своей сути содержит в себе риски и возможности. Нельзя запрещать трость, если нужно на что-то опереться", - возражает старший научный сотрудник Thales Марко Эрман (Marko Erman). Для предприятий ВПК все это - очень важный вопрос.

"Демократическое обсуждение вопроса искусственного интеллекта оказалось в заложниках у страха. К проблеме нужно подходить с холодной головой. Политика же должна показать свое старшинство", - отмечает в свою очередь математик и депутат "Республиканцев" Седрик Вилани (Cédric Villani), которому премьер Эдуар Филипп (Edouard Philippe) поручил работу по теме искусственного интеллекта.

По итогам недели в Женеве 86 стран-участниц решили продолжить согласование в 2018 году. Вопрос еще далеко не решен. Хотя у государств все еще остаются разногласия, противники "роботов-убийц" рассчитывают добиться принятия "протокола о запрете разработки, производства и применения полностью автономного оружия" до конца 2019 года. Примерно так же, как в прошлом оказалось вне закона биологическое оружие (1972), противопехотные мины (1997) и осколочные бомбы (2008).

Этические, юридические и технические вопросы

На этот раз ссоры тем острее, что у участников (военные, ученые, дипломаты, НКО…) не получается договориться об определении. Что означает "полностью автономное оружие"? Все согласны с необходимостью сохранить "существенный человеческий контроль". Но какой? Достаточно ли программировать машину? Оператор должен дать роботу разрешение на применение оружия или же ему достаточно оставить возможность отмены задачи?

Дело в том, что речь идет не о удаленно пилотируемых военных дронах вроде американских Reaper и Predator, а о машинах, которые могут установить и отследить цель, чтобы затем нанести по ней удар без человеческого вмешательства. То есть, в некотором роде, терминаторах. Официально их нет. Роботы, которые убивают людей, соблюдая при этом гуманитарное право… Сегодня ничего подобного не существует", - уверяет Венсан Буланен (Vincent Boulanin) из Стокгольмского института исследования проблем мира (СИИПМ). Он был одним из авторов выпущенного в ноябре доклада о положении дел в сфере автономного оружия.

По его словам, "современные машины слишком примитивны, чтобы увидеть разницу между военными и гражданскими или же удостовериться, что сопутствующий ущерб пропорционален искомому военному преимуществу, как следует из международных конвенций. Чтобы достигнуть этого уровня, им могут потребоваться десятилетия".

В СИИПМ отмечают, что число используемых в мире военных автономных систем составляет 381 единицу (175 вооружены). К их числу относятся, например, некоторые развернутые еще в 1970-х годах в Израиле элементы ПВО. На опасных границах роботы заменили военных. Так, например, SGR-A1 компании Hanwha Techwin (бывшая Samsung Techwin) был разработан для выявления любого присутствия в буферной зоне между Южной Кореей и КНДР с помощью инфракрасных датчиков и потенциально может вести огонь, если вторгшийся человек не поднимает руки с оружием вверх, выражая готовность сдаться.

И это еще только начало. Благодаря последним достижениям в сфере искусственного интеллекта американская Northrop Grumman, британская BAE Systems, китайская LeiShen Intelligent System и израильская IAI имеют в загашнике дроны, танки и лазерное оружие со все более высокой степенью автоматизации. В июле в концерне "Калашников" сообщили, что работают над основанным на нейронных сетях боевым модулем, который сможет устанавливать цели и принимать решения.

Большой прогресс

Сторонники этих систем называют их серьезным прогрессом: они позволяет сохранить жизни и силы, а машина зачастую оказывается надежнее человека (усталость, стресс…). В ВАЕ продемонстрировали гусеничного робота Ironclad, который должен вывозить раненых с поля боя.

Учитывая, что океанское дно усеяно десятками тысяч мин, Thales намеревается предоставить Франции и Великобритании в 2019 году полностью роботизированную систему по нейтрализации этих взрывных устройств. "Благодаря качеству умных датчиков и технологиям распознавания предметов она может отличить мину от канистры или камня, - рассказывает Алекси Морель (Alexis Morel) из подводного отделения французской компании. - Система запрограммирована для автономной навигации и выполнения задачи, однако решение об уничтожении остается за моряками".

Как бы то ни было, за потенциальными плюсами скрывается целый ряд этических, юридических и технических вопросов. "Решение об убийстве и уничтожении является человеческой ответственностью и не может быть доверено машине или оружию", - говорят в Международном комитете Красного Креста, поднимая вопрос "человеческого достоинства" жертв. НКО опасаются снижения порога применения насилия. "Отсутствие риска человеческих жертв может повсюду спровоцировать конфликты", - подчеркивает сенатор от "Республиканцев" Седрик Перрен (Cédric Perrin). Кроме того, что произойдет, если целеуказание машины будет сбито или если ее взломают?

Франция в растерянности

У всех в головах сейчас катастрофический сценарий гонки вооружений, основанных на искусственном интеллекте, в результате которой оружие массового поражения может оказаться в руках террористов или недобросовестных государств. "Reaper управляет экипаж из 15 человек. То есть, для 10 000 дронов потребовалось бы 150 000 человек. У террористической организации нет таких возможностей. Автономность же меняет все, так как позволяет сменить масштаб", - объясняет Рассел.

Особенно если она идет рука об руку с миниатюризацией, которая позволяет уменьшить производственные затраты. По словам британского эксперта, задача переговоров под эгидой ООН в том, чтобы не дать одной из держав реализовать новый "Манхэттенский проект" (знаменитая правительственная программа, которая позволила США в рекордные сроки создать атомную бомбу во время Второй мировой войны).

Разве в конце августа президент России Владимир Путин не заявил, что искусственный интеллект - ключ к мировому господству? В Китае, по словам военных, тоже говорят об этом совершенно открыто…

Франция же пребывает в растерянности. Государственные власти проводят все новые исследования, вроде октябрьского "Стратегического обзора национальной обороны и безопасности" или же апрельского доклада "Будущие столкновения" Генерального секретариата национальной обороны и безопасности. Размышляют на эту тему и в Армейском центре концепций, доктрин и опытов.

Что же из всего этого выйдет? Хотя Франция подтверждает стремление "оставить человека в системе", она все еще разрывается между опасностью отставания в оборонном плане (это касается всей Европы) и страхом апокалиптического сценария.

Изабель Шапрон (Isabelle Chaperon)
Le Monde, Франция

Оригинал публикации: Les robots tueurs menacent-ils notre sécurité ?
Опубликовано 21/11/2017

Источник - inosmi.ru
Постоянный адрес статьи - https://centrasia.org/newsA.php?st=1511694960


Новости Казахстана
- Рабочий график главы государства
- Олжас Бектенов проверил берегоукрепление жилых массивов Атырауской области в преддверии второго пика паводков
- Реализацию важных инвестиционных проектов обсудили в Правительстве
- Кадровые перестановки
- Какую социальную поддержку получают граждане в пострадавших от паводков регионах РК
- Разведка и сверка позиций: политолог Ашимбаев о визите главы МИД Британии в Казахстан
- Депутатам презентовали законопроект по декриминализации экономических правонарушений
- Заявление по соглашению ОПЕК+
- Новая страница казахско-британских отношений: в Астане подписано Соглашение о стратегическом партнерстве и сотрудничестве
- В Алматинской области судья и пристав осуждены за коррупцию
 Перейти на версию с фреймами
  © CentrAsiaВверх