13 февраля 2020 г.
Пауль-Антон Крюгер | Süddeutsche Zeitung
Человек против машины

"Самообучающиеся алгоритмы скоро смогут кардинально изменить ведение войны и поменять мировую структуру власти. Но технологиям присуща пока еще не решенная дилемма - поэтому они таят в себе большие риски", - пишет немецкое издание Süddeutsche Zeitung.

"Сегодня компьютеры используются для планирования и осуществления военных операций, при анализе данных разведки, а также в счетчике боеприпасов танка. (...) Искусственный интеллект, как с 1955 года называется механизированное мышление, считается сегодня четвертой промышленной революцией. Он снова коренным образом меняет многие сферы экономики и жизни. И он также затронет соотношение сил в военной сфере и геополитике", - отмечает автор статьи Пауль-Антон Крюгер.
"В июле 2017 года Китай анонсировал государственный план развития искусственного интеллекта нового поколения, в котором говорится, что "ведущие промышленные страны рассматривают развитие искусственного интеллекта как важную стратегию для повышения национальной конкурентоспособности и защиты национальной безопасности". Пекин поставил себе целью добиться к 2030 году глобального лидерства в разработке искусственного интеллекта", - пишет издание.

"Президент России Владимир Путин, выступая перед школьниками в сентябре 2017 года, заявил: "Искусственный интеллект - это будущее не только России, это будущее всего человечества". Он, по словам Путина, дает колоссальные возможности, но также несет в себе трудно прогнозируемые угрозы. Одно он все же предрек: "Тот, кто станет лидером в этой сфере, будет властелином мира".
"Пока им являются США - однако все громче звучат голоса тех, кто опасается, что страна, все еще являющаяся самой могущественной в мире, может через несколько лет лишиться своего успеха. В мае 2018 года бывший министр обороны Джеймс Мэттис написал срочное письмо президенту Дональду Трампу, в котором он требовал создания национальной стратегии по развитию искусственного интеллекта. Он приложил статью Генри Киссинджера, которая заканчивалась словами: "Если мы не начнем эти усилия в ближайшее время, то вскоре мы обнаружим, что мы начали слишком поздно".
Искусственный интеллект не является боевой системой, как, например, ракета, а его использование не ограничено только военной сферой, однако он "может привести к серьезными изменениям военных возможностей и тем самым к нарушению баланса сил. Общественные дебаты фокусируются на автономных боевых системах, которые критики называют "роботами-убийцами". Однако возможности искусственного интеллекта гораздо более широки - от манипуляции общественным мнением, установления интервала технического обслуживания оружия до распознавания изображений с помощью датчиков и координации беспилотников", - говорится в статье.
"Война в Персидском заливе в 1990 году показала, что информационное преимущество на поле боя имеет как минимум такую же ценность, как превосходство в огневой мощи и численности войск. Компьютеры и электронные датчики позволили американским военным уничтожить армию Саддам Хусейна с более чем 4,5 тыс. танков. Несколько лет спустя американская армия разработала доктрину ведения сетецентрической войны, главное значение в которой отдавалось достижению информационного превосходства".

"Но одно только наличие новых технологий не гарантирует военного превосходства. Решающее значение имеет то, насколько хорошо сможет адаптироваться армия, насколько хорошо технология будет интегрирована в ее стратегию, тактику, обучение", - отмечает издание.
Россия, Китай и США сегодня по-разному следуют своим амбициям. "Китай следует наиболее радикальным путем и нацелен на то, чтобы разработать новое поколение искусственного интеллекта (...). Китай отчасти стремится к генерализованному и сильному искусственному интеллекту, который мог бы выполнять задачи, которые раньше были под силу только людям - например, оценивать всю ситуацию на поле боя и на основе этого определять команды. Китай уже обладает суперкомпьютерами, которые по числу производимых операций превосходят человеческий мозг. Проблема состоит в сложности программного обеспечения, алгоритмов", - пишет издание.

"Самообучающиеся алгоритмы скоро смогут кардинально изменить ведение войны и поменять мировую структуру власти. Но технологиям присуща пока еще не решенная дилемма - поэтому они таят в себе большие риски", - пишет немецкое издание Süddeutsche Zeitung.

"Сегодня компьютеры используются для планирования и осуществления военных операций, при анализе данных разведки, а также в счетчике боеприпасов танка. (...) Искусственный интеллект, как с 1955 года называется механизированное мышление, считается сегодня четвертой промышленной революцией. Он снова коренным образом меняет многие сферы экономики и жизни. И он также затронет соотношение сил в военной сфере и геополитике", - отмечает автор статьи Пауль-Антон Крюгер.
"В июле 2017 года Китай анонсировал государственный план развития искусственного интеллекта нового поколения, в котором говорится, что "ведущие промышленные страны рассматривают развитие искусственного интеллекта как важную стратегию для повышения национальной конкурентоспособности и защиты национальной безопасности". Пекин поставил себе целью добиться к 2030 году глобального лидерства в разработке искусственного интеллекта", - пишет издание.

"Президент России Владимир Путин, выступая перед школьниками в сентябре 2017 года, заявил: "Искусственный интеллект - это будущее не только России, это будущее всего человечества". Он, по словам Путина, дает колоссальные возможности, но также несет в себе трудно прогнозируемые угрозы. Одно он все же предрек: "Тот, кто станет лидером в этой сфере, будет властелином мира".
"Пока им являются США - однако все громче звучат голоса тех, кто опасается, что страна, все еще являющаяся самой могущественной в мире, может через несколько лет лишиться своего успеха. В мае 2018 года бывший министр обороны Джеймс Мэттис написал срочное письмо президенту Дональду Трампу, в котором он требовал создания национальной стратегии по развитию искусственного интеллекта. Он приложил статью Генри Киссинджера, которая заканчивалась словами: "Если мы не начнем эти усилия в ближайшее время, то вскоре мы обнаружим, что мы начали слишком поздно".

Искусственный интеллект не является боевой системой, как, например, ракета, а его использование не ограничено только военной сферой, однако он "может привести к серьезными изменениям военных возможностей и тем самым к нарушению баланса сил. Общественные дебаты фокусируются на автономных боевых системах, которые критики называют "роботами-убийцами". Однако возможности искусственного интеллекта гораздо более широки - от манипуляции общественным мнением, установления интервала технического обслуживания оружия до распознавания изображений с помощью датчиков и координации беспилотников", - говорится в статье.
"Война в Персидском заливе в 1990 году показала, что информационное преимущество на поле боя имеет как минимум такую же ценность, как превосходство в огневой мощи и численности войск. Компьютеры и электронные датчики позволили американским военным уничтожить армию Саддам Хусейна с более чем 4,5 тыс. танков. Несколько лет спустя американская армия разработала доктрину ведения сетецентрической войны, главное значение в которой отдавалось достижению информационного превосходства".

"Но одно только наличие новых технологий не гарантирует военного превосходства. Решающее значение имеет то, насколько хорошо сможет адаптироваться армия, насколько хорошо технология будет интегрирована в ее стратегию, тактику, обучение", - отмечает издание.
Россия, Китай и США сегодня по-разному следуют своим амбициям. "Китай следует наиболее радикальным путем и нацелен на то, чтобы разработать новое поколение искусственного интеллекта (...). Китай отчасти стремится к генерализованному и сильному искусственному интеллекту, который мог бы выполнять задачи, которые раньше были под силу только людям - например, оценивать всю ситуацию на поле боя и на основе этого определять команды. Китай уже обладает суперкомпьютерами, которые по числу производимых операций превосходят человеческий мозг. Проблема состоит в сложности программного обеспечения, алгоритмов", - пишет издание.
"США следуют более сдержанным, прагматичным путем, исходя из того, что разработка равноценного человеку машинного интеллекта займет десятилетия. Они делают ставку на специализированный или слабый/узкий искусственный интеллект, который ориентирован на конкретные проблемы использования. Подобные алгоритмы способны к самооптимизации, но могут давать рекомендации по действиям только в ограниченном количестве областей на основе базы данных".

"Третьим путем в настоящий момент идет Россия. Москва меньше стремится к тому, чтобы улучшить с помощью искусственного интеллекта скорость и качество принятия решений военного руководства. Она хочет просто создавать более качественное оружие. Примером здесь являются автоматически управляемые ракеты, которые призваны сделать неэффективными системы ПВО, или подводный беспилотник "Посейдон", который должен незаметно доставить к побережью США ядерные боеголовки".
"Так как военную ценность новых разработок в сфере искусственного интеллекта едва ли можно недооценить, а все действующие лица надеются на решающий технологический скачок, маловероятно, что они свяжут себя ограничениями военного использования (...). В то же время прозрачность и открытость в исследованиях и разработках может помочь предотвратить кошмарный сценарий, о котором предупреждает пионер технологий Илон Маск и согласно которому искусственный интеллект может развязать Третью мировую войну".
"Дилемма, тем не менее, остается: нельзя исключать, что в конечном итоге искусственные интеллекты перехитрят друг друга", - резюмирует Süddeutsche Zeitung.

Источник: Süddeutsche Zeitungтичным путем, исходя из того, что разработка равноценного человеку машинного интеллекта займет десятилетия. Они делают ставку на специализированный или слабый/узкий искусственный интеллект, который ориентирован на конкретные проблемы использования. Подобные алгоритмы способны к самооптимизации, но могут давать рекомендации по действиям только в ограниченном количестве областей на основе базы данных".
"Третьим путем в настоящий момент идет Россия. Москва меньше стремится к тому, чтобы улучшить с помощью искусственного интеллекта скорость и качество принятия решений военного руководства. Она хочет просто создавать более качественное оружие. Примером здесь являются автоматически управляемые ракеты, которые призваны сделать неэффективными системы ПВО, или подводный беспилотник "Посейдон", который должен незаметно доставить к побережью США ядерные боеголовки".
"Так как военную ценность новых разработок в сфере искусственного интеллекта едва ли можно недооценить, а все действующие лица надеются на решающий технологический скачок, маловероятно, что они свяжут себя ограничениями военного использования (...). В то же время прозрачность и открытость в исследованиях и разработках может помочь предотвратить кошмарный сценарий, о котором предупреждает пионер технологий Илон Маск и согласно которому искусственный интеллект может развязать Третью мировую войну".
"Дилемма, тем не менее, остается: нельзя исключать, что в конечном итоге искусственные интеллекты перехитрят друг друга", - резюмирует Süddeutsche Zeitung.

Источник: Süddeutsche Zeitung