Резюме: История свидетельствует о том, что международная напряженность, гонка вооружений и войны ускоряют развитие технологий. Можно ожидать, что усугубляющийся новый мировой беспорядок окажет аналогичное воздействие.

Технологии – это превращение науки в инструменты. Долгое время люди считали, что именно использование инструментов отличает homo sapiens от других видов. Оказалось, некоторые животные тоже это делают. Но только человек использует оружие, поэтому нас скорее можно назвать homo armatus, а не homo habilis или sapiens.

Прогресс и убийства

Рождаясь без зубов и когтей, люди вооружаются, чтобы убивать других, в том числе себе подобных. Мы настолько изобретательны в придумывании орудий убийства представителей собственного вида, что это оказывает воздействие и на нас самих, и на наше мышление. Огромную часть собственных интеллектуальных способностей мы тратим на разработку летальных инструментов и систем, относящихся к военным технологиям. В промышленно развитых демократиях, входящих в Организацию экономического сотрудничества и развития, около четверти исследований и разработок относится к военной сфере. В США этот показатель превышает половину.

Научные открытия обогатили нашу жизнь и расширили возможности. Процесс продолжится, а типичной человеческой реакцией останется желание применить новые технологии в военных действиях. Мы изучали кремень, кварц, обсидиан и делали копья, топоры и стрелы, чтобы охотиться на животных и убивать себе подобных. Мы развивали металлургию, чтобы совершенствовать мечи, броню и снаряды. С помощью химии не только разрабатывали лекарства, но и создали порох, мощную взрывчатку, ядовитые газы, напалм, белый фосфор и дефолианты.

Люди употребляют математику и физику, чтобы познавать баллистику, кинетическую энергию ударной волны, вероятное круговое отклонение и определять перегрузки. Мы используем соотношение массы и энергии для разработки ядерного оружия. Задействуем практически все естественные науки с целью производства оружия массового уничтожения и средств его применения.

Киберпространство норовим приравнять к суше, морю, воздуху и другим пространствам, где допустимо вести слежку, подрывную деятельность, воровать, атаковать противника и его союзников. Квантовая механика используется для разработки сложнейших видов шифрования. Робототехника и искусственный интеллект позволяют строить и применять беспилотники и различные виды летального оружия, которое уничтожает предполагаемых противников, при этом нам не нужно рисковать собственной жизнью.

Анализ "больших данных" позволяет теперь идентифицировать человека или группу, которые могут быть уничтожены с помощью дрона. По некоторым данным, новейшие достижения генной терапии уже используются, чтобы наделить солдат сверхспособностями. Следующий шаг – вернуться к точке, где остановилась примитивная евгеника прошлого века, модифицировать эмбрионы и сконструировать поколение несокрушимых воинов. Динамика, присущая "дилемме безопасности" – когда оборонительный шаг одной стороны рассматривается оппонентом как сигнал агрессивных намерений – позволит нам преодолеть щепетильность и добиться точности при ведении бактериальной войны, которая была невозможна в годы Второй мировой. Новые технологии биоинженерии обещают возможность с помощью специально разработанных бактерий и вирусов уничтожать людей с генотипом, который нам просто не нравится. Зачем сжигать деревни, если, запустив микроб, можно уничтожить все население незаметно, анонимно и, главное, раз и навсегда.

В определенном смысле все это не ново. Технологический прогресс и инновации в военной сфере начала XX века были настолько разрушительными и угрожающими, что наши прадеды и прапрадеды приложили максимум усилий, дабы не только уменьшить риск военного столкновения, но и определить легитимные способы ведения боевых действий. Они разработали новое видение международного сообщества. Сформулировали законы войны, запретили аннексию территорий с помощью захвата и коллективное наказание, предписали гуманное отношение к военнопленным, проработали концепцию военных преступлений и создали транснациональные институты для надзора за соблюдением согласованных правил. Некоторое время система работала, но это было в прошлом веке.

Сегодня эрозия международного права, прежде всего законов ведения боевых действий, и восхваление аморальности, сопровождающее так называемую "глобальную войну против терроризма", лишили военные проявления всяческих ограничений. Полагая, что им придется столкнуться с худшим, народы готовятся нанести упредительный удар независимо от норм, закрепленных Нюрнбергским процессом, Уставом ООН и Женевскими конвенциями. Первые десятилетия XXI века подарили целый набор эвфемизмов для обозначения отступлений от прежних норм. Возьмем термин "незаконные участники боевых действий", появившийся в 2001 г. для обозначения людей, сопротивляющихся вторжению или оккупации иностранными военными, в том числе "на словах". Люди, отнесенные к этой категории, не могут претендовать на защиту на основании Женевских конвенций, требовать предъявления официальных обвинений и ожидать суда в обычном порядке. Их возможно поместить в тюрьму, подвергать "усиленным техникам допроса" (термин имеет печальное происхождение – прямой перевод немецкого выражения verschärfte Vernehmung, которым в гестапо обозначили бесчеловечные пытки), и даже устранение не возбраняется.

Или вспомним так называемые "таргетированные убийства" –
уничтожение предположительно опасных людей без судебного решения на основании презумпции виновности и распоряжения чиновников. Иногда оправданием убийства являются религия, местонахождение, возрастная группа или другие аскриптивные критерии. Такие акции (часто выполняемые беспилотниками) стали широко распространенной альтернативой практике агрессивного умиротворения в Западной Азии, на Африканском Роге и в Сахеле. Люди, ставшие жертвами ошибочного определения целей или по трагической случайности оказавшиеся рядом с объектами авиаударов и операций спецназа, списываются как потенциальные боевики или "сопутствующий ущерб".

Все эти увертки и эвфемизмы, придуманные для недопустимого поведения, нарушают традиционные каноны морали и международного права. В целом они отражают определенный образ мыслей – государственная политика сводится к запугиванию, физическому насилию или убийству тех, кто сопротивляется иностранному давлению или подчинению. Не нужно разрабатывать стратегии. Внешнюю политику заменяют безнаказанные убийства. Закон утратил ту ограничивающую власть, которой обладал прежде.

Отчасти это объясняется тем, что современная политическая мысль оценивает легитимность действий по результату, а не процессу его достижения. Подход, при котором конечный итог оправдывает средства, позволяет технологам отбросить моральные колебания и разрабатывать более эффективные способы устранения предполагаемых противников. Вряд ли стоит ожидать, что поколение 2000-х гг. не сможет обходить моральные аспекты так же искусно, как поколение 1940–1960-х годов. Технологии безусловно будут использованы по максимуму. Многие достижения принесут благо. Но возникнут и моральные проблемы, которые бумерангом ударят по своим первым адептам. Каких дальнейших технологических изменений в государственном управлении стоит ожидать? Как ограничить противоречащее морали, деструктивное использование науки?

Золотой век дезинформации и слежки

Двадцатый век начался и закончился явлениями, которые незамысловато были названы "новой дипломатией". Речь идет о культурном, информационном и политическом взаимодействии с другими странами, которое практиковали, например, китайский Институт Конфуция, Альянс Франсез, Институт Гете и, к сожалению, упраздненное Информационное агентство США. Предполагались попытки правительств и гражданского общества содействовать восстановлению или установлению конституционного порядка в других странах путем их поддержки и умелого продвижения перемен. В качестве примеров можно привести глобальную кампанию против апартеида в ЮАР, бойкот, отказ от инвестиций и санкции против Израиля с целью прекратить расширение незаконных еврейских поселений, этнические чистки и религиозно-этническую дискриминацию. Кроме того, подразумевалась деятельность по продвижению демократии, которую вели организованные государством неправительственные организации, включая Национальный фонд поддержки демократии, различные НКО по защите прав человека, а также американские политтехнологи, которые работали на выборах в странах постсоветского пространства в период их демократизации.

Двадцать первый век начался во многих странах с запрета деятельности иностранных и финансируемых иностранцами НКО. Такой тренд наблюдался в этнически и религиозно ограниченных частичных демократиях (Израиль), популистских авторитарных режимах (Россия), военных диктатурах (Египет) и однопартийных полицейских государствах (Китай). В то же время возможность применять искусственный интеллект к "большим данным" создала новый класс профессиональных аналитиков, которые умеют манипулировать социальными сетями, новостями, привлечением внимания и политической активностью как внутри страны, так и за границей. Первые случаи применения этого ноу-хау в США были связаны с электоральной географией, надпартийными политическими кампаниями, индивидуализацией сбора пожертвований, а также системным использованием социальных медиа для введения людей в заблуждение, разжигания противоречий и стимулирования политической активности.

Если мы поверим в обвинения, выдвигаемые сегодня против России, значит стратагемы, в основе которых лежит использование Интернета, перестали быть исключительно американским инструментом. Другие государства якобы тоже манипулируют американским общественным мнением на выборах посредством кражи данных и целенаправленной дезинформации. Происходило ли это на выборах президента Соединенных Штатов в 2016 г. или нет, главное, что никто пока не предложил реальных способов противодействия манипулятивным практикам на базе "больших данных", которые повсеместно вытесняют более прозрачную, но не такую эффективную "новую дипломатию". Политика больше не определяется в сигаретном дыму кулуаров. Наступила эпоха манипулирования общественным мнением и исходом выборов с помощью алгоритмов.

Это золотой век дезинформации и слежки. Поскольку знания об обществе и окружающем мире в значительной степени сосредоточены в киберпространстве, возможности государства и негосударственных акторов формировать общественное мнение в других странах беспрецедентно возросли. Сегодня стало невероятно легко вести пропаганду и психологические кампании, оказывать политическое и культурное воздействие, стимулировать массовое разочарование, недовольство элит и народный гнев в других государствах. Во время войн операции психологического воздействия позволяют добиться быстрого распространения фальшивых электронных сообщений, липовых новостей, компромата на политических лидеров, в том числе посредством соцсетей, в результате искажается представление о ситуации, нарушается политическая координация и процесс принятия решений. Технологии позволяют осуществить мягкое завоевание посредством скрытых действий в киберпространстве. Применение научных достижений ведет к эрозии суверенитета, облегчая использование мер воздействия, выходящих за рамки дипломатии, но не доводя дело до войны.

Учитывая эти тенденции, некоторые страны, например Китай, считают, что нужно изолировать свои телекоммуникационные системы и медиапространство и таким образом предотвратить иностранное вмешательство в политический процесс. Правомерна ли такая позиция? Самоизоляция противоречит западным ценностям. Но как еще можно препятствовать иностранным манипуляциям и подрыву внутриполитических процессов, безопасности режима и конституционного порядка? Американцам и гражданам других либеральных демократий стоит задуматься о том, как "закрепить блага свободы за нами и нашим потомством" в эпоху "больших данных", искусственного интеллекта и виртуальной реальности.

Прежде чем перейти к проблемам шпионажа и боевых действий, хотелось бы сказать несколько слов о традиционной дипломатии. Частые саммиты – инновация XX века. Раньше подобные встречи лидеров государств проводились редко. Проблема заключалась не только в дальности поездок, встречи в верхах предполагали определенный риск. Как отмечал Дин Ачесон, "если глава государства или правительства теряет мяч, линия ворот за его спиной оказывается открытой".

В XXI веке технологии виртуальной реальности и электронные переводчики позволят проводить саммиты без длительных вояжей и физического присутствия переводчиков. Скорее всего, подобных контактов лидеров станет больше. Но если руководители будут взаимодействовать напрямую, без посредников, разбирающихся в культуре, языке и истории иностранных государств, к чему это приведет: к согласию или к конфликту? Когда главы правительств будут ставить на кон собственную репутацию, а дипломаты перестанут выполнять традиционную роль буферов и козлов отпущения международного взаимодействия, станет ли сложнее находить компромиссы? Что нам говорят общественные науки о том, как максимально увеличить вероятность того, что виртуальные саммиты помогут, а не навредят способности людей разрешать проблемы?

Окажутся ли изменения дипломатического взаимодействия, о которых я говорю, позитивными или негативными для человечества, зависит не только от качества политиков, которых мы выбираем, и компетентности их помощников. Не менее важны последствия утраты Соединенными Штатами гегемонии и формирования мира с многочисленными конкурирующими центрами силы. В нынешней ситуации я не готов дать оптимистичный прогноз.

Пора задуматься о том, что означает уважение суверенитета в эпоху Интернета, можно ли пересмотреть основанный на правилах миропорядок, как обеспечить спокойствие внутри страны, учитывая снижение барьеров для злонамеренного иностранного вмешательства, и как выстраивать выгодные отношения с партнерами и оппонентами на международной арене. Это базовые вопросы.

То же самое можно сказать о воздействии технологий на шпионаж, несмотря на секретность, окружающую эту сферу. Учитывая огромные массивы данных в киберпространстве, в результате одной хакерской атаки можно получить информацию о понимании союзниками и противниками ключевых трендов и событий, а также их планах. Анализ полученных "больших данных" позволяет определить основных акторов во внешней политике и использовать их слабые места для ведения пропаганды, дезинформации или иных способов прямого или опосредованного воздействия. "Большие данные" – отличный способ выявить потенциальных шпионов.

В то же время вести агентурную разведку по "сложным целям" станет еще труднее. Первый пример – Китай. Разработанная китайскими властями система "социального кредита" должна заработать в 2020 году. Эта общенациональная система объединяет программы распознавания лиц и камеры видеонаблюдения, идентификационные сведения, кредитные карты, информацию об онлайн-транзакциях, базы интернет-браузеров и мессенджеров. Управляемая искусственным интеллектом система позволяет определить, насколько граждане и компании страны соответствуют стандартам правящей Компартии Китая – честность и неподкупность, следование законам и нормам, патриотизм (означает уважение к партии и выполнение ее директив). Те, кто продемонстрирует высокие показатели, получат привилегии и скидки на услуги. Низкие показатели повлекут за собой санкции. Система должна определить модели индивидуального и коллективного поведения, выявить проблемные социальные явления и рекомендовать меры борьбы с ними. Уже проводятся эксперименты на региональном уровне – например, в Шанхае.

Цель экспериментов по тоталитарному социальному контролю с использованием искусственного интеллекта – вполне конфуцианская сосредоточенность на пропаганде гражданской добродетели и принципов легизма Хань Фэй-цзы. Система "социального кредита" призвана уменьшить недоверие и несоблюдение закона в китайском обществе, стимулировать определенные модели общественного поведения и способствовать развитию "экономики совместного пользования". Система также предназначена для укрепления внутренней безопасности. Какими бы ни были преимущества и недостатки режима в КНР, можно с уверенностью говорить о том, что разведслужбы всего мира озабочены проблемой дальнейшей работы в стране. И если Китай станет лидером в этой сфере, другие страны последуют его примеру.

Мораль и бумеранг

История свидетельствует о том, что международная напряженность, гонка вооружений и войны ускоряют развитие технологий. Можно ожидать, что усугубляющийся новый мировой беспорядок окажет аналогичное воздействие. Некоторые изменения будут полезными, другие – нет. Так, беспилотными могут стать не только автомобили, но и бронемашины.

20 августа 2017 г. 116 основателей компаний, связанных с робототехникой и искусственным интеллектом, включая Илона Маска и Мустафу Сулеймана из Google DeepMind, подписали открытое письмо, в котором призвали ООН "немедленно заняться проблемой летального автономного оружия (так называемых "роботов-убийц") и запретить его использование во всем мире". "Летальное автономное оружие угрожает стать третьей революцией в ведении военных действий, – говорится в письме. –
Его разработка позволит вести конфликты беспрецедентного масштаба, а иногда такими стремительными темпами, которые человек не в состоянии осознать. Это оружие может оказаться в руках тиранов и террористов, которые применят его против невинных людей, в случае похищения оружие может быть использовано нежелательным образом. У нас остается не так много времени. Открытый ящик Пандоры будет невероятно сложно закрыть".

Запреты ООН сегодня не очень эффективны, тем не менее мы должны разработать и ввести в действие нормы, которые не позволят летальному оружию оказаться под контролем машин. То же самое касается достижений медицины, которые дают возможность проводить генную терапию, модифицировать эмбрионы, разрабатывать лекарства и яды против конкретных людей или групп, а также наносить точечные удары с использованием бактериологического оружия. Печальные прецеденты уже созданы Соединенными Штатами и их партнерами. Вспомним вирус Stuxnet, парализовавший работу объектов в Иране, автоматические "зоны поражения" на границе сектора Газа и в демилитаризованной зоне на Корейском полуострове или трагикомичную историю с неудачной попыткой МОССАДа ликвидировать главу ХАМАС Халеда Машаля в 1997 году.

Задумайтесь об идеях Конфуция, Гиллеля, Иисуса Христа и пророка Мохаммеда. Все они говорят о "золотом правиле". То, как человек относится к другим, в конце концов обернется бумерангом. Американцы будут сожалеть о созданных ими прецедентах использования кибероружия, дронов и высокотехнологичных отрядов спецназа за границей.

У американцев нет оснований для самоуспокоения. США не смогут бесконечно сохранять лидерство в сфере искусственного интеллекта, беспилотных аппаратов, генной инженерии, кибероружия, разработки ракет и бомб и в других технологиях. Но пока Соединенные Штаты остаются лидером, мы можем не сомневаться, что страна, первой применившая напалм, ядерное оружие, ковровые бомбардировки и беспилотники, продолжит разрабатывать и использовать новое летальное оружие.

Так что же делать? С точки зрения морали технологии нейтральны. Как нам регулярно напоминает Национальная стрелковая ассоциация, "ружья не убивают людей, людей убивают люди". Для кого-то трость может стать дубиной. Однако в сочетании с дипломатией оружие превращается в инструмент, позволяющий изменить мышление людей, вместо того чтобы их убивать.

Ничто кроме краха цивилизации не может остановить прогресс человеческого знания. Важно, как мы используем науку и технологии. Многие упоминавшиеся здесь технологии обладают огромным позитивным потенциалом. Обязанность – позаботиться о том, чтобы они использовались во благо. Но как уменьшить риски их применения во вред?

В мире недоверия и растущей ненависти религия не может служить регулирующим императивом. Администрация Дональда Трампа заявила, что не признает интересы мирового сообщества, подчеркнув: поведение на международной арене определяет эгоистичный национализм. Дипломатия и развитие выходят из моды. Организации, занимающиеся контролем над вооружениями, получают Нобелевскую премию, но не добиваются значительных результатов на фоне обострения национального соперничества.

Как справиться с технологическими демонами? Ответ стоит искать в общественных науках. В отличие от наук естественных, они пока дали нам меньше технологий. Специалистам пора поделиться полученными знаниями о человеческой природе и предложить методы ее модерирования. Возможно, анализ "больших данных" с помощью искусственного интеллекта позволит предложить способы притормозить худшие инстинкты человека и оптимизировать использование дипломатии, разведки и вооружения. Учитывая имеющиеся альтернативы, наверное, стоит попробовать.

Чез Фриман – cтарший научный советник Института мировой и публичной политики имени Уотсона в Университете Брауна, в прошлом – высокопоставленный дипломат и сотрудник Пентагона, переводчик.
12 февраля 2018

№1, 2018 г.