РАФАЭЛЬ АХМЕДОВ
Литературовед, старший преподаватель филологического факультета Гулистанского государственного университета (Узбекистан).

ФЕДОР ЛУКЬЯНОВ
Главный редактор журнала "Россия в глобальной политике" с момента его основания в 2002 году. Председатель Президиума Совета по внешней и оборонной политике России с 2012 года. Директор по научной работе Международного дискуссионного клуба "Валдай". Профессор-исследователь Национального исследовательского университета "Высшая школа экономики".

AUTHOR IDs
SPIN RSCI: 4139-3941
ORCID: 0000-0003-1364-4094
ResearcherID: N-3527-2016
Scopus AuthorID: 24481505000

КОНТАКТЫ
Тел. +7 (495) 980-7353
editor@globalaffairs.ru

ИНТЕРВЬЮ ПОДГОТОВЛЕНО СПЕЦИАЛЬНО ДЛЯ ПЕРЕДАЧИ "МЕЖДУНАРОДНОЕ ОБОЗРЕНИЕ" (РОССИЯ 24)
Искусственный интеллект можно научить законодательству, правилам этики и морали, традициям и общепринятым нормам общества, однако, предоставив ему полную свободу, невозможно будет предсказать его действия. Его поведение станет не "человекоподобным", а "человеческим", со всеми вытекающими отсюда последствиями. О страхе перед роботами и эволюции ИИ в литературе и жизни Федор Лукьянов поговорил с литературоведом Рафаэлем Ахмедовым в интервью для передачи "Международное обозрение".

Федор Лукьянов: Философия Айзека Азимова, посвященная взаимоотношениям человека и робота, по-современному – искусственного интеллекта, оптимистична. На чем основывалась его уверенность, что ИИ не станет неконтролируемым злом (то, чего так опасаются сейчас)?

Рафаэль Ахмедов: Прежде всего, страх человека перед искусственным интеллектом основан на том, что человек ассоциирует его с собой, то есть наделяет его способностью чувствовать, переживать, наслаждаться, завидовать, мечтать. Во всех произведениях, в которых ИИ наносит вред человеку, его действия объясняются тем, что ИИ "чувствовал" страх, "переживал" за себе подобных, "получал удовольствие" убивая и разрушая, "завидовал" людям, "желал" все захватить и, как результат, "мечтал" сам стать человекоподобным и обладать всем, чем обладает человек.

Если рассматривать роботов, встречающихся нам на страницах сборника "Я, Робот" Азимова, то ни один из них не мог испытывать чувства и эмоции, а лишь выполнял те действия, на которые был запрограммирован. Здесь робот – это прежде всего помощник, ограниченный в своих действиях тремя законами робототехники. Человек же, в свою очередь, может чувствовать по отношению к роботу как страх и ненависть, так и уважение, дружбу, привязанность. Это нормально, но это никак не означает, что робот может ответить тем же – он лишь может "сделать вид", что чувствует, не более того.

Что касается контролируемости или неконтролируемости ИИ, то в рассказах сборника "Я, Робот" эти параметры зависят полностью от программного ограничения, которое создается людьми. И если робот, наделенный ИИ, совершает какое-либо "злое" действие, то в этом виноват именно человек, который позволил ему это совершить, изменив определенные настройки. Обвинять в этом случае ИИ – это как обвинять автомобиль в том, что он сбил человека. Таким образом, большинство роботов из сборника "Я, Робот" действительно можно считать контролируемыми и безопасными.

Проблема в том, что сегодня искусственному интеллекту выдается все больше полномочий в управлении различными информационными системами, причем не только гражданского (поисковые системы Интернета, создание текстов, изображений, чатов в нейросети), но и военного назначения – многие системы ПВО, системы управления самолетами, подводными лодками активно используют ИИ.

Это конечно же представляет собой потенциальную опасность, так как человечество, еще окончательно не разобравшись в механизмах управления искусственным интеллектом, уже пытается внедрить его во все возможные сферы.

Я имел честь беседовать с одним из видных ученых-робототехников Родни Бруксом, профессором, бывшим директором лаборатории ИИ в Массачусетском технологическом институте, который поддерживает акционистский подход к робототехнике, согласно которому поведение робота должно основываться прежде всего на сенсомоторной связи с окружающей средой, то есть действия робота регулируются тем, что он видит, слышит, осязает, и самостоятельны лишь в той мере, в которой он запрограммирован для решения той или иной задачи. Родни Брукс признает, что абсолютно все имеющиеся сейчас в мире версии ИИ – недоработаны.

Мое мнение, что применение ИИ все же необходимо как элемент развития человечества в целом, однако нужно соблюсти баланс между степенью его применения и наличием достаточных знаний и навыков работы с ИИ, поскольку цена ошибки в данном случае может быть слишком высокой.

Федор Лукьянов: Тот, кто исполняет три закона робототехники, – по сути, лучше и моральнее, чем сами люди в отношениях друг с другом? Не делает ли это Азимова мизантропом, разочарованным в человечестве?

Рафаэль Ахмедов: Действительно, прочитав некоторые рассказы Азимова, может показаться, что писатель ставит роботов на более высокую моральную ступень, чем человека. Однако это касается только случаев применения трех законов робототехники, которые сам писатель называл минимальным набором правил, требующим дальнейшей разработки в будущем. Так, например, практически во всех рассказах сборника "Я, Робот" описывается абсурдная ситуация, возникающая в результате недостаточной проработанности законов робототехники.

Азимов – ни в коем случае не мизантроп. Наоборот, он ярый гуманист, уверенный, что человек способен на великие свершения, что он способен развиваться, становиться лучше.

Писатель лишь предлагает людям следовать простым, элементарным правилам морали (трем законам), которые в некоторой степени напоминают религиозные заветы, хотя сам писатель был атеистом.

По этой причине, в некоторых произведениях Азимова проявляются элементы утопии, ведь он предлагает читателю помечтать о мире, в котором люди не убивали бы друг друга, выслушивали мнение каждого, заботились о себе и окружающих, ведь именно в этом и суть трех законов.

Федор Лукьянов: От идеи, что роботы – такие же люди, только лучше, Азимов эволюционирует до уровня обобщения, что роботы – попечители человечества: "Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред". Это же возводит робота на уровень (чуть ли не божественный) всечеловеческого знания – что хорошо, а что плохо.

Рафаэль Ахмедов: Здесь необходимо сделать одно замечание. Роботы из сборника рассказов "Я, Робот", относящиеся к раннему этапу творчества Азимова, – это лишь прототипы роботов, населяющих вселенную серии романов "Основание", которые относятся к более позднему этапу в творчестве писателя.

Первые фактически не обладают искусственным интеллектом, а лишь выполняют программы, внесенные в их позитронный мозг. То есть если создаются два робота, с абсолютно одинаковыми параметрами, то они остаются таковыми (одинаковыми) до окончания своей службы, если, конечно, не возникают непредвиденные чрезвычайные обстоятельства.

Роботы же из серии романов "Основание", особенно Дэниел Оливо и Жискар Ривентлов, это роботы, обладающие ИИ в полном смысле этого термина, то есть они могут самосовершенствоваться и учиться, имеют свое мнение и секреты, имеют возможность действовать согласно собственным решениям, основанным на уникальном личном опыте. И конечно, обеспокоенность и страх людей перед такими роботами уже лишены предубеждений, так они действительно обладают способностью испытывать чувства и эмоции, а значит, могут действовать как люди – то есть убивать, разрушать, уничтожать согласно своим личным мотивам и решениям. В романах "Основание" действия робота Дэниела Оливо помогли человечеству выжить, однако это не значит, что другой робот, наделенный сложным ИИ, будет действовать так же.

Кстати, озабоченность по поводу создания роботов с ИИ выражал также известный английский физик-теоретик, космолог и писатель Стивен Хокинг. Он опасался, что человечество создаст что-то такое, что превзойдет своего создателя, возьмет инициативу в свои руки.

Именно поэтому все современные технические системы, оснащенные ИИ, строго ограничены в своих действиях, и именно поэтому не могут считаться полноценными. В этом и проблема – полноценным ИИ станет только при полной свободе действия. ИИ можно научить законодательству, правилам этики и морали, традициям и общепринятым нормам общества, однако невозможно предсказать его действия, так как мы не знаем, посчитает ли ИИ необходимым выполнять те или иные правила в тех или иных условиях или ситуациях. То есть поведение станет не "человекоподобным", а "человеческим", со всеми вытекающими отсюда последствиями.

Авторы:

Рафаэль Ахмедов, литературовед, старший преподаватель филологического факультета Гулистанского государственного университета (Узбекистан)

Федор Лукьянов, главный редактор журнала "Россия в глобальной политике"

6.12.23