Эксперты предложили, как регулировать использование нейросетей

Алена Светунькова

Искусственный интеллект (ИИ) стал неотъемлемой частью продуктов и услуг, вследствие чего возникла потребность в разработке принципов этики. Этика искусственного интеллекта - это единая система рекомендательных принципов и правил, предназначенных для создания среды доверенного развития технологий ИИ. Как регулировать использование нейросетей и какие проблемы это может повлечь за собой - разбирались "Известия".

Этика машин

Регламентирование использования искусственного интеллекта с законодательной и этической стороны постоянно обсуждается как в экспертном сообществе, так и в массовой культуре. И чем активнее развивается искусственный интеллект, тем этот вопрос становится острее. В первую очередь необходимо понимать, что ответственность за любые действия нейросети всегда должна лежать в плоскости человеческих отношений, у машинного алгоритма нет фактора ответственности. Но при этом в алгоритме можно допустить ошибку. Об этом изданию рассказал основатель и СЕО Mirey Robotics Андрей Наташкин.

- Если мы рассматриваем аргументы экспертов, критикующих бурное развитие технологий искусственного интеллекта, то лидирующим аспектом в этой полемике почти всегда будет этический вопрос. Эта тема настолько объемна и сложна, что некоторые ученые предлагают изучать этику искусственного интеллекта в разрезе современных цивилизационных процессов, - отметил эксперт.

В сентябре 2023 года журнал Time опубликовал список из 100 самых влиятельных людей в сфере искусственного интеллекта. Интересным фактом является то, что в этом списке можно найти достаточное количество имен, которые резко критикуют искусственный интеллект с точки зрения этики. По словам Наташкина, американский писатель Тед Чан считает, что нейросети провоцируют пользователей на то, что они не могут отличить правду от лжи. Потому что нейросети убивают в нас критическое мышление.

Еще один представитель из топ-100 - это британский ученый Джеффри Хинтон. Фактически Хинтон разработал всю систему искусственного интеллекта для компании Google. Но в 2023 году он покинул свое кресло по причине того, что хотел открыто высказывать свою точку зрения о развитии технологий. Хинтон уверен, что искусственный интеллект во много раз превосходит мыслительный процесс человека и это несет за собой значительные риски для всего человечества в целом.

- Мы можем отпустить ситуацию, не мешать вообще развитию технологий. Есть опыт Израиля, когда мы общались с израильскими партнерами, они говорили о том, что у них так мало законодательной базы по той причине, что они не хотят лишний раз вмешиваться в развитие технологий. Соответственно, это не наш путь, потому что у нас большая страна, и мы выбираем сбалансированный подход между правовым регулированием и этическим, - рассказала менеджер Центра регулирования AI "Сбера" Елена Мимоглядова в рамках форума "Лидеры цифрового развития", организованного компанией "АктивБизнесКонсалт".

По словам эксперта, этическое регулирование заключается в том, что это саморегулирование, а не закон, это рекомендательные нормы, которые принимает на себя бизнес, государственные и некоммерческие организации. Первые шаги к правилам регулирования и правилам взаимодействия с этими технологиями были предприняты крупными корпорациями. Например, "Десять законов для искусственного интеллекта" от Microsoft, "Семь принципов ИИ" от Google.

- Этика ИИ - это не про этику машины, компьютера, на котором он [ИИ] крутится, а именно этика отношения разработчиков и разработки этих технологий. Допустим, при обучении мы проверяем и валидируем data-сеты и несем за это ответственность, гарантируем, что наши технологии не навредят человеку, - рассказала Мимоглядова.

При помощи технологий ИИ создаются различные инструменты, эксплуатация которых может быть связана с теми или иными рисками. Сложности могут быть связаны как со злонамеренным использованием знаний и технологий, так и с ошибками в их применении.

- Можно ли сказать, что технология при этом вышла из-под контроля? В какой-то степени да. Именно поэтому в тех областях, где применение ИИ может быть связано с теми или иными рисками, разрабатываются специальные меры по их снижению и обеспечению безопасности. При этом важно понимать, что системы ИИ, создаваемые нами, не обладают ни собственным сознанием, ни собственными целями, ни собственной волей - все это инструменты в руках людей. И то, принесут они пользу или вред, зависит в первую очередь от тех, кто эти инструменты использует, - рассказал в беседе с "Известиями" руководитель управления экспериментальных систем машинного обучения SberDevices Сергей Марков в рамках форума "Лидеры цифрового развития".

Человек из будущего: Айзек Азимов и его несбывшиеся пророчества
Какие книги великого фантаста надо обязательно прочесть

Регуляция

Первой попыткой международного урегулирования деятельности ИИ стала конференция в Азиломаре (США), в ходе которой были приняты основные положения, касающиеся искусственного интеллекта, которые получили название "Азиломарские принципы". Из них следует, что команды, разрабатывающие системы ИИ, должны активно сотрудничать между собой и не пытаться победить за счет игнорирования стандартов безопасности. Системы ИИ должны разрабатываться и работать таким образом, чтобы быть совместимыми с идеалами человеческого достоинства, его прав и свобод, многообразия культур. Кроме того, экономическое процветание, достигнутое благодаря ИИ, должно широко использоваться в интересах всего человечества.

В России 26 октября 2021 года на площадке международного форума "Этика искусственного интеллекта: начало доверия" был принят российский Кодекс этики в сфере ИИ. Документ был подписан крупнейшими российскими компаниями. Андрей Наташкин отмечает, что это соглашение носит рекомендательный характер и распространяется только на гражданские разработки. В 2023 году к нему присоединились 10 стран Африканского континента.

- Если говорить о мировой практике, то в одно время с Россией в Китае приняли Кодекс этических принципов для искусственного интеллекта, в котором особое внимание уделено контролю над ним. В США всегда акцент был смещен на использование искусственного интеллекта в военных целях, поэтому в 2020 году они инициировали создание этических принципов использования искусственного интеллекта в вооружениях, - рассказал основатель Mirey Robotics.

Тихий дрон: беспилотники и средства РЭБ стали главными хитами "Армии-2023"
Российскими разработками в области БПЛА и радиоэлектронной борьбы интересуются зарубежные заказчики

Возникшие проблемы

При отсутствии регулирования ИИ на уровне этических принципов можно столкнуться с "предвзятостью" информационных систем. Например, разработчик создает рекомендательную систему на базе ИИ и может настроить ее так, чтобы в первую очередь предлагать товары определенного производителя. Такой подход не дает равных прав для всех игроков рынка и может привести к нездоровой конкуренции и рискам для бизнеса. Другой пример - "предвзятая" система распознавания лиц, которая изначально может идентифицировать людей определенных национальностей как потенциальных нарушителей закона, рассказала "Известиям" эксперт департамента аналитических решений ГК "КОРУС Консалтинг" Светлана Вронская.

Интеллект человеку кто: заменит ли ИИ людей
Программы усилят возможности людей, если ими правильно пользоваться

Этические проблемы использования ИИ уже возникают. Так, в 2018 году инструмент рекрутинга на основе ИИ дискриминировал женщин. Около 60% кандидатов, выбранных ИИ, были мужчинами, что было связано с закономерностями в данных об историческом наборе персонала конкретного разработчика. В этом году в США искусственный интеллект полгода преподавал в университете, но никто из учеников не понял, что взаимодействует не с человеком, а с системой ИИ. В 2019 году искусственный интеллект, определяющий, кому из пациентов необходима дополнительная медицинская помощь, стал принимать решения, в первую очередь основываясь на уровне материального положения пациента.