КРАСНЫЙ ЖЕЛТЫЙ ЗЕЛЕНЫЙ СИНИЙ
 Архив | Страны | Персоны | Каталог | Новости | Дискуссии | Анекдоты | Контакты | PDARSS  
 | ЦентрАзия | Афганистан | Казахстан | Кыргызстан | Таджикистан | Туркменистан | Узбекистан |
ЦентрАзия
  Новости и события
| 
Четверг, 11.04.2024
18:00  Тень независимости: ИИ сможет самообучаться на текстах без помощи человека
17:58  На счет три: российская ракета "Ангара" впервые стартовала с Восточного
17:54  Цветная революция в Венгрии: неудобного Западу премьера Орбана хотят убрать
17:52  Летний отдых: Насколько подорожают турецкие отели в этом сезоне
17:01  Гонконг - Ренессанс арт-столицы Азии
16:30  Героя РусВесны И.Стрелкова отпускают на СВО
16:11  Хватит считать импотенцию внешней политикой! - Михаил Делягин

16:01  "Полный зашквар!" Российские пранкеры поиздевались над главой МОК (видео)
15:36  Почему Путин не хочет переводить экономику на военные рельсы
15:34  "Город-герой в оккупации". Второе освобождение Одессы неизбежно
13:42  Счета Новоджамбулского фосфорного завода (юг Казахстана) арестовали по требованию россиян
13:24  Индия на старте выборов: США провоцируют приграничную эскалацию с Китаем , - Дм.Нефедов
12:19  Из Сатыбалды (племяш Елбасы) Казвласти хотят выдоить еще 50 млрд тенге
12:15  Президент Южной Кореи может стать "хромой уткой", - Вл.Скосырев
12:04  Рос-чиновники из корыстных побуждений содействуют росту миграции и созданию анклавов
11:03  Власти Непала хотят убрать с Эвереста тела всех разбившихся альпинистов
10:59  Интересно, вы в курсе, что узбеки - коренной народ Ленинградской области?
09:40  Опять затягивают гайки? Что не так с новым законом о массмедиа? - Orda.kz
08:33  Американские ястребы панически боятся Ирана, - В.Овчинский
08:16  КазАнтикор и КНБ задержали начальника управления строительства КазАрмии. Крал модульные домики
07:54  Русский, ты поднял восстание и сбрасываешь с себя страшное иго, - Александр Проханов
07:31  Bloomberg: ответный удар Ирана по Израилю стал неизбежен
06:41  В посольствах Узбекистана появится атташе по миграции...
05:39  Ситуация в Гагаузии резко обострилась, - С.Гамова
01:28  Европу ждет необъявленная война в Северном море, - В.Никифорова
00:56  Конец безвиза. Турция закрылась для таджиков, - Камран Гасанов
00:51  О возможных конфигурациях ответного ракетного удара КСИР по Израилю
00:25  БлВосток можно потушить, но Вашингтон против, - С.Савчук
00:22  В Казахстане заявили, что регулярно информируют Россию о сбросах воды по реке Тобол
00:19  Гуцул - в президенты Молдавии, Стрелков знает, как это сделать, - СП
00:01  В Казахстане опровергли обвинения в затоплении российских регионов
Среда, 10.04.2024
20:02  Бишкек. Четыре задержанных журналиста выпущены под домашний арест
16:30  Деловой паритет: что даст соглашение СНГ о свободной торговле услугами
15:21  Каким будет ответ Ирана на атаку своего посольства в Дамаске
15:19  В Казахстане во время паводков погибло более 8 тыс. голов скота
15:16  "Доведем американцев до белого каления": китайцы ярко прокомментировали визит Лаврова в КНР
15:10  США приказали Израилю прекратить огонь в Газе
11:54  Кладбища США массово пополняются могилами убитых на Украине наемников
11:51  "В сторону Петропавловска движется огромный поток воды": аким СКО обратился к жителям
11:49  На севере Казахстана эвакуация от потопа идет в принудительном порядке
11:48  "Терпение, стойкость и умеренность - истинная суть Ораза айта", - поздравление К.Токаева
11:44  "В Новом Узбекистане...", - Мирзиеев поздравил народ с Рамазан хайитом
11:26  Попался на взятках шеф рыбной отрасли Казахстана
11:18  Почему за деньги РФ школьников в Средней Азии учат "российской оккупации", - Дм.Родионов
10:17  Чиновники или грызуны. Кто виноват в Оренбургском потопе? - МК
10:12  Недофюрер каталонских сепаров Пучдемон разрывается между шансом на власть и угрозой тюрьмы
10:06  Российская армия освободила Первомайское. Удастся ли "разрезать" Донецкий фронт?
10:01  "Воспевающие Родину". В Таджикистане стартовал новый государственный фестиваль-конкурс
09:59  "Основатель мира" Рахмон открыл в Истаравшане памятник Шаху Исмоили Сомони
07:07  Джо Байден на самом деле сошел с ума: "черный кардинал" и женщина управляют США и всей политикой Запада, - КП
07:03  Ближний Восток: эскалация неизбежна, - А.Веселов
Архив
  © CentrAsiaВверх  
    ЦентрАзия   | 
Тень независимости: ИИ сможет самообучаться на текстах без помощи человека
18:00 11.04.2024

Опасна ли для людей новая степень свободы нейросетей

Денис Гриценко
Мария Недюк

Российские специалисты создали технологию, благодаря которой ИИ сможет самостоятельно готовить текстовые данные для обучения нейронных сетей. Ученые использовали для этого ChatGPT. До последнего времени делать эту работу мог только человек - монотонный и трудоемкий процесс занимал до нескольких месяцев. Теперь компьютер сможет выполнять эти операции в три раза быстрее. По мнению экспертов, в автоматизации разметки нет ничего удивительного, так как нейросети уже давно выполняют и более сложные логические задачи. При этом вероятность того, что новая степень свободы искусственного интеллекта может привести к выходу его из-под контроля, невелика.

Разговор с самим собой

Специалисты лаборатории нейронных систем и глубокого обучения, входящей в состав исследовательского центра прикладных систем искусственного интеллекта МФТИ, разработали методику, которая позволяет нейросетям самостоятельно готовить текстовые данные для обучения искусственного интеллекта. Теперь это автоматически смогут делать большие языковые модели, самая знаменитая из которых - ChatGPT. Обязательную предварительную работу называют разметкой, до последнего времени ее могли делать только люди - аннотаторы либо специально подобранные краудсорсеры (сотрудники из внешней команды, которые улучшает работу ИИ).

Они тщательно разбирают большое количество примеров, из которых машина выделяет закономерности. Информация должна быть правильно подготовлена, чтобы ИИ мог сделать верные выводы. Однако это трудоемкая задача, требующая выполнения множества монотонных операций. В итоге на нее может уходить до нескольких месяцев. Благодаря использованию ИИ этот процесс будет проходить в три раза быстрее и в два раза дешевле, чем раньше. Правда, полностью стать независимыми от людей машинам пока не удастся - им понадобится помощь с построением иерархии.

- С помощью большой языковой модели можно добиться высокого качества обработки информации. Однако для этого потребовалось создать многоступенчатую иерархическую схему для разметки. В таком случае в процессе обучения эксперты требуются только для этой работы, - сказала исследователь и аналитик лаборатории Мария Молчанова.

При разработке автоматизированной системы специалисты с помощью ChatGPT попробовали сымитировать человеческую разметку лингвистических данных для обучения моделей. Для составления системы привлекли опытных экспертов - лингвистов, которые разработали схемы аннотаций. В результате эти инструкции улучшили качество обработки сообщений.

Пример схемы разметки

- Мы изучили разметку дискурса в диалогах экспертов и больших языковых моделей. Пришли к выводу, что c помощью последней можно добиться качества обработки информации, сравнимого с краудсорсерами. Преимущества автоматизированного подхода в том, что это намного быстрее и дешевле. К тому же модель размечает данные более системно, - сказала Мария Молчанова.

Разработанная методология разметки может широко применяться для аннотации лингвистических данных. Ее успешно апробировали для обработки диалогов для обучения чат-ботов в рамках научных исследований лаборатории.

Интерфейс разметки в процессе краудсорсинга

- Эксперты тратят в среднем 14,5 минуты на разметку одного диалога, краудсорсеры - 29 минут. Время, необходимое для выполнения задачи с помощью ChatGPT, всегда разное - в целом небольшой диалог может быть аннотирован за 10 минут. Стоимость работы с использованием ChatGPT варьируется в зависимости от длины диалога примерно от $0,03 до $0,07, в то время как работникам краудсорсинга необходимо платить от $0,12 до $0,22, - сказала исследователь лаборатории нейронных систем и глубокого обучения Лидия Остякова.

Знак отличия: в России предложили маркировать ИИ-контент
Такая мера призвана помешать злоумышленникам использовать дипфейки

Есть ли опасность

Если большие языковые модели успешно справляются с довольно сложными логическими конструкциями, их применение для разметки и аннотирования текстовой информации кажется совершенно естественным, считает ведущий эксперт Центра компетенций Национальной технологической инициативы (НТИ) "Искусственный интеллект" на базе МФТИ Александр Родин.

- Широкое внедрение самообучения языковых моделей может упростить манипуляции с результатами их работы и создание фейков, как это происходит, например, на YouTube или в соцсетях. Если массовый пользователь не обладает достаточным культурным и образовательным базисом, его нетрудно будет убедить в том, что черное - это белое, апеллируя к "железобетонному" аргументу - "так искусственный интеллект решил", - сказал Александр Родин.

По его словам, необходима жестокая экспертная цензура всего контента, сгенерированного ИИ, вне зависимости от технологии обучения конкретного алгоритма.

Подход, предложенный в МФТИ, применяется в самых разных областях. Большие языковые модели мало какие задачи могут выполнять полностью, но создавать на их основе решения, которые ускоряют или упрощают работу живых специалистов, - очень частый сценарий, отметил управляющий директор Технологических конкурсов НТИ Up Great Юрий Молодых.

- Благодаря такой автоматизации искусственный интеллект из-под контроля выйти не сможет. Вообще это непродуктивный метод анализа безопасности нейросети. Гораздо лучше рассматривать безопасность не выхода из под контроля технических решений, а ошибки в дизайне системы, которые могут привести к деструктивным последствиям, - пояснил Юрий Молодых.

В данном случае серьезные риски маловероятны, но не исключены. Если, например, нейросеть после такого обучения будет обеспечивать работу критической инфраструктуры, то ее нужно будет серьезно тестировать, добавил специалист.

Источник - Известия
Постоянный адрес статьи - https://centrasia.org/newsA.php?st=1712847600


Новости Казахстана
- Рабочий график главы государства
- Вопросы экономического развития обсудили члены Клуба экспертов при Сенате
- Премьер-Министр: Важно усилить программы поддержки экспорта, стимулировать инновации и расширять производства
- Олжас Бектенов: Во время летнего отдыха детям должна быть гарантирована полная безопасность
- Понятие "инвестиционного климата" в Казахстане - вопрос во многом политический
- БРК профинансирует проекты АПК на сумму 1,2 трлн тенге
- В Астане прошло заседание Совета министров иностранных дел государств-членов ШОС
- Финансовые нарушения более чем на 747 млн тенге выявил госаудит в СПК "Каспий"
- Аким Алматы Ерболат Досаев ознакомился с ходом решения инфраструктурных и социальных вопросов жителей Бостандыкского и Алмалинского районов
- Кадровые перестановки
 Перейти на версию с фреймами
  © CentrAsiaВверх