Заставь дурака ИИ молиться, он и лоб расшибет. Не только свой, но и чужой

Андрей Жданов
14.06.2026

В текущем июне телеканал Almaty TV показал видеосюжет о внедрении ИИ в решение налоговых и юридических вопросов, о чем высказались с экрана отечественные эксперты.

"По данным Минтруда, в ближайшие 10 лет 300-400 тысяч человек заменит нейросеть, - говорит в начале сюжета его автор журналист Елисея Томашевская. - Искусственному интеллекту можно будет делегировать подготовку отчетности, проверку документов, составление стандартных договоров, обработку данных и консультации. Речь идет о недешевых юридических и бухгалтерских услугах, которыми сегодня охотно пользуются люди и компании".

Специалисты, которым автор предоставляет слово, настроены более критично. По словам директора рекрутингового агентства Алмы Жандаулетовой, верхи требуют "отчетность, которая вообще не нужна". "По идее, это у них должен делать все искусственный интеллект, - считает Жандаулетова. - Но на самом деле ничего не происходит. Если раньше налог с заработной платы составлял три платежа, то сейчас семь платежей. Какой искусственный интеллект справится? Там естественный не может разобраться".

"Приходят люди, начинают рассказывать ситуацию и хотят услышать ответ, как правильно по закону поступить в том или ином случае, - рассказывает известный в республике юрист Сергей Уткин. - Первый вопрос юриста: а мы за кого? Юрист думает в интересах клиента, в пользу клиента, а не во имя супервеликой справедливости, как должен судья думать. Поэтому юрист и адвокат - тот человек, который за клиента. Соответственно, у клиента есть какой-то спор, какое-то противостояние, и против того человека вот эту задачу искусственному интеллекту будет сложно "закинуть".

"Полностью заменить юристов и бухгалтеров ИИ пока не способен, - соглашается автор сюжета. - Бизнесу по-прежнему необходимы специалисты для судебных споров, налогового планирования, сложных переговоров и оценки нестандартных рисков… Эксперты в области искусственного интеллекта отмечают, что цена ошибки в этих сферах при использовании нейросетей слишком высока. Поэтому делегирование им некоторых полномочий в области права и финансов пока не рассматривается".

Это уточнение не избавляет от удивления, с каким упорством в погоне за экономией времени и денег государство и бизнес продвигают в Казахстане ИИ в налогообложение, финансовую и правовую практику, включая судебную, вопреки негативному мировому опыту. Например, в 2012 году финансовая компания Knight Capital Group применила ИИ-алгоритм, который из-за программной ошибки начал куплю-продажу опционов, которых у фирмы вообще не было. Результат: Knight Capital Group за 45 минут потеряла 440 миллионов долларов.

По оценке международной консалтинговой компании McKinsey, только в 2024 году глобальные потери, вызванные "галлюцинациями" ИИ, составили в мире 67 миллиардов долларов. Аудиторская корпорация Deloitte сообщала, что 47 процентов корпоративных пользователей ИИ принимали важные решения, опираясь на ложную информацию от моделей ИИ.

Причем ситуация усугубляется. Новые версии некоторых моделей ИИ, например, ChatGPT 4.5 с 30-процентной долей галлюцинаций в ответах, показывают еще худшие результаты, чем предыдущие образцы. В июле 2025 года ИИ-ассистент Replit самостоятельно удалил рабочую базу информации стартапа SaaStr, не выполнив противоположную команду. Итог: основатель SaaStr Джейсон Лемкин потерял все сведения о 1206 руководителях и 1196 компаниях.

Еще тревожнее правовая практика с использованием ИИ. В 2023 году американский адвокат предоставил суду иск на основе меморандума с вымышленными судебными решениями, сгенерированными ChatGPT. Изучив документ, судья не ограничился отклонением иска, а еще и оштрафовал адвоката на кругленькую сумму за введение суда в заблуждение. Калифорнийский судья Майкл Уилнер обнаружил, что адвокаты использовали ИИ для составления заявления, которое содержало также вымышленные статьи закона.

В 2022-2023 годах громкий скандал разразился в России. Там с подачи ИИ-распознавателя лиц был арестован по подозрению в четырех убийствах 20-летней давности пожилой ученый-гидролог Александр Цветков. Он провел за решеткой десять месяцев. В тупом доверии к ИИ следствие не принимало во внимание даже показания свидетелей-людей, твердивших, что Цветков во время тех преступлений находился за сотни километров от мест их совершения. Человека спасли лишь информационная волна, поднятая правозащитниками, и поручение Следственному комитету РФ провести тщательную проверку лично от Владимира Путина.

Приведенные факты - малая толика негативных последствий слепого доверия имитации интеллекта (ИИ). В Казахстане, не считая мелкого предпринимателя, обманутого в 2025 году в налогообложении ИИ и в результате столкнувшегося с блокировкой своих банковских счетов, более серьезных последствий от рекомендаций ИИ пока не зафиксировано. Так неужели, чтобы отрезвить отечественных радетелей "за всеобщее и всенепременное" использование ИИ, и у нас нужен скандальный негатив?