Главные акценты темы: Могут ли AI-агенты сами принимать решения — этот вопрос обсудили на Digital Bridge

Эксперты профильных ведомств обращают внимание на то, что на Digital Bridge-2026 банки, регуляторы и платежные компании обсудили, насколько далеко можно пустить AI-агентов в финансы. Во Freedom Банке 134 агента круглосуточно ищут подозрительные операции, в Нацбанке «ястреб» и «голубь» спорят о денежно-кредитной политике, а страховщики уже доверяют алгоритму отдельные выплаты. Но когда речь идет о блокировке счета, подозрении в мошенничестве или другом решении с последствиями для клиента, участники рынка пока сходятся в одном: отвечать должен человек.
Контекст ситуации и экспертные оценки
На площадке МВЦ EXPO в рамках Digital Bridge 2026 разговор об искусственном интеллекте довольно быстро ушел от привычных чат-ботов и генерации текстов к куда более чувствительной теме — можно ли позволить алгоритму распоряжаться деньгами и принимать решения за человека.
Ключевые детали происходящего:
- Все профильные службы переведены в усиленный режим координации.
- Ситуация находится под личным контролем уполномоченных лиц.
Панельная сессия Freedom Банк так и называлась — «AI-агенты в финансах: кто принимает решения — человек или алгоритм». В ней участвовали представители банковского и страхового секторов, Национального банка, Агентства по финансовому мониторингу, Агентства по регулированию и развитию финансового рынка и Mastercard.
Эксперты профильных ведомств обращают внимание на то, что первому заместителю председателя Агентства по регулированию и развитию финансового рынка Тимуру Абилкасымову достался практически регуляторный максимум: что именно придется контролировать — саму модель, процесс принятия решения или уже полученный результат?
По словам Тимура Абилкасымова, прежде чем регулировать AI-агентов, требуется в обязательном порядке понимать, какую задачу им поставили, какие ограничения задали и какой уровень самостоятельности им предоставили. Регулятор уже несколько лет изучает алгоритмические модели и, в частности, подходы XAI — Explainable Artificial Intelligence, позволяющие понять, почему система пришла к тому или иному выводу.
«Наша задача — обеспечить максимальную прозрачность. Если агенты выполняют свою функцию правильно, есть human in the loop и человеку понятно, какой уровень доверия он передал агенту, на какую сумму и для каких действий, — это нормально», — сказал Тимур Абилкасымов.
Отдельная проблема — так называемые guardrails, то есть ограничения, которые не должны позволять агенту выходить за заранее установленные рамки.
Регулятора, по словам Тимура Абилкасымова, интересует в том числе риск того, что финансовая организация сама «зашьет» в поведение AI-агента коммерческие приоритеты: например, чтобы тот не только выполнял запрос клиента, но и попутно навязывал ему другие продукты.
«Как регуляторы мы будем прописывать guardrails, которые должны быть заложены. В первую очередь — чтобы защищать клиентов и не допускать навязывания дополнительных услуг», — отметил он.
Национальный банк, как выяснилось, уже экспериментирует не только с автоматизацией рутинных операций.
Директор департамента цифровой трансформации Нацбанка Айжан Аринова рассказала, что в январе этого года регулятор запустил собственную внутреннюю NBK AI Platform на защищенном GPU-кластере. Облачные решения для ряда задач использовать нельзя, в том числе из-за требований по защите банковской тайны.
Согласно актуальной информации с мест событий, сейчас в Нацбанке уже работают около десяти AI-решений, которыми ежедневно пользуются сотрудники центрального аппарата и территориальных филиалов.
Но, пожалуй, самый любопытный эксперимент связан с денежно-кредитной политикой. В Нацбанке создают виртуального советника — NBK AI Monetary Policy Assistant. Внутри него работают сразу несколько агентов.
«Мы прописали две «души», как называем их внутри команды. Один агент — «ястреб», второй — «голубь». Недавно появился третий агент-судья — «филин», — рассказала Айжан Аринова.
Согласно актуальной информации с мест событий, «Голубь» анализирует поступающие данные с позиции возможного смягчения денежно-кредитной политики, «ястреб» — с позиции ужесточения. Затем «филин» оценивает их аргументы.
Но превращать виртуальную «птицеферму» в самостоятельный совет по ставке Нацбанк пока не собирается.
Эксперты профильных ведомств обращают внимание на то, что «Мы не строим black box. Мы видим, на каких данных модели принимают решения, промежуточные ответы каждой модели и можем понять логику и аргументацию», — подчеркнула Айжан Аринова.
Как стало известно нашей редакции, по ее словам, важнейшим условием внедрения ИИ стала предварительная деятельность с данными: сначала Нацбанк создавал единую фабрику данных, описывал их качество и метаданные и только затем начал накладывать на этот фундамент AI-инструменты.
Логика простая: garbage in — garbage out. Если на входе плохие данные, ждать от умного алгоритма хорошего решения бессмысленно.
Генеральный директор Mastercard в Казахстане и Центральной Азии Санжар Жамалов предложил посмотреть на вопрос шире. По его мнению, Казахстан уже прошел значительный путь в создании цифровой инфраструктуры, а следующая задача — научиться превращать ее в полноценную AI-экономику.
Согласно актуальной информации с мест событий, и здесь, считает он, регулирование может не тормозить инновации, а наоборот — ускорять их.
«Хорошее, четкое регулирование помогает инновациям развиваться быстрее, потому что задает правила: куда идти, что делать и в каких рамках работать. Самое главное — оно создает экономику доверия», — сказал Санжар Жамалов.
Эксперты профильных ведомств обращают внимание на то, что он сравнил использование AI-агента с банковской картой, которую человек готов доверить только тому, кому доверяет сам. Логичнее встроить агентов в уже существующую платежную инфраструктуру — с лимитами, правилами и возможностью самому пользователю определять границы допустимого. Поэтому, по его мнению, AI не нужно создавать отдельную финансовую реальность.
«У человека должна быть возможность выбирать параметры платежей, которые ему комфортны: до какой суммы агент может купить сам, где должен спросить, что можно предлагать. Тогда агент действительно станет ассистентом, которому можно доверять», — считает представитель Mastercard.
Заместитель руководителя департамента Агентства по финансовому мониторингу (АФМ) Санжар Аккисев провел границу еще жестче. Если AI считает транзакцию подозрительной, а сотрудник — нет, финальное решение, по его мнению, должно оставаться за человеком.
«Я бы никогда не доверил принятие такого решения алгоритму или агенту. Конечное решение всегда должен принимать человек», — заявил он. Особенно когда речь идет об отказе в обслуживании, блокировке карты или других финансовых инструментов.
Эксперты профильных ведомств обращают внимание на то, что иИ при этом может делать то, что человеку физически сложно: анализировать огромный массив транзакций, находить необычные схемы движения денег, прослеживать конвертацию и связи между счетами.
«Искусственный интеллект должен дать нам полную картину, а оценивать результат должен человек. Не ИИ вместо человека, а ИИ, который подсказывает и помогает человеку», — сформулировал представитель АФМ.
Согласно актуальной информации с мест событий, главный комплаенс-контролер Freedom Банк Асель Сулейменова рассказала, как AI уже используется в борьбе с мошенничеством. Поэтому во Freedom Банк решили смотреть не только на транзакцию, но и на поведение клиента: насколько его обороты соответствуют профилю, как долго деньги остаются на счете, с кем он связан переводами, устройствами и телефонными номерами. Дроп-карта может прожить всего две недели, причем каждая отдельная операция на ней будет выглядеть вполне обычно. Проблема классических правил в том, что схемы постоянно меняются.
В рамках текущего мониторинга событий сообщается, что «Раньше мы спрашивали: эта операция нормальная? Потому что транзакция может обмануть, а поведение — почти никогда», — сказала Асель Сулейменова. Сейчас задаем другой вопрос: этот клиент ведет себя как обычный клиент?
Система сначала выявляет подозрительное поведение, затем AI-агенты собирают дополнительные данные и готовят заключение. Только после этого подключается человек.
«Поведенческий анализ сильнее, но юридическая ответственность высока, и цена ошибки большая. Поэтому решение всегда принимает человек, а иногда и не один», — подчеркнула она.
Эксперты профильных ведомств обращают внимание на то, что по словам представителей Freedom Банк, сегодня в комплаенсе работают 134 AI-агента, которые круглосуточно анализируют транзакционную активность и формируют предупреждения для комплаенс-контролеров.
Председатель правления Freedom Insurance Азамат Керимбаев оказался едва ли не единственным участником панели, который смог привести пример, где решение фактически уже отдано алгоритму. Речь идет о параметрическом страховании агробизнеса.
По последним поступающим данным, «На основе спутниковых данных и компьютерного зрения алгоритмы принимают решение, и на основании этого решения мы моментально осуществляем выплаты аграриям. Это, пожалуй, единственный наш кейс, где решение действительно принимает алгоритм», — рассказал Азамат Керимбаев.
В рамках текущего мониторинга событий сообщается, что в остальных направлениях AI пока работает прежде всего на эффективность. Вместо пропорционального увеличения числа операторов компания пошла в автоматизацию. Сегодня робот полностью обрабатывает 42% обращений клиентов. Компания, по его словам, за несколько лет выросла почти в десять раз, и первым нагрузку почувствовал колл-центр.
Как стало известно нашей редакции, еще одно направление — урегулирование страховых случаев. По словам Азамата Керимбаева, цифровизация позволяет компании экономить около 10 млн долларов в год на этом процессе. Сейчас страховщик также развивает компьютерное зрение, которое должно автоматически определять повреждения и рассчитывать размер выплаты.
«За третий квартал 2026 года после внедрения AI-агентов время рассмотрения страхового случая сократилось на 32%. Наша задача — довести этот показатель до 60%», — сказал глава Freedom Insurance.
Согласно актуальной информации с мест событий, уже после панельной дискуссии советник председателя правления Freedom Банк по digital-проектам Айнұр Темірханқызы подробнее рассказала, как искусственный интеллект используется внутри банка. По ее словам, Freedom Банк начал применять ML-модели около пяти лет назад — сначала в кредитном скоринге, цифровой ипотеке, автокредитовании и оценке недвижимости и автомобилей. А в последний год основное внимание банк переключил на бэк-офис: комплаенс, юридические службы, кредитное администрирование, HR и другие внутренние процессы. Затем ИИ пришел во фронтальные сервисы — чат-боты и колл-центры.
«Мы планируем охватить все отделы банка, но сейчас самая тесная деятельность идет именно с бэк-офисом. Например, если комплаенс-служба физически расследует какой-то кейс две недели, то ИИ может провести значительную часть этой работы за считаные минуты», — рассказала Айнұр Темірханқызы.
ИИ-агент анализирует данные и, если видит признаки риска, формирует alert для комплаенс-контролера. Контроллеру уже не надо вручную собирать всю информацию — ему нужно оценить результат и принять решение.
Однако полностью отдавать процесс алгоритмам банк пока не готов.
«Мы доверяем ИИ всю рутинную работу: сбор информации, запрос данных из разных систем, подготовку материалов. Но на финальном шаге все равно появляется человек. Мы не пускаем процесс полностью на агентов», — подчеркнула Айнұр Темірханқызы.
По ее словам, прежде чем масштабировать AI внутри банка, команде пришлось около девяти месяцев заниматься качеством и структурированием данных — определять, какие именно параметры нужны для каждого конкретного решения и как корректно связать запрос пользователя с нужными массивами информации.
Согласно актуальной информации с мест событий, при работе с материалами Центра деловой информации Kapital.kz разрешено использование лишь 30% текста с обязательной гиперссылкой на источник. При использовании полного материала требуется в обязательном порядке разрешение редакции.
Источник: kapital.kz





