Нейросеть стала участником дискуссии о будущем финансовой безопасности
В Красноярске состоялась панельная дискуссия «Искусственный интеллект в финансовой безопасности: доверять или проверять».
Впервые в таком формате наравне с экспертами в обсуждении участвовала нейросеть: в режиме реального времени голосом она отвечала на вопросы участников, а специалисты спорили с ней.
Спикерами выступили начальник центра макроанализа и типологий ПАО Банк ГПБ Илья Ковалев, руководитель управления аналитики комплаенса Т-Банка Александр Толмачев и руководитель направления автоматизации процессов мониторинга необычных операций и математического моделирования АО «Альфа-Банк» Анастасия Газова.
В дискуссии участвовали студенты российских и белорусских ВУЗов.
Участники обсудили:
как искусственный интеллект меняет ландшафт финансовых преступлений
где должна находиться точка принятия решений – у человека, алгоритма или в гибридной модели
насколько можно полагаться на цифровых помощников
какие системные риски возникают по мере развития технологий.
Нейросеть в своих ответах преимущественно исходила из негативных сценариев с учетом масштабного освещения в различных источниках мошеннических схем, концентрации технологических рисков и уязвимости пользователей.
Главные выводы экспертов - точка в принятии решения должна оставаться за человеком.
Критическое мышление, эмпатия и ответственность за принятое решение - на стороне естественного интеллекта.
Эксперты также обсудили проблемы чрезмерного доверия к технологиям.
Необходимы ИИ-модели для контроля за генеративными системами. «Проверить, прежде чем довериться» - обязательное условие.
Доверенные системы и суверенная инфраструктура должны снижать риски бесконтрольного использования нейросети.
Идею «батла» ИИ и экспертов предложила замдиректора Росфинмониторинга Галина Бобрышева. Модераторами выступили Мария Щербакова и Виктория Капарчук - специалисты Управления организации надзорной деятельности Росфинмониторинга.
