Головний меседж для всіх, хто впроваджує ШІ
Які ризики та виклики генерує ШІ для центробанків
Про AI багато говорили на Щорічних загальних зборах Банку міжнародних розрахунків (BIS), зокрема про досвід самого банку у впровадженні штучного інтелекту.
Я хочу поділитися з вами оглядом семінару Інноваційного хабу BIS та своїми думками за його підсумками.
Тема — «Дослідження трансформаційної ролі штучного інтелекту в центральному банкінгу та фінансовому секторі з акцентом на практичне застосування, інституційну готовність та відповідальне впровадження».
Нам презентували висновки з використання ШІ, зроблені на прикладах кількох проєктів — Agora, Spectrum, BIS ChatGPT, у яких ШІ застосовується в різних ролях: для виявлення відмивання коштів, поліпшення наукасту інфляції, підвищення операційної ефективності.
Генерують відповіді на основі статистичної ймовірності, виведеної з великих обсягів даних
Отже, ключові висновки:
1. ШІ - потужний, але ймовірнісний інструмент. Його сила залежить від того, як ним користуються. Людська експертиза залишається критичною для уникнення таких ризиків, як «галюцинації» чи помилкові інтерпретації.
Спікери наголосили на ключовій істині про сучасні моделі ШІ: їхні відповіді ґрунтуються на ймовірності а не на достовірності. Вони не міркують як люди. Натомість генерують відповіді на основі статистичної ймовірності, виведеної з великих обсягів даних. У результаті - схильні до «галюцинацій», коли впевнено видають помилкову або вигадану інформацію.
Цей висновок веде до застереження: ШІ є настільки корисним, наскільки добре ним користуються. У сфері центробанкінгу, де важливі довіра, точність та підзвітність, необхідне застосування із належними запобіжниками, людським контролем і чітким розумінням меж технології;
2. Впровадження ШІ - це айсберг. Хоч видимі приклади використання (чат-боти, оброблення документів) демонструють прогрес, його невидима основа (управління даними, ризик-менеджмент, стандарти валідації) критично важлива для успіху;
3. Починайте з малого — думайте масштабно: розпочніть з пілотних проєктів із низьким ризиком та поступово розвивайте можливості ШІ в межах установи. Зосередьтеся на обізнаності, експериментах та міжфункціональній взаємодії. Саме такого принципу ми дотримуємося і в НБУ, запустивши минулого року проєкт із тестування та дослідження потенційних напрямів використання ШІ в Національному банку.
Які ризики та виклики генерує ШІ для центробанків:
— висока вартість обслуговування моделей;
— складність нагляду за «чорними скриньками» (методиками оброблення даних та аналізу) ШІ;
— ризики самозаспокоєння та неправильного використання (наприклад, «галюцинації» або надмірна автоматизація);
— необхідність розвивати внутрішню експертизу в ШІ та механізми управління.
Головний меседж для всіх, хто впроваджує ШІ - це не готовий продукт.
Він потребує культурної, організаційної та технічної трансформації. Він може підсилити спроможність центральних банків, але лише за умови впровадження з обережністю, експертизою та постійною адаптацією.
З досвіду BIS ШІ працює найкраще, коли він — помічник, а не замінник високорівневого мислення.
Сильні сторони ШІ проявляються там, де поєднуються розпізнавання шаблонів, оброблення великих обсягів даних і повторювані завдання.
Показовий приклад проєкт Spectrum, втілений для поліпшення прогнозування інфляції за допомогою генеративного ШІ та вебскрейпінгу цін.
Отримана стратегічна цінність:
— ширші інсайти: виявлення інфляційних сигналів раніше й точніше;
— масштабованість: застосування до продуктів з високою волатильністю — продукти харчування, енергоносії тощо;
— універсальність: технології можна адаптувати для інших завдань: переналаштування споживчого кошика, шоків у ланцюгах постачання тощо.
Spectrum демонструє, що, обравши правильний напрям для ШІ, можна перетворити «хаотичні» дані на точний, доступний і надійний інсайт. Зразок того, як ШІ підтримує, а не замінює аналітичну експертизу в монетарній політиці, даючи змогу приймати кращі рішення в цифрову епоху.
Після виступів спікерів аудиторія ще багато дискутувала про вартісність, конфіденційність, точність ШІ. Очевидно, що уникнути його впровадження не вийде. Отже, треба взяти процеси під контроль.
Дуже влучно прозвучав один з коментарів: «ШІ має бути прожектором, який підсвічує, де варто придивитися. Але дивитися — це вже завдання людини».
Це не перша зустріч й обговорення ШІ, у яких я беру участь. Але впадає в очі глибока залученість до питання найвищого рівня посадовців фінансових інституцій. Повна зала голів ЦБ та топів фінансового світу, які уважно слухають, нотують, ставлять питання.
Тож хочу поділитися своїми висновками, що варто уже зараз робити центробанкам.
Дедалі більше переконуюся в тому, що на часі:
1. Запровадити мінімальний набір основних принципів управління ШІ, який може бути адаптований регуляторами залежно від контексту з акцентом на explainability, auditability, human-in-the-loop;
2. Почати розроблення міжінституційних стандартів валідації моделей і протоколів аудиту включно з відкритими тестовими наборами та методологіями оцінки результатів ШІ-моделей, що використовуються в регуляторному нагляді;
3. Відкрити дискусію про створення глобального реєстру інструментів ШІ, які використовуються у фінансовому нагляді та прогнозуванні, наприклад, за підтримки BIS Innovation Hub, щоб сприяти підзвітності та прозорості;
4. Забезпечити технічну допомогу центральним банкам країн з ринками, що формуються, у впровадженні етичного та ефективного використання ШІ. Це дасть змогу зменшити, можливо, уникнути «технологічної асиметрії» та зменшити ризики цифрової нерівності у сфері регулювання.
Національний банк України поділяє важливість розвитку напряму безпечного та ефективного використання ШІ. Упродовж останнього року ми:
— значно розширили наше розуміння наявних інструментів ШІ;
— вивчили досвід провідних центральних банків;
— розробили та затвердили Політику відповідального використання ШІ в НБУ, яка адаптована до акта ЄС щодо ШІ (AI EU Act).
Наразі працюємо в напрямі впровадження інструментів ШІ у власні процеси та формуємо відповідний план.
Отже, Інноваціний хаб НБУ дедалі ближче.
Текст опубліковано з дозволу автора