金管局公布ART框架促银行负责任应用AI - 香港动态

金管局公布ART框架促银行负责任应用AI 星岛日报 金管局因应AI代理时代，公布「ART」框架，以建立一个可问责、具韧性和可信赖的AI赋能银行生态系统，具体措施包括发出最新的《负责任应用人工智能的监管指引》、拟于未来数周发布《代理式AI治理监管框架》讨论文件，探讨「意图为本」的问责安排、重要AI代理纪录册及有效介入机制。金管局副总裁阮国恒表示，金管局一直鼓励银行拥抱科技，甚至研究如何利用科技颠覆其商业模式，故对使用AI的取态是风险为本，没有设限。 发文件探讨AI代理问责 金管局助理总裁（银行监理）朱立翘透露，即将公布的讨论文件，将会包括金管局应否有一个中央纪录册，纪录银行使用的代理式AI（Agentic AI）、代理式AI所采用的大模型，以及第三方供应商等资料，以了解相关操作、网络安全的风险。他指，期望借此收集一些建议，例如如何可让AI协助检测、AI有否超越原定的意图和权力限制，以及为何造成该结果。 讨论文件将会涉及银行应设有措施，确保代理的行为、使用的工具、决策结果都可被追溯、核实和问责。另当AI代理的行为或决策偏离预定意图时，银行必须迅速介入，根据实际情况及时采取纠正或限制措施，包括在极端情况下启动紧急中止机制，暂停AI代理的运作。 此外，金管局参考生成式人工智能（GenAI）沙盒的实务经验，以及业界和国际的良好做法，更新并发出《负责任应用人工智能的监管指引》，最新指引涵盖可问责、具韧性和可信赖三大核心范围，简称「ART」，共9项原则，当中涵盖为每项AI用例指定专责「负责人」，即是业务主管；制定一套银行批准使用的AI用例清单，持续更新。「ART」原则会取代金管局在2019年发出的《人工智能高层次原则》。 香港银行公会对「ART」框架表示欢迎，认为进一步完善AI监管及治理机制，为银行业界提供清晰的指引，该会亦指，业界在应用AI技术方面，始终秉持审慎与负责任的态度。渣打香港兼大中华及北亚区合规总监纪鹭禧表示，该行在积极拓展AI及新兴科技应用同时，亦遵循「人工监督」的机制，确保由具备专业判断的人员作最终审核及决定。 另外，第二期GenAI沙盒的技术测试结束，涉及来自20家银行及14家科技伙伴的27个应用案例，当中逾6成用例涉及探索代理式AI。