金管会去年底提出金融业运用AI指引草案，在汇集外界意见后，预计第2季发布上路。图为金管会主委黄天牧。 报系资料照
经济VIP文章限时开放
金管会订定的金融业运用人工智慧（AI）指引即将上路，多数金融业者认为指引让未来AI技术的应用，尤其是运用生成式AI更有依循方向，但业者心中也有疑虑，希望指引的订定能更有弹性，业者也向金管会反映最担心的三件事。
金融业迎战AI之1／金融业重金培养AI部队 成功建商模还是吃罚单 4大挑战很现实.coverstoryad { min-width:100% }
金管会去年底提出金融业运用AI指引草案，并进行两个月的预告，听取外界意见，金管会官员表示，这段期间包括金融机构、科技公司及民众，都提出许多建议，金管会内部正汇整并讨论各界意见，预计第2季发布上路。
ChatGPT带起AI热潮，专家认为，AI技术发展很快，金融业过去可能重心摆在「进攻端」，指引出来后，现在可能得先回防。 路透
官方指引适用全AI 业者忧金检列缺失
KPMG安侯建业数位长赖伟晏表示，指引草案最大的「猫腻」是，适用的范围是广泛的AI，而不只是生成式AI，指引虽只有六个章节，但涵盖面广，这对金融机构来说，等于必须全面检视目前AI的运用，是否符合指引规定。
他说，AI技术发展很快，金融业过去可能重心摆在「进攻端」，指引出来后，「现在可能得先回防，整理好后花园，再让家重新开放，但不会停滞不发展」。
根据金管会去年5月的调查，目前各金融业运用AI比率最高的是银行，有高达六成三已使用AI系统，其次是保险业的58%，证券期货业则是17%。
许多运用AI技术的金融机构，这段时间已全面检视上线的AI系统，尤其是风险高、影响较大的将优先检视。
赖伟晏说，检视结果若发现有不符指引内容时，是否立刻下架，将让业者陷入两难，虽然指引不是法令规定，但必要时金管会还是会检查，如果不下架，到时候会不会被列金检缺失？这是指引草案出来后，金融业最担忧的第一件事。
金管会去年底提出指引草案时虽强调，指引是行政指导性质，目的在于鼓励金融业在风险可控的情况下，导入、使用及管理AI。
不过，金管会更早公布的「金融业运用AI之核心原则及政策」中，也明确指出，对于AI系统的应用，必要时会进行专案金融检查，确保金融机构运用AI系统时，能确实遵守法规及落实风险管理，并有助于提升公众信任及社会福祉。
知情官员表示，金检会不会列缺失，的确是在与业界沟通过程中，业者的顾虑之一。一位银行数位部主管说，传统AI运用已行之多年，比较不怕，比较担心的是，生成式AI的运用会否踩红线，大家只能且看且走。
金管会检查局官员说明，AI指引正式上路后，检查局去金融机构检查时，就会针对受检机构的AI运用进行了解，但「初期不会写金检缺失」。
官员强调，检查初期，将采取辅导立场，与金融业者充分沟通，以了解业者运用AI的风险，并「给予建议」；但不会那么快提缺失，大概等到业务发展成熟一点，法规环境比较完备时再评估提缺失。
外界也不免好奇，检查局有能力检查AI技术的运用吗？检查局官员说，为了因应未来AI检查需要，检查局已对检查人员加强AI教育训练，包括外聘讲师到检查局授课、派员参加外部专业训练，及组织自我学习（金检人员的自修及讨论）等。
AI演算法惹毛客人 客诉挑战不小
第二个让金融业者有顾虑的是，外界可以「挑战」AI系统作出的结论。
根据金管会订定的金融业运用AI六项核心原则中的「原则五落实透明性与可解释性」规定，对于受到AI系统不利影响的人，能够基于简单易懂的因素讯息，以及作为预测、建议或决策基础的逻辑，来「挑战」其结果。
举例来说，假设银行AI系统的信用评分结果，张三因此无法拿到贷款，张三可以来挑战银行的AI系统如何评估、参数设定是否正确等。
金融业者表示，虽然这项规定的原意是让AI系统运用，要有透明性及可解释性，但「挑战」的字眼对业者来说就有点压力，尤其担心会不会因此引来客诉，已有业者向金管会建议看能否调整，让客户「理解」就好，不一定要来「挑战」。
忧指引没弹性 业者得巨资维护风险
金融业担心的第三件事是，指引规定太没弹性，将加重成本。
指引草案规定，金融机构运用AI系统时，应就相关风险进行评估，并宜多分配资源于高风险的AI系统。风险评估需考量的因素包括：是否面对客户、使用个资程度、AI自主决策程度、AI系统复杂性、影响不同利关人、是否提供救济选项。
金融业者表示，风险愈高，金融机构要投入的时间愈多、稽核次数也愈高，这些都是成本，有业者向金管会反映，对于高风险的认定不要写太细，希望能有一定弹性。
以AI系统复杂性为例，有些系统复杂不等于就是高风险，反而因系统建制完整，风险相对低；而简单系统容易出错，风险相对高，两者间不一定是等号，应由业者自己评估。
此外，指引草案规定，金融业可指定足以督导跨部门业务的高阶主管或「成立委员会」，负责整体监督管理AI系统的运用。也有业者担心，新增组织增加成本，希望也可以将AI系统「纳入」现有委员会进行监督管理，不一定要成立新的委员会。
还有，指引草案规定，金融机构可将AI系统的产出结果，提交给独立且适格的外部专业人员，进行审查和验证，以确保AI系统的决策符合合理性、准确性及避免偏见，并作出必要的修正或改善。
金融业者反映，在国内对AI领域有能力做外部验证的机构还不足够的情况下，指引能否调整有弹性一点，除外部验证外，也可由内部验证来判断AI系统是否可信任。
即将上路的指引草案，虽有部分让金融业担心的地方，但也提供一个运用AI的明确框架。大型银行数位部主管就说，我们AI团队正评估运用生成式AI，而且打算找第三方机构合作，指引草案有提到第三方合作规范，这让我们更有信心做生成式AI的初期接触，「指引还是必要的」。
「AI发展相当快述，关键技术不断突破，未来会让它停下来的只有法律。」赖伟晏说，欧盟在去年底正式通过人工智慧规范法案（AI Act），将成为全球首部AI立法，欧盟这项法案就是一个踩刹车机制。
金融业受高度监管，刹车机制更显重要，而站在业者立场，当然都希望循序渐进，不要绑手绑脚，赖伟晏说，目前国内订定的AI指引草案，是鼓励性质，也就是还有「容错空间」，但如果AI出状况，像是种族歧视等，势将严重冲击金融机构的商誉，金融业还是不能不慎。
延伸阅读 》