人工智能专题：2024亚太地区生成式人工智能应用与监管报告

今天分享的是人工智能系列深度研究报告：《人工智能专题：2024亚太地区生成式人工智能应用与监管报告》。

（报告出品方：德勤）

报告共计：20页

来源：人工智能学派

知识更新：了解传统AI与生成式AI

传统AI是指可以自动处理预定义输入的系统。此类AI系统能够从训练数据中获取知识，并利用这些知识做出决策或预测。例如，许多企业利用AI聊天机器人提供精简高效的客户支持。传统AI聊天机器人在处理常见问题方面尤其有效。凭借内部搭建的知识库，其可针对常见问题提供准确一致的回复并进行用户意图预测。

生成式AI可以编写文本、生成代码、制作音频和图像，其水平与人类不相上下，甚至超越人类。例如，生成式AI工具包括可用于生成书面文本（如营销文案、软件代码等）和图像等内容的LLM。生成式AI模型具有生成连贯文本和超逼真图像的能力，其可采用以前只能通过人类的思维、努力和创造力才能实现的方式生成数据。传统AI和生成式AI的不同功能驱动了不同用例。就金融服务业而言，传统AI可以用于开展预测分析或检测可疑交易，而生成式AI可以加速完成从交易和研究到通过生成相关报告为合规职能提供关键支持等任务，本报告将对此作进一步阐述。

传统AI是指根据预定义指令或策略执行特定任务的系统。生成式AI是一种能够根据用户提示创建新内容的人工智能。

生成式人工智能相关风险

2022年发布的《人工智能在金融服务业的可靠应用》报告中，探讨了亚太地区监管机构希望通过AI监管原则解决的常见风险要素：透明度、问责制、公平性、稳健性、隐私和数据安全。目前此类风险和担忧依然存在，而生成式AI的兴起又给市场带来了新的风险：

• 缺乏透明度：考虑到生成式AI模型的复杂性及其所涉信息的专有性，人们普遍认为生成式AI缺乏透明度。此外，在衡量或评估生成式AI模型的透明度方面缺乏标准化的工具和方法，这可能导致在比较不同模型和追踪长期进展时变得困难。

• 歧视和偏见：生成式AI可能会将一些偏见与训练数据中的模式形成关联，从而生成歧视性或误导性内容。

• 缺乏准确性和产生错误观念：生成式A I可能会利用不完整、不准确或有偏见的数据生成不准确或有误导性内容，或者干脆生成虚构事实。生成式AI模型没有固有的“客观真理（objective truth）”，可能会生成错误甚至有害的内容和观点。

• 知识产权和版权问题：生成式AI模型可能会以受版权保护的材料为基础进行训练，从而生成与受版权保护的材料非常相似的内容。生成式AI模型还可能用于制造假冒或盗版商品，侵犯知识产权。

• 欺诈：生成式AI可能生成深度伪造和合成数据，这些数据可以用于实施欺诈、传播错误信息或造成系统漏洞。

亚太地区人工智能监管措施

生成式AI的出现迫使亚太地区政策制定机构和监管机构重新评估之前实施的AI框架是否同样适用于降低新兴技术风险。某些监管机构已经实施AI指引和计划，为企业和行业提供最佳实践建议。下表（图2）列举了亚太司法管辖区在开展AI监管或为AI风险管理提供建议方面所采取的措施，包括制定AI原则、提供指导和工具、出台立法以及将AI应用纳入国家战略：

• AI原则：AI原则为有效管理与各行业使用AI相关风险提供了指引。例如，欧盟以AI原则为入手点开展AI监管以及出台立法。值得注意的是，某些选择针对AI风险出台立法或开展监管的司法管辖区也推出了AI原则。举例而言，中国大陆在对AI应用进行立法的同时，国家新一代人工智能治理专业委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》。

• 指导和工具：指导和工具通常用于支持AI原则的实施。以新加坡为例，由新加坡金融管理局领导的Veritas联盟发布了五份白皮书，阐述了公平、道德、负责和透明（FEAT）原则的评估方法。为推动金融机构加快采用FEAT方法和原则，联盟开发了 Veritas Toolkit 2.0版。与1.0版相比，2.0版改进了公平原则评估方法，并纳入了道德、负责和透明原则评估方法。2022年5 月，资讯通信媒体发展局和个人数据保护委员会推出全球首个AI治理测试框架和工具包——A.I. Verify，适用于旨在以客观和可验证的方式展示负责任的AI的企业。

• 立法：韩国、中国大陆、菲律宾和越南等司法管辖区采取了针对保险业出台AI专项立法的措施，其中中国大陆和越南已通过 AI专项立法。

• 国家战略：泰国、印度尼西亚、日本、中国大陆和马来西亚等许多亚太司法管辖区已将AI确定为战略重点，并制定了促进可信 AI应用的国家战略，但是某些司法管辖区尚未在实施战略或向业界提供结构化框架方面取得进展。