随着人工智能（AI）加快普及，全球监管机构表示，自主性日益增强的AI形态可能加剧金融体系风险，并呼吁制定新的管控措施。

全球标准制定机构金融稳定理事会 （FSB） 周三发布的一份报告“强烈”鼓励各机构考虑实施防护措施，以减轻AI带来的风险，包括“智能体化AI”（Agentic AI）带来的风险。智能体化AI是指那些能够在有限的人工监督下进行规划、推理并执行任务的系统。

金融机构已将智能体化AI用于欺诈检测、客户服务和后台运营等领域。

剑桥另类金融中心（Cambridge Centre for Alternative Finance）的一项调查显示，在金融行业受访者中，有52%表示正在积极采用智能体化AI，其中23%已在规模化推广或推进转型，29%则处于试点阶段。

自Anthropic发布Mythos以来，监管机构和全球标准制定机构加大了对AI在金融领域推广所带来的风险的警示力度。专家认为，Mythos给银行业带来重大网络安全挑战。

FSB表示，自主性AI会带来可能“以极快速度显现”的风险，包括未经授权或非法行为、数据泄露以及对互联系统的干扰。

报告称，“AI智能体对人类监督构成独特挑战”，并警告称它们可能会采取偏离公司意图、而员工却毫不知情、也无法迅速进行干预的行动。

为了应对这些风险，FSB提出一系列“稳健实践”建议，敦促金融机构为AI的使用设定明确边界并嵌入防护措施。这些不具约束力的指导方针在公开征求意见，截止日期为7月22日。

《夸克》非常好用的免费AI浏览器

下载APP查看