Anthropic发布新一代AI模型“神话”,引发系统性金融风险担忧

近日,AI领域的明星公司Anthropic发布了新一代AI旗舰大模型——“神话”(Mythos),该模型凭借其针对网络漏洞的超强检测和利用能力,引发了来自金融行业及政府机构的广泛关注。这款AI模型的“有限发布”不仅震动了技术圈,更让美国政府将其视为可能引发系统性金融风险的关键节点。

“神话”模型:从Opus 4.6到跨越数量级的进步

Anthropic在今年2月首次推出的Opus 4.6模型已显示了其领先的AI技术能力。然而,与Opus 4.6相比,新一代神话模型在漏洞检测和恶意代码生成方面进行了数量级的跃迁。有数据显示,在测试中,Opus 4.6尝试生成用于攻击火狐浏览器的代码,其成功率不足1%。但“神话”模型在类似测试环境下的攻击代码成功率达到了181次成功,29次近乎成功。

这一成果虽然展示了AI技术的强大潜力,但也引发了人们对恶意组织利用AI技术进行网络攻击的严重忧虑。尤其在金融行业,由低级漏洞引发的网络攻击可能进一步造成不可估量的经济损失。

美国政府的紧急介入

据知情人士透露,美国财政部长及美联储主席本周紧急召集华尔街主要金融机构的高管,讨论神话模型带来的潜在危害。与会者包括花旗集团、摩根士丹利、美国银行等“全球系统重要性银行”的负责人,并对其提出了预防性控制建议。

会议特别指出,“神话”模型可能对金融信息系统带来网络攻击风险。这种风险已经不再是理论性的,而是极具现实威胁。一些金融行业的主要机构已通过提前获得模型的预览权限进行系统漏洞排查,这种合作旨在预防性降低风险。

AI技术的发展与“有限发布”的原因

“神话”模型并没有被全面公开发布,而是仅限于苹果、微软、亚马逊等40余家核心技术基础设施开发商。这是Anthropic在深刻审视其模型潜能后采取的防范性措施。

根据官方公布的网络安全报告,新模型的漏洞检测能力已经超越了普通网络安全专家,可以在主流操作系统和浏览器中发现高风险漏洞。通过预览权限,这些关键基础设施的开发商将使用模型主动扫描平台漏洞并修复。Anthropic也表示,这是为了最大程度减少AI技术对社会可能带来的“负溢出效应”。

金融行业的特殊风险

由于金融行业直接连接全球经济的中枢,一旦系统出现大规模漏洞,可能对全球金融稳定造成深远冲击。因此,美国政府和美联储特别强调了银行机构在采用新型技术时的谨慎态度,并建议金融行业高管携手技术公司,共同研究并完善风险防控机制。

尽管“神话”模型的高性能能力令人印象深刻,但其潜在风险也表明,AI技术的飞速发展必须伴随严格的产业标准和社会保护机制。只有这样,才能在推动技术进步的同时保证公共安全、经济稳定及社会秩序。

未来,政府、技术公司和行业共同努力的框架下,如何平衡创新与风险,将成为推进AI技术的关键议题。

文章评论

登录后才能发布评论哦
立即登录/注册
消息提醒
Hello, world! This is a toast message.