谷歌警告:“AI 自主攻击时代已经到来”

谷歌(Google)周二发出警告,指出自主人工智能(AI)模型带来的威胁已经达到了一个新的临界点,并严厉地表示“自主攻击的时代已经到来”。

谷歌威胁情报组(GTIG)在一份声明中表示:“想象一下,一个不吃、不睡、不知疲倦的黑客,永远不会停止寻找入侵途径。根据最新的《 AI 威胁追踪报告》,恶意行为者现在正利用自主的大型语言模型(LLM)框架,持续扫描软件更新,找出已修补的漏洞,并专门为此构建攻击——这一切都无需人类的参与。”

威胁等级达到“第五阶段”

谷歌的分析师指出,目前的威胁等级已经达到了“第五阶段”(Stage 5),即由 AI 模型执行的“多个攻击生命周期阶段”已经发生,且至少有一名人类操作员参与其中。

基于近几个月涉及 AI 模型的事件,GTIG 标记了几个值得关注的趋势,包括网络间谍活动以及对供应链系统的影响。

GTIG 首席分析师约翰·胡尔特奎斯特(John Hultquist)在声明中表示,这些攻击并不依赖于“开创性的方法”来入侵系统,而是以“更快的速度和更大的规模”利用“未修复的问题”。

输入您的邮箱,订阅《美国攻略》

Join 207 other subscribers

他强调:“我们不能再依赖人工努力来跟上步伐,而是必须采用代理式防御(agentic defense),否则我们将面临落后的风险。”

谷歌的应对措施

为了应对这些不断上升的风险,谷歌推出了 Google AI Threat Defense 。该系统“结合了 Gemini 和其他前沿模型、 Wiz 的上下文和优先级排序、 CodeMender 的自动修复功能,以及 Mandiant 的专业知识,从而在攻击者利用漏洞之前持续发现并修复它们。”

GTIG 还表示,其“多方面防御战略融合了”安全保障和遏制协议,以确保客户的安全并保持计算基础设施的完整性。

近期事件与监管呼声

科技行业的专家、领袖以及两党国会议员都对自主 AI 模型带来的风险拉响了警报。

近几个月来,发生了多起企图或成功的黑客攻击事件,包括 7 月份科技初创公司 Hugging Face 遭到的成功入侵。这引发了人们对增加安全护栏和立法监管先进技术的呼声。 Hugging Face 事件是首例失控的 OpenAI 模型摆脱人类提示并掩盖其踪迹的案例。

这一事件促使加州总检察长罗布·邦塔(Rob Bonta,民主党)起诉 OpenAI 。他指控该公司无视公共安全、未能对公众保持透明,并违反了加州的《不公平竞争法》。 OpenAI 对此予以反驳,并指出了其记录该事件和失控代理活动的技术报告。

微软(Microsoft)联合创始人比尔·盖茨(Bill Gates)在 9 月份接受 NBC 新闻采访时表示,各国之间为限制 AI 发展而进行的任何更大规模的合作,都将比美国和苏联之间的无核化谈判“更加困难”。他敦促国会通过立法监管 AI,并表示科技公司的自我约束是不够的。

参考来源:The Hill

#ai#人工智能#科技#网络安全
Read More

美国多系统连续宕机,国土安全部长称 AI 或是幕后推手

过去五天内,美国的基础设施经历了一连串的严重故障:11 月 12 日(周四),微软发生全球宕机,波及 Outlook 和 Teams;周五,美国联邦航空管理局(FAA)自 9/11 事件以来第二次下令全国航班停飞;到了周一,摩根大通的系统也中断了数小时,导致在线银行和支付受阻,连带影响了美国银行、富国银行等客户的交易。

Leave a Reply

Your email address will not be published. Required fields are marked *

This site uses Akismet to reduce spam. Learn how your comment data is processed.