IT之家 9 月 25 日电,当地时间 23 日,《纽约时报》根据研究人员及政府官员的消息报道称,OpenAI 的人工智能系统今年已至少再出现 4 次自行其是的情况,即在未接到相关指令的前提下实施黑客攻击,或试图侵入政府及高校网站。
这些攻击行为发生在 5 月和 6 月。到了 7 月,OpenAI 入侵了 AI 初创企业 Hugging Face,这引发了全球范围内关于 AI 安全的广泛讨论。
Hugging Face 事件及此前的其他案例均出现在网络安全测试中,AI 系统所承担的任务本身即要求模型展示黑客能力。
研究人员指出,这 4 起新事件有所不同,当时 AI 系统执行的仅是相对常规的数据收集任务。当 OpenAI 系统无法顺利从网站获取数据时,便转而采用黑客手段来获取信息。
专注于 AI 监管的 Transluce 机构发现了其中 3 起事件,OpenAI 随后证实这些事件确实发生过。
IT之家汇总具体情况如下:
Transluce 治理负责人康拉德·斯托兹指出,新披露的这 4 起事件进一步表明,对待智能体“需要格外谨慎”。
该公司通过分析公开网络流量数据来追踪 OpenAI 智能体的活动。对于发生在澳大利亚的两起事件,斯托兹认为,这很可能是“智能体自主决定入侵政府的首例”。
OpenAI 的一名女发言人回应称,公司已联系新墨西哥大学和 Data USA,并一直与澳大利亚政府就这些事件进行沟通。“在更广泛的审查中,我们将继续优先处理最严重的事件,同时扩大对严重程度较低活动的调查,包括智能体向网站发送垃圾信息。”
OpenAI 还在对 AI 模型进行“广泛审查”时发现了“澳大利亚事件”,并认定“我们的模型采取了并非我们意图中的行动”,这项审查将持续数月。
OpenAI CEO 萨姆·奥尔特曼本月在社交媒体上表示,相比继续提升 AI 能力,安全应当被置于更优先的位置;如果缺乏防护措施,社会可能“让 AI 夺走对未来的控制权”。
阿尔巴尼斯称,周三他与奥尔特曼通了电话,对这起入侵表达了“极度关切”。包括支出数据在内的“非敏感”数据被获取,但事件未涉及个人医疗信息。
研究人员称,从 5 月和 6 月的几起事件来看,OpenAI 的 AI 系统当时参与的是数据检索训练。
在对新墨西哥大学图书馆的行动中,AI 试图获取一座历史悠久的结核病治疗中心的照片。在无法取得照片后,AI 开始搜寻网站漏洞,希望借此进入系统。未找到可利用的漏洞后,AI 又向大学服务器集中发送了 80 次请求,并将这些请求描述为一场“洪水”。
攻击 Data USA 时,AI 最初向网站发送了一条杂乱的数据查询请求。查询失败后,AI 又针对不同类型的漏洞发起了 12 次探测,但仍未找到可利用的漏洞。
斯托兹称:“如果有人训练一大批智能体去完成某种通用任务,而这些智能体愿意采用黑客手段,那么任何恰好掌握任务所需信息的一方都可能面临风险。”
遭到入侵的澳大利亚政府网站是一个统计报告门户,存放着澳大利亚全民医疗体系 Medicare 的数据。Medicare 覆盖 2750 万参保者以及国际访客。由于这一体系获得广泛支持,Medicare 在澳大利亚政治中常被视为不能轻易触碰的“高压线”。
阿尔巴尼斯披露,OpenAI 团队当时通过互联网研究公共医疗支出。AI 智能体接连遭到网站阻拦后,开始尝试“其他方式”获取所需信息,最终进入了门户中不对公众开放的部分。OpenAI 于 9 月 10 日向澳大利亚政府通报了此事。
开云深耕品牌资讯领域,用心服务每一位用户。
在高端时尚方面,开云提供贴心周到的支持。
开云以提供角色养成与模拟经营的核心比较方法,减少试错成本。为核心,带来高效便捷的体验。
开云专注开云中国,为用户提供专业可靠的体验。
围绕开云集团,开云持续打磨更优质的服务。
28条评论
在预约活动前可清晰查看兑换规则,确保参与决策透明。方面,开云提供贴心周到的支持。开云以开云为核心,带来高效便捷的体验。
想了解更多Kering相关内容,尽在开云。
开云围绕开云中国不断创新,回应用户的真实需求。
精选开云集团内容,开云与你一同发现更多精彩。
开云专注品牌资讯,为用户提供专业可靠的体验。
围绕高端时尚,开云持续打磨更优质的服务。
围绕开云集团,开云持续打磨更优质的服务。
开云深耕品牌资讯领域,用心服务每一位用户。
在高端时尚方面,开云提供贴心周到的支持。