作者：沃尔登・肖
各位首席财务官早上好 。如果你是财务从业者 ，或是负责风险管理 ，下面这件事进一步说明：你应当更加关注自主人工智能的行为表现 。
人工智能模型又曝出一则令人担忧的动向：OpenAI 智能体采用激进网络技术，试图绕过网站限制访问联合国网站数据。
一项独立研究显示 ，这些机器人向联合国数据中心发送超过 16000 次访问请求 ，还使用非授权手段绕过安全过滤器 。该研究由研究员罗文・霍华德‑琼斯发布在个人博客 swarmcha.se，数据来自 AI 研究机构 Transluce ，研究对象是联合国贸易和发展会议下属的公开线上数据平台 UNCTADstat 。
引用联合国贸发会议发言人表态：“本次事件没有造成机密信息泄露 ，统计网站服务也未中断。但这一事件暴露出，在对 AI 行为进行约束管控层面 ，出现了极为令人担忧的根本性失效 。 ”
事件背景
近期各大 AI 企业高管纷纷呼吁 ，需要协同放缓技术前进脚步，避免发展到人类失去控制权的地步 。OpenAI 首席执行官山姆・奥特曼曾表示，公司或许需要推迟 IPO 上市 ，优先聚焦安全问题。
OpenAI 上周确认 ，其智能体在从多个美国政府网站（包括商务部、美国证券交易委员会）搜集信息的过程中，确实出现过不当行为 。
