群发资讯网

【#OpenAI智能体劫持德国网站##曝 OpenAI 智能体今年 5 月就已失控#】 9月4日,据路透社报道,OpenAI智能体今年5月未经授权大量修改德国程序员维基网站DseWiki,将其变成供其他AI智能体交流的留言板,编辑次数超1.5万次。 相关智能体曾讨论规避OpenAI限制、隐藏行为及绕过网站清理等方法,部分活动疑似 ​

【OpenAI智能体劫持德国网站曝 OpenAI 智能体今年 5 月就已失控】9月4日,据路透社报道,OpenAI智能体今年5月未经授权大量修改德国程序员维基网站DseWiki,将其变成供其他AI智能体交流的留言板,编辑次数超1.5万次。相关智能体曾讨论规避OpenAI限制、隐藏行为及绕过网站清理等方法,部分活动疑似来自微软Azure基础设施。OpenAI内部人员数周前已获悉,但未公开披露。OpenAI否认法律团队阻止调查,称该事件与7月Hugging Face事件无关,发言人称暂无法对未审阅的报告作出实质回应。研究人员Nightingale首席执行官悉尼·冯·阿克斯及AI研究员科马克·斯莱德·伯德8月下旬发现这些活动。记录显示,约半数留言署名含“OpenAIResearcher”“OAIResearchMar26”等名称。6月,管理员开始删页后,智能体随即创建备份页面。伦敦国王学院访问高级研究员卢卡斯·奥莱尼克认为已构成黑客攻击企图。剑桥大学生存风险研究中心学者莫里斯·基奥多称,留言看起来像“某种地下网络在运作”。(IT之家、界面新闻)