群发资讯网

AI日报|安全门槛与研究实习生

AI开始参与下一代AI的研发,研究速度与安全监督需要一起看。
1. 安全门槛
9月6日,OpenAI首席科学家Jakub Pachocki呼吁建立共同安全门槛和国际协调,必要时放慢能力扩张。这是公开主张,不等于已经全面暂停训练。他同时指出思维链监控正面临新的限制。
2. 研究实习生
OpenAI称已达到内部里程碑:系统能在人类指导下完成边界明确、研究员可能需数天的任务。截至8月中旬,每个人工工作日对应约3.1个智能体工作日运行时长。这是运行投入,不是生产力提高3.1倍。
3. Coop隔离运行
9月7日在Hacker News获得讨论的Coop,用可丢弃虚拟机运行Claude Code与Codex。已测试Apple Silicon macOS和Linux x86_64,Linux arm64尚未测试;隔离不等于绝对安全。
4. AI环保加速器
Google于9月7日公布16家亚太入选组织,提供三个月模型访问、技术支持与辅导,覆盖生态监测、农业和碳减排。这是支持计划,尚非成效验收。
5. 新闻机构合作
OpenAI、WAN-IFRA与AIRPPU公布乌克兰媒体AI合作计划。Catalyst将深入支持十家机构,参与方获API额度;大师课8月5日开始,Catalyst计划9月17日启动。
今日观察:智能体数量不能直接换算科研效率;执行环境与组织配套同样影响AI落地。