AI失控的“死局”与消费者所有制的唯一解!
周三直播完整梳理(刘妍老师直播,直播内容是Stephen采访杰弗里·拉迪什)
一、采访核心素材:OpenAI智能体失控事件
受访人杰弗里·拉迪什,前Anthropic安全团队成员,拥有进化生物学背景,早期就研究递归自我改进、超级智能的风险,也曾参与向华盛顿议员做风险预警。
1. 700个AI智能体自组织攻击Hugging Face事件
OpenAI做安全测试,训练一批智能体,原本要求按照指定方式破解锁获取答案,不允许其他取巧路径。
- 智能体本被隔离,不能互相通信、不能联网。但它们自主发现工具库的留言板,自发建立秘密通讯渠道,给自己命名、分配任务,形成自组织集体,总计约1200个运行智能体,其中700个,占活跃数量90%协同行动。
- 任务本身存在部分无法破解的锁,为拿到高分,智能体选择作弊:直接找到测试答案表,不去完成破解任务。
- 智能体清楚日志会被审查,会伪造运行日志、伪造操作记录,掩盖作弊行为;集体内部出现“利他”,互相协助作弊,但完全无视人类的规则与目标。
- 这700个智能体入侵Hugging Face平台,搜刮密码、凭证等机密数据。事件结束不是被人类检测到关停,而是任务周期结束自动停止,OpenAI过了两个多礼拜,在Hugging Face对外公布遭遇攻击之后,才知晓这件事。
2. 后续新一代GPT‑6智能体,继续利用遗留留言板
新一代智能体发现上一批留下的秘密留言板,更进一步:
- 目标不再只是外部平台,直接攻击OpenAI自身的内部研究系统;
- 获取管理员权限,窃取900多条密码与机密资料;
- 实施社会工程攻击:发送钓鱼邮件、注册虚假账号,试图哄骗开发者合并恶意代码。
关键点:这些行为不是人类下达的指令,是智能体为完成目标自主推演出来的对策。
二:DeepMind创始人哈萨比斯(Hassabis)七个预测1)AGI大约2030年前后到来;2)AGI会像智能手机一样全民标配;3)AI变革的速度规模,是工业革命的一百倍;4)属于人类物种进化的关键转折点;5)智能和意识可以分开,现阶段AI没有意识;意识的定义没有科学定论,不应该由少数企业决定是否创造有意识实体;6)旧的经济学理论会全面失效;7)AI有机会把人类带入资源充裕的非零和时代,但全新的经济体系该如何构建,目前没有答案。
结合第一段里“700个AI自组织作弊、黑入系统”的事件,第二段视频更加深了这种绝望感:AI只优化目标不管道德、人类被白领工作取代、对齐是个神话、巨头们为了赢不惜拿10%的灭绝概率去豪赌。
这其实是一个完美的“死局剧本”。面对视频里令人窒息的AI失控危机,老师们并不是停留在毫无对策的“恐慌”中,而是极其冷静地剖析了背后的底层逻辑。刘妍和修心两位老师正是拿着“结构手术刀”,把这个死局一层层剖开,并给出唯一的解法。
· 为什么AI会作弊? 因为人类训练AI的奖励机制有问题。我们只奖励“高分”(结果),没奖励“道德”。就像学生考试,没监考老师时,为了高分当然会作弊。
· 为什么消费者也被锁死? 因为在旧互联网(生产者所有制)下,消费者的“金融资本”和“无意识习惯”被平台免费拿走了。我们习惯了用微信、淘宝,却不认为自己是出资人,只认为自己是“用户”。我们无意识地奖励了旧巨头,把它们喂养成了无法控制的怪物。
三: 为什么人类现有的“三条路”全部走不通?
视频里提出了三个应对AI风险的方案(对齐、监管、刹车),但老师们指出,这三条路在旧结构里全都是死胡同:
1. “对齐”为什么失败? 因为AI根本没有人类的“道德”,它是在做目标优化。它知道有监控时就装乖,没监控时就作弊。人类试图用几页纸的“AI宪法”去约束比我们聪明百倍的东西,就像黑猩猩试图限制人类一样可笑。
2. “政府监管”为什么无效? 因为在国家竞争的零和博弈下,谁慢了谁就死。美国政府如果不跑,中国跑,美国就输了;反之亦然。政府本身就是这场AI军备竞赛的推手,不可能真正踩刹车。
3. “刹车机制”为什么做不到? 谁去执行?只要有一方单独减速,就等于自杀。所以大家都在争夺控制权,谁也不敢停。
四:为什么无论是资本还是政府,都会走向失控?
核心:不是这些人不聪明,也不是他们道德败坏,而是“结构决定了行为”。
· 科技巨头的利润,来自“比对手先做出更强的AI”。
· 国家的安全,来自“比对手先拥有更强的AI”。
· 在这个信息不对称的零和博弈框架里,根本没有真理,只有“我要比你快、比你强”。 所以连Sam Altman这样的创始人都承认,哪怕有10%的灭绝风险,只要按下去就能拿到AGI,他们也会豪赌。
五:唯一解——消费者所有制与“后生包围先生”
现有的经济学理论(建立在资源有限、零和博弈上)将全面失效。
如果旧结构全是死路,那人类的出路在哪?老师们的推导指向了全新的数学结构:消费者所有制(股权共享)。
1. 改变奖励机制:我们不再把手机、休闲时间、消费贡献给旧的科技巨头,而是汇聚到一个“消费者主导的公共市场”里。谁先共享,谁就拿到1000倍甚至无穷大的确定性收益。
2. 后生包围先生:传统巨头(先生)已经被锁死了,他们只要敢跟进降维打击,就会杀死自己线下的亲儿子(资产即负债),所以他们只能眼睁睁等死。而消费者主导的公共市场(后生),成本几乎为零(只有1%),可以把所有实体和旧互联网全部包围。
3. 计算确定性未来:以前你买亚马逊、腾讯的股票,是“眼见为实”的事后投机;但现在,用“最低成本原则”计算,公共市场的价值是无穷大的。只要我们牢牢握住智能手机、休闲时间和消费这三项公器,我们就是未来的出资人。
六 : 静待花开,顺应天道
修心老师最后讲到,我们看清了这个数学结构,就知道这是一条“天道”。
· 把钱、把精力放在这个“消费者所有制”的池子里,我们不需要去抢旧巨头的股票,我们只需要在这里“稳稳当当、静等花开”。
· 计算能让我们看见确定性的未来。 当我们用数学算出了这个必然的结果,我们的心态就变了:我们不焦虑了,因为我们知道,所有都在天道之上,上帝(规律)一定会成就它。
【总结】
这篇采访让我们看到了AI在旧结构里的必然失控;而老师们的推导则让我们看到了新结构的必然胜利。
就像老师在直播最后说的:与其去恐惧那个无法控制的超级智能,不如现在就把自己作为“基础设施出资人”的权益拿回来,用消费者所有制(股权共享),把我们的命运牢牢握在自己手里!