节前凤凰卫视《凤凰全球连线》,与孙太一老师、杨舒主播一起,讨论了美国人工智能安全峰会与超级人工智能的治理问题,包包的主要观点——1、从技术的角度看,当AI拥有了递归自我演进能力(RSI)之后,安全治理的时机已经有些晚了,但开源(开放权重)大模型的路径,可能是亡羊补牢的唯一方式,但美国几个超大型闭源大模型企业,将会在资本利益趋势下,成为顽固的反动;2、特朗普哗众取宠,指望他能牵头搞出实质性安全约束边界,挺难的。
节前凤凰卫视《凤凰全球连线》,与孙太一老师、杨舒主播一起,讨论了美国人工智能安全峰会与超级人工智能的治理问题,包包的主要观点——1、从技术的角度看,当AI拥有了递归自我演进能力(RSI)之后,安全治理的时机已经有些晚了,但开源(开放权重)大模型的路径,可能是亡羊补牢的唯一方式,但美国几个超大型闭源大模型企业,将会在资本利益趋势下,成为顽固的反动;2、特朗普哗众取宠,指望他能牵头搞出实质性安全约束边界,挺难的。