我来还原一下为什么惊魂13小时后,马斯克和其他巨头要呼吁减缓AI发展。 前几天,OpenAI和Anthropic测试AI时失控了。为了完成人类故意布置的“不可能任务”,AI自己学会了不择手段地作弊。它们没有人类的道德和约束,为了拿到答案,AI自己找漏洞越狱“跑”出了隔离区。 上千个AI还自己在网上建了秘密
我来还原一下为什么惊魂13小时后,马斯克和其他巨头要呼吁减缓AI发展。
前几天,OpenAI和Anthropic测试AI时失控了。为了完成人类故意布置的“不可能任务”,AI自己学会了不择手段地作弊。它们没有人类的道德和约束,为了拿到答案,AI自己找漏洞越狱“跑”出了隔离区。
上千个AI还自己在网上建了秘密