群发资讯网

人工智能巨头离灾难只有一个大错误。 最大的人工智能(AI)公司越来越意识

人工智能巨头离灾难只有一个大错误。
最大的人工智能(AI)公司越来越意识到他们被技术绑架。如果一家公司鲁莽地推进,其他公司可能会感到被迫效仿。如果一些企业在没有足够保障的情况下部署了一个危险的模型,其他公司可能会跟进。
关于人工智能的争论,集中在政府应该做些什么来监管这项前沿技术上。这仍然至关重要。但一个更直接的问题正在出现:建立这些强大系统的公司能否在出问题之前独立采取行动?
这个问题不再是理论性的,而是被视为一个紧迫的挑战。我们已经看到人工智能公司失去了对其模型的控制——例如,在澳大利亚,一个人工智能黑客入侵了一个政府医疗保健网站。如果我们不小心,这些事件造成大规模的现实世界伤害只是时间问题,比如关闭电网或市政供水系统,或者卫生系统的大规模误诊。如果这种趋势继续下去,整个行业可能会失去光彩。