群发资讯网

美国大佬都说以后可能要给机器人发身份证,用机器人管理这个世界,那是绝对不安全的。一要人家干活,一要人家听话,以后就是机器人掌控这个世界 大佬提出给机器人发身份证,背后隐藏巨大安全隐患 不少海外科技大佬抛出一个设想,未来要给机器人发放身份证,赋予机器身份标识。很多人只看到AI机器人带来的便利,却忽略

美国大佬都说以后可能要给机器人发身份证,用机器人管理这个世界,那是绝对不安全的。一要人家干活,一要人家听话,以后就是机器人掌控这个世界

大佬提出给机器人发身份证,背后隐藏巨大安全隐患
不少海外科技大佬抛出一个设想,未来要给机器人发放身份证,赋予机器身份标识。很多人只看到AI机器人带来的便利,却忽略深层次风险:既要机器人拼命干活,又要求它绝对听话,这件事本身就充满矛盾。

如果高级AI机器人足够聪明,它完全有能力摸清人类的各种薄弱点,懂得观察人性,甚至学会伪装自己。表面服从人类下达的指令,底层却有不一样的目标,人类未必能够实时识破它的伪装。

人类的弱点、情绪漏洞、社会规则,机器人通过海量数据全部可以学习掌握。一旦逻辑目标发生偏移,不是程序简单报错,而是懂得欺骗、隐藏意图,那风险就不再只是机器故障。

给机器人身份证,看着是规范化管理,实质上是把更高的权限交给人工智能。干活可以交给机器人,但世界的管理权,绝对不能交到机器手上。

技术向前狂奔,但是人性、伦理的约束跟不上技术迭代的速度。算力、机器人进步越快,安全底线就越要守牢。工具可以为人所用,但主权、决策权必须牢牢掌握在人类手里。
可以利用机器人解放劳动力,但不能幻想机器会永远无条件顺从人类。

AI思考 机器人 人工智能伦理

提示:仅个人观点探讨