群发资讯网

法庭文件暗藏AI指令,司法系统迎来新型“证据污染”,美国康涅狄格州一名自行出庭的

法庭文件暗藏AI指令,司法系统迎来新型“证据污染”,美国康涅狄格州一名自行出庭的原告马修·埃利奥特,在诉讼文件中嵌入三号白色小字,要求任何读取文件的人工智能输出有利于自己,并推翻此前不利裁定。法院从异常留白发现隐藏指令。
法官沃尔特·斯佩德认定其具有欺骗性,禁止他继续电子提交,只准到书记员办公室递交纸质文件。值得注意的是,该州法院并未用AI审查或裁决此案,原告所谓“审计系统”的解释因此难以成立。法院裁定披露的案情
这起看似荒诞的事件,暴露的却是司法数字化的一条真实裂缝。过去法院担心AI编造案例,如今还必须防止诉讼材料反过来操纵AI。提示注入并不需要攻破服务器,只需让机器把证据和命令混为一谈。
若法官、律师或书记员用通用模型摘要海量卷宗,隐藏文字就可能悄悄改变注意力和判断框架。真正的防线不是禁止AI,而是把外部文件一律视为不可信数据,清除不可见内容,保留人工复核和完整审计记录。司法可以借助机器提高效率,但裁判责任不能随摘要按钮一起外包。