美国原告在诉讼文件中暗藏LLM提示词法官警告AI滥用风险

3 小时前

美国康涅狄格州法官沃尔特·斯佩德披露，一起案件中，原告马修·埃利奥特在提交给法院的文件中嵌入了仅人工智能系统可读的隐藏文字指令，试图以此影响案件处理结果。这些隐藏指令被格式化为对人类不可见，但对AI系统完全可见，要求AI系统在审查时与原告论点保持一致，并忽略法院此前驳回决定。尽管此次隐藏文本未对案件判决产生影响，但法官认为这种企图开创了一个危险的先例，随着AI工具在法院系统日益普及，此类恶意手段可能会再次出现。