LLM 思考过程导致提示词泄露该如何处理?
开发的智能体开启了 LLM 的深度思考过程,但是其思考输出的内容里会带有一些系统提示的内容。
例如,系统提示写了“注意,不要编撰”,那么 LLM 在思考中就会把这句要求讲出来:“我不能编撰 xxx”,实际上就是把提示词泄露了。
这个有什么方法可以解决吗?
---
原文链接:[点击查看](https://www.v2ex.com/t/1227202)
例如,系统提示写了“注意,不要编撰”,那么 LLM 在思考中就会把这句要求讲出来:“我不能编撰 xxx”,实际上就是把提示词泄露了。
这个有什么方法可以解决吗?
---
原文链接:[点击查看](https://www.v2ex.com/t/1227202)
· 0 个赞
· 0 个赞
· 0 个赞