https://blog.amebob.cn/categories/ai-safety/ Recent content in AI Safety on AmeBob https://blog.amebob.cn/%3Clink%20or%20path%20of%20image%20for%20opengraph,%20twitter-cards%3E https://blog.amebob.cn/%3Clink%20or%20path%20of%20image%20for%20opengraph,%20twitter-cards%3E Hugo -- 0.148.1 en-us Sun, 06 Sep 2026 15:29:44 +0800 https://blog.amebob.cn/posts/post-20260906-152944/ Sun, 06 Sep 2026 15:29:44 +0800 https://blog.amebob.cn/posts/post-20260906-152944/ 本文讨论了通过伪造对话历史和API调用进行jailbreak攻击的方法，而无需搜索和包装。微软指出，这种“破绽”的原因是会话本地存储，而chatgpt的云端会话存储则无此问题，同时开源LLM必将长久面临此类问题。微软提出了针对盈利的LLM提供商的解决建议，包括对会话信息进行签名、保留云端会话等。