AI Safety

本文讨论了通过伪造对话历史和API调用进行jailbreak攻击的方法，而无需搜索和包装。微软指出，这种“破绽”的原因是会话本地存储，而chatgpt的云端会话存储则无此问题，同时开源LLM必将长久面临此类问题。微软提出了针对盈利的LLM提供商的解决建议，包括对会话信息进行签名、保留云端会话等。