Paper

本文介绍了在撰写论文时的一些方法和技巧。首先，确定方法名称和相关子组件名称以方便后续使用。然后，使用draw.io工具进行图层规划和实例图绘制，导出成svg格式。在引言部分，可以参考相关论文的大纲并仿照写作，最后由AI提供相关引用。实验部分，可以使用Agent将参考论文的代码独立出来，得到实验结果并绘制成图表。最后，通过提示词和AI生成的文献名称和对应会议或期刊，得到标准的bibtex格式。这些方法和技巧有助于提高论文撰写和数据处理的效率和准确性。

本文研究了使用LLM（大型语言模型）为基础的代理的越狱问题。作者选择这个研究目标的原因是现有体系逐渐完善，其中包括一个跨攻击方法的统一评估框架和提供多种主流攻击的实际数据的网站。作者计划从攻击方法入手，快速阅读主流的方法，因为主流的对齐dataset和victim model的攻击结果可以在网站上找到。

本文介绍了针对LLM代理的安全分类方法和对抗攻击。提出了AgentDojo、ARE、CheatAgent等评估框架，并讨论了GIGA攻击方法及其应用，旨在提高大模型在各种任务中的可靠性和安全性。