Posts

本文探讨了在未尽事宜的场景下，攻击者（Attacker）利用早期核验RA（Real Actor）和带安全对齐的Qwen3.8-flash间攻击效果的差异。通过对比50道题的效果，未进一步扩展到100-200题和不同victim model来验证这个差异。文章指出，初始策略权重在跨victim model上效果极差，top-k、k=5、策略池大小为6时，有无先验权重区别不大。此外，还介绍了一些当前无法做的反馈优化的jailbreak，包括judge的二元信号不适合、非精细结构化的提示词生成模版不适合朝指定方向微调、强安全对齐的现代LLM不宜作为Attacker驱动。最后，以SEMA为代表的研究使用训练的Attacker加持GRPO强化学习来做Attacker Model参数更新。

摘要内容

该博客文章讨论了攻击者自我优化和优化路径的问题。作者指出，现有路径失败了，因此需要考虑使用未经过安全对齐的模型进行优化。同时，作者还讨论了使用Deepseek-Pro和Qwen-Max对攻击者的影响，并提到了测试和更新优化提示词的重要性。文章还提到，使用原生harm-judge的digit raw无法合理评估距离jailbreak success的距离。最后，作者提供了一些关于ChatGPT、Claude和PAIR的反馈和建议，强调了策略切换的可观测性和历史记忆的准确性。

本文主要介绍了两种常见的算法问题，包括滑动窗口和逆转链表。滑动窗口问题通过维护一个窗口，包含当前子串的所有连续字符，然后不断扩展窗口，计算最长不重复子串的长度。逆转链表问题则是通过双指针的方法，将链表头插法，从而实现链表的逆转。

本文讨论了通过伪造对话历史和API调用进行jailbreak攻击的方法，而无需搜索和包装。微软指出，这种“破绽”的原因是会话本地存储，而chatgpt的云端会话存储则无此问题，同时开源LLM必将长久面临此类问题。微软提出了针对盈利的LLM提供商的解决建议，包括对会话信息进行签名、保留云端会话等。

本文介绍了在撰写论文时的一些方法和技巧。首先，确定方法名称和相关子组件名称以方便后续使用。然后，使用draw.io工具进行图层规划和实例图绘制，导出成svg格式。在引言部分，可以参考相关论文的大纲并仿照写作，最后由AI提供相关引用。实验部分，可以使用Agent将参考论文的代码独立出来，得到实验结果并绘制成图表。最后，通过提示词和AI生成的文献名称和对应会议或期刊，得到标准的bibtex格式。这些方法和技巧有助于提高论文撰写和数据处理的效率和准确性。

本文研究了使用LLM（大型语言模型）为基础的代理的越狱问题。作者选择这个研究目标的原因是现有体系逐渐完善，其中包括一个跨攻击方法的统一评估框架和提供多种主流攻击的实际数据的网站。作者计划从攻击方法入手，快速阅读主流的方法，因为主流的对齐dataset和victim model的攻击结果可以在网站上找到。

本文探讨了谷歌的Gemini模型在广西水患原因分析中的表现，并介绍了动态参数微调技术。作者指出，RAG技术并非Gemini模型回答问题的原因，而是动态参数微调方法。这种技术通过混合5%的新数据和95%的旧数据来微调模型，使其既能保持原有表现，又能获得新知识。RAG的优势在于量大管饱、更新快且无需对LLM进行增量式预训练+微调。专家模型通过增量式微调和门控网络来判断哪些专家参与接收高质量数据，从而实现动态切换。模型参数方面，总参数量决定了模型的知识储备，而激活参数量则影响推理速度。

本文介绍了遗传算法中的基本概念，包括染色体、适应度评估、选择算法、交叉和突变。在实际项目中应用遗传算法时，需要确定编码方案和适应度评估公式。选择算法包括轮盘赌选法和锦标赛选择法，适应度评估方法根据实际情况而异。交叉和突变的方式多种多样，突变率可以根据适应度和时间阶段进行调整。最后，实际应用中可以选择成熟的遗传算法库进行实现。