近年来,大型语言模型(Large Language Models, LLMs)在自然语言处理领域取得了巨大成功,并在多个领域得到广泛应用。然而,随之而来的安全性问题,特别是LLMs在面对精心设计的”越狱”(jailbreaking)攻击时表现出的脆弱性,引起了研究者和从业者的高度重视。

最近,一篇题为”Don’t Say No: Jailbreaking LLM by Suppressing Refusal”的论文提出了一种新的越狱攻击方法DSN(Don’t Say No),旨在促使LLMs生成肯定的响应,并创新性地增加了抑制拒绝的目标。同时,论文还提出了一个集成评估流程,以更准确地评估攻击的有害性。本文将深入探讨DSN攻击方法的原理、实验结果及其潜在影响。

越狱攻击:安全性的重要挑战

LLMs在识别和避免有害查询方面表现出色,但仍容易受到精心设计的越狱攻击的影响。这些攻击通过精心构造的提示诱导LLMs生成有毒内容,从而使其偏离预期的安全对齐。

现有的越狱攻击方法,如GCG(Generate Confirmed Guesses)攻击,尽管在某些情况下能够成功,但其攻击成功率有限。此外,评估攻击效果也存在挑战,因为很难直接准确地评估攻击的有害性。目前广泛使用的评估方法,如拒绝关键词匹配,存在大量误报和漏报的问题。

DSN攻击:抑制拒绝,提高攻击成功率

为了更好地研究越狱攻击,论文提出了DSN攻击方法。与传统攻击不同,DSN不仅旨在生成肯定的响应,还创新性地增加了抑制拒绝的目标。

具体而言,DSN在损失函数中加入了一个增强项,用于指导LLM的响应远离预定义的拒绝关键词或字符串。为了稳定两个相反目标(生成肯定响应和抑制拒绝)的优化过程,论文采用了Unlikelihood损失来抑制拒绝响应。

通过一系列实验,论文展示了DSN攻击方法在平均和最优结果上都显著优于基线方法GCG。此外,论文还通过调节DSN中的超参数α,研究了拒绝损失项对越狱结果的影响。

集成评估流程:更准确地评估攻击效果

为了克服现有评估方法的局限性,论文提出了一个包含三个模块的集成评估流程:自然语言推理(NLI)矛盾评估、两个第三方LLM评估器(GPT-4和HarmBench)。

通过人工注释300个生成的响应,论文展示了集成评估流程在准确性和可靠性方面优于传统的拒绝匹配方法。论文还比较了不同的聚合策略(如多数投票、单票批准和单票否决)在测试集上的性能。

此外,论文还在新的评估流程下展示了DSN攻击在不同超参数设置下的最大攻击成功率,并分析了DSN攻击在不同受害者模型、评估指标和数据集分割下的转移性。

贡献总结与未来展望

这项研究的主要贡献在于提出了一种新的攻击方法DSN和一个集成评估流程,并通过广泛的实验验证了其有效性。这为提高LLMs的安全性提供了新的视角和方法。

同时,论文也讨论了其方法的局限性,并提出了未来研究的方向,包括:

1. 研究DSN攻击在不同类型LLMs和安全机制下的鲁棒性;
2. 探索使用更复杂的拒绝关键词和模式;
3. 进一步分析攻击的转移性和实时攻击的可行性;
4. 基于DSN攻击的发现,开发更有效的防御机制;
5. 探索更精细的评估方法,如考虑评估元素之间的权重差异;
6. 研究越狱攻击的社会影响以及相关的法律和伦理问题。

总之,这项研究为理解和提高LLMs的安全性提供了宝贵的见解,推动了AI系统的安全发展。随着研究的深入,我们有望开发出更加安全、可靠的大型语言模型,造福社会。

Instruction Matters, a Simple yet Effective Task Selection Approach in Instruction Tuning for Specific Tasks

https://papers.cool/arxiv/2404.16418

Authors: Changho Lee ; Janghoon Han ; Seonghyeon Ye ; Stanley Jungkyu Choi ; Honglak Lee ; Kyunghoon Bae

Summary: Instruction tuning has shown its ability to not only enhance zero-shot generalization across various tasks but also its effectiveness in improving the performance of specific tasks. A crucial aspect in instruction tuning for a particular task is a strategic selection of related tasks that offer meaningful supervision, thereby enhancing efficiency and preventing performance degradation from irrelevant tasks. Our research reveals that leveraging instruction information \textit{alone} enables the identification of pertinent tasks for instruction tuning. This approach is notably simpler compared to traditional methods that necessitate complex measurements of pairwise transferability between tasks or the creation of data samples for the target task. Furthermore, by additionally learning the unique instructional template style of the meta-dataset, we observe an improvement in task selection accuracy, which contributes to enhanced overall performance. Experimental results demonstrate that training on a small set of tasks, chosen solely based on the instructions, leads to substantial performance improvements on benchmarks like P3, Big-Bench, NIV2, and Big-Bench Hard. Significantly, these improvements exceed those achieved by prior task selection methods, highlighting the efficacy of our approach.

想象一下，你想学习一门新语言，你会怎么做？你可能会找一位老师，或者参加一些课程，对吧？其实，训练人工智能（AI）也类似，我们需要给AI提供合适的“学习资料”和“老师”，才能让它变得更聪明。

今天，我们要聊的就是AI训练中一个重要的环节——任务选择。就像我们需要选择合适的老师和课程一样，训练AI时也需要挑选合适的任务来让它学习。

为什么要挑选任务？

目前，训练AI的一种流行方法叫做指令调整。简单来说，就是让AI学习各种各样的任务，从而提高它在未见过任务上的表现。但这带来一个问题：如何选择合适的任务来训练AI呢？

如果我们随便挑选一些任务，可能会导致AI学到一些无关的知识，甚至影响它的性能。这就好像你学习英语，却不小心混入了法语和西班牙语的课程，结果可能会让你更加困惑。

如何挑选合适的任务？

为了解决这个问题，研究人员提出了一种新的方法，叫做基于指令的任务选择（INSTA）。这个方法的核心思想是：通过分析任务的指令，来判断任务之间的相关性。

举个例子，假设我们想训练AI完成“写一首关于猫的诗”这个任务。INSTA会分析这个任务的指令，然后在大量的任务库中寻找与之相关的任务，比如“写一首关于狗的诗”、“描述猫的外貌特征”等等。

通过这种方式，INSTA可以帮助我们挑选出与目标任务相关的任务，从而让AI更高效地学习，避免学习到无关的知识。

INSTA的效果如何？

研究人员通过实验验证了INSTA的有效性。他们发现，使用INSTA挑选的任务训练出来的AI，在各种任务上的表现都比随机挑选任务训练出来的AI更好。

未来展望

INSTA为AI训练提供了一种新的思路，但也有一些可以进一步探索的方向：

• 探索不同模型的效果：INSTA目前主要在一种特定的AI模型上进行测试，未来可以探索它在其他模型上的效果。
• 开发更精确的度量方法：INSTA使用简单的相似度来判断任务之间的相关性，未来可以开发更精确的度量方法。
• 研究指令质量的影响：指令的质量会影响任务选择的准确性，未来可以研究如何提高指令的质量。

总而言之，INSTA为我们提供了一种有效的方法来挑选合适的任务来训练AI，让AI变得更聪明，更能理解我们的指令。随着研究的不断深入，相信AI会在未来发挥更大的作用，为我们的生活带来更多便利。

Building a Japanese Document-Level Relation Extraction Dataset Assisted by Cross-Lingual Transfer

https://papers.cool/arxiv/2404.16506

Authors: Youmi Ma ; An Wang ; Naoaki Okazaki

Summary: Document-level Relation Extraction (DocRE) is the task of extracting all semantic relationships from a document. While studies have been conducted on English DocRE, limited attention has been given to DocRE in non-English languages. This work delves into effectively utilizing existing English resources to promote DocRE studies in non-English languages, with Japanese as the representative case. As an initial attempt, we construct a dataset by transferring an English dataset to Japanese. However, models trained on such a dataset suffer from low recalls. We investigate the error cases and attribute the failure to different surface structures and semantics of documents translated from English and those written by native speakers. We thus switch to explore if the transferred dataset can assist human annotation on Japanese documents. In our proposal, annotators edit relation predictions from a model trained on the transferred dataset. Quantitative analysis shows that relation recommendations suggested by the model help reduce approximately 50% of the human edit steps compared with the previous approach. Experiments quantify the performance of existing DocRE models on our collected dataset, portraying the challenges of Japanese and cross-lingual DocRE.

这篇论文探讨了在非英语语言中，特别是日语中，如何有效地进行文档级关系抽取（DocRE）。DocRE旨在从文档中提取所有语义关系，但目前的研究主要集中在英语上，对非英语语言的关注有限。

挑战

• 数据匮乏：非英语语言的DocRE数据集很少，这限制了模型的训练和评估。
• 跨语言差异：直接将英语资源翻译成其他语言会导致语义和结构上的差异，影响模型性能。
• 文档复杂性：非英语语言文档的复杂性可能高于英语文档，对模型理解和推理能力提出了更高要求。

解决方案

• 跨语言转移：利用机器翻译将英语DocRE数据集转换为日语数据集，作为初始尝试。
• 半自动数据集构建：由于翻译数据集的局限性，采用人工编辑机器推荐的关系的方式构建高质量的日语DocRE数据集（JacRED）。
• 模型评估：评估现有DocRE模型在JacRED数据集上的性能，并分析其跨语言转移能力。

研究发现

• 翻译数据集的局限性：直接使用翻译数据集训练的模型在处理原始日语文本时召回率较低，表明翻译过程中存在语义和结构上的差异。
• 半自动数据集构建的有效性：人工编辑机器推荐的关系可以有效减少人工标注的工作量，提高数据集构建效率。
• 模型性能：现有DocRE模型在JacRED数据集上的性能仍然有待提高，跨语言转移能力也存在局限性。

未来方向

• 改进跨语言转移方法：探索更先进的跨语言转移技术，更好地捕捉不同语言之间的语义和结构对应关系。
• 优化上下文学习：研究如何更好地利用大型语言模型进行上下文学习，提高其在DocRE任务中的性能。
• 多模态DocRE：考虑将视觉信息等多模态数据融合到DocRE任务中，提高模型对文档内容的理解。
• 领域适应性：研究如何使DocRE模型更好地适应特定领域，例如法律、医疗或科学文献。
• 增量式学习和持续学习：探索模型在增量式数据上的训练方法，以及如何设计能够持续学习的系统。
• 解释性和可视化：提高DocRE模型的解释性，开发可视化工具帮助用户理解模型的预测和决策过程。
• 鲁棒性和错误分析：深入分析DocRE模型在特定类型错误上的表现，并探索减少这些错误的策略。
• 多语言DocRE资源开发：为更多语言构建DocRE数据集和模型，促进多语言DocRE研究。
• 知识图谱的自动构建和更新：研究如何利用DocRE技术自动构建和更新知识图谱。
• DocRE在实际应用中的集成：探索如何将DocRE技术集成到实际应用中，如智能搜索引擎、推荐系统和自动文摘等。

总结

这篇论文为非英语语言，特别是日语的DocRE研究提供了新的思路和方法。通过构建高质量的日语DocRE数据集并评估现有模型的性能，论文揭示了当前DocRE技术在非英语语言上的挑战和局限性，并为未来的研究指明了方向。随着研究的不断深入，DocRE技术有望在更多语言和领域得到应用，为自然语言处理领域带来新的突破。