AI

深度学习模型大多用Python开发，而服务端却多用Java，导致许多开发者不得不使用Java调用Python接口，效率低下且不够优雅。更糟糕的是，如果想在Android上进行推理，就必须使用Java。 别担心！现在，我们可以用Java直接进行深度学习了！DJL（Deep Java Library）是一个强大的开源深度学习框架，它支持模型构建、训练、推理，甚至在Android上运行。本文将带你深入了解DJL，并通过一个实战案例，教你用Java加载PyTorch模型进行图片分类。 DJL：Java深度学习的利器 DJL 的出现，为Java开发者打开了深度学习的大门。它提供了一套简洁易用的API，让Java开发者能够轻松地构建、训练和部署深度学习模型。 DJL 的优势： DJL 核心 API 解密 DJL 的核心 API 包括 Criteria、Translator 和 NDArray，它们共同构成了深度学习模型的构建和操作基础。 1. Criteria：模型的定义 Criteria 类对象定义了模型的属性，例如模型路径、输入和输出类型等。 这段代码定义了一个名为 “resnet50” 的模型，并加载了它。 2. Translator：数据转换桥梁 Translator 接口定义了如何将自定义的输入输出类转换为 Tensor 类型。 Translator 接口包含两个方法： 3. NDArray：Tensor 操作的利器 NDArray 类类似于 Python 中的 NumPy 数组，它提供了丰富的 Tensor 操作功能。 DJL 提供了多种 NDArray 操作，例如： 实战：用 DJL 加载 PyTorch 模型进行图片分类 … Read more

近年来，大型语言模型（LLM）的快速发展，如 ChatGPT 和 AIGC，让人们看到了人工智能的巨大潜力。然而，为了训练这些模型，需要收集海量数据，这引发了人们对数据隐私的担忧。联邦学习 (FL) 应运而生，它是一种分布式机器学习范式，允许多个客户端在不共享数据的情况下协作训练共享模型，有效地保护了数据隐私。 传统的联邦学习算法，例如 FedAvg，要求所有客户端和服务器都使用相同结构的模型，即模型同质性。然而，现实世界中的数据和模型往往存在异构性，这给传统的联邦学习算法带来了挑战。例如，来自不同客户端的去中心化数据通常是非独立且相同分布的（Non-IID），即数据或统计异质性。此外，客户端可能拥有不同的系统配置和计算能力，即系统异构性。更重要的是，不同机构或企业可能拥有不同的私有模型库，即模型异构性，他们希望在不暴露模型结构的情况下进行协作训练。 为了应对这些挑战，模型异构个性化联邦学习 (MHPFL) 应运而生。MHPFL 允许客户端训练个性化和异构的局部模型，以适应本地数据分布、系统资源和模型结构，为联邦学习开辟了新的道路。 现有的 MHPFL 方法主要分为三个分支：基于知识蒸馏的 MHPFL，基于模型混搭的 MHPFL，以及基于互学习的 MHPFL。然而，这些方法都存在一些局限性。例如，基于知识蒸馏的方法需要额外的公共数据集，这在实际应用中难以获得。基于模型混搭的方法只共享同质部分，可能导致性能瓶颈和模型结构暴露。基于互学习的方法则会增加客户端的计算负担。 为了解决这些问题，本文提出了一种新的模型异构个性化 Fed 学习算法——FedMoE。FedMoE 借鉴了混合专家 (MoE) 的思想，为每个客户端的本地异构大型模型分配一个共享的同构小特征提取器和一个本地门控网络。 FedMoE 的工作原理 FedMoE 的核心思想是将本地异构模型的特征提取器视为个性化特征提取的局部专家，而共享的同构小特征提取器视为广义特征提取的全局专家。本地门控网络则根据每个数据样本的特征，为这两个专家提取的特征生成个性化权重。这三个模型共同构成了一个局部异构 MoE。 具体来说，FedMoE 的工作流程如下： FedMoE 的优势： 实验结果 本文在 CIFAR-10 和 CIFAR-100 数据集上进行了大量实验，结果表明： 总结 FedMoE 是一种新颖的模型异构个性化 Fed 学习算法，它通过数据级个性化和混合专家机制，有效地解决了模型异构个性化联邦学习中的数据异构性、系统异构性和模型异构性问题。FedMoE 具有更高的模型性能、更低的计算成本和可接受的通信成本，为联邦学习在实际应用中的推广提供了新的思路。

个性化联邦学习（PFL）是近年来人工智能领域的一大热门话题，它能够在保护用户隐私的前提下，为每个用户学习个性化的模型。现有的大多数 PFL 模型都倾向于将数据分布相似的用户聚合在一起，以提升模型性能。然而，这种基于相似性的聚合策略可能会加剧类不平衡问题，导致模型对某些类别样本的预测效果不佳。 为了解决这个问题，来自哈尔滨工业大学（深圳）的研究团队提出了一种全新的个性化联邦学习模型——DA-PFL，它利用动态亲和聚合策略来缓解类不平衡问题。 DA-PFL 的核心思想：互补性而非相似性 DA-PFL 的核心思想是，将用户数据分布的互补性作为聚合策略的依据，而不是仅仅考虑相似性。换句话说，DA-PFL 倾向于将数据分布互补的用户聚合在一起，以平衡不同类别样本的数量，从而降低类不平衡的风险。 为了实现这一目标，研究团队提出了一种新的亲和度指标，它能够有效地反映用户之间类分布的互补关系。这个指标综合考虑了用户数据中各个类别的样本数量和类别索引号，并通过一个扩展的调整后的余弦相似度来计算。 动态亲和聚合：灵活选择和聚合 DA-PFL 采用了一种动态亲和聚合策略，根据每轮的亲和度指标，动态地选择和聚合用户模型。这种动态的策略能够在每一轮训练中，根据用户模型参数和亲和度指标，为每个用户生成一个独特的基于亲和力的聚合模型。 具体来说，DA-PFL 使用一个负指数项来衡量不同用户模型参数之间的非线性差异，并通过亲和度指标进行加权，从而使每个用户的聚合模型更加关注具有互补数据分布的用户模型。 实验结果：显著提升模型性能 研究团队在三个真实世界的数据集（CIFAR10、CIFAR100 和 FEMNIST）上对 DA-PFL 进行了评估，并将其与九种最先进的个性化联邦学习方法进行了比较。实验结果表明，DA-PFL 在不同客户端数量和不同不平衡分布下都取得了最佳的性能，显著提升了每个用户的模型精度。 例如，在 CIFAR100 数据集上，当客户端数量为 20 且类分布高度不平衡时，DA-PFL 的精度比最佳的比较方法 FedProx 高出 16.44%。在 FEMNIST 数据集上，DA-PFL 的精度比最佳的比较方法 IFCA 高出 15.37%。 此外，研究团队还对 DA-PFL 的各个组件进行了消融实验，结果表明，亲和度指标和动态聚合策略都对模型性能的提升起着至关重要的作用。 DA-PFL 的优势： 总结 DA-PFL 算法为个性化联邦学习提供了一种新的解决方案，它能够有效地缓解类不平衡问题，并显著提升模型性能。这项研究为未来个性化联邦学习的研究提供了新的思路和方向。 参考文献 [1] Xu Yang, Jiyuan Feng, Songyue Guo, Ye Wang, … Read more

2024 年 4 月 9 日，RWKV Foundation 发布了 RWKV 新架构的最新论文 ——《Eagle and Finch: RWKV with Matrix-Valued States and Dynamic Recurrence》，论文由 Bo PENG 和 RWKV 开源社区成员共同完成。 论文地址：https://arxiv.org/abs/2404.05892 论文内容摘要 论文提出了两种新的 RWKV 架构：Eagle (RWKV-5) 和 Finch (RWKV-6)，这两种序列模型在 RWKV-4 架构的基础上进行了改进。 对比 RWKV-4 , 新 RWKV 架构的改进包括 多头矩阵值状态（multi-headed matrix-valued states） 和 动态递归机制（dynamic recurrence mechanism），这些改进提高了 RWKV 模型的表达能力，同时保持 RNN 的推理效率特征。 新的 RWKV … Read more

在快节奏的现代社会，人们越来越依赖互联网来获取信息和服务。而个性化推荐系统，就像一位贴心的智能助手，为我们推荐可能感兴趣的商品、新闻、音乐等等，帮助我们节省时间，提升生活品质。 在电商平台上，个性化推荐系统更是不可或缺的一部分。它可以根据用户的浏览记录、购买历史等数据，为用户推荐可能感兴趣的商品，从而提高用户粘性和转化率。 推荐算法：三驾马车，各有所长 目前，主流的推荐算法主要分为三种：基于内容的推荐算法、协同过滤算法和混合推荐算法。 基于内容的推荐算法，顾名思义，就是根据用户过去喜欢的商品内容，例如商品的品牌、类别、功能等，来推荐相似的商品。这种算法简单直观，但容易陷入“信息茧房”，导致推荐结果过于单一，缺乏新意。 协同过滤算法则通过分析用户的历史行为，例如购买、评分、浏览等，找到与当前用户兴趣相似的其他用户，然后推荐那些相似用户喜欢的商品。这种算法可以发现用户的潜在兴趣，推荐结果更具多样性，但存在数据稀疏性和可扩展性问题，难以处理新用户和冷门商品。 混合推荐算法则将基于内容的推荐算法和协同过滤算法的优点结合起来，弥补各自的不足，从而提供更精准、更全面的推荐服务。 混合推荐算法：双管齐下，精准推荐 本文将重点介绍一种混合推荐算法，它利用基于内容的推荐算法挖掘用户的已有兴趣，再结合协同过滤算法建立用户潜在兴趣模型，将已有兴趣和潜在兴趣融合，最终生成推荐列表。 1. 用户已有兴趣模型的设计： 基于用户过去的搜索内容，我们可以建立一个用户已有兴趣模型。通常使用 TF-IDF 技术来衡量词语的重要性。TF-IDF 通过词频和逆文档频率来计算词语的权重，可以有效地识别出用户感兴趣的关键词。 2. 用户潜在兴趣模型的设计： 用户潜在兴趣无法直接从过去的搜索记录中获取。本文提出利用协同过滤算法来解决这个问题。 协同过滤算法的核心是找到与当前用户兴趣相似的其他用户，并推荐那些相似用户喜欢的商品。为了提高效率，我们可以通过计算不同用户搜索内容的相似度来找到相似用户。 3. 混合推荐算法模型的设计： 将用户已有兴趣模型和潜在兴趣模型融合，并根据一定的规则计算与候选推荐商品的相似度，最终生成推荐列表。 实验结果与分析：混合推荐算法的优势 通过实验数据分析，我们可以发现，本文介绍的混合推荐算法在推荐准确率、覆盖率和F值方面都优于传统的基于内容的推荐算法和协同过滤算法。此外，该算法还避免了冷启动问题，可以更好地处理新用户和冷门商品。 展望：未来推荐系统的挑战与机遇 尽管推荐系统已经取得了显著的成果，但仍面临着一些挑战，例如如何提取准确的用户偏好和商品特征、如何进行多维度的推荐、如何保障推荐系统的安全性等等。相信随着社会发展和科技进步，推荐系统研究会更加深入，为人们的生活带来更多便利和惊喜。 参考文献: [1] L.Y. Zhang, “Analysis on the development of “Internet +” E-commerce,” Modern Marketing (late issue), vol. 14, no. 3, pp. 164, 2018. [2] Q. Zhang and Y. Zhang, … Read more

引言 联邦推荐 (FR) 作为一种新兴的设备端学习范式，在学术界和工业界都引起了广泛的关注。现有的联邦推荐系统通常采用不同的协同过滤模型作为本地模型，并使用各种聚合函数来获得全局推荐器，遵循基本的联邦学习 (FL) 原则。例如，一项开创性的工作是 FCF，它通过执行本地更新和使用联邦优化进行全局聚合来适应中心化的矩阵分解。此外，FedNCF 将矩阵分解的线性与深度嵌入技术的非线性相结合，建立在 FCF 的基础之上。这些基于嵌入的联邦推荐模型有效地平衡了推荐准确性和隐私保护。 挑战：嵌入偏差问题 FR 的成功归功于它们能够通过聚合函数来体现数据局部性，同时跨多个客户端实现知识的全局性。这些函数在联邦优化过程中起着至关重要的作用，决定了从每个客户端获取哪些知识以及将这些知识整合到全局模型的程度。其中最著名的方法是 FedAvg，它为拥有更多数据样本的客户端分配更大的权重，以实现加权聚合，从而优化全局模型。后续工作旨在改进聚合策略，以解决联邦环境中的数据异质性挑战。例如，PerFedRec 首先利用聚类来识别具有相似数据分布的客户端，然后进行组内聚合以实现自适应。此外，FedAtt 通过计算本地模型和全局模型之间的相似性来分配不同客户端的注意力系数，从而实现个性化的联邦优化。以上聚合方法通过考虑细粒度的相似性有效地缓解了异质性挑战。 然而，FR 中使用的这些聚合函数主要受到联邦视觉领域中使用的函数的启发，例如加权聚合、聚类聚合和注意力聚合。所有这些本质上都基于相似性假设，即相似的客户端被分配更多权重，而不同的客户端被分配相对较小的权重。尽管取得了令人满意的性能，但我们认为，直接从联邦视觉领域采用现成的聚合函数可能不适合 FR 任务，因为 FR 任务天生就表现出显著的异质性，并且每个客户端都高度需要个性化偏好。 问题根源：模型架构差异 这种研究差距的主要原因反映在模型架构的差异上。与联邦视觉模型（例如卷积神经网络）不同，联邦视觉模型通常具有深度网络结构（又称结构化参数），联邦推荐模型通常通过使用一对一的项目嵌入表来区分自身。由于不同的客户端可能涉及不同的交互项目子集，导致每个客户端的嵌入表中训练了不同的行。当仅依靠相似性聚合时，会导致 FR 中独特的嵌入偏差问题，即训练的嵌入（蓝色）持续改进，而未训练的嵌入（灰色）在聚合过程中保持不变甚至恶化，如图 1（a）所示。因此，仅通过相似性聚合来预测本地设备上的未交互项目是一个巨大的挑战。 解决方案：复合聚合机制 为了解决嵌入偏差问题，本文提出了一种针对 FR 模型的复合聚合机制，它不仅聚合相似的客户端，还聚合互补的客户端。这种机制可以增强已经训练的嵌入，并更新未训练的嵌入，从而增强在边缘设备上预测未来项目的能力，如图 1（b）所示。此外，我们将聚合过程公式化为一个统一的优化算法，以共同学习相似性和互补性。在多个真实世界数据集上的大量实验表明，我们的模型始终优于几种最先进的方法。 模型架构：FedCA FedCA 模型采用了一种统一的学习框架，该框架针对 FR 任务，优化每个客户端的个性化本地参数 {pu, Qu} 和聚合权重向量 {wu}。该框架受到相似性和互补性的联合约束的影响。 服务器聚合 服务器的职责是优化每个客户端 u 的聚合权重 wu，从而为每个客户端实现个性化的全局聚合。理想情况下，我们希望 wu 在等式 (3) 中的损失函数下得到完美优化。然而，由于联邦环境的限制，这是不切实际的。服务器只能访问每个客户端上传的本地模型 Qu，而不知道每个客户端的用户信息嵌入 pu 和本地数据 Du，因此难以直接在服务器端计算 Lu。为了合理地感知每个客户端的初始贡献，我们利用 … Read more

近年来，越来越多的网络应用开始使用机器学习模型来提供个性化的服务，满足用户的偏好。转化率 (CVR) 估计是在线推荐和广告系统中的一个基础模块，其目标是在用户点击广告后预测其转化事件（例如，电商广告中的购买行为）的概率。CVR 估计在候选排名和广告竞价策略中起着至关重要的作用。 数据隐私的挑战 在线广告中，用户在发布商页面浏览广告并点击后，会跳转到广告落地页。用户在落地页上的后续行为，包括转化决策，会被收集起来。发布商拥有用户的浏览兴趣和点击反馈，而需求方广告平台则收集用户的点击后行为，例如停留时间和转化决策。为了准确地估计 CVR 并更好地保护数据隐私，垂直联邦学习 (vFL) [35, 40] 成为了一种自然解决方案，它能够在不交换原始数据的情况下，结合两者的优势来训练模型。 然而，目前缺乏标准化的数据集和系统化的评估方法。由于缺乏标准化的数据集，现有的研究通常采用公共数据集，通过手工制作的特征划分来模拟 vFL 设置，这给公平比较带来了挑战。 FedAds: 垂直联邦学习下的转化率估计基准 为了解决这一问题，我们引入了 FedAds，这是第一个用于隐私保护的 vFL 转化率估计基准，旨在促进 vFL 算法的标准化和系统化评估。FedAds 包含： FedAds 的主要贡献： FedAds 旨在为未来的 vFL 算法和 CVR 估计研究提供帮助。 FedAds 的主要组成部分： 提高 vFL 的有效性和隐私性 实验评估 我们对各种 vFL 模型进行了系统化的评估，包括有效性和隐私方面。 结论和未来工作 我们介绍了 FedAds，这是一个用于隐私保护的 CVR 估计的第一个基准，旨在促进 vFL 算法的系统化评估。FedAds 包含一个来自阿里巴巴广告平台的大规模真实世界数据集，以及对各种神经网络基于 vFL 算法的有效性和隐私方面的系统化评估。此外，我们探索了使用生成模型生成未对齐样本的特征表示来合并未对齐数据，以提高 vFL 的有效性。为了更好地保护隐私，我们还开发了基于混合和投影操作的扰动方法。实验表明，这些方法取得了合理的性能。 在未来的工作中，我们将探索以下方向： 参考文献： … Read more

随着大型语言模型（LLM）的迅速发展，以LLM为基础的对话系统（例如聊天机器人）在近几年取得了惊人的进步。然而，这些系统也带来了新的挑战，它们可能对用户和社会产生负面影响。因此，建立一个有效的评估框架，及时发现这些潜在的负面影响，并量化其积极影响，变得至关重要。 评估框架的六大要素 一个理想的评估框架至少应该满足以下六个要素： SWAN框架：基于片段的评估方法 为了满足上述要求，本文提出了一个名为SWAN（Schematised Weighted Average Nugget，模式化加权平均片段分数）的评估框架，该框架主要包含以下特点： 片段权重 片段权重类似于信息检索指标（如nDCG）中的基于排名的衰减，但片段权重不一定随着片段位置的增加而单调递减。例如，基于S-measure的线性衰减函数假设片段的实际价值随着对话的进行而降低（即更快满足信息需求的较短对话会获得更高的奖励），而另一种方法则是只对来自对话最后一轮的片段赋予正权重，以模拟近因效应。锚定效应等因素也可以被纳入考虑，即“迄今为止看到的片段”会影响当前片段的权重。 SWAN分数 SWAN分数可以定义为： 其中，C表示评估标准的集合（即模式），CWc表示标准c的权重，Uc表示从对话样本中提取的关于标准c的片段集合，WANc(Uc)表示标准c的加权平均片段分数。 二十个评估标准 本文提出了二十个评估标准，可以作为SWAN框架的插件，这些标准涵盖了对话系统各个方面的评估，例如： 总结 本文介绍了用于评估对话系统的SWAN框架，该框架可以用于面向任务的对话和非面向任务的对话。此外，本文还提出了二十个评估标准，可以作为SWAN框架的插件。未来，我们将设计适合各种标准的对话采样方法，构建用于比较多个系统的种子用户回复，并验证SWAN的特定实例，以防止对话系统对用户和社会造成负面影响。 参考文献 [1] Marco Alessio, Guglielmo Faggioli, and Nicola Ferro. 2023. DECAF: a Modular and Extensible Conversational Search Framework. In SIGIR ’23: Proceedings of the 46th International ACM SIGIR Conference on Research and Development in Information Retrieval (Taipei, Taiwan). … Read more

你是否曾厌倦了推荐系统千篇一律的推荐？你是否想要一个更智能、更人性化的推荐系统，能够理解你的喜好，并根据你的需求提供个性化的推荐？对话式推荐系统 (Conversational Recommender System, CRS) 正是应运而生的新一代推荐系统，它通过与用户进行实时多轮对话，来更好地理解用户需求，并提供更精准、更透明的推荐。 近年来，大型语言模型 (Large Language Model, LLM) 的快速发展为对话式推荐系统带来了新的机遇。LLM 能够以自然流畅的方式与用户进行对话，并利用其丰富的知识储备和常识推理能力，为用户提供更人性化的推荐体验。 对话式推荐系统：推荐的未来 传统的推荐系统通常依赖于用户过去的点击行为或评分数据来推断用户的偏好，并根据这些数据进行推荐。然而，这种基于隐式交互信号的推荐方法存在着一些弊端，例如容易出现点击诱饵，以及传播社会偏见等问题。 对话式推荐系统则为用户提供了更灵活的表达方式，用户可以主动与系统进行对话，表达自己的喜好和需求，并根据系统的反馈不断调整自己的选择。这种交互方式不仅能够帮助用户更准确地找到自己想要的内容，还能有效地避免传统推荐系统中存在的弊端。 LLM赋能：对话式推荐系统的核心 大型语言模型 (LLM) 在对话式推荐系统中扮演着至关重要的角色。它能够理解用户的自然语言输入，并根据对话内容推断用户的偏好和意图，从而生成更精准的推荐。同时，LLM 还能够利用其丰富的知识储备和常识推理能力，为用户提供更详细的推荐解释，帮助用户更好地理解推荐结果。 RecLLM：面向YouTube视频的对话式推荐系统 本文介绍了 RecLLM，一个基于 LaMDA 的面向YouTube视频的对话式推荐系统。RecLLM 利用LLM的强大能力，实现了多种对话式推荐功能，例如： 挑战与展望 虽然对话式推荐系统拥有巨大的潜力，但也面临着一些挑战，例如： 未来，对话式推荐系统将继续发展，并与其他技术融合，例如多模态技术、知识图谱等，为用户提供更智能、更人性化的推荐体验。 参考文献 [1] Luke Friedman, Sameer Ahuja, David Allen, Zhenning Tan, Hakim Sidahmed, Changbo Long, Jun Xie, Gabriel Schubiner, Ajay Patel, Harsh Lara, Brian Chu, Zexi … Read more