Day: June 2, 2024

深度学习的Java推理库:Deep Java Library(DJL)深度学习的Java推理库:Deep Java Library(DJL)

简介 Deep Java Library(DJL)是一个开源的、高级的、与深度学习引擎无关的Java框架,专为Java开发人员设计。DJL旨在让Java开发人员轻松入门并简化深度学习的使用。它提供了与其他常规Java库类似的本地Java开发体验。无需成为机器学习/深度学习专家,您就可以利用现有的Java知识学习和使用机器学习和深度学习。您可以使用喜欢的集成开发环境(IDE)来构建、训练和部署模型。DJL使得将这些模型与您的Java应用程序集成变得容易。由于DJL与深度学习引擎无关,因此在创建项目时无需在引擎之间做出选择。您可以随时切换引擎。为了确保最佳性能,DJL还根据硬件配置提供自动的CPU/GPU选择。 主要特点 核心API 使用示例 以下是使用DJL进行模型推理的简单示例: 资源 参考资料 DJL为Java开发者提供了一个强大的工具,使得深度学习的实现变得更加容易和高效。无论是模型推理还是训练,DJL都提供了简洁的API和丰富的功能,帮助开发者快速上手并实现复杂的深度学习任务。 [...]

深度学习的Java推理库:Deep Java Library(DJL)深度学习的Java推理库:Deep Java Library(DJL)

简介:Deep Java Library(DJL)是一个开源的、高级的、与深度学习引擎无关的Java框架,专为Java开发人员设计。DJL旨在让Java开发人员轻松入门并简化深度学习的使用。它提供了与其他常规Java库类似的本地Java开发体验。无需成为机器学习/深度学习专家,您就可以利用现有的Java知识学习和使用机器学习和深度学习。您可以使用喜欢的集成开发环境(IDE)来构建、训练和部署模型。DJL使得将这些模型与您的Java应用程序集成变得容易。由于DJL与深度学习引擎无关,因此在创建项目时无需在引擎之间做出选择。您可以随时切换引擎。为了确保最佳性能,DJL还根据硬件配置提供自动的CPU/GPU选择。 主要特点: 核心API: 使用示例:以下是使用DJL进行模型推理的简单示例: Learn more: [...]

LLM 大语言模型的输出是一段文本,如何计算误差?LLM 大语言模型的输出是一段文本,如何计算误差?

在计算大语言模型(LLM)输出的误差时,具体的方法会因应用场景和任务的不同而有所差异。以下是几种常见的方法: 1. BLEU (Bilingual Evaluation Understudy) Score 用于评估机器翻译等生成任务的输出质量。它通过比较生成的文本与一个或多个参考文本来计算相似度。 2. ROUGE (Recall-Oriented Understudy for Gisting Evaluation) Score 主要用于摘要生成任务,测量生成文本和参考文本之间的重叠度。 3. Perplexity 用于评估语言模型的预测能力。低困惑度通常意味着模型输出更符合预期。 4. Accuracy (准确率) 对于分类任务,例如情感分析,可以使用准确率来衡量模型输出的正确性。 5. Human Evaluation (人工评估) 由于很多生成任务的复杂性,人工评估仍然是最可靠的方法之一。 6. [...]

ActivityPub:去中心化社交网络协议ActivityPub:去中心化社交网络协议

ActivityPub 是一个去中心化的社交网络协议,基于 ActivityStreams 2.0 数据格式。它提供了从客户端到服务器的 API,用于创建、更新和删除内容,以及一个从服务器到服务器的 API,用于传递通知和内容。本文将深入探讨 ActivityPub 的核心概念和实现方式。 什么是 ActivityPub? ActivityPub 是一种标准化的协议,旨在实现去中心化的社交网络。它包括两个主要部分: 基本概念 在 ActivityPub 中,用户通过其在服务器上的账户表示为“actors”。每个 actor 都有一个收件箱(inbox)和发件箱(outbox),用于接收和发送消息。 客户端到服务器的交互 客户端通过向 actor 的发件箱(outbox)发送 POST 请求来发布活动。请求必须包含一个 Activity 对象,服务器随后会将其处理并传递到目标收件箱。 发布活动示例 假设 Alyssa [...]

ActivityPub:构建分布式社交网络的开放协议ActivityPub:构建分布式社交网络的开放协议

什么是ActivityPub ActivityPub是一种开放的、基于分布式社交网络的协议,用于创建、更新和删除内容,并实现服务器之间的通信和内容传递。它为客户端到服务器和服务器到服务器提供了API接口,使得用户可以方便地在不同的社交网络平台之间进行交流和互动。 ActivityPub的目标是构建一个去中心化的社交网络,让任何人都可以在网络上运行自己的节点,并与其他服务器上的用户进行关注、点赞、评论等互动。这种去中心化的架构使得用户可以更好地掌控自己的数据和隐私,并且不受单一平台的限制。 ActivityStreams:社交网络的共同词汇 ActivityPub使用ActivityStreams作为其词汇,它包含了表示社交网络中各种活动和内容的常用术语。ActivityStreams的词汇已经包含了大部分我们在社交网络中需要使用的词汇,但即使它没有覆盖到我们所需的所有情况,我们仍然可以通过扩展JSON-LD来自定义新的词汇。 JSON-LD是一种用于表示语义数据的JSON扩展格式,它可以将数据组织成图形结构,并提供了一种机制来连接不同的数据源。对于了解JSON-LD的人来说,可以采取更加高级的链接数据方法;而对于不熟悉JSON-LD的人来说,JSON-LD文档和ActivityStreams可以被理解为普通的JSON格式。通过使用JSON-LD,我们可以更好地描述和表示社交网络中的各种活动和内容。 ActivityPub的工作原理 在ActivityPub中,用户通过其在服务器上的帐户来表示为”actors”,每个帐户对应一个独立的”actor”。每个”actor”都有自己的收件箱(inbox)和发件箱(outbox),用于接收和发送消息。用户可以在发件箱中发布消息,其他用户可以通过收件箱接收到这些消息。服务器之间也可以相互传递消息和内容,以实现跨服务器的互联互通。 举个例子,假设我们有两个用户Alyssa和Ben,他们分别在不同的服务器上拥有自己的帐户。当Alyssa想给Ben发送一条消息时,她会将消息发布到自己的发件箱中。然后,Alyssa的服务器会查找Ben的收件箱地址,并将消息发送到Ben的收件箱中。Ben可以通过检查自己的收件箱来读取Alyssa发送的消息。 此外,ActivityPub还支持用户之间的关注、点赞、评论等互动。用户可以关注其他用户的帐户,以便在自己的收件箱中接收他们的消息。用户还可以对其他用户的帖子进行点赞或评论,这些互动也会通过服务器之间的通信进行传递。 ActivityPub的工作进展 ActivityPub协议是世界广泛支持的社交网络标准,在Fediverse中得到了广泛应用。该标准由Evan Prodromou(StatusNet的创始人)等人共同编写,并于2018年1月被W3C发布为推荐标准。 ActivityPub的独特之处在于它允许用户在不同的服务器上创建帐户,并与其他服务器上的用户进行互动。这种联邦架构使得用户可以选择自己喜欢的服务器,并与其他用户跨服务器进行关注、点赞、评论等互动。 目前,许多社交网络平台已经实现了ActivityPub协议,包括Mastodon、PeerTube、Pixelfed等。这些平台都允许用户在自己的服务器上创建帐户,并与其他平台上的用户进行互动。用户可以通过关注其他用户的帐户,接收他们的消息和更新。他们还可以在自己的发件箱中发布消息,使其可供其他用户阅读和互动。 此外,ActivityPub还支持用户之间的私信功能。用户可以通过私信功能与其他用户进行一对一的私密对话,这些对话只有双方能够看到。 ActivityPub的应用案例 Mastodon是基于ActivityPub协议构建的一个开源微博平台,类似于Twitter。用户可以在Mastodon上创建自己的帐户,并与其他用户进行关注、点赞、评论等互动。Mastodon的一个独特之处在于它由许多独立的服务器组成,这些服务器之间通过ActivityPub协议进行通信,用户可以选择加入任何一个服务器。 PeerTube是基于ActivityPub协议构建的一个开源视频分享平台,类似于YouTube。用户可以在PeerTube上上传和分享视频,并与其他用户进行互动。PeerTube的联邦架构允许用户自主选择他们信任的服务器,并在不同的服务器之间共享视频内容。 Pixelfed是基于ActivityPub协议构建的一个开源图片分享平台,类似于Instagram。用户可以在Pixelfed上上传和分享图片,并与其他用户进行互动。Pixelfed的联邦架构使得用户可以选择他们喜欢的服务器,并与其他服务器上的用户进行互动。 ActivityPub的未来发展 随着ActivityPub协议的不断发展和完善,越来越多的社交网络平台将采用这一标准。这将促进不同平台之间的互操作性和联邦互联,使用户能够更加自由地选择他们喜欢的平台,并与不同平台上的用户进行交流和互动。 未来,我们可以期待更多创新和发展,例如更加智能化的内容推荐算法、更加灵活的隐私设置以及更加丰富的互动功能。ActivityPub将继续推动社交网络的去中心化和用户自主性的发展,为用户提供更加丰富、安全和自由的社交网络体验。 参考文献: [...]