FILM-7B: A Large Language Model that Makes Full Use of Context
Large language models (LLMs) are becoming increasingly ... 阅读更多
AI
如何让大型语言模型 (LLMs) 充分利用长文本信息?——微软提出的 FILM 方法
大家好, 相信不少人已经体验过 ChatGPT 等大型语言模型 (LLMs) 强大的对话和写作能力。但你可能不知道, 目前 ... 阅读更多
从 LLAMA 到 LLAMA2：开源模型的进化之路
大家好，欢迎来到我的博客！今天，我们要聊一聊有关两个开源语言模型的故事，它们分别是 LLAMA 和 LLAMA ... 阅读更多
XAgent：面向复杂任务解决的自主智能体
XAgent 是一个开源的基于大型语言模型 （LLM） 的自主智能体，能够自动解决各种任务。它旨在成为一个通用的智 ... 阅读更多
vLLM：让大型模型推理更快的工具
今天，我要给大家介绍一款名为 vLLM 的神奇工具。它的主要功能是加速大型语言模型 （如 OpenAI 的 GPT-3） 的 ... 阅读更多
QLoRA: 高效 Finetuning 量化 LLMs
Dettmers 提出了一种高效的微调方法 QLoRA，它能够在保持完整的 16 位微调任务性能的同时，将内存使用量降 ... 阅读更多
知乎携手面壁智能推出全新开源大模型：CPM-Bee10b 登顶中文基座模型
2023 年 5 月 27 日，知乎在 2023 中国国际大数据产业博览会上发布了最新的大语言模型成果。知乎合伙人、首席技术 ... 阅读更多
ConvNeXt V2：使用遮罩自编码器共同设计和扩展 ConvNets
由于改进的架构和更好的表示学习框架的推动，视觉识别领域在 2020 年代初期迅速现代化并提高了性能。例如，现代 ... 阅读更多
RMT 突破 LLM 百万 Tokens 上下文长度
Scaling Transformer to 1M tokens and beyond with RMT 这份 ... 阅读更多