在本系列文章《LLM推理入门指南①：文本生成的初始化与解码阶段》中，作者对Transformer解码器的文本生成算法进行了高层次概述，着重介绍了两个阶段：提示的处理阶段和逐个生成补全词元的多步生成阶段。在上一篇文章《LLM推理入门指南②：深入解析KV Cache》中，深入探讨了KV Cache优化。本文将转变方向，探索可能影响机器学习模型速度的不同性能瓶颈。本文所详细介绍的概念广泛适用于任何ML模...
CSDN · 2024-05-07 08:03:00
更懂国人需求的一站式 AI 工作平台。
InfoQ · 2024-05-07 06:18:00
Pianno 在精确注释各种空间语义（从不同的解剖结构到复杂的肿瘤微环境）以及估计细胞类型分布（跨各种空间转录组学平台生成的数据）方面的卓越能力。
机器之心 · 2024-05-06 18:53:00
国内权威的大模型评测机构SuperCLUE最新发布了《中文大模型基准测评2024年度4月报告》。
机器之心 · 2024-05-06 16:59:00
打工人「Optimus」启动。
机器之心 · 2024-05-06 14:53:00
有了 StoryDiffusion，更加一致性的图像和视频生成得到了保障。
机器之心 · 2024-05-06 14:46:00
大语言模型的微调一直是说起来容易做起来难的事儿。
机器之心 · 2024-05-06 14:41:00
看透物体的3D表示和生成模型：NUS团队提出X-Ray
机器之心 · 2024-05-06 14:27:00
