优惠 分布式推测推理DSI：加速大语言模型的推理过程

魏茨曼科学研究所、英特尔实验室和麻省理工学院的研究人员发布论文，论文的主题是关于如何加速大语言模型（LLMs）的推理过程。在AI领域，尤其是在需要实时应用的场景中，比如股票交易算法或自动驾驶车辆中，快速准确地进行语言模型推理是一个重要挑战。这篇论文介绍了一种新颖的分布式推理算法——分布式推测推理（Distributed... 阅读全文