来自英国杜伦大学、英国纽卡斯尔大学、中国地质大学的研究人员推出Dreamer XL，它用于将文本转换为高分辨率的3D模型。这项技术的目标是通过改进现有的文本到3D生成过程，生成更加逼真和详细的3D内容。例如，你想要创 ...... 阅读全文

OpenLLMAI 团队推出基于 Ray、DeepSpeed 和 HF Transformers 构建的高性能 RLHF 框架OpenRLHF，它是一个用于训练大语言模型（LLM）的高效、可扩展且高性能的强化学习从人类反馈（RLHF）框架。RLHF是一种通过人类反馈 ...... 阅读全文

华为推出高效Transformer模型SLAB，旨在解决传统Transformer架构在资源受限设备上部署时面临的高计算成本问题。通过改进模型的注意力机制和归一化层，SLAB能够在保持性能的同时减少计算量和提高运行速度。例如，我们 ...... 阅读全文

杭州电子科技大学推出轻量级大型多模态模型Imp，它旨在为移动设备等资源受限的场景提供强大的人工智能能力。Imp模型利用了大语言模型（LLMs）的能力，通过系统的研究和优化，在保持模型规模较小（例如2B到4B参数）的 ...... 阅读全文

来自北京航空航天大学和微软的研究人员推出一种新的高效微调（Fine-tuning）方法MoRA，用于大语言模型（LLMs）。微调是一种技术，可以让已经预训练好的模型适应特定的下游任务，而MoRA旨在以更少的参数实现这一过程 ...... 阅读全文

加州大学伯克利分校、斯坦福大学、卡内基梅隆大学和谷歌DeepMind推出开源通用机器人策略模型Octo，Octo基于transformer架构，并通过在800,000个多样化的机器人操作轨迹上进行预训练，这些轨迹来自Open X-Embodiment ...... 阅读全文

爱丁堡大学、微软研究院、日内瓦大学的研究人员推出新型强化学习（Reinforcement Learning, RL）智能体DIAMOND（DIffusion As a Model Of eNvironment Dreams），它在一个基于扩散模型的世界模型中接受训练。扩散模 ...... 阅读全文

Adobe Research推出一种使用文本到图像扩散模型进行高效概念驱动生成的方法，即个性化残差和基于局部注意力的引导采样。它通过训练一个预设的文本条件扩散模型，学习模型部分层的小秩残差（low-rank residuals），来 ...... 阅读全文

MIT的研究人员发布论文，主题是关于如何减少Transformer模型中关键值（Key-Value，KV）缓存的大小。Transformer模型是当前自然语言处理（NLP）领域非常流行的一种模型，它在处理大语言模型（LLMs）时，解码速度很快 ...... 阅读全文

腾讯云宣布旗下 AI 代码助手现已开放免费限时公测，目前开发者、开发团队、企业客户可以通过腾讯云官网在线体验。AI 代码助手是腾讯云自研的一款编程提效辅助工具，以插件形式安装到编辑器（VSCode 或者 JetBrian 系 ...... 阅读全文

今日，百川智能正式推出了最新一代基座大模型Baichuan 4。与前一代Baichuan 3相比，Baichuan 4在各项能力上均有显著提升，通用能力提升超过10%，数学和代码能力分别提升了14%和9%。在国内知名大模型评测机构SuperCLU ...... 阅读全文

在微软Build 2024开发者大会上，微软公布了Phi-3-vision模型，它小巧到足以在手机上执行，同时具备出色的视觉能力，能够理解文字和图片。Phi-3-vision是4月公布的Phi-3模型家族的最新成员，拥有42亿参数，介于Phi-3- ...... 阅读全文