上海人工智能实验室推出新型神经网络模型HGRN2（Hierarchically Gated Linear RNNs with State Expansion），它是一种在序列建模任务中表现出色的线性递归神经网络（RNN）的改进版本。HGRN2的设计灵感来自于线性注意 ...... 阅读全文

来自加州大学伯克利分校和旧金山分校的研究人员推出新型网络代理（Web Agent）WILBUR，它是一种能够与网站互动的智能系统。例如，你在网购时，需要在众多商品中找到一款价格合适、评价高的运动鞋。通常，这需要你手 ...... 阅读全文

谷歌推出新型注意力机制Infini-attention，它可以使基于Transformer的大语言模型（LLMs）高效地处理无限长的输入序列，同时保持内存和计算资源的有限性。例如，就像有一个超级大脑，它可以阅读和记住一本无限长的书 ...... 阅读全文

英伟达推出新基准测试RULER，它旨在更全面地评估长上下文语言模型（Long-Context LMs）的性能。想象一下，你有一个超级聪明的助手，它可以阅读和理解非常长的文本，比如整本书或大量的文章，并且能够记住所有的细节 ...... 阅读全文

来自香港大学、上海人工智能实验室和清华大学深圳国际研究生院的研究人员发布论文探讨了如何将原本设计用于大型语言模型（LLMs）的解码器（Decoder）结构，如LLaMA，适配到计算机视觉领域。想象一下，你有一个能够理 ...... 阅读全文

谷歌和洛桑瑞士联邦理工学院推出新型视觉-语言模型BRAVE，它的核心目标是扩展和增强VLM在处理图像和语言任务时的视觉编码能力。想象一下，如果你给BRAVE一个描述，比如“一只蝴蝶停在花上”，它不仅能够理解这个描述， ...... 阅读全文

Meta推出MA-LMM，它是一个为了更有效地理解长期视频内容而设计的记忆增强型大型多模态模型。与传统的视频理解模型不同，MA-LMM采用了一种在线处理视频帧的方式，并使用一个记忆库来存储过去的视频信息。这样，即使视 ...... 阅读全文

苹果推出Ferret-UI，它是一种专门为理解和交互移动用户界面（UI）屏幕而设计的多模态大语言模型（MLLM）。Ferret-UI旨在提高对移动UI屏幕的理解能力，具备引用、定位和推理等能力。与一般领域的MLLM相比，这些模型在 ...... 阅读全文

来自波士顿大学、中国电子科技大学和Adobe Research的研究人员推出Koala，它是一种针对长视频理解的视频-大语言模型（Video-Large Language Model，简称vLLM）。Koala的目标是帮助模型理解长达数分钟的视频内容，并 ...... 阅读全文

上海人工智能实验室推出浦语·灵笔2系列新模型InternLM-XComposer2-4KHD，这是一款开创性大型视觉-语言模型（LVLM），这个模型在处理图像和文本方面有着显著的进步。例如，你有一个能够理解图片内容并回答有关图片问 ...... 阅读全文

这篇论文介绍了一个名为LLM2Vec的方法，它能够将大型的解码器模型（decoder-only LLMs）转换成强大的文本编码器。这些解码器模型在很多自然语言处理（NLP）任务中都是最先进的，但在文本嵌入任务中，它们的能力还没 ...... 阅读全文

这篇论文的主题是“SambaLingo”，这是一个针对大型语言模型（LLMs）进行多语言适应性调整的研究项目。简单来说，SambaLingo的目标是让大型语言模型能够理解和生成更多不同语言的文本，弥补目前LLMs在多种语言能力上的 ...... 阅读全文