字节旗下的豆包推出桌面客户端，支持 Windows 与 macOS，不过这个客户端是基于Chromium，简单来说就是个浏览器，有需求的朋友可以安装试试。 💡特性一览： 1️⃣快捷启动：一键访问，提高效率。 2️⃣本地访问：轻松访问本地应用和文件。 3️⃣AI划词：选中文本，即刻享受搜索、翻译、解释、总结等智能服务。 ... 阅读全文

北京师范大学推出一种新型的4位二阶优化器，即"4-bit Shampoo"，它是为了在深度神经网络（DNN）训练中实现内存高效而设计的。在机器学习和人工智能领域，优化器是用于调整模型参数以最小化损失函数的算法。二阶优化器因其利用矩阵操作来加速收敛过程而闻名，但它们通常需要更多的内存和计算资源。虽然4-bit Shamp... 阅读全文

Databricks、MIT和DatologyAI的研究人员发布论文，主题是探讨如何利用小型语言模型来筛选大规模文本数据集的高质量子集，以提高大语言模型（LLMs）的性能。具体来说，研究者们研究了基于小型模型的困惑度（perplexity）进行数据筛选的方法，以及这种方法如何受到数据领域组成的影响。 例如，我们有一个大... 阅读全文

Video-MME Team推出全新评估基准Video-MME，它专门用来测试多模态大语言模型（MLLMs）在视频分析方面的表现。多模态意味着模型能够同时处理和理解视频、音频、文本等多种类型的数据。 项目主页：https://video-mme.github.io/home_page.html GitHub：https... 阅读全文

普林斯顿大学计算机科学系和卡内基梅隆大学机器学习系的研究人员推出一种新型的深度学习模型架构——Transformers和状态空间模型（State-Space Models，简称SSMs）之间的关系，并提出了一种新的架构和高效的算法。论文的标题是“Transformers are SSMs: Generalized Mo... 阅读全文

人工智能领域的创新不断突破，ElevenLabs 最新推出了名为“Sound Effects”的工具，它能够根据文本描述生成最长22秒的音效，为播客、电影或游戏创作提供强大支持。这一新工具的加入，使得 ElevenLabs 的产品线更加丰富，包括原有的语音和音乐平台。ElevenLabs 与知名素材平台 Shutter... 阅读全文

上个月，微软公司推出了全新的Copilot+ PC系列，宣称其速度比苹果的MacBook Air快达58%。通常人们会认为PC会搭载AMD或英特尔的处理器，然而目前Copilot+ PC系列仅采用高通骁龙芯片，具体来说是骁龙X（Elite和Plus）系列。 新颖且颇具争议的Recall功能 微软大胆引入的Recall（... 阅读全文

华为诺亚方舟实验室推出VeLoRA，它旨在解决大语言模型（LLMs）在训练和微调过程中面临的计算和内存密集问题。尽管大型语言模型在许多语言处理任务上取得了巨大成功，但它们对硬件资源的需求非常高，这限制了它们在现有硬件上的广泛应用。VeLoRA在多个基准测试中的有效性，包括VTAB-1k微调基准测试、GLUE语言基准测试... 阅读全文

英特尔推出LLaMA-NAS，如何高效地优化大型语言模型（LLMs）的网络架构。LLaMA-NAS提供了一种有效的方法，可以在保持大语言模型性能的同时，减少模型的大小和计算成本，使得这些模型可以更广泛地应用于各种场景。例如，你有一台功能强大但耗能巨大的超级计算机，它能够处理复杂的任务，比如理解人类语言、写作文、解决复杂... 阅读全文

索尼推出新型人工智能系统Instruct-MusicGen，它能够根据文本指令来编辑音乐。想象一下，你告诉这个系统“加一段鼓点”，它就能在现有的音乐中加入鼓声，或者你让它“去掉钢琴声”，它就能把钢琴的旋律部分移除。这就像是有一个音乐编辑的魔法棒，你说什么，它就变什么。 主要功能： Instruct-MusicGen的主... 阅读全文

新加坡国立大学的研究人员推出新型框架GFlow，它能够从单目视频（即只用一个摄像头拍摄的视频）中恢复出四维（4D）世界。这里的“4D”指的是三维空间加上时间维度，也就是说，GFlow不仅能够重建视频中的场景，还能追踪场景随时间的变化以及摄像头的位置变化。目前GFlow的一些限制，比如依赖于现成的深度估计和光流算法，以及... 阅读全文

浪潮信息推出新型混合专家（Mixture of Experts，简称MoE）语言模型Yuan 2.0-M32，这个模型是基于Yuan 2.0-2B的一个变体，采用了一种特殊的架构，其中包含32个专家网络，但每次只有2个专家被激活。这种设计旨在提高模型的计算效率和准确性。实验结果表明，Yuan 2.0-M32在上述应用场... 阅读全文