新型模型“Multi-Head Mixture-of-Experts”（MH-MoE），它是一种稀疏混合专家（Sparse Mixtures of Experts，简称SMoE）模型的改进版本。SMoE模型通过在每个构建模块中包含多个并行前馈神经网络（即专家），并通过路由器有策略地激活特定输入令牌的特定专家，从而在保持... 阅读全文

多模态语言模型Pegasus-1，它专门设计用于理解和交互视频内容，并通过自然语言进行交流。Pegasus-1旨在解决视频数据的独特挑战，例如解释时空信息，以提供对不同长度视频内容的深入理解。Pegasus-1的局限性，包括处理长视频的效率、可能出现的“幻觉”现象、安全和偏见问题，以及未来将增加的聊天功能等。 例如，我... 阅读全文

来自香港科技大学、MSRA、萨里大学、内蒙古大学、北京邮电大学和新加坡国立大学的研究人员推出新型零样本（Zero-Shot）语音合成系统FlashSpeech，零样本语音合成是指在没有特定说话人数据训练的情况下，能够模仿该说话人的声音来生成语音的技术。这项技术可以应用于多种场景，比如为电影角色配音、创建个性化的虚拟助手... 阅读全文

苏黎世联邦理工学院的研究人员发布论探讨和证明Transformer语言模型能够表示n-gram语言模型。n-gram语言模型是一种基于统计的语言模型，它根据前面的n-1个词来预测下一个词的概率。Transformer语言模型是一种基于深度学习的先进语言模型，广泛应用于自然语言处理任务中。例如，我们有一个4-gram语言... 阅读全文

苹果推出新型大型开放语言模型OpenELM，它旨在提高自然语言处理领域的研究透明度和可复现性，确保研究结果的可靠性，并允许对数据和模型偏见以及潜在风险进行调查。例如，你想要开发一个能够自动生成新闻文章摘要的系统。使用OpenELM，你可以对模型进行微调，使它能够理解新闻文章的关键信息，并生成简洁准确的摘要。由于Open... 阅读全文

伊利诺伊大学厄巴纳-香槟分校、Cohere 和普林斯顿大学的研究人员推出新技术SnapKV，，它是为了解决大语言模型（LLMs）在处理长文本输入时遇到的性能和内存效率问题。大型语言模型在生成文本时，会使用一种名为“键值（KV）缓存”的技术来提高性能，但随着输入长度的增加，KV缓存的大小也会增长，这会导致内存和时间效率问... 阅读全文

Go Summarize 是一款基于AI技术的视频摘要服务，专为YouTube视频设计，旨在通过智能化手段快速提炼出视频的核心内容。该服务利用ChatGPT的强大能力，使得用户只需简单地粘贴YouTube视频的网址，就能轻松获取针对该视频的详细摘要以及关键时间节点的重点整理。这一特性使得Go Summarize尤为适用... 阅读全文

安读是一款使用Flutter编写的开源电子书阅读器，专注于阅读，不包含任何在线推广内容，它可以帮助你更专注于阅读，提高阅读效率。 自动记录阅读进度，每次打开可以回到上次的进度。 丰富且可自定义的阅读配色，让您的阅读更舒适。 丰富的阅读设置，包括字号、行间距、字间距等，让阅读更轻松。 随时在书中划线，多种样式和配色，随时... 阅读全文

昆仑万维推出新型音乐生成模型Music Consistency Models（MusicCM），MusicCM的目标是提高音乐生成的效率和质量，它借鉴了图像和视频生成中常用的一致性模型（consistency models）的概念，以更少的采样步骤高效地合成音乐片段。 主要功能和特点： 高效音乐生成：MusicCM能够... 阅读全文

微软推出新型语言模型phi-3-mini，这是一个具有3.8亿参数的模型，它在性能上可以与一些大型模型相媲美，如Mixtral 8x7B和GPT-3.5，但大小却足以部署在手机上。这项技术的创新之处在于其训练数据集，这是phi-2数据集的一个扩展版本，包含了大量过滤过的网络数据和合成数据。例如。你有一个智能手机，上面安... 阅读全文

麻省理工学院计算机科学与人工智能实验室推出MAIA（Multimodal Automated Interpretability Agent，多模态自动可解释性代理）系统，MAIA是一个利用神经模型来自动化理解其他神经模型任务的系统，比如特征解释和故障模式发现。简而言之，MAIA就是一个能够“解释”神经网络的智能代理。 ... 阅读全文

摩根大通人工智能研究推出FlowMind，它能够利用大语言模型自动生成工作流程。在许多行业中，尤其是金融服务业，自动化重复性任务已经取得了显著进展，但在处理需要即时或不可预测任务的场景中，传统的自动化方法可能就不够有效。FlowMind通过使用像GPT这样的大语言模型，来创建一个能够自动生成工作流程的系统，以应对这些挑... 阅读全文