来自微软的研究人员发布论文介绍了一种名为LongRoPE的技术，它能够显著扩展大语言模型（LLMs）的上下文窗口，达到了2048k个标记的惊人长度。这是首次实现这样的扩展，同时在保持原始短上下文窗口性能的同时，只需要1k步的微调，训练长度在256k以内。这项技术通过三个关键创新实现：首先，它识别并利用了位置插值中的两种... 阅读全文

Meta推出数据集Aria Everyday Activities (AEA) ，这是一个以第一人称视角记录的多模态开放数据集，通过Project Aria眼镜收集。AEA数据集包含了多个佩戴者在五个不同地理位置的室内环境中记录的143个日常活动序列。每个记录都包含了通过Project Aria眼镜收集的多模态传感器数... 阅读全文

来自Google DeepMind、魁北克人工智能研究所、蒙特利尔大学的研究人员发布论文探讨了在深度强化学习（Deep Reinforcement Learning, DRL）中，如何通过修剪网络（pruning）来提高模型的性能。修剪网络是一种优化技术，它通过移除神经网络中不重要的参数（通常是权重较小的连接），来减少... 阅读全文

来自香港大学、腾讯AI实验室的研究人员发布论文介绍了一种名为Bi-Modal Behavioral Alignment (BBA) 的方法，它是为了提高大型视觉-语言模型（LVLMs）在复杂多模态推理任务中的表现。BBA方法的核心在于它能够更好地利用视觉信息和领域特定语言（DSL）的表示，这两种信息在传统的Chain-... 阅读全文

这篇论文介绍了一种名为Ouroboros的新型解码框架，它旨在加速大语言模型（LLMs）的推理过程。Ouroboros通过一种称为“推测性解码”的方法，使用一个小型模型快速生成草稿，然后利用大型模型进行验证和修正，以减少时间开销。这种方法不需要对模型进行额外训练，也不会影响生成质量。 GitHub地址：https://... 阅读全文

来自谷歌的研究人员发布论文介绍了一个名为USER-LLM的框架，它是一个用于改进大语言模型（LLMs）以更好地理解和适应用户交互数据的系统。USER-LLM通过使用用户嵌入（user embeddings）来为LLMs提供上下文信息，这些嵌入是从用户的多样化交互数据中自动学习得到的，能够捕捉用户的偏好和行为模式。 论文... 阅读全文

来自中国科学院自动化研究所、中国科学院大学人工智能学院、中国科学院计算技术研究所和快手的研究人员提出一种新颖的音乐风格转换方法，它利用了扩散模型和时间变化的文本反演技术。这种方法可以有效地捕捉音乐属性，即使在数据量很少的情况下也能实现。它通过一个创新的时间变化文本反演模块来精确捕捉不同层次的梅尔频谱图特征，并在推理过程... 阅读全文

来自马里兰大学帕克分校的研究人员发布论文探讨了大语言模型（LLMs）在面对对抗性攻击时的脆弱性。对抗性攻击是指故意设计输入，以诱导模型产生非预期或有害的输出。论文的主要目的是扩展我们对LLMs对抗性攻击的理解，不仅仅是“越狱”（即让模型产生违反其训练目标的输出），而是包括更广泛的攻击类型和目标。 论文地址：https:... 阅读全文

Epic Games本周要免费送动作游戏《超级食肉男孩：永无止境（Super Meat Boy Forever）》，领取时间为2月22日晚上23点到2月29日晚上23点，在此之前免费领取即可永久保留这些作品，下周免费游戏将是3D 横向卷轴游戏《Aerial_Knight's Never Yield》，领取时间为2月29... 阅读全文

对于广大使用英伟达GeForce显卡的用户而言，GeForce Experience这款软件应该是非常熟悉。它不仅能够轻松实现驱动更新，还能优化游戏设置，甚至提供游戏录制和分享等功能，极大地方便了用户的使用。英伟达为了给用户带来更上一层楼的使用体验，今晚，他们推出了一款全新的应用——NVIDIA App。这款应用不仅仅... 阅读全文

Notion Diagram是一款Chrome浏览器插件，基于drawio 开发，此插件可与您的Notion界面完美融合，让您无需使用任何外部程序，即可轻松创建和编辑图表。这将使您的工作流程更加顺畅，同时让您的工作区变成一个充满视觉思维的场所。 💪主要优势： 👉便捷的图表绘制：在Notion页面中，只需简单点击几下，即... 阅读全文

苹果昨天在美国、英国、加拿大推出了名为“Apple Sports”的免费iPhone应用，专注于为用户提供一站式的体育赛事服务，包括各大联赛（如NBA、MLS、NCAA篮球、NHL、英超等）的球队数据、球员阵容、赛事解说、实时赔率等信息。目前，持有这三个地区Apple ID的iPhone用户已可下载使用Apple Sp... 阅读全文