2年前 (2024-06-20)
北京时间今日凌晨，Ilya Sutskever，原OpenAI联合创始人及首席科学家，在社交媒体上正式宣布了他的全新创业动向——成立“安全超级智能”（Safe Superintelligence，SSI）公司。SSI致力于打造一个专注且纯粹的安全超级智能系统，以此为核心目标与唯一产品，力求通过精干的研发团队实现该领域的... 阅读全文
优惠 B站开源了轻量级 Index-1.9B 系列模型：包含基座模型、对照组、对话模型、角色扮演模型等多个版本
AI
标签：B站Index-1.9B
AI
2年前 (2024-06-20)AI
B站昨日开源了轻量级 Index-1.9B 系列模型，包含基座模型、对照组、对话模型、角色扮演模型等多个版本。据介绍，该模型在预训练阶段使用了 2.8T 规模的数据，中英比例为 4:5，代码占比 6%。目前，角色扮演模型内置了角色“三三”，用户也可以按需创建自己的角色。 GitHub：https://github.co... 阅读全文
优惠 新基准测试套件Long Code Arena：专门设计用来评估和提升代码处理模型在长文本上下文环境中的表现
AI
2年前 (2024-06-20)AI
JetBrains Research和代尔夫特理工大学推出新基准测试套件Long Code Arena，它专门设计用来评估和提升代码处理模型在长文本上下文环境中的表现。简单来说，它是一个挑战场，让计算机程序在编写、理解和修复代码时，能够更好地利用整个项目的信息，而不仅仅是单个文件或函数。Long Code Arena的... 阅读全文
优惠 超对齐（Superalignment）：使用弱模型（即能力不如强模型的AI）去监督和训练强模型时，是否存在一种被称为“弱到强欺骗”（weak-to-strong deception）的现象
AI
2年前 (2024-06-20)AI
中国人民大学高岭人工智能学院和腾讯的研究人员发布论文，论文探讨了一个在大语言模型（LLMs）快速发展时代中非常重要的问题：超对齐（Superalignment）。在这种情境下，人类的监督能力相对于模型的超人类能力而言是较弱的。论文的核心关注点是，当我们使用弱模型（即能力不如强模型的AI）去监督和训练强模型时，是否存在一... 阅读全文
优惠 加州大学伯克利分校推出BenchBuilder的系统：自动从众包平台收集的数据中筛选出高质量的测试题目
AI
2年前 (2024-06-19)AI
加州大学伯克利分校推出BenchBuilder的系统，它的主要功能是自动从众包平台（如Chatbot Arena）收集的数据中筛选出高质量的测试题目。这些测试题目能够很好地区分不同模型的能力，并且与人类的评价标准保持一致。例如，我们想测试一个语言模型是否能够很好地理解医学领域的术语，BenchBuilder可以筛选出需... 阅读全文
