优惠 超对齐（Superalignment）：使用弱模型（即能力不如强模型的AI）去监督和训练强模型时，是否存在一种被称为“弱到强欺骗”（weak-to-strong deception）的现象

中国人民大学高岭人工智能学院和腾讯的研究人员发布论文，论文探讨了一个在大语言模型（LLMs）快速发展时代中非常重要的问题：超对齐（Superalignment）。在这种情境下，人类的监督能力相对于模型的超人类能力而言是较弱的。论文的核心关注点是，当我们使用弱模型（即能力不如强模型的AI）去监督和训练强模型时，是否存在一... 阅读全文