Google DeepMind发布论文,主题是探讨如何在大语言模型(LLMs)中量化不确定性,特别是当我们需要判断模型给出的回答是否可靠时。研究者们区分了两种不确定性:认识不确定性(epistemic uncertainty)和随机不确定性(aleatoric uncertainty)。认识不确定性来源于对真实情况(比... 阅读全文
本周,一封由 11 位 OpenAI 前现任员工和 2 位 DeepMind 前现任员工共同签署的公开信《对先进 AI 发出警告的权利(A Right to Warn about Advanced Artificial Intelligence)》引起了广泛关注。这封信得到了 AI 领域重量级人物的支持,包括“人工智能... 阅读全文