模型窃取攻击

优惠 新型的模型窃取攻击，它能够从未公开的黑盒生产语言模型（例如OpenAI的ChatGPT或Google的PaLM-2）中提取精确、非平凡的信息

  • 新型的模型窃取攻击，它能够从未公开的黑盒生产语言模型（例如OpenAI的ChatGPT或Google的PaLM-2）中提取精确、非平凡的信息
    AI
    • 推荐人：暴走AI 标签：模型窃取攻击 AI
    1年前 (2024-03-12)AI
    谷歌发布论文介绍一种新型的模型窃取攻击，它能够从未公开的黑盒生产语言模型（例如OpenAI的ChatGPT或Google的PaLM-2）中提取精确、非平凡的信息。具体来说，攻击者可以通过典型的API访问，恢复变换模型的嵌入投影层（直到对称性）。这项技术首次证实了这些黑盒模型具有1024和2048的隐藏维度。总的来说，这... 阅读全文
    直达链接 好 0 不好 0 新型的模型窃取攻击，它能够从未公开的黑盒生产语言模型（例如OpenAI的ChatGPT或Google的PaLM-2）中提取精确、非平凡的信息已关闭评论