HackingBuddyGPT 是一款旨在帮助安全研究人员利用大语言模型（LLMs）发现新的网络攻击途径的工具，它能够在 50 行代码或更少的代码中实现这一目标，帮助研究人员拯救网络世界（或赚取漏洞赏金）。开发者希望建立一个 ...... 阅读全文

DeepSeek-V2 是一个专家混合（Mixture-of-Experts，简称 MoE）语言模型，以其经济的训练成本和高效的推理能力而著称。DeepSeek-V2 在一个包含 8100 万亿个 token 的多样化和高质量语料库上进行了预训练。随后，通过 ...... 阅读全文

CLLMs 是一种新型模型，它们通过并行解码 n 个 token 来有效降低推理延迟，采用的解码方法称为雅可比解码（Jacobi decoding），在推理效率上优于传统的自回归（AR）解码。实验结果显示，CLLMs 在多种任务上的生成速 ...... 阅读全文

Outlines〰 是一个 Python 库，它以简单而健壮的方式（具有结构化生成）使用大语言模型（LLM）。这个库由 .txt 公司构建，已经在众多公司的生产环境中得到应用。我们支持 OpenAI 的模型，同时通过 transformers、lla ...... 阅读全文

Secret Llama 是一个完全私密的大型语言模型（LLM）聊天机器人，它完全在浏览器中运行，无需服务器支持。支持 Mistral 和 LLama 3 等开源模型。开发者特别感谢 webllm 提供的推理引擎，使得这一切成为可能。 项目主 ...... 阅读全文

WebLLM 是一个可定制且模块化的 JavaScript 包，它能够将语言模型对话功能直接集成到网络浏览器中，并利用硬件加速技术。所有操作都在浏览器内部完成，无需服务器端的支持，并通过 WebGPU 进行加速。 兼容性 WebLLM ...... 阅读全文

对于需要特定主题素材的创作者来说，尤其是那些没有绘画经验的人，「Ilus AI」可能是一个救星。这是一个利用AI技术快速生成手绘插图的在线工具，提供了墨水绘画、涂鸦和扁平化风格三种样式供用户选择。用户只需输入 ...... 阅读全文

在当前的人工智能转折点上，多语言文本嵌入API成为了技术竞技场上的新焦点，这场较量不仅涉及行业巨头如OpenAI、Google、Cohere等，也包括了开源领域中微软的E5和北京智源的BGE-M3等重要参与者。通过对比这些模型的 ...... 阅读全文

IBM 开源了它用于辅助编程的 Granite 代码模型，源代码托管在 GitHub 上，采用 Apache License 2.0 许可证，允许商业使用。与其它 AI 模型不同的是，IBM 致力于避免模型的版权问题，使用了开放数据集如 GitHub Code ...... 阅读全文

英国人工智能安全研究所（AI Safety Institute）近日推出了一款名为“Inspect”的 AI 模型安全评估平台，该平台采用开源授权方式，向全球 AI 工程师免费开放，允许工程师们评估自家模型性能及安全性。这款 Inspect 平 ...... 阅读全文

AgentScope是一个创新的多智能体开发平台，旨在赋予开发人员使用大模型轻松构建多智能体应用的能力。 🤝 高易用： AgentScope专为开发人员设计，提供了丰富的组件, 全面的文档和广泛的兼容性。同时，AgentScope Works ...... 阅读全文

Bisheng是一款领先的开源大模型应用开发平台，赋能和加速大模型应用开发落地，帮助用户以最佳体验进入下一代应用开发模式。 产品亮点 便捷：即使是业务人员，基于我们预置的应用模板，通过简单直观的表单填写方式快 ...... 阅读全文