SEARCH INTELLIGENCE

标签「端侧部署」

从最新动态到实用工具,找到你关心的内容。

所属标签端侧部署

LATEST DISCOVERY

端侧部署

01

PRODUCT DISCOVERY

AI应用

01
OpenBMB发布MiniCPM-V 2.6:面壁智能领航的端侧大模型
01 / 01
开源创新MiniCPM

OpenBMB发布MiniCPM-V 2.6:面壁智能领航的端侧大模型

MiniCPM-V 2.6是OpenBMB推出的最新版本,针对中文自然语言处理进行了进一步优化。它在减少参数量的同时,保持了高效的文本生成和理解能力,为开发者提供了更加灵活的部署选择。该版本特别适合在计算资源有限的环境中应用,进一步推动了中文预训练模型的普及和发展。

02

INTELLIGENCE FEED

资讯与观察

01

AMD 开源 GAIA 生成式 AI 框架 实现 Windows 终端大模型端侧部署

AMD 向开发者社区开源其 GAIA 生成式 AI 应用框架,通过整合 ONNX TurnkeyML 工具链与锐龙 AI 300 系列 NPU 加速,实现 70 亿参数大模型在消费级硬件的毫秒级推理。该框架独创隐私计算架构与混合精度部署方案,在保持 FP16 精度的同时通过 INT8 量化压缩实现显存占用减半,满足 GDPR/CCPA 合规要求。