Thinking Machines 发布 Inkling 2 Mini:循环 Transformer 让消费级硬件跑出 27B 模型性能
Thinking Machines Lab 发布开源多模态模型 Inkling 2 Mini,采用循环 Transformer 架构,在 20GB 内存占用下实现媲美 27B 密集模型的代理编程性能,推理成本降低 6 倍,为本地 AI 部署提供兼顾性能与成本的新路径。
Thinking Machines Lab 发布开源多模态模型 Inkling 2 Mini,采用循环 Transformer 架构,在 20GB 内存占用下实现媲美 27B 密集模型的代理编程性能,推理成本降低 6 倍,为本地 AI 部署提供兼顾性能与成本的新路径。