幻方量化旗下AI公司DeepSeek发布全新第二代MoE大模型DeepSeek-V2。该模型性能接近GPT-4Turbo，具备2360亿参数，每token激活210亿参数，支持128K上下文长度，成本显著降低。

APUS携手新旦智能，在GitHub上正式开源千亿参数级别的MoE（Mixture of Experts）架构大模型，标志着国内首个此规模的MoE架构模型的诞生。