中国最大AI开源社区魔搭举办首届开发者大会,公布社区用户规模跃升至1600万,托管模型突破7万。社区推出全链路服务体系,前瞻性MaaS理念吸引头部企业首发AI模型,并确立端云协同为关键技术路径。
魔搭社区近日推出 NVIDIA TensorRT-LLM,极大提高了大语言模型的推理性能。这一举措使得模型即服务(MaaS)理念进一步落地,促进了大模型在实际应用中的效率和价值释放。