共 1 篇
商汤大装置 CTO 宣善明在 10 月 16 日峰会披露：平台日均服务 6 万亿 token，靠国产芯片做预处理、高端 GPU 做生成的异构分工，吞吐量提到五倍。本文讲清这套推理省钱账的技术细节。