同一天两件"开源"大事:DeepSeek开放推理框架、国家数据集团挂牌,中国AI底座升维 10 月 20 日,两则消息在同一天砸向 AI 圈。下午,DeepSeek 在公众号宣布将内部推理框架 DeepInfer 全面开源;同一天,国家数据集团有限公司正式挂牌成立,简勤任董事长、陈荣辉任总经理。 odoo开源erp 企业 AI 开源 erp 推理
AI算力進入通信與帶寬時代:MoE 推理瓶頸不再只是GPU 企業採用 AI 時最常見的陷阱之一,就是將問題過度簡化為「買更多 GPU」。然而,隨著模型從標準 LLM 演進到混合專家(MoE)架構,推論瓶頸便從運算密度轉移到 通訊延遲與記憶體頻寬 。Google Cloud 分享了一套以 A4X(GB200 NVL72)與 NVIDIA Dynamo 為核心的參考推論解決方案,強調應將推論視為一項系統工程挑戰,由 基礎架構層、服務層與編排層 組成。 「ERP... AI基礎設施 MoE 云计算 人工智能 推理 数字化