字節跳動優先佈局推論晶片，主因在於 AI 產業重心已從「模型開發」轉向「大規模商用」。對擁有豆包、TikTok 等海量用戶的字節而言，推論端的延遲與成本直接決定用戶體驗與獲利。相較於訓練需依賴極高性能的輝達 GPU，推論更看重總體擁有成本（TCO），透過專用 ASIC 或國產晶片優化，能顯著提升每瓦效能並降低供應鏈風險，確保在推論需求爆炸的階段，能以更低成本支撐龐大的即時互動流量。
解鎖更多問題
科技新報粉絲團
加入好友
訂閱免費電子報