AI的經濟學正達到一個關鍵的轉折點。根據研究，前沿AI模型的訓練成本預計到2027年將超過10億美元。 @AnthropicAI的CEO Dario Amodei預測，明年AI模型的訓練成本將增長到每次運行幾十億美元。 "到2026年，訓練單一模型的成本可能會超過100億美元。到2027年，他預計模型公司將有建設1000億美元訓練集群的雄心。"

硬體障礙是驚人的：僅購買用於訓練 GPT-4 的硬體就花費了大約 $800M，而攤銷成本的成本為 $40M。 隨著培訓成本以每年 ~2.4× 的速度增長，低效的計算基礎設施正在成為無法優化支出的人工智慧公司的生存威脅。

讓我們分解一下實際成本：在 1-2 萬億個代幣上訓練 7B 參數 LLM 需要 ~60,000 H100 GPU 小時。按照我們的費率（1.49 美元/小時），總共89,400美元。 AWS 上的工作負載按需相同？ 驚人的 405,000 美元。其他雲供應商的價格從 179,400 美元到 209,400 美元不等，而本地解決方案在全額攤銷後的成本約為 300,000 美元。

我們的平臺具有明顯的優勢：比打折的 AWS 便宜 2.5×，比典型的雲供應商便宜 3-4×。考慮到所有費用，本地基礎設施的成本要高出 6-9×。對於旨在以預算友好、透明的方式擴展主要 LLM 培訓的團隊來說，我們的產品可以立即節省成本並簡化作。

隨著模型的不斷增長，計算效率不僅僅是可有可無，更是您的競爭護城河。問題不在於您是否負擔得起優化，而在於您是否負擔得起不這樣做。立即開始最大化您的 AI 預算。

引用 大紀元人工智慧。“GPU 性價比趨勢。”大紀元人工智慧，2022年，。 霍布漢、馬呂斯和塔梅·貝西羅格魯。“GPU 性價比趨勢。”大紀元人工智慧，2022年，。 TRG 數據中心。“節省開支：為什麼 NVIDIA H100 GPU 能超越 AWS 租賃成本。”TRG 數據中心，2023 年， “訓練前沿人工智慧模型的成本上升”。arXiv，2024 年，

在此處查看完整部落格：