11d • 一般討論
AI 基礎設施 / 自研晶片 / LLM 推論：OpenAI 發表首款自研 AI 晶片 Jalapeño，專為 LLM 推論打造
今天在 X 上看到 @OpenAI 寫的內容，他提到他們設計並打造了第一款自研 AI 晶片，命名為 Jalapeño。這顆晶片由 OpenAI 從零開始設計，並與 Broadcom 合作量產。OpenAI 表示，Jalapeño 是專為 LLM 工作負載打造的，服務 ChatGPT、Codex、API，以及未來的 agentic 產品。OpenAI 指出，晶片是 AI 經濟的基礎建設。自研晶片讓他們從產品、模型到基礎設施，擴展為完整的全棧平台。他們認為這將幫助擴大智慧規模、服務更多用戶，並拓展 AI 的普及。
這件事對於關注 AI 基礎設施的人來說，是一個重要的訊號。當 AI 公司開始自研晶片，代表他們不再只是依賴現有的硬體供應鏈，而是從底層開始優化推論的效能、供應與產品節奏。Jalapeño 以 LLM 推論為核心設計目標，這對於 ChatGPT、Codex 這類需要大規模即時回應的產品來說，影響會很直接。隨著未來 agentic 產品持續發展，推論效能、成本與可取得性都會變得更關鍵。
0
0 comments
AI 基礎設施 / 自研晶片 / LLM 推論：OpenAI 發表首款自研 AI 晶片 Jalapeño，專為 LLM 推論打造
Suggested communities
Powered by