GPT-6.2 上下文視窗:API、工作與 Codex 限制

來源: Elser AI

GPT-6.2 Astra 和 Sol 在 API 中均列出了 1,050,000 個令牌的上下文視窗。同一頁面還列出了最大輸入 922,000 個令牌和最大輸出 128,000 個令牌。Codex 有其自身的預設設定,而 Work 則有獨立的檔案和工作區規則。請使用您實際執行工作的入口點的限制。Astra API 規範 · Sol API 規範

每個數字的含義

| 設定 | GPT-6.2 Astra | GPT-6.2 Sol | |---|---:|---:| | API 上下文窗口 | 1,050,000 | 1,050,000 | | 最大 API 輸入 | 922,000 | 922,000 | | 最大 API 輸出 | 128,000 | 128,000 | | 預設 Codex 上下文 | 272,000 | 500,000 |

上下文窗口描述了模型的工作令牌預算。輸入和輸出上限分別指定了不同的邊界。您的請求可能包含指令、對話歷史、支援文件以及工具返回的材料。請將模型實際接收到的所有材料視為規劃預算的一部分。API模型對比

為什麼 Codex 預設設定不同

OpenAI 將 Astra 的預設 Codex 上下文列為 272,000 個 token,Sol 為 500,000 個 token。其模型指南指出,兩者均支援高達 100 萬個 token 的 Codex 上下文,更長的設定可透過 model_context_window 進行配置。客戶端預設值決定了正常會話的起始設定,而 API 模型卡則描述了 API 的限制。在估算內容是否適配之前,請確認你所使用環境中的當前設定。Codex 上下文設定

對於工作用途,請使用工作區中可用的模型選項,並檢查您期望的檔案在會話中是否確實可存取。官方模型頁面將那些 Codex 資料呈現為 Codex 預設值,並未設定通用的工作上傳或上下文限制。成功上傳後還會留下一個單獨的問題:模型是否使用了檔案的正確部分。

圍繞需要保持可見的內容規劃長期專案

對於影片系列,從經過審核的小型素材開始:已批准的故事大綱、角色參考以及當前正在修改的場景。要求提供一份按場景劃分的變更清單,並註明頁碼或章節參考。當工作依賴於早期材料時,再將其加入。在每次交接時,保留已批准的決策,並記錄其來源。

API 團隊還應規劃計費閾值。模型頁面列出了完整請求超過 272K 輸入令牌時的更高費率。這是一個定價閾值,與最大輸入無關。從較小的證據包開始,測試更大的包是否足以改善結果,從而證明其成本合理。Astra API 費率 · Sol API 費率

常見問題解答

我可以在一次 API 請求中發送 1,050,000 個輸入令牌嗎? 這些模型記錄的最大輸入為 922,000 個令牌。請規劃在列出的上限以下,並為應用程式包含的額外內容留出空間。

更大的上下文是否意味著模型會準確引用所有內容? 在具有代表性的長任務中檢查覆蓋範圍和引用。要求提供明確的參考文獻,並對照來源文件進行驗證。

最新發布