Fenêtre de contexte GPT-6.2 : limites de l'API, du travail et de Codex

Source: Elser AI

GPT-6.2 Astra et Sol listent tous deux une fenêtre de contexte de 1 050 000 jetons dans l'API. La même page indique également une entrée maximale de 922 000 jetons et une sortie maximale de 128 000 jetons. Codex a ses propres paramètres par défaut, tandis que Work possède des règles de fichiers et d'espaces de travail distinctes. Veuillez utiliser les limites du point d'entrée où vous effectuez réellement votre travail. Spécifications de l'API Astra · Spécifications de l'API Sol

La signification de chaque chiffre

| Paramètres | GPT-6.2 Astra | GPT-6.2 Sol | |---|---:|---:| | Fenêtre de contexte API | 1 050 000 | 1 050 000 | | Entrée API maximale | 922 000 | 922 000 | | Sortie API maximale | 128 000 | 128 000 | | Contexte Codex par défaut | 272 000 | 500 000 |

La fenêtre de contexte décrit le budget de jetons de travail du modèle. Les limites d'entrée et de sortie spécifient respectivement des seuils différents. Votre requête peut inclure des instructions, un historique de conversation, des fichiers de support et des documents renvoyés par des outils. Veuillez considérer tous les documents réellement reçus par le modèle comme faisant partie du budget de planification. Comparaison des modèles API

Pourquoi les paramètres par défaut de Codex sont différents

OpenAI liste le contexte Codex par défaut d'Astra à 272 000 tokens, et celui de Sol à 500 000 tokens. Son guide des modèles indique que les deux prennent en charge jusqu'à 1 million de tokens de contexte Codex, les réglages plus longs pouvant être configurés via model_context_window. Les valeurs par défaut du client déterminent le réglage de départ pour une session normale, tandis que la fiche technique de l'API décrit les limites de l'API. Avant d'estimer si le contenu est adapté, vérifiez les paramètres actuels de votre environnement. Paramètres du contexte Codex

Pour un usage professionnel, veuillez utiliser les options de modèle disponibles dans l'espace de travail et vérifier que les fichiers que vous attendez sont bien accessibles dans la session. La page officielle des modèles présente ces données Codex comme des valeurs par défaut de Codex, sans fixer de limites générales de téléchargement ou de contexte pour le travail. Une fois le téléchargement réussi, une question distincte demeure : le modèle a-t-il utilisé la bonne partie du fichier.

Planifier des projets à long terme autour du contenu qui doit rester visible

Pour une série vidéo, commencez par des éléments de base approuvés : un synopsis validé, des références de personnages et les scènes en cours de révision. Demandez une liste des modifications par scène, avec les numéros de page ou les références de chapitre. Ajoutez du contenu supplémentaire uniquement lorsque le travail dépend de documents antérieurs. À chaque transition, conservez les décisions approuvées et notez leur provenance.

L'équipe API doit également planifier les seuils de facturation. La page du modèle répertorie des tarifs plus élevés lorsque les requêtes complètes dépassent 272K jetons d'entrée. Il s'agit d'un seuil de tarification, indépendant de l'entrée maximale. Commencez par de petits lots de preuves, testez si des lots plus importants suffisent à améliorer les résultats, justifiant ainsi leur coût. Tarifs de l'API Astra · Tarifs de l'API Sol

Foire aux questions

Puis-je envoyer 1 050 000 jetons d'entrée dans une seule requête API ? Le maximum d'entrée enregistré pour ces modèles est de 922 000 jetons. Veuillez planifier en dessous de la limite indiquée et laisser de l'espace pour le contenu supplémentaire inclus par l'application.

Un contexte plus large signifie-t-il que le modèle citera précisément tout le contenu ? Vérifier la couverture et les citations dans des tâches longues représentatives. Exiger des références explicites et les vérifier par rapport au document source.

Derniers articles