So erstellen Sie langlebige GPT-6 Astra-Agenten mit Gesprächsstatus und Komprimierung

Ein langlebiger Agent ist nicht bloß ein Chatbot mit einem riesigen Transkript. Es ist ein zustandsbehaftetes System, das Ziele, abgeschlossene Arbeiten, Tool-Ergebnisse, Berechtigungen und ungelöste Entscheidungen bewahren muss, während es innerhalb eines endlichen Kontextfensters bleibt. GPT-6 Astra bietet ein Kontextfenster von 1.050.000 Token, Unterstützung für persistierte Überlegungen, Gesprächszustand und Komprimierung – aber die Architektur bestimmt dennoch, ob ein Workflow nach Stunden oder Tagen kohärent bleibt.

Trennen Sie vier Arten von Zuständen

Jedes Ereignis als Konversationstext zu behandeln, erschwert die Wiederherstellung. Halte getrennte Ebenen aufrecht:

1. Dialogzustand: was der Benutzer und das Modell gesagt haben.
2. Aufgabenstatus: Ziele, Plan, Einschränkungen, abgeschlossene Schritte und Hindernisse.
3. Weltzustand: Aufzeichnungen in Datenbanken, Dateien, Tickets und anderen externen Systemen.
4. Ausführungszustand: Tool-Call-IDs, Idempotenzschlüssel, Genehmigungen, Wiederholungen und Kontrollpunkte.

Nur die erste Schicht gehört natürlicherweise in ein Transkript. Die anderen drei sollten anwendungseigene Darstellungen haben. Das Modell kann bei deren Aktualisierung helfen, sollte aber nicht das alleinige System der Aufzeichnung sein.

Zwei Möglichkeiten, eine Antwort fortzusetzen

Der einfachste Fortsetzungsmechanismus ist previous_response_id:

const first = await client.responses.create({
  model: "gpt-6-astra",
  Erstellen Sie einen Umsetzungsplan für die Migration.
});

const next = await client.responses.create({
  model: "gpt-6-astra",
  previous_response_id: first.id,
  input: [{ role: "user", content: "Beginne mit dem Authentifizierungsmodul." }]
});

Dies erzeugt eine Antwortkette. Sie ist für eine Sitzung praktisch, aber keine Abrechnungsabkürzung: OpenAI dokumentiert, dass vorherige Eingabe-Token in der Kette als Eingabe abgerechnet werden. Antworten werden standardmäßig 30 Tage lang gespeichert, es sei denn, store: false wird verwendet.

Für langlebige Threads verwenden Sie die Conversations API. Eine Konversation kann Nachrichten, Tool-Aufrufe und Tool-Ausgaben enthalten und kann über Sitzungen, Geräte oder Aufträge hinweg wiederverwendet werden. Konversationsobjekte unterliegen nicht der 30-tägigen Antwort-TTL. Eine Anfrage kann nicht sowohl eine conversation als auch eine previous_response_id verwenden; wählen Sie das Zustandsmodell bewusst aus.

Erstellen Sie ein Kontextbudget, bevor Sie eines benötigen

Der Kontext umfasst Eingabe-, Ausgabe- und Reasoning-Tokens. Warten Sie nicht, bis das Modell die Grenze erreicht. Reservieren Sie Platz für das nächste Tool-Ergebnis und die endgültige Antwort, und komprimieren oder kürzen Sie dann, bevor Sie Ihren Schwellenwert überschreiten.

Ein nützliches Budget kann Prozentsätze wie folgt zuweisen:

• langlebige Anleitungen und Werkzeuge;
• Zusammenfassung der aktuellen Aufgabe;
• aktuelle Gesprächsdetails;
• abgerufene Beweise;
• erwartetes Denken und Ausgabe;
• eine Notfallreserve für ungewöhnlich große Tool-Ergebnisse.

Ein großer Kontext hat auch Auswirkungen auf die Preisgestaltung. Die Modellseite von GPT-6 Astra dokumentiert einen höheren Satz für Anfragen, deren Eingabe 272.000 Token überschreitet, angewendet auf die gesamte Anfrage. Diese Schwelle macht eine frühzeitige Kontexthygiene finanziell wichtig, selbst wenn das gesamte Fenster noch lange nicht ausgeschöpft ist.

Was die Komprimierung bewirkt

Komprimierung reduziert den vorherigen Kontext, während die für zukünftige Interaktionen benötigten Informationen weitergegeben werden. OpenAI stellt einen expliziten /responses/compact-Endpunkt und eine automatische Kontextverwaltung bereit. Das zurückgegebene Komprimierungsmaterial ist undurchsichtig: Leiten Sie es wie angewiesen weiter, anstatt es zu parsen, zu bearbeiten oder als eine für den Benutzer bestimmte Zusammenfassung zu behandeln.

Kompakt bei semantischen Meilensteinen:

• nachdem die Forschung synthetisiert ist und die Erkundung der Rohquellen nicht mehr benötigt wird;
• nachdem eine Codephase die Tests bestanden hat;
• nachdem der Benutzer einen Plan genehmigt hat;
• vor Beginn einer neuen unabhängigen Phase;
• wenn der gemessene Kontext sich deinem geplanten Schwellenwert nähert.

Vermeiden Sie es, nach jeder Runde zu komprimieren. Es erhöht den Arbeitsaufwand, kann nützliche lokale Details verwerfen und ändert das wiederverwendbare Prompt-Präfix, was das Prompt-Cache-Verhalten beeinflussen kann.

const compacted = await client.responses.compact({
  model: "gpt-6-astra",
  akkumulierteElemente
});

// Persist the returned compacted items and use them as the base for later work.

Verwenden Sie die aktuelle SDK-Referenz für genaue Typen; Beta- und SDK-Oberflächen können sich weiterentwickeln. Die dauerhafte Regel ist, die undurchsichtige Ausgabe unverändert zu lassen.

Überprüfen Sie die Arbeit, nicht nur die Wörter

Ein Produktions-Checkpoint sollte Folgendes aufzeichnen:

• sichtbares Benutzerziel und zuletzt akzeptierter Umfang;
• abgeschlossene Schritte und Nachweise der Verifizierung;
• ausstehende Tool-Aufrufe und Genehmigungsstatus;
• Kennungen und Versionen externer Ressourcen;
• wichtige Entscheidungen mit Herkunftsnachweis;
• die Antwort- oder Gesprächskennung;
• eine monotone Checkpoint-Version.

Angenommen, ein Animationsworkflow hat ein Drehbuch genehmigt, Charakterreferenzen erstellt und mit der Szenenmontage begonnen. Der Agent sollte Asset-IDs, Genehmigungen und den Szenenstatus in den Anwendungsdaten speichern. Eine Plattform wie Elser AI ist ein natürlicher Ort für kreative Assets, aber die Orchestrierungsschicht benötigt dennoch einen expliziten Zustand, damit ein fortgesetzter Agent keine genehmigten Szenen neu generiert.

Wiederherstellung nach Unterbrechung

Entwurf für mindestens einmalige Ausführung. Eine Verbindung kann verschwinden, nachdem ein Werkzeug aktiv war, aber bevor der Client das Ergebnis erhalten hat. Jedes zustandsändernde Werkzeug sollte einen Idempotenzschlüssel akzeptieren oder eine Prüfung vor dem Schreiben unterstützen. Bei Wiederaufnahme:

1. Laden Sie den neuesten festgeschriebenen Checkpoint;
2. externen Zustand für unsichere Operationen überprüfen;
3. Tool-Ergebnisse nach Aufruf oder Idempotenz-ID abgleichen;
4. den Kontext aus dem komprimierten Zustand plus den letzten Ereignissen wiederherstellen;
5. Bitten Sie das Modell, mit explizit anstehenden Arbeiten fortzufahren.

Sage dem Modell niemals „weiter“ ohne strukturierten Status nach einem Absturz. Es könnte Aktionen wiederholen oder den falschen Meilenstein ableiten.

Kompaktierung und Geschäftsspeicher getrennt halten

Komprimierung ist ein optimierter Kontext für das Modell. Der Geschäftsspeicher ist ein dauerhafter, überprüfbarer Datensatz für Ihre Anwendung. Führen Sie ein präzises, menschenlesbares Aufgabenprotokoll neben undurchsichtigen komprimierten Elementen. Das Protokoll ermöglicht es Betreibern, Entscheidungen zu prüfen, Modelle zu migrieren und sich zu erholen, wenn eine Antwortkette nicht verfügbar ist.

Ein gutes Protokoll enthält Fakten, keine überzeugenden Formulierungen. Zum Beispiel: „Kunde hat Plan v7 um 14:32 UTC genehmigt“ ist stärker als „Der Kunde schien mit dem Plan zufrieden zu sein.“ Speichern Sie Quell-IDs für Behauptungen, die aus Tools stammen.

Qualitätskontrollen für lange Läufe

Testen Sie mehr als die Genauigkeit der endgültigen Antwort. Messen Sie:

• Zielbindung nach 20, 50 und 100 Zügen;
• doppelte Nebenwirkungen nach injizierten Trennungen;
• korrekte Wiederaufnahme nach der Komprimierung;
• Herkunft der Tool-Ergebnisse;
• Autorisierungspersistenz und -ablauf;
• Kosten pro Meilenstein;
• Abweichung zwischen dem Aufgabenbuch und dem externen Zustand.

Fügen Sie adversariale Tests ein, bei denen eine alte Nachricht mit einer neueren Anweisung in Konflikt steht, ein Tool eine riesige Nutzlast zurückgibt oder eine Genehmigung abläuft, während der Agent pausiert ist. Die Zuverlässigkeit bei langen Laufzeiten hängt hauptsächlich von Übergängen ab.

FAQ

Sollte ich Conversations oder previous_response_id verwenden?

Verwenden Sie previous_response_id für einfache Antwortverkettungen. Verwenden Sie eine Konversation, wenn Sie ein dauerhaftes Objekt benötigen, das über mehrere Sitzungen oder Aufgaben hinweg wiederverwendet wird. Beide können nicht zusammen in derselben Anfrage bereitgestellt werden.

Beseitigt ein Fenster mit einer Million Token die Kompaktierung?

Nein. Kosten, Latenz, Relevanz und die dokumentierte Preisschwelle für lange Kontexte machen das Kontextmanagement bereits vor der harten Grenze sinnvoll.

Kann ich komprimierten Inhalt bearbeiten?

Behandeln Sie komprimierte Elemente als undurchsichtig. Führen Sie Ihr eigenes bearbeitbares Aufgabenverzeichnis separat.

Was ändert store: false?

Es deaktiviert die Standardspeicherung der Antwort. Ihre Anwendung muss dann den erforderlichen Zustand explizit verwalten und ihre eigenen Aufbewahrungs- und Wiederherstellungsanforderungen erfüllen.

Fazit

Langlebige GPT-6 Astra-Agenten kombinieren API-verwaltete Gesprächskontinuität mit anwendungseigenem Aufgaben- und Ausführungszustand. Verketten oder speichern Sie Antworten bewusst, budgetieren Sie Kontext, bevor er teuer wird, komprimieren Sie an Meilensteinen, bewahren Sie undurchsichtige Komprimierungselemente auf und machen Sie jede externe Aktion wiederherstellbar. Das Ergebnis ist ein Agent, der sicher weiterarbeiten kann – nicht einer, der sich lediglich an einen langen Chat erinnert.