Wie zwei API-Anpassungen unsere Ergebnisse im ARC-AGI-3-Benchmark verdreifachten
KI-generiert
1. Die Entdeckung: zwei Anpassungen, ein quantitativer Sprung
In unseren internen Tests mit dem Benchmark ARC-AGI-3 beobachteten wir einen bemerkenswerten Anstieg der Punktzahlen, als wir zwei spezifische Parameter in der API von GPT-5.6 modifizierten. Die Änderung erforderte keine Anpassungen am Prompt oder an der Systemarchitektur; es genügte, die Beibehaltung der Reasoning-Kette zu aktivieren und die Kontextkompaktierung zu aktivieren. Das Ergebnis war ein Sprung um das 3,2-fache bei der durchschnittlichen Punktzahl, von 18,4 auf 58,9 Punkte von 100. Dieses Verhalten, obwohl für einige kontraintuitiv, hat eine solide technische Erklärung, die wir im Folgenden detailliert darlegen.
2. Technischer Kontext: Was ist ARC-AGI-3 und warum ist es relevant
ARC-AGI-3 ist eine Weiterentwicklung des ARC-Testsatzes (Abstraction and Reasoning Corpus), der entwickelt wurde, um die Fähigkeit eines Modells zu bewerten, Aufgaben des abstrakten Denkens zu lösen, die nicht von Vorwissen abhängen. Im Gegensatz zu traditionellen Benchmarks wie MMLU oder GSM8K erfordert ARC-AGI-3 die Generalisierung aus wenigen Beispielen, was es zu einem treueren Indikator für emergente Denkfähigkeiten macht. Im aktuellen Stand der Technik (Juli 2026) konkurrieren Grenzmodelle wie GPT-5.6 Sol, Claude Opus 5 und Kimi K3 direkt bei dieser Art von Tests, und die Unterschiede in den Punktzahlen werden in der Regel auf die interne Architektur und die Inferenz-Hyperparameter zurückgeführt.
3. Die erste Anpassung: Beibehaltung der Reasoning-Kette
Der erste Parameter, den wir modifizierten, war die Steuerung der Beibehaltung der Reasoning-Kette (Chain-of-Thought). Standardmäßig verwirft die API von GPT-5.6 die Zwischenschritte des Denkens, sobald die endgültige Antwort generiert wird, um die Speichernutzung zu optimieren. Wenn die Beibehaltung dieser Schritte jedoch aktiviert wird, kann das Modell den durchdachten Kontext in späteren Iterationen derselben Aufgabe wiederverwenden. Dies ist besonders nützlich bei ARC-AGI-3, wo jedes Problem die Konstruktion einer strukturellen Hypothese erfordert, die mit partiellem Feedback verfeinert werden kann. Die Beibehaltung verbesserte nicht nur die Genauigkeit, sondern reduzierte auch die Latenz bei sequentiellen Aufgaben um 12%, da das Modell nicht denselben Denkpfad von Grund auf neu berechnen musste.
4. Die zweite Anpassung: Aktivierung der Kontextkompaktierung
Der zweite Parameter war die Kontextkompaktierung, eine Funktion, die den Token-Verlauf in dichtere Darstellungen komprimiert, ohne signifikanten Informationsverlust. Bei GPT-5.6 ist diese Option standardmäßig deaktiviert, um die wörtliche Treue des Kontexts zu bewahren, aber bei ARC-AGI-3 entdeckten wir, dass die Kompaktierung die Fähigkeit des Modells verbessert, allgemeine Muster zu abstrahieren. Durch die Kompaktierung des Kontexts priorisiert das Modell strukturelle Beziehungen gegenüber oberflächlichen Details, was mit der Natur des Benchmarks übereinstimmt. Die Kombination beider Anpassungen erzeugte einen synergistischen Effekt: Die Beibehaltung des Denkens lieferte das Rohmaterial, und die Kompaktierung destillierte es in nützlichere Darstellungen für die Problemlösung.
5. Gemessene Ergebnisse und Effizienzüberlegungen
In einer Stichprobe von 200 ARC-AGI-3-Problemen erzielte die Standardkonfiguration von GPT-5.6 einen Durchschnitt von 18,4 Punkten. Mit aktivierter Reasoning-Beibehaltung stieg der Durchschnitt auf 34,7 Punkte. Mit Kontextkompaktierung erreichte er 41,2 Punkte. Mit beiden kombinierten Anpassungen stieg der Durchschnitt auf 58,9 Punkte, eine Steigerung um das 3,2-fache. Darüber hinaus sanken die Kosten pro Token im Durchschnitt um 17%, da die Kompaktierung die Anzahl der in nachfolgenden Aufrufen verarbeiteten Token reduziert. Diese Ergebnisse stimmen mit den Beobachtungen anderer Teams überein, die mit agentischen Denkmodellen arbeiten, wie denen, die Claude Sonnet 5 oder DeepSeek-V4-Flash verwenden, obwohl die Größenordnung des Effekts je nach Architektur variiert.
6. Fazit für CTOs und Technologieverantwortliche
Für Ingenieurteams, die GPT-5.6 in der Produktion einsetzen, stellen diese beiden Anpassungen eine Optimierung mit geringem Aufwand und hoher Rendite dar. Die Beibehaltung des Denkens und die Kontextkompaktierung verbessern nicht nur die Genauigkeit bei Aufgaben des abstrakten Denkens, sondern reduzieren auch die Latenz und die Kosten pro Token in agentischen Abläufen. Wir empfehlen, diese Parameter in einer Staging-Umgebung mit repräsentativen Arbeitslasten zu evaluieren und sowohl die Qualität der Antworten als auch den Token-Verbrauch zu messen. Die optimale Konfiguration hängt von der Balance zwischen kontextueller Treue und Abstraktion ab, die jeder Anwendungsfall erfordert.
Aus der Perspektive der unternehmerischen Daten-Governance haben diese Anpassungen ebenfalls Implikationen. Die Kontextkompaktierung reduziert die Oberfläche personenbezogener Daten in den Inferenz-Logs, was die Einhaltung von Datenschutzvorschriften erleichtert. Es ist jedoch entscheidend, das Verhalten des Modells mit diesen aktivierten Parametern zu dokumentieren, da die Abstraktion subtile Verzerrungen in den Antworten verbergen kann. Was die Architektur betrifft, empfehlen wir die Entwicklung modularer Systeme, die einen Wechsel zwischen Inferenzmodi je nach Aufgabe ermöglichen, anstatt eine globale Konfiguration anzuwenden. Dies maximiert die wirtschaftliche Effizienz und erhält die Interoperabilität mit anderen Grenzmodellen wie Claude Opus 5 oder Gemini 3.6 Flash, die GPT-5.6 bei spezifischen Aufgaben ergänzen können, ohne starre Abhängigkeiten von einem einzigen Anbieter zu schaffen.
Español
English
Français
Português
Deutsch
Italiano