Reasoning effort erklärt: wann sich Tiefe lohnt

Was Reasoning effort ist

Manche Modelle können ein Problem intern durcharbeiten, bevor sie eine sichtbare Antwort erzeugen. Diese interne Arbeit kostet erzeugte Token und braucht Zeit. Mit Reasoning effort sagen Sie dem Modell ungefähr, wie viel davon es leisten soll.

Das Feld in der Anfrage und die Einstellung in SideNote Pro tragen beide den Namen reasoning effort. reasoning_effort ist ein Feld einer OpenAI-kompatiblen Chat-Anfrage: eine Zeichenkette, die der Client sendet und die das Modell am anderen Ende beachten, ignorieren oder ablehnen kann. Reasoning effort in SideNote Pro bestimmt, was in dieses Feld kommt, oder ob es überhaupt gesendet wird.

POST https://api.openai.com/v1/chat/completions

{
  "model": "gpt-6-luna",
  "reasoning_effort": "none",
  "stream": true,
  "messages": [ ... ]
}

Bei Provider default fehlt diese eine Zeile einfach im Body. An der Anfrage ändert sich sonst nichts. SideNote Pro, ein Windows-Assistent, der mit jedem Anbieter spricht, den Sie konfigurieren, bietet die Wahl als ein Dropdown je Anbieterprofil unter Settings, AI providers an.

Settings › AI providers

Der Zielkonflikt, ohne erfundene Zahlen

Mehr Reasoning effort bedeutet im Allgemeinen: mehr Zeit bis zum ersten sichtbaren Token, mehr erzeugte Token, die berechnet werden, und bessere Leistung bei Problemen, deren Antwort davon abhängt, mehrere Dinge richtig zu verbinden.

Eine einzelne Zahl dafür gibt es nicht: Der tatsächliche Unterschied bei Wartezeit und Kosten hängt vom Modell, vom Anbieter, vom Prompt, von der Länge der Antwort und von den Netzwerkbedingungen ab. Ein Prozentwert, der an der Arbeitslast eines anderen gemessen wurde, passt womöglich nicht zu Ihrer.

Ein höherer Aufwand dauert im Allgemeinen länger und verbraucht mehr erzeugte Token. Ob er die Antwort verbessert, hängt von der Aufgabe ab.

Vier durchgespielte Beispiele

Formuliere das prägnanter und professioneller um

Niedriger Aufwand. Es gibt nichts auszuarbeiten. Das Modell muss das Sprachregister erkennen und flüssigen Text erzeugen, beides erledigt es in einem Durchgang. Tiefes Reasoning erzeugt hier denselben Satz, nur langsamer. Enttäuscht die Ausgabe, liegt die Lösung in einer besseren Anweisung (kürze es auf zwei Sätze, behalte die Frist) und nicht in mehr Reasoning.

Fasse diese Besprechungsnotiz zusammen und nenne die drei Entscheidungen

Niedrig bis mittel. Überwiegend Extraktion: Die Entscheidungen stehen im Text, und die Aufgabe besteht darin, sie zu finden und zu verdichten. Greifen Sie zu mittel, wenn die Notizen lang und widersprüchlich sind und herausgefunden werden muss, welche von zwei Aussagen die andere abgelöst hat; das ist echtes Schlussfolgern und keine Extraktion mehr.

Prüfe diesen Systementwurf und nenne Ausfallmöglichkeiten bei gleichzeitigen Schreibzugriffen

Hoch. Genau dafür ist der Regler da. Die Antwort verlangt, mehrere Komponenten gleichzeitig im Kopf zu halten und Abläufe zu simulieren, die das Entwurfsdokument nie ausformuliert. Ein schneller Durchgang liefert tendenziell plausible, allgemeine Ratschläge zum Sperren; ein tieferer findet eher den konkreten Ablauf, der diesen Entwurf zum Scheitern bringt.

Vergleiche diese beiden Verträge und nenne wesentlich unterschiedliche Pflichten

Mittel bis hoch, je nach Komplexität der Dokumente. Zwei Dokumente, Klauseln mit Querverweisen und Unterschiede, auf die es ankommt, versteckt zwischen Unterschieden, auf die es nicht ankommt. Die Tiefe lohnt sich.

Eine Regel, die trägt

Zahlen Sie für Reasoning, wenn die Antwort davon abhängt, mehrere Dinge richtig zu verbinden. Zahlen Sie nicht dafür, wenn die Antwort davon abhängt, eine Sache gut zu sagen.

Zwei Folgerungen, die man sich merken sollte. Hoch ist nicht automatisch besser: Bei einer Sprachaufgabe ist es langsamer und bringt nichts. Und niedrig bedeutet nicht schlechte Qualität: Bei einer Aufgabe ohne verborgene Struktur liefert es dieselbe Antwort früher.

Es praktikabel machen

Weil die Einstellung am Anbieterprofil hängt, ist das praktikable Muster, zwei Profile zu nutzen statt ständig umzustellen: ein Alltagsprofil, das auf Provider default bleibt, es sei denn, sein Modell dokumentiert none, und ein tiefes Profil mit einem leistungsfähigen Modell und erhöhtem Aufwand. Wechseln Sie in der Auswahl im Eingabebereich, wenn sich ein Problem als schwer herausstellt.

Ein durchgespieltes Beispiel für die schnelle Hälfte: gpt-6-luna dokumentiert none, und OpenAI nennt medium als Standard, deshalb stellt das Alltagsprofil in der günstigen Einrichtung mit GPT-6 Luna Reasoning effort mit Absicht auf None, statt es auf Provider default zu lassen. Diese Empfehlung gehört zu diesem Modell. Das Modell eines anderen Anbieters lehnt den Wert womöglich ab, ignoriert ihn oder hat gar kein Reasoning, das sich ausschalten ließe, und deshalb bleibt der allgemeine Rat bei Provider default, bis Sie es geprüft haben. Ein KI-Modell wählen ist die andere Hälfte derselben Entscheidung.

Eines ist zu beachten: Die Kontextverdichtung ruft Ihr konfiguriertes Modell auf, um ältere Nachrichten zusammenzufassen. In einem langen Verlauf mit einem Profil mit hohem Aufwand läuft diese Zusammenfassung ebenfalls mit hohem Aufwand. Das ist ein weiterer Grund, ein Schwergewichtsprofil nicht für beiläufige Unterhaltungen ausgewählt zu lassen.

Settings › AI providers › Model pricing