SideNote Pro

Einen beliebigen OpenAI-kompatiblen Anbieter einrichten

Sie können SideNote Pro mit jedem Dienst verbinden, der die OpenAI-kompatible Chat-Completions-API umsetzt, egal ob er in der Anbieterliste steht: Richten Sie ihn von Hand ein, oder stellen Sie ein Profil, das aus einer Voreinstellung entstanden ist, auf einen anderen Endpunkt um. Die Anbieterliste ist eine Sammlung von Erleichterungen, keine Positivliste. SideNote Pro erwartet Chat Completions mit Streaming; Modellerkennung und Nutzungsangaben sind optional.

Die Schnittstelle, die SideNote Pro erwartet

  • Authentifizierung per Bearer-Token, wenn ein API-Schlüssel vorhanden ist, und kein Auth-Header, wenn das Schlüsselfeld leer ist.
  • `GET {BaseUrl}/models` für Test & Load models, was optional ist.
  • `POST {BaseUrl}/chat/completions` mit Streaming für die Erzeugung.
  • Server-Sent Events mit data:-Einträgen, beendet durch [DONE].
  • Ein `choices`-Array mit delta.content, message.content oder text.

Der Stream-Parser toleriert absichtlich die verschiedenen Varianten aus Zeichenketten, Objekten und Inhaltsarrays, die kompatible Anbieter in der Praxis liefern, kleine Unterschiede in der Form spielen also meist keine Rolle. Nutzungsangaben sind optional: Gängige Token-Felder für Prompt, Eingabe, Vervollständigung, Ausgabe und Gesamtzahl werden erkannt, wo sie vorhanden sind, und Endpunkte, die Nutzungsangaben ganz weglassen, werden vollständig unterstützt.

Das Profil einrichten

  1. Custom OpenAI-compatible wählenEs ist der letzte Eintrag in der Liste Provider, und es ist der, der den Endpunkt Ihnen überlässt, statt einen einzutragen.
  2. Die Base URL in der Dokumentation des Anbieters findenSuchen Sie den Wert, den die Beispiele des Anbieters für sein OpenAI-SDK als Base URL setzen. Er endet meist auf /v1. Genau diese Zeichenfolge kommt in das Feld Base URL.
  3. Den API-Schlüssel eintragen, wenn der Dienst einen verlangtLassen Sie das Feld bei Diensten leer, die nicht authentifizieren, etwa bei einem lokalen Server auf Ihrem eigenen Rechner.
  4. Die Modell-ID festlegenWählen Sie zuerst Test & Load models. Veröffentlicht der Dienst eine Modellliste, wählen Sie daraus. Tut er es nicht, tippen Sie die Modell-ID genau so, wie der Anbieter sie dokumentiert: Die manuelle Eingabe funktioniert in beiden Fällen. Modell-IDs unterscheiden meist Groß- und Kleinschreibung und tragen oft ein Präfix des Herstellers.
  5. Reasoning effort auf Provider default lassenÄndern Sie es nur, wenn der Anbieter die Unterstützung von reasoning_effort für dieses Modell dokumentiert.

Der mit Abstand häufigste Fehler ist die Base URL. Zu viel (/chat/completions angehängt) und jede Anfrage endet mit 404. Zu wenig (kein /v1) und genauso. Kopieren Sie, was das OpenAI-SDK-Beispiel des Anbieters selbst verwendet, und nichts darüber hinaus.

Settings › AI providers

Die KI-Anbieter-Einstellungen von SideNote Pro mit ausgewählter Voreinstellung für den Anbieter: ein Auswahlfeld „Provider“ auf DeepSeek, darunter „Profile name“, „Model“, eine bearbeitbare „Base URL“, ein maskierter API-Schlüssel, „Reasoning effort“, „Context window“ auf Auto und eine Schaltfläche „Test and Load models“.
Derselbe Editor, den jedes Profil verwendet. Vier Felder entscheiden, ob ein kompatibler Anbieter funktioniert: die Base URL, der Schlüssel, die Modell-ID und (bei Anbietern, die reasoning_effort nicht dokumentieren) Reasoning effort auf Provider default zu lassen.

Eine Voreinstellung ist ein Ausgangspunkt, kein Modus

Einen Anbieter zu wählen ist eine Erleichterung: Es trägt die Adresse ein, unter der dieser Dienst üblicherweise antwortet, sodass Sie sie nicht selbst suchen müssen. Danach ist Base URL ein ganz normales, bearbeitbares Feld, in jedem Profil, gleich mit welchem Eintrag Sie begonnen haben.

Settings › AI providers

Das Menü „Provider“ von SideNote Pro, geöffnet unter Settings, AI providers. Es listet OpenAI, ausgewählt, dann Anthropic, Google Gemini, DeepSeek, OpenRouter, Ollama, LM Studio und Custom OpenAI-compatible.
Custom OpenAI-compatible, der letzte Eintrag, überlässt den Endpunkt Ihnen. Die Einträge darüber sind Abkürzungen zu einer Adresse, und jeder davon lässt sich danach bearbeiten, auch OpenRouter.

Deshalb funktioniert dieselbe Profilform für all das:

  • die öffentliche API des Anbieters selbst;
  • ein API-Gateway einer Firma oder einer Privatperson;
  • ein Reverse-Proxy, der vor einem von beiden sitzt;
  • ein alternativer Host für denselben Dienst;
  • ein selbst betriebener OpenAI-kompatibler Server;
  • Ollama oder LM Studio, auf diesem Rechner oder einem anderen in Ihrem Netzwerk;
  • alles andere, das dasselbe Anfrageformat spricht.

Die Einträge in der Liste Provider sind also nicht die Menge der Dienste, die SideNote Pro erreichen kann. Es sind die, für die es schon eine Adresse kennt.

Ein Endpunkt, den Sie selbst eingetragen haben, wird nicht überschrieben. SideNote Pro trägt die Base URL nur ein, wenn das Feld leer ist oder noch einen eigenen Standardwert enthält. Wechseln Sie den Anbieter in einem Profil mit Ihrer eigenen Adresse, behält es diese Adresse, sagt Ihnen das (Keeping your own endpoint for Anthropic, oder welchen Anbieter Sie gewählt haben) und bietet die Aktion Use the default endpoint an, für die Fälle, in denen Sie den Standard doch wollten.

Dazu gibt es hier auch nichts, was als eigene Einstellung zu pflegen wäre. Öffnen Sie ein Profil später erneut, wird der angezeigte Anbieter aus dem Endpunkt zurückgelesen: Eine Adresse, die SideNote Pro kennt, zeigt ihren Anbieter an, und eine, die es nicht kennt, erscheint als Custom OpenAI-compatible, was eine zutreffende Beschreibung und kein Fehler ist.

Wo die Kompatibilität meist bricht

OpenAI-kompatibel beschreibt ein Anfrageformat. Es verspricht nicht, dass jedes optionale Feld und jede Fähigkeit eines Modells sich gleich verhält. Das sind die Unterschiede, die tatsächlich auftreten.

Häufige Lücken in der Kompatibilität und wie sie aussehen
LückeWas Sie sehenWas Sie tun können
Keine Route /modelsEin Hinweis, dass der Anbieter keine Modellerkennung bietetDie Modell-ID von Hand eintippen. Sonst ist nichts betroffen
reasoning_effort nicht unterstütztDer Wert wird ignoriert, oder die Anfrage wird abgelehntReasoning effort wieder auf Provider default stellen
Keine BildeingabeBilder werden ignoriert, oder ein Fehler nennt den InhaltstypEin Modell mit Bildunterstützung verwenden oder nur Text senden
Keine NutzungsangabenToken-Zahlen werden als lokale Schätzungen angezeigtNichts. Schätzungen werden automatisch verwendet
Nicht standardkonformes StreamingLeere oder abgeschnittene AntwortenPrüfen, ob der Anbieter SSE mit [DONE] streamt
Abweichende ModellnamenBeim Senden wird das Modell nicht gefunden, obwohl der Schlüssel funktioniertDie genaue ID aus der Dokumentation des Anbieters kopieren

Was ein eigener Endpunkt braucht

Ein eigener Endpunkt braucht für gewöhnliche Text- und Bildanfragen nur Chat Completions mit Streaming. Seine Fähigkeiten für Tool- und Funktionsaufrufe, eingebaute Websuche, Audio, Video und Bilderzeugung nutzt SideNote Pro nicht. Web search gibt es nur an unterstützten Anbieter-Endpunkten von OpenAI, Anthropic und OpenRouter. Unterstützung für Web search ansehen.

Bei einem gewöhnlichen eigenen Profil kommt es darauf an, ob chat/completions mit Streaming ordentlich umgesetzt ist.

Weiterlesen

  • FunktionKI-AnbieterGehostete Anbieter, lokale Server und jeder kompatible Endpunkt, mit Modellen und Einstellungen je Profil.
  • AnleitungOpenAI einrichtenErstellen Sie einen Schlüssel, verbinden Sie ihn im Quick Setup oder von Hand und senden Sie eine erste Anfrage, ohne Code zu schreiben.
  • TippEinen Anbieter einrichtenVoreinstellungen für den Normalfall, Ihr eigener Endpunkt für alles andere.
  • AnleitungFehlersucheProbleme mit Anbieter, Tastenkombination, Anhängen und Bildschirmaufnahme diagnostizieren.
  • FunktionBring Your Own Key (BYOK)Konfigurieren Sie Ihren eigenen OpenAI-kompatiblen Endpunkt, mit einem Schlüssel, wenn er einen verlangt. Anfragen gehen direkt dorthin.