SideNote ProLokale Nutzungs- und Kostenerfassung für Ihre KI-API-Ausgaben
Die Abrechnung nach Verbrauch ist nur dann unangenehm, wenn sie unsichtbar ist. SideNote Pro führt ein lokales Protokoll dessen, was Sie genutzt haben, nach Anbieter und Modell, damit Sie die Form Ihrer Ausgaben sehen, ohne auf eine Rechnung zu warten.
Was erfasst wird
- Token-Zahlen
- Lokale Schätzungen, die durch die vom Anbieter gemeldeten Werte ersetzt werden, wenn der Endpunkt Nutzungsmetadaten zurückgibt.
- Herkunft
- An welches Anbieterprofil und welches Modell eine Anfrage ging, unveränderlich zur Antwort gespeichert.
- Preis-Momentaufnahmen
- Der Preis, der für eine Schätzung verwendet wurde, wird mit ihr gespeichert, damit sich frühere Einträge nicht stillschweigend ändern, wenn sich ein Preis ändert.
- Ein Tagesprotokoll
- Begrenzte Tagesaggregate nach Anbieter, Modell und Anfragekategorie.
- Lokale Kostenschätzungen
- abgeleitet aus dem Obigen.
Vom Anbieter gemeldete Nutzungswerte haben Vorrang vor lokalen Schätzungen, wann immer sie verfügbar sind. SideNote Pro erkennt die gängigen Felder für Prompt-, Eingabe-, Completion-, Ausgabe- und Gesamt-Token in den letzten Stream-Ereignissen und in den Antwortmetadaten. Endpunkte, die Nutzungswerte ganz weglassen, bleiben voll unterstützt; Sie erhalten dann eben Schätzungen statt gemeldeter Werte.
Settings › Usage & cost
Settings › Usage & cost
Woher die Preise kommen
SideNote Pro liefert keine Anbieterpreise mit, nicht einmal für das voreingestellte OpenAI-Modell. Die Preise der Anbieter können sich ändern, deshalb nutzt SideNote Pro für lokale Schätzungen Preise, die Sie selbst eintragen, statt in die Anwendung eingebauter Werte.
Legen Sie den Preis also selbst fest. Jedes Anbieterprofil und jedes Modell kann einen Eingabe- und einen Ausgabepreis in USD pro Million Token tragen, eingetragen unter Settings, AI providers. Preise, die Sie konfigurieren, sind als vom Benutzer konfiguriert gekennzeichnet, und frühere Antworten behalten die Preis-Momentaufnahme, mit der sie gespeichert wurden. Die Einrichtung mit GPT-6 Luna rechnet beide Werte für ein aktuelles, günstiges OpenAI-Modell durch, dazu, was eine typische Anfrage zu diesen Preisen kostet.
Settings › AI providers › Model pricing
Holen Sie die Zahlen von der eigenen Preisseite Ihres Anbieters, und zwar in dem Moment, in dem Sie sie eintragen. Modellpreise ändern sich, und ein Wert, der vor sechs Monaten aus einem Blogbeitrag kopiert wurde, macht stillschweigend jede Schätzung falsch.
Das optionale Tageslimit
Sie können ein Tageslimit für die Schätzung in USD festlegen. Würden die geschätzten Ausgaben des Tages es überschreiten, stoppt SideNote Pro vor dem Senden, und es kann einen laufenden Stream abbrechen, der die Grenze mitten in der Antwort überschreitet.
Das ist eine Leitplanke gegen einen ausufernden Nachmittag und keine Abrechnungskontrolle. Es arbeitet mit lokalen Schätzungen, kann also nichts von der Nutzung anderer Anwendungen wissen, die denselben API-Schlüssel verwenden, und kann sich nicht mit dem Zähler Ihres Anbieters abgleichen. Betrachten Sie es als Sicherheitsgurt und legen Sie im Dashboard Ihres Anbieters eine feste Ausgabenobergrenze als die eigentliche Grenze fest.
Settings › Usage & cost
Schätzungen, und was das Protokoll speichert
SideNote Pro fragt das Abrechnungssystem eines gehosteten Anbieters nicht ab. Es sendet den Schlüssel, den Sie konfiguriert haben, um Anfragen zu authentifizieren, hat aber keinen Zugriff auf das Konto des Anbieters oder auf die Beträge der Nutzungsseite. Ein lokaler Endpunkt kommt womöglich ganz ohne Schlüssel aus.
Alles hier ist eine Schätzung. Bei einem gehosteten Anbieter ist dessen Rechnung maßgeblich. Schätzungen helfen Ihnen, Konfigurationen zu vergleichen; sie gleichen eine Rechnung nicht auf den Cent ab. Ein lokales Modell verursacht keine API-Kosten, seine Token-Zahlen erscheinen hier aber trotzdem.
Das Protokoll speichert Zählwerte, Daten, Herkunft von Anbieter und Modell, Anfragekategorien und Kostenaggregate. Es speichert keine Prompts, Antworten, markierten Texte, Dateinamen, Dokumentinhalte, Screenshots, Bilddaten oder API-Schlüssel. Die Nutzungsdaten verlassen Ihren PC nie und werden nie an BediniLabs gesendet.
Was Sie mit den Zahlen anfangen
Nutzen Sie das Protokoll, um eine Woche an Anfragen nach Anbieter und Modell zu vergleichen. Sehen Sie nach, welche Kombinationen überwiegen, und fragen Sie sich, ob die teuren davon Arbeit erledigt haben, für die sie wirklich nötig waren.
Wenn ein schweres Modell aus Gewohnheit kurze Umformulierungen übernimmt, zeigt API-Kosten senken, wie Sie weniger ausgeben, und das passende Modell wählen hilft, Modelle der Arbeit zuzuordnen.