SideNote ProKI-Unterhaltungen, Verlauf und Kontext verwalten
Zwei verschiedene Dinge heißen die Unterhaltung: was auf Ihrer Festplatte gespeichert ist und was an das Modell gesendet wird. Den Unterschied zu verstehen, erklärt das meiste überraschende Verhalten, auf das Leute in langen Unterhaltungen stoßen.
Verlauf und Kontext sind nicht dasselbe
Lokaler Verlauf
Alles, was je in der Unterhaltung gesagt wurde, auf Ihrer Festplatte, vollständig und durchsuchbar. Die Kontextverdichtung entfernt daraus nie etwas.
Kontext des Modells
Die Teilmenge, die tatsächlich mit Ihrer nächsten Anfrage gesendet wird, begrenzt durch das Kontextfenster des Profils, über das Sie senden. Auf Auto belassen verwendet SideNote Pro seinen Standard von 128K, solange der Anbieter für das gewählte Modell kein kleineres Limit meldet.
Deshalb kann ein Modell etwas vergessen zu haben scheinen, das Sie weiter oben noch lesen können. Ihr Archiv hat es behalten; die Anfrage, die die Antwort erzeugte, enthielt es nicht wörtlich. Dokumente und Active Notes, die an eine frühere Nachricht angehängt wurden, gehören auf dieselbe Weise zur Unterhaltung: Spätere Anfragen tragen sie mit, bis die Kontextverdichtung sie zusammenfasst.
Kontextverdichtung, Schritt für Schritt
Wächst eine Unterhaltung über das Kontextfenster hinaus, über das sie gesendet wird, wirft SideNote Pro nicht einfach die ältesten Nachrichten weg. Es verdichtet.
- Die jüngsten Nachrichten unverändert behaltenMindestens die acht jüngsten werden Wort für Wort mitgeführt, weil die meisten Folgefragen auf das Neueste zielen.
- Den älteren Kontext zusammenfassenSideNote Pro bittet Ihr konfiguriertes Modell, eine strukturierte Zusammenfassung des früheren Teils der Unterhaltung zu erstellen.
- Die Zusammenfassung weiterführenSpätere Anfragen enthalten diese Zusammenfassung anstelle der ursprünglichen älteren Nachrichten.
- Die Grenze speichernDie Zusammenfassung und die Grenze der Verdichtung werden in der Unterhaltung gespeichert, sodass sich das erneute Öffnen später stimmig verhält.
- Jede ursprüngliche Nachricht lokal behaltenDie Verdichtung ändert, was gesendet wird. Sie schreibt Ihr lokales Archiv nie um und löscht nichts daraus.
Die Verdichtung ist eine Anfrage an Ihr konfiguriertes Modell. Sie verbraucht Tokens und erhöht die Latenz; ein gehosteter Anbieter kann dafür Kosten berechnen, ein lokales Modell verursacht keine API-Kosten. Ein Profil mit hohem Reasoning fasst auch mit hohem Aufwand zusammen. Behalten Sie das im Kopf, wenn Sie ein Profil für lockeres Plaudern wählen.
Das Kontextfenster einstellen
Context window gehört zum Anbieterprofil und nicht zur Anwendung, denn ein kleines lokales Modell und ein aktuelles gehostetes können sich um zwei Größenordnungen unterscheiden. Es hat zwei Modi: Auto, die richtige Antwort für fast alle, und Custom, wo Sie die Zahl selbst für jedes Modell festlegen, das dieses Profil verwendet.
Auf Auto verwendet SideNote Pro einen Standard von 128.000 Tokens. Meldet der Anbieter in der Antwort mit der Modellliste für genau dieses Modell eine kleinere Kontextlänge, gilt das kleinere Limit, denn mehr zu senden, als ein Modell aufnehmen kann, schlägt rundweg fehl. Auto wächst nie über 128K hinaus, nur weil ein Modell mehr unterstützt: Ein riesiges Fenster bei jedem Durchgang zu füllen, würde jede Anfrage langsamer und teurer machen, für Arbeit, die das selten braucht. Wählen Sie Custom, wenn Sie eine andere Größe wollen.
Die Zeile unter dem Steuerelement zeigt, welche Regel gilt. Default context size: 128k bedeutet, dass Auto den Standard von SideNote Pro verwendet; Provider-reported context size: 32,768 tokens bedeutet, dass der Anbieter für dieses Modell ein kleineres Limit gemeldet hat. Erst Test & Load models lässt Auto eine gemeldete Größe sehen, wenn der Anbieter eine bereitstellt, einschließlich der Eingabelimits je Modell, die Anthropic veröffentlicht.
Settings › AI providers
Custom akzeptiert 1.024 bis 10.000.000 Tokens und hat immer Vorrang vor Auto. Verwenden Sie es, wenn Sie wissen, dass das Modell eine andere Größe unterstützt, auch ein Kontextfenster über 128K. Die globale Einstellung Fallback context window, die frühere Versionen unter History hatten, gibt es nicht mehr.
| Situation | Richtung |
|---|---|
| Große Dokumente werden als zu großer Kontext abgelehnt | Erhöhen |
| Lange analytische Unterhaltungen verlieren frühere Details | Erhöhen |
| Antworten wirken bei einem gehosteten Anbieter langsam und teuer | Senken |
| Ein lokales Modell auf bescheidener Hardware | Senken |
| Häufige Verdichtung unterbricht den Fluss | Erhöhen oder öfter neue Unterhaltungen beginnen |
Token-Zahlen sind hier Schätzungen, berechnet aus der Textlänge plus einem festen Aufschlag je Nachricht und Bild, und nicht mit dem Tokenizer Ihres Anbieters. SideNote Pro lässt außerdem Spielraum, statt jedes theoretisch mögliche Token füllen zu wollen, weshalb eine Unterhaltung etwas früher verdichtet wird, als die Rechnung es verlangen würde.
Oft ist die bessere Lösung nicht ein größeres Fenster, sondern eine neue Unterhaltung. Eine Unterhaltung, die durch vier Themen gewandert ist, trägt drei davon als toten Ballast in jede Anfrage. Ctrl+N (Ctrl entspricht der Taste Strg) ist billig.
Unterhaltungen finden und ordnen
Ctrl+H öffnet den Verlauf, gruppiert in Pinned, Today, Yesterday, Previous 7 days und Older.
- Suche
- Die Volltextsuche läuft über Titel und Nachrichteninhalte, sodass sich eine Unterhaltung anhand von etwas finden lässt, das mittendrin gesagt wurde.
- Anheften
- Heften Sie die Unterhaltungen an, zu denen Sie zurückkehren. Angeheftete Unterhaltungen sind von der Bereinigung durch die Aufbewahrungsfrist ausgenommen.
- Umbenennen
- Nutzen Sie es, wenn sich der erzeugte Titel als nicht passend erwiesen hat.
- Löschen
- Mit Bestätigung.
- Export as Markdown
- Für eine einzelne Unterhaltung.
- Öffnen und weitermachen
- Entwurf und Scrollposition sind wiederhergestellt.
Titel werden aus Ihrer ersten Nachricht oder dem Namen eines Anhangs erzeugt und auf etwa 52 Zeichen gekürzt. Deshalb lohnt der erste Satz, den Sie tippen, einen Moment Überlegung: Er wird zum Etikett, nach dem Sie Wochen später suchen. Mehr dazu steht unter KI-Unterhaltungen ordnen.
Ist eine Schlussfolgerung oder ein nächster Schritt es wert, sichtbar zu bleiben, ohne die ganze Unterhaltung zu durchsuchen, speichern Sie ihn als Takeaway. Die Karte sitzt in einem breiten Fenster neben der Unterhaltung, sonst hinter der Schaltfläche Takeaways in der Titelleiste, zitiert die Nachricht, aus der sie stammt, und Jump to source bringt Sie zu dieser Nachricht zurück. All conversations durchsucht die Takeaways aller Unterhaltungen auf einmal.
Aufbewahrung, Schutz und Löschen
- Verlauf aus
- Schalten Sie Save conversation history on this device aus, um den lokalen Verlauf ganz auszuschalten. Standardmäßig ist er an.
- Aufbewahrung
- Delete inactive threads after (days) löscht inaktive Unterhaltungen nach dieser Anzahl von Tagen.
0behält alles unbegrenzt und ist der Standard. Angeheftete Unterhaltungen werden nie bereinigt. - Schutz
- Protect saved history with my Windows account wendet Windows DPAPI auf das Archiv an und bindet es an Ihr aktuelles Windows-Konto. Ein lokaler Schutz im Ruhezustand, kein portables, passwortbasiertes Format. Standardmäßig ist er aus.
- Delete all conversation history
- Das Archiv endgültig entfernen.
Eine vernünftige Einrichtung für die meisten: Verlauf an, Delete inactive threads after (days) auf 90, Anheften für die Unterhaltungen, die es wert sind, behalten zu werden, und Protect saved history with my Windows account an, wenn der Rechner geteilt wird oder mobil ist. Die eigenen Standardwerte von SideNote Pro sind anders: Verlauf an, keine automatische Löschung (0 Tage) und Schutz aus.
Takeaways und ihre Notizen leben innerhalb ihrer Unterhaltung, all das gilt also auch für sie: Das Löschen einer Unterhaltung, oder dass die Aufbewahrungsfrist sie entfernt, löscht ihre Takeaways, und die Verschlüsselung deckt sie ab. Schalten Sie den Verlauf aus, wird die Takeaways-Leiste ausgeblendet und es entstehen keine neuen, aber keine wird gelöscht. Active Notes werden getrennt von Unterhaltungen aufbewahrt: Verlauf aus, Aufbewahrung und Delete all conversation history lassen sie in Ruhe, während die Verschlüsselung auch sie abdeckt.
Settings › History
Settings › History
0 behält alles, angeheftete Unterhaltungen sind ausgenommen, und nichts davon berührt, was dem Modell gezeigt wird: Das ist das Kontextfenster im Profil.Jede Unterhaltung exportieren
- Settings › History öffnenExport all conversations… steht im selben Abschnitt wie die Aufbewahrung und der Schutz.
- Wählen, wo die Datei gespeichert wirdAn einem privaten Ort. SideNote Pro schlägt einen Namen mit dem heutigen Datum vor und lässt Sie nicht im eigenen Datenordner speichern.
- Die Anzahl prüfenIst die Datei geschrieben, sagt SideNote Pro, wie viele Unterhaltungen sie enthält.
Was die Datei enthält
Die Datei ist ein einziges JSON-Dokument, das jede gespeicherte Unterhaltung so enthält, wie sie zuletzt gespeichert wurde: Nachrichten mit ihrem Anbieter und Modell, Takeaways und ihre Notizen, Bilder, den extrahierten Text von Dokumenten, mit einer Nachricht gesendete Notizen sowie den Entwurf und die Wahl des Systemprompts jeder Unterhaltung. Noch nicht gesendete Anhänge und noch nicht gespeicherte Änderungen sind nicht enthalten, ebenso wenig Ihre Einstellungen, API-Schlüssel, die Bibliothek der Active Notes, Nutzungszahlen oder Ordnerindizes.
Der Export ist Klartext, auch bei eingeschaltetem Schutz des Verlaufs ungeschützt, und enthält Ihre Unterhaltungen ungeschwärzt. Er ist ein Export und kein Wiederherstellungspunkt: SideNote Pro hat keinen Import für Unterhaltungen. Um eine Unterhaltung lesbar aufzubewahren, gibt es weiterhin den Markdown-Export der Verlaufsliste.
Einstellungen exportieren, um sie auf einen anderen PC zu übertragen
Move settings to another PC am Ende von Settings › General hat Export settings… und Import settings…. Die Datei überträgt Ihre Einrichtung, nicht Ihre Daten.
In der Datei
Anbieterprofile und der Standard, Systemprompts, Ihre Tastenkombinationen, eigene Aktionen und die Übersetzungssprache, Inline-Befehle und der Writing context, das Tageslimit und die Modellpreise, Takeaways-Einstellungen sowie Ordnernamen und -pfade.
Nicht in der Datei
API-Schlüssel, Ihre Lizenz, der Fortschritt der Testversion, Nutzungssummen, Unterhaltungen, Active Notes, Ordnerindizes, die Fensterposition, das Erscheinungsbild, der Start und die Einstellungen zu Verlauf und Datenschutz.
Schlüssel, Prompts und Ordner
Geben Sie Ihre API-Schlüssel auf dem anderen PC erneut ein. Die Datei enthält Ihre Prompts, den Writing context und die Ordnerpfade als Klartext, behandeln Sie sie also als privat. Beim Importieren wird gesagt, was ersetzt wird, und es ändert sich nichts, bis Sie in Settings Save wählen; ein Ordner, den der andere PC nicht indiziert hat, beginnt als nicht indiziert.
Sichern
Es gibt keine Kopie in der Cloud und keine Synchronisierung zwischen Geräten, eine Sicherung ist also Ihre Aufgabe. Das Archiv liegt unter %LOCALAPPDATA%\SideNote Pro\, mit Ihren Active Notes daneben.
Ein Vorbehalt, der zählt: Ein durch DPAPI geschütztes Archiv ist an das Windows-Konto gebunden, das es erzeugt hat. Die Datei auf einen anderen Rechner oder in ein anderes Konto zu kopieren, macht sie dort nicht lesbar. Um Ihre Unterhaltungen anderswo zu lesen, exportieren Sie sie, alle auf einmal als JSON oder einzeln als Markdown, statt die Datei zu kopieren.