SideNote ProLM Studio mit SideNote Pro nutzen
LM Studio ist eine Desktop-Anwendung zum Herunterladen und Ausführen lokaler Modelle, mit einem eingebauten Server, der die OpenAI-kompatible API spricht. SideNote Pro verbindet sich mit diesem Server. Wenn Sie eine grafische Modellverwaltung einer Kommandozeile vorziehen, ist es der leichtere lokale Weg.
Einrichtung
- LM Studio installieren und ein Modell herunterladenDie eigene Oberfläche von LM Studio übernimmt das Durchsuchen und Herunterladen. Wählen Sie etwas, das zu Ihrer Hardware passt; die Oberfläche sagt Ihnen, was hineinpasst.
- Den lokalen Server startenDas ist der Schritt, den man gern übersieht. Ein Modell herunterzuladen heißt nicht, es bereitzustellen. LM Studio hat eine eigene Ansicht für den lokalen Server, und der muss laufen, mit einem geladenen Modell.
- In SideNote Pro ein LM-Studio-Profil hinzufügenSettings, AI providers, ein Profil hinzufügen und in der Liste Provider den Eintrag LM Studio wählen. Die Adresse, unter der der lokale Server standardmäßig lauscht, wird für Sie eingetragen.
- Test & Load models wählen und ein Modell auswählenDie Schaltfläche meldet, was der Server anbietet. Wählen Sie das geladene Modell in der Auswahl oder tippen Sie seine Kennung ein.
| Feld | Wert |
|---|---|
| Provider | LM Studio |
| Base URL | Wird für Sie eingetragen: http://localhost:1234/v1 |
| Model | Die Kennung des Modells, das Sie geladen haben |
| API key | Leer bei einem lokalen Standardserver |
| Reasoning effort | Provider default |
| Context window | Auto |
Erreicht Test & Load models den Server nicht, gehen Sie in dieser Reihenfolge vor: Ist der Server von LM Studio tatsächlich gestartet, ist ein Modell geladen, und ist der Port noch 1234? Wenn Sie den Port in LM Studio ändern, müssen Sie die Base URL in SideNote Pro entsprechend anpassen, und dafür ist das Feld da.
Settings › AI providers
localhost, und der API-Schlüssel bleibt leer. Test & Load models fragt den lokalen Server, was er bereitstellt, und so wird auch die Modellauswahl gefüllt.Worin sich das von Ollama unterscheidet
Für die Zwecke von SideNote Pro kaum. Beide sind lokale OpenAI-kompatible Server, und alles in der Ollama-Anleitung zu Erwartungen, Tempo und Bildunterstützung gilt hier unverändert. Die dort beschriebenen Kontext-Standardwerte, die vom Grafikspeicher abhängen, sind die von Ollama und gelten für LM Studio nicht automatisch; der Rat, Context window auf die Größe zu setzen, die der Server tatsächlich verwendet, gilt hier dagegen unverändert.
Der Unterschied liegt in der Erfahrung bei der Modellverwaltung. LM Studio ist grafisch, mit Modellsuche, Hinweisen zur Hardware-Kompatibilität und einem eigenen Schalter für den Server. Ollama arbeitet zuerst über die Kommandozeile und ist im Hintergrund leichter zu betreiben. Welches zu Ihnen passt, ist Geschmackssache und keine Frage dessen, was SideNote Pro kann.
Dieselben Einschränkungen gelten
- Die Leistungsfähigkeit des Modells wird von Ihrer Hardware begrenzt, nicht von SideNote Pro.
- Ob Bildeingabe geht, hängt davon ab, ob das geladene Modell sie unterstützt.
reasoning_effortwird möglicherweise ignoriert. Lassen Sie es auf Provider default.- Nutzungsmetadaten können fehlen; dann werden lokale Token-Schätzungen verwendet.
- Der Server muss laufen, damit das Profil funktioniert. Ein lokales Profil scheitert anders als ein gehostetes, und unreachable endpoint heißt fast immer, dass der Server beendet wurde.
SideNote Pro liefert Software für lokale Modelle von Drittanbietern weder mit noch garantiert es dafür. Es sendet Anfragen an die Adresse, die Sie konfiguriert haben.
Nutzen Sie das Modell, das LM Studio ohnehin bereitstellt
Starten Sie den lokalen Server von LM Studio mit einem geladenen Modell und fügen Sie dann in SideNote Pro ein LM-Studio-Profil hinzu. Ihr erster Prompt geht an diesen Server.
Die Benutzeroberfläche von SideNote Pro ist derzeit auf Englisch verfügbar.
Installation aus dem Microsoft Store unter Windows 10 ab Version 2004 (Build 19041) oder Windows 11, x64. Die 30-Tage-Testversion startet auf dem Bildschirm bei der ersten Nutzung. Die Lizenz enthält keine KI-Nutzung. Ein Modell, das in LM Studio läuft, verursacht keine Kosten für eine gehostete API, braucht aber einen PC, der es ausführen kann, und sein Tempo und seine Leistungsfähigkeit hängen von diesem PC ab.