Wähle das Modell hinter deinen Log-Auswertungen

SmartCode Relay arbeitet mit einem Cloud-KI-Anbieter über einen Standard-API-Endpunkt, einem Modell, das lokal auf deinem PC läuft, oder dem integrierten Modell. Es gibt drei Optionen. Deine Wahl entscheidet, welcher Text den Rechner verlässt, also lies den Datenschutzhinweis unter jeder Option.

Drei Wege, ein Modell zu verbinden

Ein Cloud-KI-Anbieter

Ein Cloud-KI-Anbieter wird über einen Standard-API-Endpunkt verbunden und eignet sich für schwierige Schritte, etwa das Lesen eines langen Satzes von Servereinstellungen. Der Prompt-Text, einschließlich jedes Dateitextes, den der Agent liest, geht an diesen Anbieter, also entferne IP-Adressen von Besuchern aus exportierten Logs, wenn du kannst. Prüfe die Bedingungen des Anbieters. Eventuelle Kosten stellt der Anbieter in Rechnung.

Ein Modell auf deinem PC

Ein Modell, das lokal auf deinem PC läuft, eignet sich für Logs und Einstellungen, die du lieber nirgendwohin sendest. Nichts verlässt den Rechner. Antwortzeit und nutzbares Kontextfenster hängen von deiner Hardware ab, also klicke auf Test, um beides zu sehen, bevor du dich bei einem langen Log auf das Modell verlässt.

Das integrierte Modell

Das integrierte Modell ist die dritte Wahl, neben einem Cloud-KI-Anbieter und einem Modell, das lokal auf deinem PC läuft. Prompts gehen nur an den Modell-Endpunkt, den du wählst, und die Datenschutzseite listet die optionalen Netzwerkfunktionen auf, die das Netz nutzen. Lies sie zuerst.

Was die Schaltfläche Test zeigt

Die Schaltfläche Test prüft einen Endpunkt, bevor du eine Auswertung startest. Sie zeigt Antwortzeit und Kontextfenster, was dir sagt, wie viel Log- und Einstellungstext in eine einzelne Anfrage passt. Wenn der Test fehlschlägt, prüfe zuerst die Endpunktdaten. Teste nach Änderungen erneut.

Ein Modell für die Aufgabe wählen

Nimm ein größeres Modell für die schwierigen Teile, etwa das Lesen einer langen Konfiguration mit vielen Regeln, und ein kleineres für kleine Änderungen wie einen Timeout-Wert. run_on_model schickt einen schwierigen Schritt an ein größeres Modell, und der Rest des Chats läuft mit dem kleineren weiter. Nur dieser Schritt wechselt.

Die Qualität schwankt zwischen Modellen, also prüfe jeden Diff, bevor du ihn übernimmst. Im Modus Ask first hält der Agent vor jeder Änderung an, und du testest das Ergebnis mit deinem eigenen Testbefehl auf einer Kopie. Modelle machen Fehler.