Wybierz model stojący za analizami logów
SmartCode Relay współpracuje z dostawcą AI w chmurze przez standardowy punkt końcowy API, z modelem działającym lokalnie na Twoim komputerze albo z modelem wbudowanym. Opcje są trzy. Twój wybór decyduje, jaki tekst opuszcza maszynę, więc przeczytaj notatkę o prywatności pod każdą opcją.
Trzy sposoby połączenia modelu
Dostawca AI w chmurze
Dostawca AI w chmurze łączy się przez standardowy punkt końcowy API i nadaje się do trudnych kroków, takich jak czytanie długiego zestawu ustawień serwera. Tekst promptu, w tym każdy tekst z plików, który czyta agent, trafia do tego dostawcy, więc usuń adresy IP odwiedzających z wyeksportowanych logów, gdy to możliwe. Sprawdź warunki dostawcy. Ewentualne opłaty pochodzą od dostawcy.
Model na Twoim komputerze
Model działający lokalnie na Twoim komputerze nadaje się do logów i ustawień, których wolisz nigdzie nie wysyłać. Nic nie opuszcza maszyny. Czas odpowiedzi i użyteczne okno kontekstu zależą od Twojego sprzętu, więc kliknij Test, aby zobaczyć oba, zanim zaufasz modelowi przy długim logu.
Model wbudowany
Model wbudowany to trzeci wybór, obok dostawcy AI w chmurze i modelu działającego lokalnie na Twoim komputerze. Prompty trafiają tylko do punktu końcowego modelu, który wybierzesz, a strona prywatności wymienia opcjonalne funkcje sieciowe, które korzystają z sieci. Przeczytaj ją najpierw.
Co pokazuje przycisk Test
Przycisk Test sprawdza punkt końcowy przed rozpoczęciem analizy. Pokazuje czas odpowiedzi i okno kontekstu, które mówi, ile tekstu logów i ustawień mieści się w jednym żądaniu. Jeśli test się nie powiedzie, najpierw sprawdź dane punktu końcowego. Przetestuj ponownie po zmianach.
Wybór modelu do zadania
Użyj większego modelu do trudnych części, takich jak czytanie długiej konfiguracji z wieloma regułami, a mniejszego do drobnych zmian, jak wartość timeoutu. run_on_model wysyła jeden trudny krok do większego modelu, a reszta czatu toczy się dalej z mniejszym. Zmienia się tylko ten krok.
Jakość różni się między modelami, więc przejrzyj każdy diff przed zaakceptowaniem. W trybie Ask first agent zatrzymuje się przed każdą zmianą, a wynik testujesz własnym poleceniem testowym na kopii. Modele się mylą.