Alege modelul din spatele analizelor tale de loguri
SmartCode Relay funcționează cu un furnizor de IA în cloud printr-un endpoint API standard, cu un model care rulează local pe calculatorul tău sau cu modelul încorporat. Există trei opțiuni. Alegerea ta decide ce text părăsește mașina, așa că citește nota despre confidențialitate de sub fiecare opțiune.
Trei moduri de a conecta un model
Un furnizor de IA în cloud
Un furnizor de IA în cloud se conectează printr-un endpoint API standard și se potrivește pașilor dificili, cum ar fi citirea unui set lung de setări de server. Textul promptului, inclusiv orice text de fișier pe care îl citește agentul, merge la acel furnizor, așa că elimină adresele IP ale vizitatorilor din logurile exportate când poți. Verifică termenii furnizorului. Costurile, dacă există, vin de la furnizor.
Un model pe calculatorul tău
Un model care rulează local pe calculatorul tău se potrivește pentru loguri și setări pe care preferi să nu le trimiți nicăieri. Nimic nu părăsește mașina. Timpul de răspuns și fereastra de context utilizabilă depind de hardware-ul tău, așa că apasă Test ca să le vezi pe amândouă înainte să te bazezi pe model pentru un log lung.
Modelul încorporat
Modelul încorporat este a treia alegere, alături de un furnizor de IA în cloud și de un model care rulează local pe calculatorul tău. Prompturile merg doar la endpoint-ul modelului pe care îl alegi, iar pagina de confidențialitate listează funcțiile de rețea opționale care folosesc rețeaua. Citește-o mai întâi.
Ce arată butonul Test
Butonul Test verifică un endpoint înainte să începi o analiză. Arată timpul de răspuns și fereastra de context, care îți spune cât text de loguri și setări încape într-o singură cerere. Dacă testul eșuează, verifică întâi detaliile endpoint-ului. Testează din nou după modificări.
Alegerea unui model pentru sarcină
Folosește un model mai mare pentru părțile dificile, cum ar fi citirea unei configurații lungi cu multe reguli, și unul mai mic pentru editări minore, ca valoarea unui timeout. run_on_model trimite un pas dificil unui model mai mare, iar restul chatului continuă cu cel mic. Se schimbă doar acel pas.
Calitatea variază între modele, așa că revizuiește fiecare diff înainte să-l accepți. În modul Ask first agentul se oprește înainte de fiecare modificare, iar rezultatul îl testezi cu propria ta comandă de test pe o copie. Modelele greșesc.
