Scegli il modello dietro le tue analisi dei log
SmartCode Relay funziona con un provider di IA nel cloud tramite un endpoint API standard, un modello che gira in locale sul tuo PC oppure il modello integrato. Le opzioni sono tre. La tua scelta decide quale testo lascia la macchina, quindi leggi la nota sulla privacy sotto ogni opzione.
Tre modi per collegare un modello
Un provider di IA nel cloud
Un provider di IA nel cloud si collega tramite un endpoint API standard ed è adatto ai passi difficili, come leggere un lungo insieme di impostazioni del server. Il testo del prompt, incluso quello dei file che l’agente legge, va a quel provider, quindi rimuovi gli indirizzi IP dei visitatori dai log esportati quando puoi. Controlla le condizioni del provider. Gli eventuali costi vengono dal provider.
Un modello sul tuo PC
Un modello che gira in locale sul tuo PC è adatto a log e impostazioni che preferisci non inviare da nessuna parte. Nulla lascia la macchina. Il tempo di risposta e la finestra di contesto utilizzabile dipendono dal tuo hardware, quindi premi Test per vedere entrambi prima di affidarti al modello per un log lungo.
Il modello integrato
Il modello integrato è la terza scelta, accanto a un provider di IA nel cloud e a un modello che gira in locale sul tuo PC. I prompt vanno solo all’endpoint del modello che scegli, e la pagina sulla privacy elenca le funzioni di rete facoltative che usano la rete. Leggila prima.
Cosa mostra il pulsante Test
Il pulsante Test verifica un endpoint prima di iniziare un’analisi. Mostra il tempo di risposta e la finestra di contesto, che ti dice quanto testo di log e impostazioni entra in una singola richiesta. Se il test fallisce, controlla prima i dettagli dell’endpoint. Ripeti il test dopo le modifiche.
Scegliere un modello per il compito
Usa un modello più grande per le parti difficili, come leggere una configurazione lunga con molte regole, e uno più piccolo per modifiche minori come il valore di un timeout. run_on_model manda un passo difficile a un modello più grande, e il resto della chat prosegue con quello più piccolo. Cambia solo quel passo.
La qualità varia tra i modelli, quindi rivedi ogni diff prima di accettarlo. In modalità Ask first l’agente si ferma prima di ogni modifica, e testi il risultato con il tuo comando di test su una copia. I modelli sbagliano.
