Escolha o modelo por trás das suas revisões de logs

O SmartCode Relay funciona com um provedor de IA na nuvem por meio de um endpoint de API padrão, um modelo rodando localmente no seu PC ou o modelo integrado. São três opções. A sua escolha decide qual texto sai da máquina, então leia a nota de privacidade sob cada opção.

Três formas de conectar um modelo

Um provedor de IA na nuvem

Um provedor de IA na nuvem se conecta por um endpoint de API padrão e serve para passos difíceis, como ler um conjunto longo de configurações de servidor. O texto do prompt, incluindo qualquer texto de arquivo que o agente leia, vai para esse provedor, então remova os endereços IP de visitantes dos logs exportados quando puder. Confira os termos do provedor. As cobranças, se houver, vêm do provedor.

Um modelo no seu PC

Um modelo rodando localmente no seu PC serve para logs e configurações que você prefere não enviar a lugar nenhum. Nada sai da máquina. O tempo de resposta e a janela de contexto utilizável dependem do seu hardware, então clique em Test para ver os dois antes de confiar no modelo para um log longo.

O modelo integrado

O modelo integrado é a terceira opção, ao lado de um provedor de IA na nuvem e de um modelo rodando localmente no seu PC. Os prompts vão somente para o endpoint de modelo que você escolher, e a página de privacidade lista os recursos de rede opcionais que usam a rede. Leia-a primeiro.

O que o botão Test mostra

O botão Test verifica um endpoint antes de você iniciar uma revisão. Ele mostra o tempo de resposta e a janela de contexto, que diz quanto texto de logs e configurações cabe em uma única requisição. Se o teste falhar, confira primeiro os dados do endpoint. Teste de novo depois das mudanças.

Como escolher um modelo para a tarefa

Use um modelo maior para as partes difíceis, como ler uma configuração longa com muitas regras, e um menor para edições pequenas, como o valor de um timeout. O run_on_model envia um passo difícil a um modelo maior, e o resto do chat continua com o menor. Só esse passo muda.

A qualidade varia entre modelos, então revise cada diff antes de aceitar. No modo Ask first o agente pausa antes de cada mudança, e você testa o resultado com o seu próprio comando de teste em uma cópia. Modelos cometem erros.