Conecte um modelo para seus documentos de incidentes

O Buncha Build funciona com um provedor de IA na nuvem por meio de um endpoint de API padrão, com um modelo rodando localmente no seu PC ou com o modelo integrado. A escolha decide para onde vai o texto do prompt, então decida antes de abrir documentos. A versão 2.9.30 oferece os 3.

Três jeitos de rodar o modelo

Um provedor de IA na nuvem

Um provedor de IA na nuvem serve para quem já tem conta em um e quer um modelo maior. O Buncha Build se conecta por um endpoint de API padrão. Os prompts saem do PC. O texto do prompt, incluindo o texto dos arquivos que o agente lê, vai para esse provedor, que também pode cobrar à parte pelo serviço, então mantenha material sensível fora da pasta de trabalho.

Um modelo rodando localmente no seu PC

Um modelo rodando localmente no seu PC serve para documentos que precisam ficar na máquina, como listas de contatos e anotações internas. Nada sai do PC. Os prompts vão só para o endpoint que você escolheu, que aqui roda na própria máquina. O custo é o hardware: um modelo menor pode escrever pior, então leia cada diff e teste o resultado.

O modelo integrado

O modelo integrado vem com o Buncha Build, então não é preciso conta na nuvem nem endpoint separado para começar. Os prompts vão só para o endpoint do modelo em uso, e só um modelo rodando localmente no seu PC mantém todos os prompts na máquina. Escolha um modelo local quando seus documentos não puderem sair do PC. Troque depois, se precisar.

Verifique a conexão com o botão Test

O botão Test verifica um endpoint antes de você começar a trabalhar. Ele mostra o tempo de resposta e a janela de contexto. A janela de contexto importa para documentos, porque uma janela pequena comporta menos páginas de uma vez, e um tempo de resposta lento torna cansativa uma revisão longa. Teste de novo depois de mudanças.

Como escolher um modelo para a tarefa

Use um modelo maior para reescritas pesadas, como reorganizar um procedimento longo em fases ou conciliar vários documentos, e um menor para edições pequenas, como corrigir uma linha de contato ou um título. run_on_model envia um passo difícil a um modelo maior enquanto o resto do chat fica no menor. Experimente os dois numa cópia.

A qualidade varia. Leia cada diff, mantenha o Ask first ligado enquanto aprende no que um modelo é bom e corrija o que ele errar. Nenhum modelo substitui o seu próprio conhecimento dos seus sistemas.