Collega un modello per i tuoi documenti sugli incidenti
Buncha Build funziona con un provider di IA cloud tramite un endpoint API standard, con un modello in esecuzione in locale sul tuo PC o con il modello integrato. La scelta decide dove va il testo del prompt, quindi decidi prima di aprire i documenti. La versione 2.9.30 li offre tutti e 3.
Tre modi per eseguire il modello
Un provider di IA cloud
Un provider di IA cloud va bene per chi ha già un account e vuole un modello più grande. Buncha Build si collega tramite un endpoint API standard. I prompt escono dal PC. Il testo del prompt, compreso il testo dei file che l'agente legge, va a quel provider, che può anche far pagare a parte il servizio, quindi tieni il materiale sensibile fuori dalla cartella di lavoro.
Un modello in esecuzione in locale sul tuo PC
Un modello in esecuzione in locale sul tuo PC va bene per documenti che devono restare sulla macchina, come elenchi di contatti e note interne. Non esce nulla dal PC. I prompt vanno solo all'endpoint che hai scelto, che qui gira sulla macchina stessa. Il compromesso è l'hardware: un modello più piccolo può scrivere peggio, quindi leggi ogni diff e prova il risultato.
Il modello integrato
Il modello integrato è incluso in Buncha Build, quindi per iniziare non servono né un account cloud né un endpoint separato. I prompt vanno solo all'endpoint del modello in uso, e solo un modello in esecuzione in locale sul tuo PC tiene tutti i prompt sulla macchina. Scegli un modello locale quando i documenti non devono lasciare il PC. Cambia dopo, se serve.
Verifica la connessione con il pulsante Test
Il pulsante Test controlla un endpoint prima che tu inizi a lavorare. Mostra il tempo di risposta e la finestra di contesto. La finestra di contesto conta per i documenti, perché una piccola contiene meno pagine alla volta, e un tempo di risposta lento rende faticosa una revisione lunga. Riprova dopo ogni modifica.
Scegliere un modello per il compito
Usa un modello più grande per le riscritture pesanti, come ristrutturare una procedura lunga in fasi o riconciliare più documenti, e uno più piccolo per le piccole modifiche, come correggere una riga di contatto o un titolo. run_on_model manda un passo difficile a un modello più grande mentre il resto della chat resta sul più piccolo. Prova entrambi su una copia.
La qualità varia. Leggi ogni diff, tieni attivo Ask first mentre impari cosa fa bene un modello e correggi ciò che sbaglia. Nessun modello sostituisce la tua conoscenza dei tuoi sistemi.
