Conectează un model pentru documentele tale despre incidente
Buncha Build funcționează cu un furnizor AI în cloud printr-un endpoint API standard, cu un model care rulează local pe PC-ul tău sau cu modelul integrat. Alegerea hotărăște unde ajunge textul promptului, așa că decide înainte să deschizi documente. Versiunea 2.9.30 le oferă pe toate 3.
Trei moduri de a rula modelul
Un furnizor AI în cloud
Un furnizor AI în cloud se potrivește celor care au deja un cont la unul și vor un model mai mare. Buncha Build se conectează printr-un endpoint API standard. Prompturile pleacă de pe PC. Textul promptului, inclusiv textul fișierelor pe care le citește agentul, ajunge la acel furnizor, care poate taxa separat serviciul, așa că ține materialele sensibile departe de folderul de lucru.
Un model care rulează local pe PC-ul tău
Un model care rulează local pe PC-ul tău se potrivește documentelor care trebuie să rămână pe mașină, cum sunt listele de contacte și notițele interne. Nimic nu părăsește PC-ul. Prompturile merg doar la endpoint-ul ales de tine, care aici rulează chiar pe mașină. Compromisul este hardware-ul: un model mai mic poate scrie mai slab, așa că citește fiecare diff și testează rezultatul.
Modelul integrat
Modelul integrat vine cu Buncha Build, așa că nu ai nevoie de un cont în cloud sau de un endpoint separat ca să începi. Prompturile merg doar la endpoint-ul modelului folosit, iar doar un model care rulează local pe PC-ul tău ține toate prompturile pe mașină. Alege un model local când documentele nu trebuie să părăsească PC-ul. Schimbă-l mai târziu, dacă e nevoie.
Verifică conexiunea cu butonul Test
Butonul Test verifică un endpoint înainte să începi lucrul. Arată timpul de răspuns și fereastra de context. Fereastra de context contează la documente, pentru că una mică cuprinde mai puține pagini deodată, iar un timp de răspuns lent face obositoare o evaluare lungă. Testează din nou după modificări.
Alegerea unui model pentru sarcină
Folosește un model mai mare pentru rescrieri mari, cum ar fi reorganizarea unei proceduri lungi în faze sau potrivirea mai multor documente, și unul mai mic pentru modificări mici, ca ajustarea unui rând de contact sau a unui titlu. run_on_model trimite un pas dificil unui model mai mare, în timp ce restul chatului rămâne la cel mic. Încearcă-le pe amândouă pe o copie.
Calitatea variază. Citește fiecare diff, ține Ask first activat cât timp înveți ce face bine un model și corectează ce face greșit. Niciun model nu înlocuiește cunoștințele tale despre propriile sisteme.
