Connecte un modèle pour tes documents d'incident
Buncha Build fonctionne avec un fournisseur d'IA cloud via un endpoint d'API standard, avec un modèle qui tourne en local sur ton PC, ou avec le modèle intégré. Ce choix décide où part le texte du prompt, donc fais-le avant d'ouvrir des documents. La version 2.9.30 propose les 3.
Trois façons de faire tourner le modèle
Un fournisseur d'IA cloud
Un fournisseur d'IA cloud convient à ceux qui ont déjà un compte chez l'un d'eux et veulent un modèle plus grand. Buncha Build se connecte via un endpoint d'API standard. Les prompts quittent le PC. Le texte du prompt, y compris le texte des fichiers que l'agent lit, part chez ce fournisseur, qui peut aussi facturer son service à part, alors garde les documents sensibles hors du dossier de travail.
Un modèle qui tourne en local sur ton PC
Un modèle qui tourne en local sur ton PC convient aux documents qui doivent rester sur la machine, comme les listes de contacts et les notes internes. Rien ne quitte le PC. Les prompts vont uniquement vers l'endpoint que tu as choisi, qui tourne ici sur la machine elle-même. Le compromis, c'est le matériel : un modèle plus petit peut moins bien écrire, alors lis chaque diff et teste le résultat.
Le modèle intégré
Le modèle intégré est fourni avec Buncha Build, donc aucun compte cloud ni endpoint séparé n'est nécessaire pour démarrer. Les prompts vont uniquement vers l'endpoint du modèle utilisé, et seul un modèle qui tourne en local sur ton PC garde tous les prompts sur la machine. Choisis un modèle local quand tes documents ne doivent pas quitter le PC. Change plus tard si besoin.
Vérifie la connexion avec le bouton Test
Le bouton Test vérifie un endpoint avant de commencer à travailler. Il affiche le temps de réponse et la fenêtre de contexte. La fenêtre de contexte compte pour les documents, car une petite fenêtre contient moins de pages à la fois, et un temps de réponse lent rend une longue relecture pénible. Teste à nouveau après chaque changement.
Choisir un modèle selon la tâche
Utilise un modèle plus grand pour les grosses réécritures, comme restructurer une longue procédure en phases ou rapprocher plusieurs documents, et un plus petit pour les petites modifications, comme corriger une ligne de contact ou un titre. run_on_model envoie une étape difficile à un modèle plus grand pendant que le reste du chat reste sur le plus petit. Essaie les deux sur une copie.
La qualité varie. Lis chaque diff, garde Ask first activé pendant que tu apprends ce qu'un modèle fait bien, et corrige ce qu'il rate. Aucun modèle ne remplace ta propre connaissance de tes systèmes.
