Verbinde ein Modell für deine Vorfalldokumente

Buncha Build arbeitet mit einem Cloud-KI-Anbieter über einen Standard-API-Endpoint, mit einem Modell, das lokal auf deinem PC läuft, oder mit dem integrierten Modell. Die Wahl entscheidet, wohin der Prompt-Text geht, also entscheide sie, bevor du Dokumente öffnest. Version 2.9.30 bietet alle 3.

Drei Wege, das Modell zu betreiben

Ein Cloud-KI-Anbieter

Ein Cloud-KI-Anbieter passt, wenn du dort schon ein Konto hast und ein größeres Modell willst. Buncha Build verbindet sich über einen Standard-API-Endpoint. Prompts verlassen den PC. Der Prompt-Text, einschließlich des Textes der Dateien, die der Agent liest, geht an diesen Anbieter, der seinen Dienst auch getrennt berechnen kann, also halte sensibles Material aus dem Arbeitsordner heraus.

Ein Modell, das lokal auf deinem PC läuft

Ein Modell, das lokal auf deinem PC läuft, passt zu Dokumenten, die auf dem Rechner bleiben müssen, etwa Kontaktlisten und interne Notizen. Nichts verlässt den PC. Prompts gehen nur an den Endpoint, den du gewählt hast, und der läuft hier auf dem Rechner selbst. Der Preis ist die Hardware: Ein kleineres Modell schreibt vielleicht schlechter, also lies jeden Diff und teste das Ergebnis.

Das integrierte Modell

Das integrierte Modell wird mit Buncha Build geliefert, daher brauchst du zum Start weder ein Cloud-Konto noch einen eigenen Endpoint. Prompts gehen nur an den Modell-Endpoint, der gerade im Einsatz ist, und nur ein Modell, das lokal auf deinem PC läuft, hält alle Prompts auf dem Rechner. Wähle ein lokales Modell, wenn deine Dokumente den PC nicht verlassen dürfen. Wechsle später, falls nötig.

Prüfe die Verbindung mit der Schaltfläche Test

Die Schaltfläche Test prüft einen Endpoint, bevor du mit der Arbeit beginnst. Sie zeigt die Antwortzeit und das Kontextfenster. Das Kontextfenster ist bei Dokumenten wichtig, weil ein kleines weniger Seiten auf einmal fasst, und eine lange Antwortzeit macht eine lange Prüfung mühsam. Teste nach Änderungen erneut.

Ein Modell für die Aufgabe auswählen

Nimm ein größeres Modell für aufwendige Umschreibungen, etwa ein langes Verfahren in Phasen umzubauen oder mehrere Dokumente abzugleichen, und ein kleineres für kleine Änderungen wie eine Kontaktzeile oder eine Überschrift. run_on_model schickt einen schweren Schritt an ein größeres Modell, während der Rest des Chats beim kleineren bleibt. Probiere beide an einer Kopie aus.

Die Qualität schwankt. Lies jeden Diff, lass Ask first an, solange du lernst, was ein Modell gut kann, und korrigiere, was es falsch macht. Kein Modell ersetzt dein eigenes Wissen über deine Systeme.