Podłącz model do dokumentów o incydentach

Buncha Build działa z dostawcą AI w chmurze przez standardowy endpoint API, z modelem działającym lokalnie na Twoim PC albo z modelem wbudowanym. Wybór decyduje, dokąd trafia tekst promptu, więc zdecyduj przed otwarciem dokumentów. Wersja 2.9.30 oferuje wszystkie 3.

Trzy sposoby uruchomienia modelu

Dostawca AI w chmurze

Dostawca AI w chmurze pasuje komuś, kto ma już u niego konto i chce większego modelu. Buncha Build łączy się przez standardowy endpoint API. Prompty opuszczają PC. Tekst promptu, razem z tekstem plików, które czyta agent, trafia do tego dostawcy, który może też osobno pobierać opłatę za usługę, więc nie trzymaj wrażliwych materiałów w folderze roboczym.

Model działający lokalnie na Twoim PC

Model działający lokalnie na Twoim PC pasuje do dokumentów, które muszą zostać na maszynie, takich jak listy kontaktów i notatki wewnętrzne. Nic nie opuszcza PC. Prompty trafiają tylko do wybranego przez Ciebie endpointu, który tu działa na samej maszynie. Ceną jest sprzęt: mniejszy model może pisać gorzej, więc czytaj każdy diff i testuj wynik.

Model wbudowany

Model wbudowany jest dołączony do Buncha Build, więc na start nie potrzeba konta w chmurze ani osobnego endpointu. Prompty trafiają tylko do endpointu używanego modelu, a tylko model działający lokalnie na Twoim PC zatrzymuje wszystkie prompty na maszynie. Wybierz model lokalny, gdy dokumenty nie mogą opuścić PC. W razie potrzeby zmień go później.

Sprawdź połączenie przyciskiem Test

Przycisk Test sprawdza endpoint, zanim zaczniesz pracę. Pokazuje czas odpowiedzi i okno kontekstu. Okno kontekstu ma znaczenie przy dokumentach, bo małe mieści naraz mniej stron, a wolny czas odpowiedzi męczy przy długim przeglądzie. Testuj ponownie po zmianach.

Wybór modelu do zadania

Większy model wybierz do ciężkich przepisań, takich jak przebudowa długiej procedury na fazy albo uzgodnienie kilku dokumentów, a mniejszy do drobnych poprawek, jak wiersz kontaktu czy nagłówek. run_on_model wysyła jeden trudny krok do większego modelu, a reszta czatu zostaje na mniejszym. Wypróbuj oba na kopii.

Jakość bywa różna. Czytaj każdy diff, zostaw Ask first włączone, gdy uczysz się, co model robi dobrze, i poprawiaj to, co robi źle. Żaden model nie zastąpi Twojej własnej wiedzy o Twoich systemach.