Připoj model pro své dokumenty o incidentech
Buncha Build funguje s cloudovým poskytovatelem AI přes standardní endpoint API, s modelem běžícím lokálně na tvém PC nebo s vestavěným modelem. Volba rozhoduje, kam jde text promptu, takže se rozhodni dřív, než otevřeš dokumenty. Verze 2.9.30 nabízí všechny 3.
Tři způsoby, jak model provozovat
Cloudový poskytovatel AI
Cloudový poskytovatel AI se hodí, když u něj už máš účet a chceš větší model. Buncha Build se připojuje přes standardní endpoint API. Prompty opouštějí PC. Text promptu, včetně textu souborů, které agent čte, jde k tomuto poskytovateli, který může svou službu také účtovat zvlášť, takže citlivý materiál nech mimo pracovní složku.
Model běžící lokálně na tvém PC
Model běžící lokálně na tvém PC se hodí pro dokumenty, které musí zůstat na stroji, například seznamy kontaktů a interní poznámky. Nic PC neopustí. Prompty jdou jen na endpoint, který sis vybral, a ten tady běží přímo na stroji. Cenou je hardware: menší model může psát hůř, takže čti každý diff a výsledek vyzkoušej.
Vestavěný model
Vestavěný model je součástí Buncha Build, takže ke spuštění nepotřebuješ cloudový účet ani zvláštní endpoint. Prompty jdou jen na endpoint používaného modelu a jen model běžící lokálně na tvém PC drží všechny prompty na stroji. Zvol lokální model, když dokumenty nesmí opustit PC. V případě potřeby můžeš později přepnout.
Zkontroluj připojení tlačítkem Test
Tlačítko Test zkontroluje endpoint dřív, než začneš pracovat. Ukáže dobu odezvy a kontextové okno. Kontextové okno je u dokumentů důležité, protože malé pojme najednou méně stran, a pomalá odezva dělá z dlouhé kontroly nepříjemnou práci. Po změnách otestuj znovu.
Výběr modelu pro úkol
Větší model použij na náročné přepisy, například na přestavbu dlouhého postupu do fází nebo sladění více dokumentů, a menší na drobné úpravy, třeba opravu řádku kontaktu nebo nadpisu. run_on_model pošle jeden těžký krok většímu modelu, zatímco zbytek chatu zůstane u menšího. Vyzkoušej oba na kopii.
Kvalita se liší. Čti každý diff, nech Ask first zapnuté, dokud se učíš, co model dělá dobře, a oprav, co dělá špatně. Žádný model nenahradí tvou vlastní znalost tvých systémů.