Olay belgelerin için bir model bağla

Buncha Build, standart bir API uç noktası üzerinden bir bulut yapay zekâ sağlayıcısıyla, bilgisayarında yerel olarak çalışan bir modelle ya da yerleşik modelle çalışır. Seçim, istem metninin nereye gideceğini belirler; bu yüzden belgeleri açmadan önce karar ver. Sürüm 2.9.30’de üçü de var.

Modeli çalıştırmanın üç yolu

Bir bulut yapay zekâ sağlayıcısı

Bulut yapay zekâ sağlayıcısı, zaten bir sağlayıcıda hesabı olan ve daha büyük bir model isteyenlere uygundur. Buncha Build standart bir API uç noktası üzerinden bağlanır. İstemler bilgisayarından çıkar. Aracının okuduğu dosya metni dahil istem metni o sağlayıcıya gider ve sağlayıcı hizmeti için ayrıca ücret alabilir; bu yüzden hassas materyali çalışma klasörünün dışında tut.

Bilgisayarında yerel çalışan bir model

Bilgisayarında yerel olarak çalışan bir model, iletişim listeleri ve dahili notlar gibi makinede kalması gereken belgeler için uygundur. Hiçbir şey bilgisayardan çıkmaz. İstemler yalnızca seçtiğin uç noktaya gider ve bu uç nokta burada makinenin kendisinde çalışır. Bedeli donanımdır: daha küçük bir model daha kötü yazabilir; bu yüzden her diff’i oku ve sonucu test et.

Yerleşik model

Yerleşik model Buncha Build ile birlikte gelir; bu yüzden başlamak için bir bulut hesabına ya da ayrı bir uç noktaya gerek yoktur. İstemler yalnızca kullanılan model uç noktasına gider ve her istemi makinede tutan tek seçenek bilgisayarında yerel olarak çalışan modeldir. Belgelerin bilgisayardan çıkmamalıysa yerel bir model seç. Gerekirse sonra değiştir.

Bağlantıyı Test düğmesiyle denetle

Test düğmesi, işe başlamadan önce bir uç noktayı denetler. Yanıt süresini ve bağlam penceresini gösterir. Bağlam penceresi belgeler için önemlidir, çünkü küçük bir pencere aynı anda daha az sayfa alır; yavaş yanıt süresi de uzun bir incelemeyi yorucu yapar. Değişikliklerden sonra yeniden test et.

Göreve uygun model seçmek

Uzun bir prosedürü aşamalara bölmek ya da birkaç belgeyi uzlaştırmak gibi ağır yeniden yazımlarda daha büyük bir model, bir iletişim satırını ya da başlığı düzeltmek gibi küçük düzenlemelerde daha küçük bir model kullan. run_on_model tek bir zor adımı daha büyük bir modele gönderirken sohbetin geri kalanı küçük modelde kalır. İkisini de bir kopya üzerinde dene.

Kalite değişir. Her diff’i oku, bir modelin neyi iyi yaptığını öğrenirken Ask first’i açık tut ve yanlışlarını düzelt. Hiçbir model kendi sistemlerine dair bilgini yerine koyamaz.