अपने घटना-दस्तावेज़ों के लिए एक मॉडल जोड़ें

Buncha Build मानक API एंडपॉइंट के ज़रिए क्लाउड AI प्रदाता के साथ, आपके पीसी पर स्थानीय रूप से चलने वाले मॉडल के साथ, या बिल्ट-इन मॉडल के साथ काम करता है। यह चुनाव तय करता है कि प्रॉम्प्ट टेक्स्ट कहाँ जाएगा, इसलिए दस्तावेज़ खोलने से पहले इसे तय करें। संस्करण 2.9.30 में तीनों उपलब्ध हैं।

मॉडल चलाने के तीन तरीके

क्लाउड AI प्रदाता

क्लाउड AI प्रदाता उन लोगों के लिए ठीक है जिनका किसी प्रदाता के पास पहले से खाता है और जो बड़ा मॉडल चाहते हैं। Buncha Build मानक API एंडपॉइंट के ज़रिए जुड़ता है। प्रॉम्प्ट पीसी से बाहर जाते हैं। एजेंट जो फ़ाइल टेक्स्ट पढ़ता है, उसके साथ प्रॉम्प्ट टेक्स्ट उसी प्रदाता के पास जाता है, जो अपनी सेवा के लिए अलग से शुल्क भी ले सकता है, इसलिए संवेदनशील सामग्री वर्किंग फ़ोल्डर से बाहर रखें।

आपके पीसी पर स्थानीय रूप से चलने वाला मॉडल

आपके पीसी पर स्थानीय रूप से चलने वाला मॉडल उन दस्तावेज़ों के लिए ठीक है जिन्हें मशीन पर ही रहना चाहिए, जैसे संपर्क सूचियाँ और आंतरिक नोट्स। पीसी से कुछ बाहर नहीं जाता। प्रॉम्प्ट सिर्फ़ आपके चुने एंडपॉइंट पर जाते हैं, जो यहाँ मशीन पर ही चलता है। इसकी कीमत हार्डवेयर है: छोटा मॉडल कम अच्छा लिख सकता है, इसलिए हर diff पढ़ें और नतीजे को परखें।

बिल्ट-इन मॉडल

बिल्ट-इन मॉडल Buncha Build के साथ आता है, इसलिए शुरू करने के लिए न क्लाउड खाता चाहिए, न अलग एंडपॉइंट। प्रॉम्प्ट सिर्फ़ उपयोग में लिए जा रहे मॉडल एंडपॉइंट पर जाते हैं, और हर प्रॉम्प्ट को मशीन पर सिर्फ़ आपके पीसी पर स्थानीय रूप से चलने वाला मॉडल रखता है। जब आपके दस्तावेज़ पीसी से बाहर न जाने चाहिए, तो स्थानीय मॉडल चुनें। ज़रूरत हो तो बाद में बदल लें।

Test बटन से कनेक्शन जाँचें

Test बटन काम शुरू करने से पहले एंडपॉइंट की जाँच करता है। यह प्रतिक्रिया का समय और कॉन्टेक्स्ट विंडो दिखाता है। दस्तावेज़ों के लिए कॉन्टेक्स्ट विंडो मायने रखती है, क्योंकि छोटी विंडो एक बार में कम पन्ने रखती है, और धीमी प्रतिक्रिया लंबी समीक्षा को थकाऊ बना देती है। बदलावों के बाद फिर से Test करें।

काम के हिसाब से मॉडल चुनना

भारी पुनर्लेखन के लिए, जैसे किसी लंबी प्रक्रिया को चरणों में बाँटना या कई दस्तावेज़ों का मिलान, बड़ा मॉडल इस्तेमाल करें, और संपर्क पंक्ति या शीर्षक ठीक करने जैसे छोटे संपादनों के लिए छोटा मॉडल। run_on_model एक कठिन चरण को बड़े मॉडल के पास भेजता है, जबकि चैट का बाकी हिस्सा छोटे मॉडल पर रहता है। दोनों को किसी प्रति पर आज़माएँ।

गुणवत्ता अलग-अलग होती है। हर diff पढ़ें, जब तक आप यह नहीं समझ लेते कि मॉडल क्या अच्छा करता है तब तक Ask first चालू रखें, और जो वह गलत करे उसे सुधारें। कोई भी मॉडल आपके अपने सिस्टम की जानकारी की जगह नहीं ले सकता।