เชื่อมต่อโมเดลสำหรับเอกสารเหตุการณ์ของคุณ
Buncha Build ทำงานกับผู้ให้บริการ AI บนคลาวด์ผ่านเอนด์พอยต์ API มาตรฐาน โมเดลที่รันในเครื่อง PC ของคุณ หรือโมเดลในตัว ตัวเลือกนี้กำหนดว่าข้อความพรอมต์จะไปที่ไหน จึงควรตัดสินใจก่อนเปิดเอกสาร เวอร์ชัน 2.9.30 มีให้ครบทั้ง 3 แบบ
สามวิธีรันโมเดล
ผู้ให้บริการ AI บนคลาวด์
ผู้ให้บริการ AI บนคลาวด์เหมาะกับคนที่มีบัญชีกับผู้ให้บริการอยู่แล้วและต้องการโมเดลที่ใหญ่กว่า Buncha Build เชื่อมต่อผ่านเอนด์พอยต์ API มาตรฐาน พรอมต์ออกจาก PC ข้อความพรอมต์ รวมถึงข้อความจากไฟล์ที่เอเจนต์อ่าน จะถูกส่งไปยังผู้ให้บริการรายนั้น ซึ่งอาจคิดค่าบริการแยกต่างหาก จึงควรเก็บเอกสารที่ละเอียดอ่อนไว้นอกโฟลเดอร์ทำงาน
โมเดลที่รันในเครื่อง PC ของคุณ
โมเดลที่รันในเครื่อง PC ของคุณเหมาะกับเอกสารที่ต้องอยู่ในเครื่อง เช่น รายชื่อติดต่อและบันทึกภายใน ไม่มีอะไรออกจาก PC พรอมต์ไปยังเอนด์พอยต์ที่คุณเลือกเท่านั้น ซึ่งในกรณีนี้รันอยู่บนเครื่องเอง สิ่งที่ต้องแลกคือฮาร์ดแวร์ โมเดลที่เล็กกว่าอาจเขียนได้ไม่ดีเท่า จึงควรอ่านทุก diff และทดสอบผลลัพธ์
โมเดลในตัว
โมเดลในตัวมาพร้อมกับ Buncha Build จึงไม่ต้องมีบัญชีคลาวด์หรือเอนด์พอยต์แยกเพื่อเริ่มต้น พรอมต์ไปยังเอนด์พอยต์ของโมเดลที่ใช้อยู่เท่านั้น และมีเพียงโมเดลที่รันในเครื่อง PC ของคุณเท่านั้นที่เก็บทุกพรอมต์ไว้ในเครื่อง เลือกโมเดลในเครื่องเมื่อเอกสารของคุณต้องไม่ออกจาก PC แล้วเปลี่ยนภายหลังได้หากจำเป็น
ตรวจสอบการเชื่อมต่อด้วยปุ่ม Test
ปุ่ม Test ตรวจสอบเอนด์พอยต์ก่อนคุณเริ่มทำงาน โดยแสดงเวลาตอบสนองและหน้าต่างบริบท หน้าต่างบริบทสำคัญกับเอกสาร เพราะหน้าต่างเล็กรับได้ทีละไม่กี่หน้า และเวลาตอบสนองที่ช้าทำให้การตรวจทานยาว ๆ น่าเบื่อ ทดสอบอีกครั้งหลังเปลี่ยนแปลงอะไรก็ตาม
เลือกโมเดลให้เหมาะกับงาน
ใช้โมเดลที่ใหญ่กว่าสำหรับงานเขียนใหม่หนัก ๆ เช่น จัดโครงสร้างขั้นตอนยาว ๆ เป็นช่วง หรือเทียบหลายเอกสารให้ตรงกัน และใช้โมเดลที่เล็กกว่าสำหรับการแก้เล็กน้อย เช่น แก้บรรทัดรายชื่อติดต่อหรือหัวข้อ run_on_model ส่งขั้นตอนที่ยากหนึ่งขั้นไปยังโมเดลที่ใหญ่กว่า ส่วนที่เหลือของแชทอยู่กับโมเดลที่เล็กกว่า ลองทั้งสองแบบกับสำเนา
คุณภาพไม่เท่ากัน อ่านทุก diff เปิด Ask first ไว้ระหว่างที่คุณเรียนรู้ว่าโมเดลทำอะไรได้ดี และแก้สิ่งที่โมเดลทำผิด ไม่มีโมเดลใดมาแทนความรู้ของคุณเกี่ยวกับระบบของคุณเองได้
