Kết nối mô hình cho tài liệu sự cố của bạn
Buncha Build làm việc với nhà cung cấp AI đám mây qua điểm cuối API chuẩn, với mô hình chạy cục bộ trên PC của bạn, hoặc với mô hình tích hợp. Lựa chọn này quyết định văn bản prompt đi đâu, vì vậy hãy quyết định trước khi mở tài liệu. Phiên bản 2.9.30 có cả 3.
Ba cách chạy mô hình
Nhà cung cấp AI đám mây
Nhà cung cấp AI đám mây phù hợp với người đã có tài khoản ở một nhà cung cấp và muốn dùng mô hình lớn hơn. Buncha Build kết nối qua điểm cuối API chuẩn. Prompt rời khỏi PC. Văn bản prompt, gồm cả văn bản tệp mà tác tử đọc, được gửi tới nhà cung cấp đó, và họ cũng có thể tính phí riêng cho dịch vụ của mình, nên hãy để tài liệu nhạy cảm ngoài thư mục làm việc.
Mô hình chạy cục bộ trên PC của bạn
Mô hình chạy cục bộ trên PC của bạn phù hợp với những tài liệu phải ở lại trên máy, như danh sách liên hệ và ghi chú nội bộ. Không có gì rời khỏi PC. Prompt chỉ đi tới điểm cuối bạn đã chọn, mà ở đây chạy ngay trên máy. Đổi lại là phần cứng: mô hình nhỏ hơn có thể viết kém hơn, nên hãy đọc từng diff và kiểm tra kết quả.
Mô hình tích hợp
Mô hình tích hợp đi kèm Buncha Build, nên không cần tài khoản đám mây hay điểm cuối riêng để bắt đầu. Prompt chỉ đi tới điểm cuối của mô hình đang dùng, và chỉ mô hình chạy cục bộ trên PC của bạn mới giữ mọi prompt trên máy. Hãy chọn mô hình cục bộ khi tài liệu của bạn không được rời khỏi PC. Cần thì đổi sau.
Kiểm tra kết nối bằng nút Test
Nút Test kiểm tra một điểm cuối trước khi bạn bắt đầu làm việc. Nó hiện thời gian phản hồi và cửa sổ ngữ cảnh. Cửa sổ ngữ cảnh quan trọng với tài liệu, vì cửa sổ nhỏ chứa được ít trang cùng lúc, và thời gian phản hồi chậm khiến một buổi rà soát dài trở nên mệt mỏi. Hãy kiểm tra lại sau mỗi thay đổi.
Chọn mô hình theo nhiệm vụ
Dùng mô hình lớn hơn cho những lần viết lại nặng, như tách một quy trình dài thành các giai đoạn hay đối chiếu nhiều tài liệu, và mô hình nhỏ hơn cho chỉnh sửa nhỏ như sửa một dòng liên hệ hay một đề mục. run_on_model gửi một bước khó tới mô hình lớn hơn trong khi phần còn lại của cuộc trò chuyện ở mô hình nhỏ. Hãy thử cả hai trên một bản sao.
Chất lượng thay đổi. Đọc từng diff, giữ Ask first bật trong lúc bạn tìm hiểu mô hình giỏi việc gì, và sửa những chỗ nó làm sai. Không mô hình nào thay thế được hiểu biết của bạn về hệ thống của mình.
