Hubungkan model untuk dokumen insidenmu
Buncha Build bekerja dengan penyedia AI cloud lewat endpoint API standar, model yang berjalan lokal di PC-mu, atau model bawaan. Pilihan ini menentukan ke mana teks prompt dikirim, jadi putuskan sebelum membuka dokumen. Versi 2.9.30 menyediakan ketiganya.
Tiga cara menjalankan model
Penyedia AI cloud
Penyedia AI cloud cocok untuk orang yang sudah punya akun di salah satunya dan menginginkan model yang lebih besar. Buncha Build terhubung lewat endpoint API standar. Prompt keluar dari PC. Teks prompt, termasuk teks berkas yang dibaca agen, dikirim ke penyedia itu, yang mungkin juga menagih terpisah untuk layanannya, jadi jauhkan materi sensitif dari folder kerja.
Model yang berjalan lokal di PC-mu
Model yang berjalan lokal di PC-mu cocok untuk dokumen yang harus tetap di mesin, seperti daftar kontak dan catatan internal. Tidak ada yang keluar dari PC. Prompt hanya dikirim ke endpoint yang kamu pilih, yang di sini berjalan di mesin itu sendiri. Imbal baliknya ada di perangkat keras: model yang lebih kecil mungkin menulis kurang baik, jadi baca setiap diff dan uji hasilnya.
Model bawaan
Model bawaan hadir bersama Buncha Build, jadi tidak perlu akun cloud atau endpoint terpisah untuk memulai. Prompt hanya dikirim ke endpoint model yang sedang dipakai, dan hanya model yang berjalan lokal di PC-mu yang menjaga setiap prompt tetap di mesin. Pilih model lokal ketika dokumenmu tidak boleh keluar dari PC. Beralihlah nanti jika perlu.
Periksa koneksi dengan tombol Test
Tombol Test memeriksa endpoint sebelum kamu mulai bekerja. Ia menampilkan waktu respons dan jendela konteks. Jendela konteks penting untuk dokumen, karena yang kecil memuat lebih sedikit halaman sekaligus, dan waktu respons yang lambat membuat tinjauan panjang melelahkan. Uji lagi setelah ada perubahan.
Memilih model sesuai tugas
Pakai model yang lebih besar untuk penulisan ulang yang berat, seperti menyusun ulang prosedur panjang menjadi fase atau menyatukan beberapa dokumen, dan model yang lebih kecil untuk suntingan kecil seperti memperbaiki baris kontak atau judul. run_on_model mengirim satu langkah sulit ke model yang lebih besar sementara sisa obrolan tetap di model yang lebih kecil. Coba keduanya pada salinan.
Kualitasnya bervariasi. Baca setiap diff, biarkan Ask first menyala selama kamu belajar apa yang dikerjakan model dengan baik, dan koreksi yang salah. Tidak ada model yang menggantikan pengetahuanmu tentang sistemmu sendiri.
