インシデント文書用のモデルを接続する

Buncha Build は、標準的な API エンドポイント経由のクラウド AI プロバイダー、PC 上でローカルに動くモデル、内蔵モデルのいずれでも動作します。選択によってプロンプトのテキストの送り先が決まるので、文書を開く前に決めてください。バージョン 2.9.30 は 3 つすべてに対応しています。

モデルを動かす 3 つの方法

クラウド AI プロバイダー

クラウド AI プロバイダーは、すでにアカウントを持っていて、より大きなモデルを使いたい人に向いています。Buncha Build は標準の API エンドポイント経由で接続します。プロンプトは PC の外に出ます。エージェントが読み取ったファイルのテキストを含むプロンプトがそのプロバイダーに送られ、サービスの料金が別途かかることもあるため、機密性の高い資料は作業フォルダーに置かないでください。

PC 上でローカルに動くモデル

PC 上でローカルに動くモデルは、連絡先リストや社内メモのように、マシンから出してはいけない文書に向いています。PC の外には何も出ません。プロンプトは選んだエンドポイントにだけ送られ、この場合そのエンドポイントはマシン自身で動いています。代わりにハードウェアが必要です。小さいモデルは書く力が劣ることがあるため、diff をすべて読み、結果を試してください。

内蔵モデル

内蔵モデルは Buncha Build に付属しているので、始めるのにクラウドのアカウントも別のエンドポイントも要りません。プロンプトは使用中のモデルのエンドポイントにだけ送られ、すべてのプロンプトをマシン内にとどめられるのは、PC 上でローカルに動くモデルだけです。文書を PC の外に出したくないときはローカル モデルを選んでください。必要なら、あとで切り替えられます。

Test ボタンで接続を確認する

Test ボタンは、作業を始める前にエンドポイントを確認します。応答時間とコンテキスト ウィンドウが表示されます。文書ではコンテキスト ウィンドウが重要で、小さいと一度に扱えるページ数が減り、応答が遅いと長いレビューがつらくなります。変更したら、もう一度テストしてください。

作業に合ったモデルの選び方

長い手順をフェーズに分けたり、複数の文書をすり合わせたりする大がかりな書き直しには大きいモデルを、連絡先の行や見出しの修正のような小さな編集には小さいモデルを使います。run_on_model は難しいステップを 1 つだけ大きいモデルに任せ、チャットの残りは小さいモデルのままにします。コピーで両方を試してください。

品質にはばらつきがあります。diff をすべて読み、モデルの得意なことが分かるまで Ask first をオンにしておき、間違いは直してください。自社のシステムについてのあなたの知識を置き換えられるモデルはありません。