Подключите модель для документов по инцидентам

Buncha Build работает с облачным ИИ-провайдером через стандартный эндпоинт API, с моделью, работающей локально на вашем ПК, или со встроенной моделью. Выбор определяет, куда уходит текст промпта, поэтому решите это до открытия документов. Версия 2.9.30 предлагает все 3.

Три способа запуска модели

Облачный ИИ-провайдер

Облачный ИИ-провайдер подойдёт тем, у кого уже есть аккаунт у какого-то из них и кому нужна модель побольше. Buncha Build подключается через стандартный эндпоинт API. Промпты уходят с ПК. Текст промпта, включая текст файлов, которые читает агент, уходит к этому провайдеру, который может отдельно брать плату за свой сервис, поэтому не храните чувствительные материалы в рабочей папке.

Модель, работающая локально на вашем ПК

Модель, работающая локально на вашем ПК, подходит для документов, которые должны остаться на машине, например списков контактов и внутренних заметок. С ПК не уходит ничего. Промпты идут только на выбранный вами эндпоинт, который здесь работает на самой машине. Расплата — железо: модель поменьше может писать хуже, поэтому читайте каждый diff и проверяйте результат.

Встроенная модель

Встроенная модель поставляется с Buncha Build, так что для начала не нужны ни облачный аккаунт, ни отдельный эндпоинт. Промпты идут только на эндпоинт используемой модели, и лишь модель, работающая локально на вашем ПК, оставляет все промпты на машине. Выбирайте локальную модель, когда документы не должны покидать ПК. При необходимости переключитесь позже.

Проверьте соединение кнопкой Test

Кнопка Test проверяет эндпоинт до начала работы. Она показывает время ответа и контекстное окно. Контекстное окно важно для документов, потому что маленькое вмещает за раз меньше страниц, а медленный ответ делает долгую проверку утомительной. Проверяйте снова после изменений.

Как выбрать модель под задачу

Берите более крупную модель для тяжёлых переписываний, например для перестройки длинной процедуры по фазам или сверки нескольких документов, а модель поменьше — для небольших правок вроде строки контакта или заголовка. run_on_model отправляет один сложный шаг крупной модели, пока остальной чат остаётся на меньшей. Попробуйте обе на копии.

Качество разное. Читайте каждый diff, держите Ask first включённым, пока выясняете, что модель делает хорошо, и исправляйте то, что она делает неверно. Никакая модель не заменит вашего собственного знания своих систем.