ログ確認を支えるモデルを選ぶ

SmartCode Relay は、標準的な API エンドポイント経由のクラウド AI プロバイダー、PC 上で動くローカルモデル、内蔵モデルのいずれかで動作します。選択肢は 3 つです。何を選ぶかで、どのテキストがマシンの外に出るかが決まるので、各項目のプライバシーに関する注記を読んでください。

モデルを接続する 3 つの方法

クラウド AI プロバイダー

クラウド AI プロバイダーは標準的な API エンドポイント経由で接続し、長いサーバー設定を読み込むような難しいステップに向いています。エージェントが読んだファイルのテキストを含むプロンプトがそのプロバイダーに送られるため、可能なら書き出したログから訪問者の IP アドレスを取り除いてください。プロバイダーの利用規約を確認してください。料金が発生する場合は、プロバイダーが請求します。

PC 上のモデル

PC 上で動くローカルモデルは、どこにも送りたくないログや設定に向いています。マシンの外には何も出ません。応答時間と使えるコンテキストウィンドウはハードウェアしだいなので、長いログでモデルに頼る前に、Test を押して両方を確認してください。

内蔵モデル

内蔵モデルは、クラウド AI プロバイダー、PC 上で動くローカルモデルに並ぶ 3 つ目の選択肢です。プロンプトは、あなたが選んだモデルのエンドポイントにだけ送られ、ネットワークを使う任意のネットワーク機能は、プライバシーのページに記載されています。先にそのページを読んでください。

Test ボタンが表示するもの

Test ボタンは、確認を始める前にエンドポイントをチェックします。応答時間とコンテキストウィンドウを表示するので、1 回のリクエストにどれだけのログと設定が収まるかがわかります。テストに失敗したら、まずエンドポイントの情報を確認してください。変更したら、もう一度テストします。

タスクに合わせたモデルの選び方

多くのルールを含む長い設定を読むような難しい部分には大きなモデルを、タイムアウト値のような小さな編集には小さなモデルを使います。run_on_model は難しい 1 ステップだけを大きなモデルに送り、チャットの残りは小さなモデルで続けます。移るのはそのステップだけです。

モデルによって品質は異なるので、承認する前にすべての diff を確認してください。Ask first モードでは変更のたびにエージェントが止まり、結果はコピー上であなた自身のテストコマンドで検証します。モデルも間違えます。