Skip to main content

LLM の仕組み

すべてのエージェントには、エージェントが話す内容と行動を制御する LLM モデルllm_id)があります。エージェントと LLM モデルは別々のリソースなので、1 つの頭脳を複数のエージェントで共有できます — システムプロンプトを 1 回更新すれば、そのモデルを使用しているすべてのエージェントに即座に反映されます。
エージェントを作成すると、OneInbox が適切なデフォルト値で LLM モデルを自動的に作成し、その idllm_id として返します。

プロバイダー

OneInbox はいくつかの LLM プロバイダーをサポートしています。プラットフォームプロバイダーはすぐに使用できます — 認証情報は不要です。

システムプロンプトを設定する

システムプロンプトはエージェントのペルソナ、目標、ルールを定義します。エージェントを再構築せずにいつでも更新できます:

プロバイダーまたはモデルを切り替える

別のプロバイダーまたはモデルを使用するには、providermodel を一緒に指定します:
Anthropic または Groq の場合は、credential_id も渡します:
Anthropic または Groq の認証情報の追加方法については インテグレーション を参照してください。

OpenRouter — キュレーション済みモデル一覧

OpenRouter はプラットフォーム提供です — 認証情報やインテグレーションは不要です。OneInbox は OpenRouter モデルのキュレーション済みサブセットを提供しています。低遅延ユースケース向けの小規模言語モデル(SLM)や厳選されたフロンティアモデルが含まれます。 provideropenrouter に設定し、サポートされているモデル ID を選択します:
主なサポートモデル: 受け入れ可能なモデル ID の全リストは API リファレンスページ のモデルドロップダウンで確認できます。
モデル ID は正確に指定してください — 例:mistralai/ministral-3b-2512mistralai/ministral-3b ではありません)。誤った ID は通話が無音で失敗する原因になります。

カスタム LLM — 自社モデルサーバーを接続する

自社でモデルを運用している場合(セルフホスト、ファインチューニング済み、またはプライベートインフラ上)、custom プロバイダーと WebSocket または HTTP URL を使って OneInbox に接続できます。サーバーは OpenAI 互換のストリーミングチャット補完インターフェース を公開している必要があります。
エンドポイントは OpenAI の /v1/chat/completions と同じリクエスト形式を受け取り、同じ形式のストリーミングレスポンスを返す必要があります。ツール、システムプロンプト、temperature はそのまま渡されます。

ツールを接続する

ツールを使うと、通話中にエージェントがアクションを実行できます。ツールはエージェントではなく LLM モデルに接続します:
これにより tool_ids リスト全体が置き換えられます。アクティブにしたいすべてのツール ID を含めてください — リストにないものは切り離されます。 ツールの作成方法については ツール を参照してください。

ナレッジベースを接続する

ナレッジベースを使うと、エージェントがドキュメントや URL から質問に答えられるようになります。ナレッジベースは LLM モデルではなくエージェントに接続します:
これにより kb_ids リスト全体が置き換えられます。アクティブにしたいすべてのナレッジベース ID を含めてください — リストにないものは切り離されます。 作成と管理方法については ナレッジベース を参照してください。

LLM モデルを取得する


API リファレンス

モデル一覧 · モデル取得 · モデル更新