Web にグラウンディングされた回答

​

RAG とは？

• 鮮度 — 回答は、モデルの学習カットオフ後に公開されたコンテンツを反映します。
• 出典表示 — すべての主張は、ユーザーが確認できるソース URL に紐づけられます。
• ハルシネーションの低減 — 取得したテキストにモデルをグラウンディングすることで、事実をでっち上げるのを防ぎます。

​

グラウンディングの仕組み

1. 質問に関連するページを Web で検索（取得）します。
2. 必要なコンテンツ — スニペットまたはページ全文 — をプロンプトに抽出（拡張）します。
3. そのコンテンツを LLM に渡し、出典を引用するよう依頼して、回答を合成（生成）します。

​

プロバイダーに回答を書かせる

curl -X POST 'https://api.novita.ai/v3/tavily/search' \
  -H "Authorization: Bearer ${NOVITA_API_KEY}" \
  -H 'Content-Type: application/json' \
  -d '{
    "query": "What changed in the latest Python release?",
    "include_answer": "advanced",
    "max_results": 5
  }'

curl -X POST 'https://api.novita.ai/v3/exa/answer' \
  -H "Authorization: Bearer ${NOVITA_API_KEY}" \
  -H 'Content-Type: application/json' \
  -d '{
    "query": "What changed in the latest Python release?",
    "text": true
  }'

​

取得してから、LLM で統合する

import os
import requests
from openai import OpenAI

NOVITA_KEY = os.environ["NOVITA_API_KEY"]
QUESTION = "What changed in the latest Python release?"

# 1. Retrieve relevant web content.
search = requests.post(
    "https://api.novita.ai/v3/tavily/search",
    headers={"Authorization": f"Bearer {NOVITA_KEY}"},
    json={
        "query": QUESTION,
        "max_results": 5,
        "include_raw_content": "text",
    },
).json()

# 2. Build a compact, numbered context block the model can cite.
sources = []
for i, r in enumerate(search["results"], start=1):
    body = (r.get("raw_content") or r.get("content") or "")[:1500]
    sources.append(f"[{i}] {r['title']} ({r['url']})\n{body}")
context = "\n\n".join(sources)

# 3. Synthesize a grounded, cited answer.
client = OpenAI(base_url="https://api.novita.ai/openai", api_key=NOVITA_KEY)
completion = client.chat.completions.create(
    model="deepseek/deepseek-v4-flash",
    messages=[
        {
            "role": "system",
            "content": (
                "Answer using ONLY the provided sources. "
                "Cite claims with [n] referring to the source number. "
                "If the sources don't contain the answer, say so."
            ),
        },
        {"role": "user", "content": f"Question: {QUESTION}\n\nSources:\n{context}"},
    ],
)
print(completion.choices[0].message.content)

​

検索品質のチューニング

• 鮮度。 時間依存の質問では、日付で制約します。Tavily は time_range および start_date/end_date; Exa は公開しています startPublishedDate/endPublishedDate. これにより、古くなったページがコンテキストから除外されます。
• ソースの信頼性。 使用してください include_domains/excludeDomains 取得を信頼できるソース（公式ドキュメント、信頼性の高い出版社）に制限し、低品質なサイトを排除するために。
• トピックのヒント。 Tavily の topic (news, finance, general) と Exa の category エンジンを適切な種類の結果へ導きます。
• コンテキストの適正化。 抽出テキストを制限します（Tavily chunks_per_source, Exa maxCharacters) モデルのコンテキストウィンドウやトークン予算を使い切らずに、十分なシグナルを渡せるようにします。

​

Search vs. extract vs. crawl

• Search — 質問があり、関連ページを発見する必要がある場合。デフォルトの出発点です。
• Extract / Contents — URL がすでにわかっていて、それらからクリーンなテキストを取得したい場合。固定されたドキュメントセットに基づくグラウンディングに適しています。詳しくは Tavily Extract および Exa Contents.
• Crawl / Map — サイト全体またはセクションを、リンクをたどりながら取り込みたい場合。オフラインでナレッジベースを構築するのに適しています。詳しくは Tavily Crawl および Tavily Map.

​

本番環境に持ち込む

• 空の結果を処理する。 検索で関連するものが何も返らない場合は、でっち上げるのではなく、答えられないとモデルに言わせます。上記のシステムプロンプトはこれを行います。
• 可能な場合はキャッシュする。 同一のクエリは似た結果を返します。取得をキャッシュするとコストとレイテンシが削減されます。
• レート制限に注意する。 取得と LLM 呼び出しは別々に制限されます — 検索リクエストが LLM クォータを消費することはありません。次の場合はバックオフする 429 どちらの場合も同様です。詳しくは LLM のレート制限 LLM 側用。
• キーはサーバー側に保持する。 ここでは Novita key がすべての呼び出しを認証します — クライアント側コードに含めて配布しないでください。