インストール

pip install cohere

基本的なテキスト生成

import cohere
import os

co = cohere.ClientV2(api_key=os.environ["COHERE_API_KEY"])

response = co.chat(
    model="command-r-08-2024",
    messages=[
        {
            "role": "user",
            "content": "社内の経費精算フローについて教えてください。",
        }
    ],
)

print(response.message.content[0].text)

RAG（ドキュメントグラウンディング）

Command Rの真価が発揮されるのがRAGです。documentsパラメータにドキュメントを渡すだけで、引用付きの回答を生成できます。

import cohere
import os

co = cohere.ClientV2(api_key=os.environ["COHERE_API_KEY"])

documents = [
    {
        "id": "doc-1",
        "data": {
            "title": "経費精算規程",
            "body": "交通費は実費精算とし、上限は1日5,000円とします。領収書は必須。申請期限は翌月10日まで。",
        },
    },
    {
        "id": "doc-2",
        "data": {
            "title": "出張規程",
            "body": "出張の場合、日当は1日3,000円。宿泊費の上限は東京・大阪15,000円、それ以外10,000円。",
        },
    },
]

response = co.chat(
    model="command-r-08-2024",
    messages=[{"role": "user", "content": "出張時の経費はどれくらいまで申請できますか？"}],
    documents=documents,
)

print(response.message.content[0].text)
# 引用情報
for citation in response.message.citations or []:
    print(f"引用元: {citation.sources}")

Embed + Rerankを組み合わせたRAGパイプライン

import cohere
import numpy as np
import os

co = cohere.Client(api_key=os.environ["COHERE_API_KEY"])

# 社内ドキュメントのサンプル
documents = [
    "経費精算は翌月10日までに申請してください。",
    "出張日当は1日3,000円です。",
    "宿泊費の上限は東京15,000円、地方10,000円です。",
    "交通費は実費精算。新幹線はグリーン車禁止。",
]

# Step1: ドキュメントをベクトル化
embed_response = co.embed(
    texts=documents,
    model="embed-v4.0",
    input_type="search_document",
    embedding_types=["float"],
)
doc_embeddings = embed_response.embeddings.float_

# Step2: クエリをベクトル化
query = "出張の宿泊費はいくらまでOKですか？"
query_embed = co.embed(
    texts=[query],
    model="embed-v4.0",
    input_type="search_query",
    embedding_types=["float"],
).embeddings.float_[0]

# Step3: コサイン類似度で上位候補を取得
scores = np.dot(doc_embeddings, query_embed)
top_indices = np.argsort(scores)[::-1][:3]
top_docs = [documents[i] for i in top_indices]

# Step4: Rerankで精度を上げる
rerank_response = co.rerank(
    query=query,
    documents=top_docs,
    model="rerank-v3.5",
    top_n=2,
)
best_docs = [r.document.text for r in rerank_response.results]

print("最も関連するドキュメント:")
for doc in best_docs:
    print(f"  - {doc}")

このパターンがCohereの最も強力な使い方です。単にLLMに質問するより、Embed + Rerank + Command Rの三段構えにすると社内ナレッジの検索精度が大幅に向上します。

ChatGPT API・Claude APIとの比較

# LangChain連携
pip install langchain-cohere

# LlamaIndex連携
pip install llama-index-llms-cohere llama-index-embeddings-cohere

# 429 Too Many Requests → Trial keyのレートリミット超過
# → time.sleep(1) でリクエスト間隔を空ける
# → または本番用キーに切り替える

# invalid_api_key → 環境変数の読み込み漏れ
# → os.environ.get()ではなくos.environ["COHERE_API_KEY"]で確認

# context_length_exceeded → ドキュメントが長すぎる
# → チャンク分割（max 4,096トークン/チャンクが目安）