9 AI Agent とエージェントシステム

第 8 章では、モデルが文書に基づいて答えられるようにしました。第 9 章では、システムが目標に向かって行動するようにします。次の手を計画し、ツールを呼び、観察を読み、方針を調整し、安全に止まり、人がレビューできる trace を残します。

多 Agent フレームワークから始める必要はありません。まず、すべてのステップを見せられる小さな Agent を作ります。

まず Agent 実行ループを見る

Agent は「ツール付きチャットボット」ではなく、制御された実行ループです。

部分	やさしい意味	必ず制御すること
Goal	Agent が達成したいこと	範囲、成功基準、停止条件
State	今分かっていること	現在の入力、過去の観察、残り手順
Plan	次に試すこと	最大ステップ、代替経路、人への引き継ぎ
Tool	検索、ファイル読み取り、API 呼び出し、コード実行など	schema、検証、ホワイトリスト、リスクレベル
Observation	ツールが返した結果	エラー処理、再試行ルール、信頼境界
Memory	ステップ間・実行間で残す情報	短期状態と長期好みの境界
Trace	実行を再生できる記録	goal、action、arguments、observation、cost、final result

学習順序とタスク表

多 Agent の前に、単一 Agent を追跡可能にします。

手順	読む内容	手を動かすこと	残す証拠
9.1	Agent 基礎と構造	goal、state、plan、tool、observation、memory を説明する	構成スケッチ
9.2	推論と計画	同じタスクで ReAct と Plan-and-Execute を比べる	ステップ trace
9.3	ツール呼び出し	パラメータとエラーを持つツールを1～2個定義する	tools_schema.md
9.4	記憶	現在状態と長期記憶を分ける	memory 境界メモ
9.5	MCP	MCP をツールとデータソース接続の標準方式として理解する	接続メモ
9.6-9.7	フレームワークと多 Agent	単一 Agent ループが安定してから学ぶ	フレームワーク選択メモ
9.8-9.10	評価、安全、配置、プロジェクト	9.10.5 実践：追跡可能な単一 Agent アシスタントを作る を動かす	trace ログ、安全ブロック、評価ケース

最初に動かすループ：trace を表示する

このオフラインスクリプトは LLM に依存しません。学ぶのは工程習慣です。すべての action は再生可能であるべきです。あとで固定 plan をモデル生成の計画に置き換えても、trace 形式は残します。

ch09_agent_trace.py を作成し、Python 3.10 以降で実行してください。

import json


def search_docs(tool_input: dict) -> str:
    return "Found notes about RAGOps, AgentOps, evaluation sets, and trace logs."


def make_todo(tool_input: dict) -> str:
    topic = tool_input["topic"]
    return f"1) Review {topic} notes; 2) add one eval case; 3) write failure notes."


TOOLS = {
    "search_docs": {"fn": search_docs, "risk": "read_only"},
    "make_todo": {"fn": make_todo, "risk": "draft_only"},
}

goal = "Prepare a short RAG review plan."
plan = [
    {
        "thought": "Find relevant course materials before making a plan.",
        "action": "search_docs",
        "input": {"query": "RAGOps AgentOps evaluation trace"},
    },
    {
        "thought": "Turn the materials into a small review checklist.",
        "action": "make_todo",
        "input": {"topic": "RAG evaluation"},
    },
]

trace = []
for step_number, step in enumerate(plan, start=1):
    tool = TOOLS.get(step["action"])
    if tool is None:
        observation = "Blocked: tool is not whitelisted."
        risk = "blocked"
    else:
        observation = tool["fn"](step["input"])
        risk = tool["risk"]

    trace.append(
        {
            "step": step_number,
            "goal": goal,
            "thought": step["thought"],
            "action": step["action"],
            "input": step["input"],
            "risk": risk,
            "observation": observation,
        }
    )

for item in trace:
    print(json.dumps(item, ensure_ascii=False))

期待される出力の先頭:

{"step": 1, "goal": "Prepare a short RAG review plan.", "thought": "Find relevant course materials before making a plan.", "action": "search_docs", ...
{"step": 2, "goal": "Prepare a short RAG review plan.", "thought": "Turn the materials into a small review checklist.", "action": "make_todo", ...

操作メモ: make_todo をホワイトリスト外の send_email などに変えてください。スクリプトはそれをブロックするはずです。これが安全境界の最小版です。

深さの段階

段階	証明できること
最低合格	1つの trace を実行し、各 goal、action、input、observation、result を説明できる。
実務準備	tool schema を定義し、ホワイトリスト外のツールをブロックし、最大ステップを設定し、失敗 trace を保存できる。
深い確認	ワークフローの方が Agent より安全な場面と、危険な action に人間承認を置く場所を判断できる。

Agent、ワークフロー、RAG、Function Calling の選び方

Agent は強力ですが、常に最初の選択肢ではありません。

問題	まず使うもの	Agent を使う目安
手順が固定で既知	ワークフロー	観察のたびに経路が変わる
私有情報や新情報が必要	RAG	検索が大きな目標の一部にすぎない
1回の構造化 action で十分	Function Calling	複数のツール呼び出しと状態更新が必要
リスクが高い	人間確認付きワークフロー	Agent は下書きし、高リスク action は人が確認
探索に計画、ツール、記憶、回復が必要	Agent	すべてのステップを記録し、安全に止められる

よくある失敗

• 単一 Agent が安定する前に多 Agent を作る。
• schema、検証、有用なエラーメッセージなしでツールを呼ぶ。
• 停止条件がなく、ループとコスト増加を招く。
• 高リスクツールを人間確認なしで動かす。
• 成功 Demo だけ見せ、失敗 trace を残さない。
• memory を置き場にしてしまい、現在状態、長期好み、タスク履歴を分けない。

クリア確認

この章を出る前に、次をできるようにしてください。

• goal、state、plan、tool、observation、memory、trace、guardrail を説明できる。
• trace スクリプトを動かし、ホワイトリスト外ツールをブロックできる。
• agent_traces.jsonl、tools_schema.md、safety_boundary.md、failure_cases.md を保存できる。
• タスクにワークフロー、RAG、Function Calling、Agent のどれが合うか判断できる。
• 第 9 章フルワークショップを動かし、評価タスク1つと安全ブロック例1つを追加できる。

印刷用チェックリストは 9.0 学習チェックリスト を使ってください。プロジェクトから始めたい場合は 9.10.5 実践：追跡可能な単一 Agent アシスタントを作る へ進みます。