ホームページ >バックエンド開発 >Python チュートリアル >LangGraph ステート マシン: 本番環境での複雑なエージェント タスク フローの管理

LangGraph ステート マシン: 本番環境での複雑なエージェント タスク フローの管理

Barbara Streisand
Barbara Streisandオリジナル
2024-11-24 03:37:091046ブラウズ

LangGraph State Machines: Managing Complex Agent Task Flows in Production

ランググラフとは何ですか?

LangGraph は、LLM アプリケーション専用に設計されたワークフロー オーケストレーション フレームワークです。その中心原則は次のとおりです:

  • 複雑なタスクを状態と遷移に分割する
  • 状態遷移ロジックの管理
  • タスク実行時のさまざまな例外の処理

ショッピングについて考えてみましょう: 閲覧 → カートに追加 → チェックアウト → 支払い。 LangGraph は、こ​​のようなワークフローを効率的に管理するのに役立ちます。

中心となる概念

1. 州

状態はタスク実行におけるチェックポイントのようなものです:

from typing import TypedDict, List

class ShoppingState(TypedDict):
    # Current state
    current_step: str
    # Cart items
    cart_items: List[str]
    # Total amount
    total_amount: float
    # User input
    user_input: str

class ShoppingGraph(StateGraph):
    def __init__(self):
        super().__init__()

        # Define states
        self.add_node("browse", self.browse_products)
        self.add_node("add_to_cart", self.add_to_cart)
        self.add_node("checkout", self.checkout)
        self.add_node("payment", self.payment)

2. 状態遷移

状態遷移は、タスク フローの「ロードマップ」を定義します。

class ShoppingController:
    def define_transitions(self):
        # Add transition rules
        self.graph.add_edge("browse", "add_to_cart")
        self.graph.add_edge("add_to_cart", "browse")
        self.graph.add_edge("add_to_cart", "checkout")
        self.graph.add_edge("checkout", "payment")

    def should_move_to_cart(self, state: ShoppingState) -> bool:
        """Determine if we should transition to cart state"""
        return "add to cart" in state["user_input"].lower()

3. 状態の永続性

システムの信頼性を確保するには、状態情報を永続化する必要があります。

class StateManager:
    def __init__(self):
        self.redis_client = redis.Redis()

    def save_state(self, session_id: str, state: dict):
        """Save state to Redis"""
        self.redis_client.set(
            f"shopping_state:{session_id}",
            json.dumps(state),
            ex=3600  # 1 hour expiration
        )

    def load_state(self, session_id: str) -> dict:
        """Load state from Redis"""
        state_data = self.redis_client.get(f"shopping_state:{session_id}")
        return json.loads(state_data) if state_data else None

4. エラー回復メカニズム

どのステップでも失敗する可能性があるため、次のような状況に適切に対処する必要があります。

class ErrorHandler:
    def __init__(self):
        self.max_retries = 3

    async def with_retry(self, func, state: dict):
        """Function execution with retry mechanism"""
        retries = 0
        while retries < self.max_retries:
            try:
                return await func(state)
            except Exception as e:
                retries += 1
                if retries == self.max_retries:
                    return self.handle_final_error(e, state)
                await self.handle_retry(e, state, retries)

    def handle_final_error(self, error, state: dict):
        """Handle final error"""
        # Save error state
        state["error"] = str(error)
        # Rollback to last stable state
        return self.rollback_to_last_stable_state(state)

実世界の例: インテリジェントな顧客サービス システム

実際的な例を見てみましょう - インテリジェントな顧客サービス システム:

from langgraph.graph import StateGraph, State

class CustomerServiceState(TypedDict):
    conversation_history: List[str]
    current_intent: str
    user_info: dict
    resolved: bool

class CustomerServiceGraph(StateGraph):
    def __init__(self):
        super().__init__()

        # Initialize states
        self.add_node("greeting", self.greet_customer)
        self.add_node("understand_intent", self.analyze_intent)
        self.add_node("handle_query", self.process_query)
        self.add_node("confirm_resolution", self.check_resolution)

    async def greet_customer(self, state: State):
        """Greet customer"""
        response = await self.llm.generate(
            prompt=f"""
            Conversation history: {state['conversation_history']}
            Task: Generate appropriate greeting
            Requirements:
            1. Maintain professional friendliness
            2. Acknowledge returning customers
            3. Ask how to help
            """
        )
        state['conversation_history'].append(f"Assistant: {response}")
        return state

    async def analyze_intent(self, state: State):
        """Understand user intent"""
        response = await self.llm.generate(
            prompt=f"""
            Conversation history: {state['conversation_history']}
            Task: Analyze user intent
            Output format:
            {{
                "intent": "refund/inquiry/complaint/other",
                "confidence": 0.95,
                "details": "specific description"
            }}
            """
        )
        state['current_intent'] = json.loads(response)
        return state

使用法

# Initialize system
graph = CustomerServiceGraph()
state_manager = StateManager()
error_handler = ErrorHandler()

async def handle_customer_query(user_id: str, message: str):
    # Load or create state
    state = state_manager.load_state(user_id) or {
        "conversation_history": [],
        "current_intent": None,
        "user_info": {},
        "resolved": False
    }

    # Add user message
    state["conversation_history"].append(f"User: {message}")

    # Execute state machine flow
    try:
        result = await graph.run(state)
        # Save state
        state_manager.save_state(user_id, result)
        return result["conversation_history"][-1]
    except Exception as e:
        return await error_handler.with_retry(
            graph.run,
            state
        )

ベストプラクティス

  1. 状態設計原則

    • 状態をシンプルかつ明確に保ちます
    • 必要な情報のみを保存
    • シリアル化要件を考慮する
  2. 遷移ロジックの最適化

    • 条件付き遷移を使用する
    • 無限ループを避ける
    • 最大歩数制限を設定する
  3. エラー処理戦略

    • 正常な劣化を実装する
    • ログの詳細情報
    • ロールバックメカニズムを提供する
  4. パフォーマンスの最適化

    • 非同期操作を使用する
    • 状態キャッシュを実装する
    • 状態サイズの制御

よくある落とし穴と解決策

  1. 状態爆発

    • 問題: 状態が多すぎるとメンテナンスが困難になります
    • 解決策: 類似した状態をマージし、新しい状態を作成する代わりに状態の組み合わせを使用します
  2. デッドロック状況

    • 問題: 循環状態遷移によりタスクがハングする
    • 解決策: タイムアウトメカニズムと強制終了条件を追加します
  3. 状態の一貫性

    • 問題: 分散環境における一貫性のない状態
    • 解決策: 分散ロックとトランザクション メカニズムを使用します

まとめ

LangGraph ステート マシンは、複雑な AI エージェント タスク フローを管理するための強力なソリューションを提供します。

  • 明確なタスクフロー管理
  • 信頼性の高い状態の永続性
  • 包括的なエラー処理
  • 柔軟な拡張性

以上がLangGraph ステート マシン: 本番環境での複雑なエージェント タスク フローの管理の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

声明:
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。