Python Agent

Générez un agent IA Python pour construire des agents avec des outils, et déployez-le optionnellement sur Amazon Bedrock AgentCore Runtime. Choisissez le framework d’agent avec l’option framework : Strands (par défaut) ou LangChain (construit sur LangGraph).

Le générateur expose votre agent via un protocol de serveur. Les deux frameworks supportent HTTP (par défaut), le protocole Agent-to-Agent (A2A) pour l’interopérabilité avec d’autres agents compatibles A2A, et le protocole AG-UI pour l’intégration directe avec le frontend via CopilotKit.

Utilisation

Générer un Agent

Vous pouvez générer un Agent Python de deux manières :

CLI
VSCode

pnpm nx g @aws/nx-plugin:py#agent

yarn nx g @aws/nx-plugin:py#agent

npx nx g @aws/nx-plugin:py#agent

bunx nx g @aws/nx-plugin:py#agent

Vous pouvez également effectuer une simulation pour voir quels fichiers seraient modifiés

pnpm nx g @aws/nx-plugin:py#agent --dry-run

yarn nx g @aws/nx-plugin:py#agent --dry-run

npx nx g @aws/nx-plugin:py#agent --dry-run

bunx nx g @aws/nx-plugin:py#agent --dry-run

Installez le Nx Console VSCode Plugin si ce n'est pas déjà fait
Ouvrez la console Nx dans VSCode
Cliquez sur Generate (UI) dans la section "Common Nx Commands"
Recherchez @aws/nx-plugin - py#agent
Remplissez les paramètres requis
Cliquez sur Generate

Options

Paramètre	Type	Par défaut	Description
project Requis	string	-	Le projet auquel ajouter l'Agent
framework	strands \| langchain	strands	Le SDK d'agent à utiliser.
name	string	-	Le nom de votre Agent (par défaut : agent)
auth	iam \| cognito	iam	La méthode utilisée pour s'authentifier auprès de votre Agent. Applicable uniquement lorsque infra est défini (ignoré lorsque infra est none).
protocol	http \| a2a \| ag-ui	http	Le protocole serveur pour votre Agent. HTTP expose un serveur HTTP FastAPI. A2A expose un serveur de protocole Agent-to-Agent. AG-UI expose un serveur de protocole Agent-User Interaction pour l'intégration directe avec le frontend.
iac	inherit \| cdk \| terraform	inherit	Le fournisseur IaC préféré. Par défaut, ceci est hérité de votre sélection initiale.
infra	agentcore \| none	agentcore	Le type d'infrastructure pour héberger votre Agent.
session	s3 \| dynamodb-s3 \| in-memory	s3	Le stockage utilisé pour persister la session de votre Agent. LangChain prend en charge 's3' ou 'dynamodb-s3' ; Strands prend en charge 's3' ; 'in-memory' est valide pour les deux.
preferInstallDependencies	boolean	true	Indique s'il faut privilégier l'installation des dépendances après l'exécution du générateur. Définir sur false pour différer l'installation lors de l'exécution de plusieurs générateurs en lot (une installation s'exécute quand même si nécessaire pour que les générateurs suivants puissent calculer le graphe de projet Nx) ; installer une seule fois à la fin.

Sortie du générateur

Le générateur ajoutera les fichiers suivants à votre projet Python existant. Les fichiers générés dépendent du protocol choisi :

Protocole HTTP (par défaut)

Répertoireyour-project/
- Répertoireyour_module/
  - Répertoireagent/ (or custom name if specified)
    __init__.py Python package initialization
    init.py FastAPI application setup with CORS and error handling middleware
    agent.py Main agent definition with sample tools
    session.py Resolves the framework-specific session persistence implementation
    main.py FastAPI entry point for Bedrock AgentCore Runtime
    Dockerfile Entry point for hosting your agent (excluded when infra is set to None)
- pyproject.toml Updated with Strands dependencies
- project.json Updated with agent serve targets

Protocole A2A

Le point d’entrée expose votre agent via le protocole A2A (Strands utilise le Strands A2A Server ; LangChain enveloppe le graphe dans un exécuteur a2a-sdk), monté sur une application FastAPI :

Répertoireyour-project/
- Répertoireyour_module/
  - Répertoireagent/ (or custom name if specified)
    __init__.py Python package initialization
    agent.py Main agent definition with sample tools
    session.py Resolves the framework-specific session persistence implementation
    main.py A2A server entry point
    Dockerfile Entry point for hosting your agent (excluded when infra is set to None)
- pyproject.toml Updated with framework and A2A dependencies
- project.json Updated with agent serve targets

Protocole AG-UI

Le point d’entrée expose votre agent via le protocole AG-UI pour l’intégration directe avec le frontend via CopilotKit. Les agents Strands utilisent l’intégration ag-ui-strands ; les agents LangChain utilisent ag-ui-langgraph :

Répertoireyour-project/
- Répertoireyour_module/
  - Répertoireagent/ (or custom name if specified)
    __init__.py Python package initialization
    agent.py Main agent definition with sample tools
    session.py Resolves the framework-specific session persistence implementation
    main.py AG-UI server entry point
    Dockerfile Entry point for hosting your agent (excluded when infra is set to None)
- pyproject.toml Updated with framework and AG-UI dependencies
- project.json Updated with agent serve targets

Infrastructure

Étant donné que ce générateur fournit de l’infrastructure en tant que code basée sur votre iac choisi, il créera un projet dans packages/common qui inclut les constructs CDK ou modules Terraform pertinents.

Le projet d’infrastructure en tant que code commun est structuré comme suit :

CDK
Terraform

Répertoirepackages/common/constructs
- Répertoiresrc
  - Répertoireapp/ Constructs pour l’infrastructure spécifique à un projet/générateur
    …
  - Répertoirecore/ Constructs génériques qui sont réutilisés par les constructs dans app
    …
  - index.ts Entry point exporting constructs from app
- project.json Project build targets and configuration

Répertoirepackages/common/terraform
- Répertoiresrc
  - Répertoireapp/ Terraform modules for infrastructure specific to a project/generator
    …
  - Répertoirecore/ Generic modules which are reused by modules in app
    …
- project.json Project build targets and configuration

Pour déployer votre Agent, les fichiers suivants sont générés :

CDK
Terraform

Répertoirepackages/common/constructs/src
- Répertoireapp
  - Répertoireagents
    Répertoire<project-name>
    <project-name>.ts CDK construct for deploying your agent

Si vous avez sélectionné none pour infra, aucune construction CDK ou module Terraform n’est généré — l’Agent ne peut être exécuté que localement. L’option auth est ignorée dans ce mode car il n’y a pas de point de terminaison hébergé à authentifier.

Lorsqu’il est déployé sur Bedrock AgentCore Runtime, l’agent est construit dans une image de conteneur, poussé vers Amazon ECR et exécuté dans AgentCore Runtime. Les clients invoquent le point de terminaison du plan de données AgentCore Runtime, qui transmet les requêtes à votre agent. L’agent appelle Amazon Bedrock pour l’inférence du modèle et peut invoquer des outils, des serveurs MCP ou des API en aval.

Avec infra: none, aucune infrastructure AWS n’est générée. L’agent s’exécute en tant que processus local et appelle Amazon Bedrock pour l’inférence du modèle.

Travailler avec votre Agent

Vous pouvez éditer agent.py pour ajouter des outils, configurer le modèle et personnaliser le prompt système. L’API dépend du framework que vous avez choisi.

Ajouter des outils

Les outils sont des fonctions que l’agent IA peut appeler pour effectuer des actions. Les deux frameworks utilisent une approche basée sur des décorateurs pour définir les outils, dérivent le nom et la description de l’outil à partir du nom de la fonction et de la docstring, et génèrent le schéma d’entrée à partir de vos annotations de type.

Strands
LangChain

from strands import Agent, tool

@tool
def calculate_sum(numbers: list[int]) -> int:
    """Calculate the sum of a list of numbers"""
    return sum(numbers)

@tool
def get_weather(city: str) -> str:
    """Get weather information for a city"""
    # Your weather API integration here
    return f"Weather in {city}: Sunny, 25°C"

# Add tools to your agent
agent = Agent(
    system_prompt="You are a helpful assistant with access to various tools.",
    tools=[calculate_sum, get_weather],
)

from langchain.agents import create_agent
from langchain_aws import ChatBedrockConverse
from langchain_core.tools import tool

@tool
def calculate_sum(numbers: list[int]) -> int:
    """Calculate the sum of a list of numbers"""
    return sum(numbers)

@tool
def get_weather(city: str) -> str:
    """Get weather information for a city"""
    # Your weather API integration here
    return f"Weather in {city}: Sunny, 25°C"

# Add tools to your agent
agent = create_agent(
    model=ChatBedrockConverse(model=MODEL_ID, region_name=REGION),
    tools=[calculate_sum, get_weather],
    system_prompt="You are a helpful assistant with access to various tools.",
)

Utiliser des outils pré-construits

Strands
LangChain

Strands fournit une collection d’outils pré-construits via le package strands-tools :

from strands_tools import current_time, http_request, file_read

agent = Agent(
    system_prompt="You are a helpful assistant.",
    tools=[current_time, http_request, file_read],
)

LangChain fournit un large écosystème d’outils et intégrations. Installez le package d’intégration pertinent, puis passez les outils à create_agent :

from langchain_community.tools import DuckDuckGoSearchRun

agent = create_agent(
    model=ChatBedrockConverse(model=MODEL_ID, region_name=REGION),
    tools=[DuckDuckGoSearchRun()],
    system_prompt="You are a helpful assistant.",
)

Configuration du modèle

Strands
LangChain

Par défaut, les agents Strands utilisent Claude 4 Sonnet, mais vous pouvez personnaliser le fournisseur de modèle. Consultez la documentation Strands sur les fournisseurs de modèles pour les options de configuration :

from strands import Agent
from strands.models import BedrockModel

# Create a BedrockModel
bedrock_model = BedrockModel(
    model_id="anthropic.claude-sonnet-4-20250514-v1:0",
    region_name="us-west-2",
    temperature=0.3,
)

agent = Agent(model=bedrock_model)

Les agents LangChain utilisent un modèle ChatBedrockConverse. L’agent généré lit l’identifiant du modèle et la région à partir des variables d’environnement MODEL_ID et AWS_REGION, mais vous pouvez configurer le modèle directement dans agent.py :

from langchain_aws import ChatBedrockConverse

model = ChatBedrockConverse(
    model="anthropic.claude-sonnet-4-20250514-v1:0",
    region_name="us-west-2",
    temperature=0.3,
)

Consommer des serveurs MCP

Pour consommer des serveurs MCP que vous avez créés en utilisant les générateurs py#mcp-server ou ts#mcp-server, vous pouvez utiliser le générateur connection, qui intègre les outils du serveur MCP dans votre agent pour les deux frameworks.

CLI
VSCode

pnpm nx g @aws/nx-plugin:connection

yarn nx g @aws/nx-plugin:connection

npx nx g @aws/nx-plugin:connection

bunx nx g @aws/nx-plugin:connection

Vous pouvez également effectuer une simulation pour voir quels fichiers seraient modifiés

pnpm nx g @aws/nx-plugin:connection --dry-run

yarn nx g @aws/nx-plugin:connection --dry-run

npx nx g @aws/nx-plugin:connection --dry-run

bunx nx g @aws/nx-plugin:connection --dry-run

Installez le Nx Console VSCode Plugin si ce n'est pas déjà fait
Ouvrez la console Nx dans VSCode
Cliquez sur Generate (UI) dans la section "Common Nx Commands"
Recherchez @aws/nx-plugin - connection
Remplissez les paramètres requis
Cliquez sur Generate

Consultez le guide du générateur connection pour plus de détails sur la configuration de la connexion.

Pour d’autres serveurs MCP, consultez la documentation MCP de Strands ou LangChain.

Plus

Pour un guide plus approfondi sur l’écriture d’agents, consultez la documentation de Strands ou LangChain.

Protocole

Le protocole serveur de votre agent détermine comment il communique. Toutes les options sont servies par FastAPI — le point d’entrée diffère :

HTTP (par défaut) : Un serveur FastAPI standard avec un point de terminaison /invocations personnalisé, CORS et streaming. Idéal pour les intégrations client personnalisées.
A2A : Un serveur Agent-to-Agent monté sur une application FastAPI (Strands utilise le Strands A2A Server ; LangChain utilise le a2a-sdk agnostique du framework). Idéal lorsque votre agent doit être découvrable et invocable par d’autres agents compatibles A2A.
AG-UI : Le protocole AG-UI via SSE (Strands utilise ag-ui-strands ; LangChain utilise ag-ui-langgraph). Idéal pour l’intégration directe avec le frontend via CopilotKit dans un site web React.

Le point d’entrée du serveur diffère selon le framework (Strands produit un Agent géré par contexte, tandis que LangChain pilote un graphe create_agent compilé), mais le contrat externe pour chaque protocole est le même.

Tous les protocoles exposent /ping pour le contrat de vérification de santé du runtime AgentCore. Les agents A2A écoutent sur le port 9000 ; les agents HTTP et AG-UI écoutent sur le port 8080. Le Dockerfile généré et l’infrastructure sont configurés pour vous.

Serveur FastAPI (protocole HTTP)

Le serveur HTTP généré inclut :

Configuration de l’application FastAPI avec middleware CORS
Middleware de gestion des erreurs
Génération de schéma OpenAPI
Point de terminaison de vérification de santé (/ping)
Point de terminaison d’invocation de l’agent (/invocations)

Personnaliser les entrées et sorties d’invocation avec Pydantic

Le point de terminaison d’invocation de l’agent utilise des modèles Pydantic pour définir et valider les schémas de requête et de réponse. Vous pouvez personnaliser ces modèles dans main.py pour correspondre aux exigences de votre agent.

Définir les modèles d’entrée

Le modèle InvokeInput par défaut accepte un prompt.

from pydantic import BaseModel

class InvokeInput(BaseModel):
    prompt: str

Vous pouvez étendre ce modèle pour inclure tous les champs supplémentaires dont votre agent a besoin.

L’identifiant de session est extrait de l’en-tête HTTP x-amzn-bedrock-agentcore-runtime-session-id, conformément au contrat de session Bedrock AgentCore Runtime. Si l’en-tête n’est pas fourni, un UUID aléatoire est généré comme solution de repli.

Définir les modèles de sortie

Pour les réponses en streaming, le générateur fournit JsonStreamingResponse qui sérialise automatiquement les modèles Pydantic au format JSON Lines (application/jsonl). Ce format est compatible avec la spécification de streaming d’OpenAPI 3.2 et fonctionne de manière transparente avec le client TypeScript généré.

Par défaut, l’agent produit des objets StreamChunk contenant le texte de réponse de l’agent :

class StreamChunk(BaseModel):
    content: str

Vous pouvez personnaliser le modèle StreamChunk selon vos besoins :

from pydantic import BaseModel

class StreamChunk(BaseModel):
    content: str
    timestamp: str
    token_count: int

Notez que puisque FastAPI ne prend actuellement pas en charge la génération d’une spécification OpenAPI pour les réponses en streaming, nous devons définir explicitement le modèle de réponse pour chaque opération de streaming, c’est-à-dire :

@app.post(
    "/invocations",
    response_class=JsonStreamingResponse,
    responses={200: JsonStreamingResponse.openapi_response(StreamChunk)},
)
async def invoke(input: InvokeInput) -> JsonStreamingResponse:
    return JsonStreamingResponse(handle_invoke(input))

Il existe une demande de fonctionnalité ouverte pour le support natif dans FastAPI.

SDK Python Bedrock AgentCore

Le générateur inclut une dépendance au SDK Python Bedrock AgentCore pour les constantes PingStatus. Si vous le souhaitez, il est simple d’utiliser BedrockAgentCoreApp au lieu de FastAPI, mais notez que la sécurité des types est perdue.

Vous pouvez trouver plus de détails sur les capacités du SDK dans la documentation ici.

Serveur A2A (protocole A2A)

Le main.py généré monte un serveur A2A sur une application FastAPI parente qui expose également /ping. Les agents Strands utilisent le A2AServer de Strands ; les agents LangChain enveloppent le graphe compilé dans un AgentExecutor a2a-sdk. Lorsqu’il est déployé sur AgentCore, le point d’entrée résout l’ARN public du runtime à partir d’AppConfig et l’annonce dans la carte d’agent.

La plupart des utilisateurs n’auront pas besoin de modifier ce fichier ; éditez agent.py pour changer les outils ou le prompt système. Le serveur A2A remplit la carte d’agent (/.well-known/agent-card.json) à partir du name et de la description de l’agent.

Serveur AG-UI (protocole AG-UI)

Le main.py généré expose un seul point de terminaison POST qui diffuse des événements AG-UI via Server-Sent Events (SSE), ainsi que /ping pour la vérification de santé du runtime AgentCore. Le câblage dépend du framework :

Strands : enveloppe votre Agent dans un ag_ui_strands.StrandsAgent, construit à l’intérieur d’un gestionnaire lifespan FastAPI (de sorte que la construction se produit au démarrage du conteneur/session plutôt qu’au moment de l’importation), et servi à partir d’une boucle /invocations FastAPI faite à la main.
LangChain : enveloppe le graphe compilé dans un ag_ui_langgraph.LangGraphAgent, construit de la même manière à l’intérieur de lifespan, et servi à partir d’une boucle /invocations FastAPI faite à la main.

La plupart des utilisateurs n’auront pas besoin de modifier ce fichier — éditez agent.py pour changer les outils ou le prompt système.

Exécuter votre Agent

Développement local

Pour exécuter votre Agent (et tout ce qui y est connecté) localement, utilisez la cible dev du projet :

pnpm nx dev your-project

yarn nx dev your-project

npx nx dev your-project

bunx nx dev your-project

Si vous avez ajouté plusieurs composants à votre projet (agents, serveurs MCP, etc.), cela les démarre tous. Pour exécuter uniquement cet agent, ciblez sa cible <your-agent-name>-dev :

pnpm nx agent-dev your-project

yarn nx agent-dev your-project

npx nx agent-dev your-project

bunx nx agent-dev your-project

Cela utilise uv run pour exécuter votre Agent en utilisant le SDK Python Bedrock AgentCore.

Discuter avec votre Agent

Le générateur configure une cible Nx <your-agent-name>-chat qui vous place dans un chat terminal interactif avec votre agent.

La cible de chat s’exécute de manière autonome. Par défaut, elle se connecte à votre agent en cours d’exécution localement, donc démarrez d’abord la cible <your-agent-name>-dev de l’agent (dans un terminal séparé) :

pnpm nx agent-dev your-project

yarn nx agent-dev your-project

npx nx agent-dev your-project

bunx nx agent-dev your-project

Ensuite, dans un autre terminal, démarrez le chat :

pnpm nx run your-project:agent-chat

yarn nx run your-project:agent-chat

npx nx run your-project:agent-chat

bunx nx run your-project:agent-chat

Le générateur émet un scripts/<your-agent-name>/chat.ts pour chaque protocole. Il se connecte à l’agent local par défaut, ou à votre agent déployé lorsque RUNTIME_CONFIG_APP_ID est défini (voir Discuter avec votre agent déployé ci-dessous).

Pour les agents HTTP, le script de chat utilise un client TypeScript type-safe généré à partir de la spécification OpenAPI de l’agent. Le générateur émet également :

scripts/<your-agent-name>_openapi.py — un petit script qui exporte la spécification OpenAPI de l’agent
Une cible Nx <your-agent-name>-openapi qui l’exécute
Une cible Nx <your-agent-name>-generate-client qui produit un client TypeScript type-safe sous scripts/<your-agent-name>/generated/

Lorsque vous personnalisez la forme d’entrée de l’agent (par exemple, ajoutez de nouveaux champs à InvokeInput), mettez à jour chat.ts pour passer les nouveaux champs lors de l’invocation de l’agent et le reste fonctionne automatiquement.

Discuter avec votre agent déployé

Pour discuter avec votre agent déployé sur Bedrock AgentCore, définissez la variable d’environnement RUNTIME_CONFIG_APP_ID sur l’identifiant d’application AppConfig du déploiement (sortie en tant que RuntimeConfigApplicationId par la pile déployée). Le script de chat résout l’ARN du runtime de votre agent à partir de la configuration du runtime et se connecte au point de terminaison déployé :

IAM
Cognito

Pour les agents authentifiés par IAM, les requêtes sont signées avec SigV4 en utilisant vos informations d’identification AWS par défaut. Assurez-vous que l’environnement dispose d’informations d’identification AWS avec la permission d’invoquer le runtime :

RUNTIME_CONFIG_APP_ID=<app-id> pnpm nx run your-project:agent-chat

RUNTIME_CONFIG_APP_ID=<app-id> yarn nx run your-project:agent-chat

RUNTIME_CONFIG_APP_ID=<app-id> npx nx run your-project:agent-chat

RUNTIME_CONFIG_APP_ID=<app-id> bunx nx run your-project:agent-chat

Pour les agents authentifiés par Cognito, fournissez un jeton d’accès Cognito via la variable d’environnement AGENT_ACCESS_TOKEN, qui est envoyé en tant que jeton bearer :

RUNTIME_CONFIG_APP_ID=<app-id> AGENT_ACCESS_TOKEN=<access-token> pnpm nx run your-project:agent-chat

RUNTIME_CONFIG_APP_ID=<app-id> AGENT_ACCESS_TOKEN=<access-token> yarn nx run your-project:agent-chat

RUNTIME_CONFIG_APP_ID=<app-id> AGENT_ACCESS_TOKEN=<access-token> npx nx run your-project:agent-chat

RUNTIME_CONFIG_APP_ID=<app-id> AGENT_ACCESS_TOKEN=<access-token> bunx nx run your-project:agent-chat

Vous pouvez obtenir un jeton d’accès en utilisant la commande cognito-idp admin-initiate-auth de l’AWS CLI, par exemple :

aws cognito-idp admin-initiate-auth \
  --user-pool-id <user-pool-id> \
  --client-id <user-pool-client-id> \
  --auth-flow ADMIN_NO_SRP_AUTH \
  --auth-parameters USERNAME=<username>,PASSWORD=<password> \
  --query 'AuthenticationResult.AccessToken' \
  --output text

Déployer votre Agent sur Bedrock AgentCore Runtime

Infrastructure as Code

Si vous avez sélectionné agentcore pour infra, l’infrastructure CDK ou Terraform pertinente est générée et vous pouvez l’utiliser pour déployer votre Agent sur Amazon Bedrock AgentCore Runtime.

CDK
Terraform

Un construct CDK est généré pour votre agent, nommé en fonction du name que vous avez choisi lors de l’exécution du générateur, ou <ProjectName>Agent par défaut.

Vous pouvez utiliser ce construct CDK dans une application CDK :

import { MyProjectAgent } from '@my-scope/common-constructs';

export class ExampleStack extends Stack {
  constructor(scope: Construct, id: string) {
    new MyProjectAgent(this, 'MyProjectAgent');
  }
}

Un module Terraform est généré pour vous, nommé en fonction du name que vous avez choisi lors de l’exécution du générateur, ou <ProjectName>-agent par défaut.

Passez les sorties du module partagé runtime_config_appconfig dans le module agent :

module "my_project_agent" {
  source = "../../common/terraform/src/app/agents/my-project-agent"

  appconfig_application_id  = module.runtime_config_appconfig.application_id
  appconfig_application_arn = module.runtime_config_appconfig.application_arn
}

Docker est requis pour construire et déployer votre Agent. Assurez-vous d’avoir installé et lancé Docker pour éviter des erreurs telles que :

ERROR: Cannot connect to the Docker daemon at unix://path/to/docker.sock.

Authentification

Le générateur fournit une option auth pour configurer l’authentification de votre Agent. Vous pouvez choisir entre l’authentification IAM (par défaut) ou Cognito lors de la génération de votre agent.

IAM

Par défaut, votre Agent sera sécurisé en utilisant l’authentification IAM, déployez-le simplement sans aucun argument :

CDK
Terraform

import { MyProjectAgent } from '@my-scope/common-constructs';

export class ExampleStack extends Stack {
  constructor(scope: Construct, id: string) {
    new MyProjectAgent(this, 'MyProjectAgent');
  }
}

Vous pouvez accorder l’accès pour invoquer votre agent sur Bedrock AgentCore Runtime en utilisant la méthode grantInvokeAccess, par exemple :

import { MyProjectAgent } from '@my-scope/common-constructs';

export class ExampleStack extends Stack {
  constructor(scope: Construct, id: string) {
    const agent = new MyProjectAgent(this, 'MyProjectAgent');
    const lambdaFunction = new Function(this, ...);

    agent.grantInvokeAccess(lambdaFunction);
  }
}

# Agent
module "my_project_agent" {
  # Relative path to the generated module in the common/terraform project
  source = "../../common/terraform/src/app/agents/my-project-agent"

  appconfig_application_id  = module.runtime_config_appconfig.application_id
  appconfig_application_arn = module.runtime_config_appconfig.application_arn
}

Pour accorder l’accès pour invoquer votre agent, vous devrez ajouter une politique telle que la suivante, en référençant la sortie module.my_project_agent.agent_core_runtime_arn :

{
  Effect = "Allow"
  Action = [
    "bedrock-agentcore:InvokeAgentRuntime"
  ]
  Resource = [
    module.my_project_agent.agent_core_runtime_arn,
    "${module.my_project_agent.agent_core_runtime_arn}/*"
  ]
}

Authentification Cognito

Lorsque vous sélectionnez l’authentification Cognito, le générateur configure l’agent pour utiliser Cognito pour l’authentification.

CDK
Terraform

Le construct généré accepte une prop identity qui configure l’authentification Cognito :

import { MyProjectAgent, UserIdentity } from '@my-scope/common-constructs';

export class ExampleStack extends Stack {
  constructor(scope: Construct, id: string) {
    const identity = new UserIdentity(this, 'Identity');

    new MyProjectAgent(this, 'MyProjectAgent', {
      identity,
    });
  }
}

Le construct UserIdentity peut être généré en utilisant le générateur ts#website#auth, ou vous pouvez créer votre propre UserPool et UserPoolClient CDK.

Le module généré accepte les variables user_pool_id et user_pool_client_ids pour l’authentification Cognito :

module "user_identity" {
  source = "../../common/terraform/src/core/user-identity"
}

module "my_project_agent" {
  source = "../../common/terraform/src/app/agents/my-project-agent"

  appconfig_application_id  = module.runtime_config_appconfig.application_id
  appconfig_application_arn = module.runtime_config_appconfig.application_arn

  user_pool_id         = module.user_identity.user_pool_id
  user_pool_client_ids = [module.user_identity.user_pool_client_id]
}

Cibles Bundle et Docker

Afin de construire votre Agent pour Bedrock AgentCore Runtime, une cible bundle est ajoutée à votre projet, qui :

Exporte vos dépendances Python vers un fichier requirements.txt en utilisant uv export
Installe les dépendances pour la plateforme cible (aarch64-manylinux_2_28) en utilisant uv pip install

Une cible docker spécifique à votre Agent est également ajoutée, qui copie le Dockerfile et les artefacts groupés dans un répertoire de contexte docker. Cela co-localise le Dockerfile avec la sortie construite, permettant à CDK de construire l’image Docker directement en utilisant AgentRuntimeArtifact.fromAsset.

Analyse d’image

L’image Docker construite pour ce projet peut être analysée pour détecter les vulnérabilités à l’aide de Trivy, exécuté depuis l’image Trivy hébergée sur ECR.

Une cible trivy est ajoutée à votre projet qui analyse l’image construite et se termine avec un code non nul si une vulnérabilité de gravité HIGH ou CRITICAL est trouvée. Le Dockerfile généré utilise une image de base sans vulnérabilité corrigeable connue de ces gravités au moment de la génération, et met à niveau les outils fournis (tels que npm) pour maintenir cet état.

L’analyse utilise le même moteur de conteneur que votre construction d’image (docker ou finch), donc aucun outillage supplémentaire n’est requis. Étant donné que l’analyse n’est réexécutée que lorsque l’image change, une image inchangée n’est pas réanalysée. Le script racine trivy fourni analyse chaque image dans l’espace de travail :

pnpm trivy

yarn trivy

npm run trivy

bun trivy

Suppression des résultats Trivy

Il peut y avoir des cas où vous souhaitez supprimer une vulnérabilité spécifique, par exemple lorsqu’aucun correctif n’est encore disponible et que vous avez évalué le risque comme acceptable.

Ajoutez l’ID de vulnérabilité (un par ligne) au fichier .trivyignore à la racine de votre projet (c’est-à-dire à côté de votre project.json) :

# node-tar arbitrary file write - not exploitable in our usage
CVE-2024-XXXXX

Pour plus de détails sur le filtrage des résultats, consultez la documentation de filtrage Trivy.

Observabilité

Votre agent est automatiquement configuré avec l’observabilité en utilisant l’AWS Distro for Open Telemetry (ADOT), en configurant l’auto-instrumentation dans votre Dockerfile.

Vous pouvez trouver les traces dans la console AWS CloudWatch, en sélectionnant “GenAI Observability” dans le menu. Notez que pour que les traces soient remplies, vous devrez activer Transaction Search.

Pour plus de détails, consultez la documentation AgentCore sur l’observabilité.

Gestion des sessions

L’option session correspond à un concept de persistance sous-jacent différent selon le framework que vous avez choisi : le concept de gestion de session de Strands pour le framework strands, ou le concept de checkpointer de LangGraph pour le framework langchain.

L’option session contrôle comment votre agent persiste l’état de conversation (historique des messages, état des outils, etc.) entre les invocations, en utilisant le SessionManager du SDK Strands :

s3 (par défaut) : L’infrastructure CDK/Terraform provisionne un bucket S3 dédié pour les données de session, chiffré avec une clé KMS dédiée et avec tout accès public bloqué ; les journaux d’accès au serveur sont livrés à un groupe de journaux CloudWatch Logs via la même clé. Le rôle IAM de l’agent se voit accorder un accès en lecture/écriture/liste/suppression au bucket et un accès decrypt/generate-data-key à la clé, et le nom du bucket est enregistré aux côtés de l’ARN de l’agent dans la configuration du runtime AppConfig.
in-memory : Aucun bucket n’est provisionné. L’état de conversation est conservé en mémoire uniquement pendant la durée de vie du processus en cours d’exécution et ne survit pas aux redémarrages ou à la réduction d’échelle.

Ceci est implémenté dans le session.py généré, qui exporte une fonction get_session_manager() résolvant un SessionManager pour la session actuelle.

L’identifiant de session lui-même provient de la session AgentCore Runtime (propagée via l’en-tête x-amzn-bedrock-agentcore-runtime-session-id) et est lié à un contexte basé sur contextvars.ContextVar afin que get_current_session_id() puisse le résoudre n’importe où dans la requête — y compris dans tous les clients MCP ou A2A en aval câblés via le générateur connection, de sorte que toute la chaîne d’appels partage une session cohérente.

L’option session contrôle comment le checkpointer LangGraph de votre agent persiste l’état de conversation :

s3 (par défaut) : L’agent déployé utilise un S3CheckpointSaver avec le bucket de session provisionné, stockant les points de contrôle et les écritures en attente sous le préfixe checkpoints/. Cette classe se trouve dans s3_checkpoint_saver_langchain.py dans le projet de connexion d’agent partagé.
dynamodb-s3 : L’infrastructure CDK/Terraform provisionne une table DynamoDB pour les points de contrôle, configurée comme recommandé dans la documentation AWS sur l’utilisation de DynamoDB comme magasin de points de contrôle pour les agents LangGraph (schéma PK/SK unifié, facturation PAY_PER_REQUEST, récupération point-in-time et un attribut ttl), plus un bucket S3 pour décharger les points de contrôle de plus de 350 Ko. Les deux sont chiffrés avec une clé KMS dédiée ; les journaux d’accès au serveur du bucket sont livrés à un groupe de journaux CloudWatch Logs via la même clé. Le rôle IAM de l’agent se voit accorder un accès en lecture/écriture à la table et au bucket, et les noms de table/bucket sont enregistrés aux côtés de l’ARN de l’agent dans la configuration du runtime AppConfig.
in-memory : Aucune table ou bucket n’est provisionné. L’état de conversation est conservé en mémoire uniquement pendant la durée de vie du processus en cours d’exécution et ne survit pas aux redémarrages ou à la réduction d’échelle.

Ceci est implémenté dans le session.py généré, qui exporte une fonction get_checkpointer() appelée depuis l’appel create_agent(..., checkpointer=get_checkpointer()) de agent.py.

Invoquer votre Agent

Invoquer le serveur local

Pour invoquer un Agent en cours d’exécution localement via la cible <your-agent-name>-serve, vous pouvez envoyer une simple requête POST à /invocations sur le port sur lequel votre agent local s’exécute. Par exemple, avec curl :

curl -N -X POST http://localhost:8081/invocations \
  -d '{"prompt": "what is 3 + 5?"}' \
  -H "Content-Type: application/json"

Invoquer l’agent déployé

Pour invoquer votre Agent déployé sur Bedrock AgentCore Runtime, vous pouvez envoyer une requête POST au point de terminaison du plan de données Bedrock AgentCore Runtime avec votre ARN encodé en URL.

Vous pouvez obtenir l’ARN du runtime depuis votre infrastructure comme suit :

CDK
Terraform

import { CfnOutput } from 'aws-cdk-lib';
import { MyProjectAgent } from '@my-scope/common-constructs';

export class ExampleStack extends Stack {
  constructor(scope: Construct, id: string) {
    const agent = new MyProjectAgent(this, 'MyProjectAgent');

    new CfnOutput(this, 'AgentArn', {
      value: agent.agentCoreRuntime.agentRuntimeArn,
    });
  }
}

# Agent
module "my_project_agent" {
  # Relative path to the generated module in the common/terraform project
  source = "../../common/terraform/src/app/agents/my-project-agent"

  appconfig_application_id  = module.runtime_config_appconfig.application_id
  appconfig_application_arn = module.runtime_config_appconfig.application_arn
}

output "agent_arn" {
  value = module.my_project_agent.agent_core_runtime_arn
}

L’ARN aura le format suivant : arn:aws:bedrock-agentcore:<region>:<account>:runtime/<agent-runtime-id>.

Vous pouvez ensuite encoder l’ARN en URL en remplaçant : par %3A et / par %2F.

C’est simple dans une console de navigateur ou un REPL Node en utilisant la méthode intégrée encodeURIComponent :

encodeURIComponent('arn:aws:bedrock-agentcore:<region>:<account>:runtime/<agent-runtime-id>')

L’URL du plan de données Bedrock AgentCore Runtime pour invoquer l’agent est la suivante :

https://bedrock-agentcore.<region>.amazonaws.com/runtimes/<url-encoded-arn>/invocations

Votre infrastructure peut également générer directement l’URL d’invocation complète, avec l’encodage de l’ARN géré pour vous :

CDK
Terraform

new CfnOutput(this, 'AgentUrl', {
  value: agent.invocationUrl,
});

output "agent_url" {
  value = module.my_project_agent.invocation_url
}

La manière exacte d’invoquer cette URL dépend de la méthode d’authentification utilisée.

IAM
Cognito

Authentification IAM

Pour l’authentification IAM, la requête doit être signée en utilisant AWS Signature Version 4 (SigV4).

acurl <region> bedrock-agentcore -N -X POST \
'https://bedrock-agentcore.<region>.amazonaws.com/runtimes/<url-encoded-arn>/invocations' \
-d '{"prompt": "what is 3 + 5?"}' \
-H 'Content-Type: application/json'

Cliquez ici pour plus de détails sur la configuration de la commande acurl ci-dessus

Authentification JWT / Cognito

Pour l’authentification Cognito, passez le jeton d’accès Cognito dans l’en-tête Authorization :

curl -N -X POST 'https://bedrock-agentcore.<region>.amazonaws.com/runtimes/<url-encoded-arn>/invocations' \
  -d '{"prompt": "what is 3 + 5?"}' \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer <access-token>"

Vous pouvez obtenir le jeton d’accès en utilisant la commande cognito-idp admin-initiate-auth de l’AWS CLI, par exemple :

aws cognito-idp admin-initiate-auth \
  --user-pool-id <user-pool-id> \
  --client-id <user-pool-client-id> \
  --auth-flow ADMIN_NO_SRP_AUTH \
  --auth-parameters USERNAME=<username>,PASSWORD=<password> \
  --region <region> \
  --query 'AuthenticationResult.AccessToken' \
  --output text

Navigateur / Site web React

Pour invoquer votre Agent depuis un site web React, vous pouvez utiliser le générateur connection, qui configure automatiquement un client avec l’authentification correcte (IAM ou Cognito).

CLI
VSCode

pnpm nx g @aws/nx-plugin:connection

yarn nx g @aws/nx-plugin:connection

npx nx g @aws/nx-plugin:connection

bunx nx g @aws/nx-plugin:connection

Vous pouvez également effectuer une simulation pour voir quels fichiers seraient modifiés

pnpm nx g @aws/nx-plugin:connection --dry-run

yarn nx g @aws/nx-plugin:connection --dry-run

npx nx g @aws/nx-plugin:connection --dry-run

bunx nx g @aws/nx-plugin:connection --dry-run

Installez le Nx Console VSCode Plugin si ce n'est pas déjà fait
Ouvrez la console Nx dans VSCode
Cliquez sur Generate (UI) dans la section "Common Nx Commands"
Recherchez @aws/nx-plugin - connection
Remplissez les paramètres requis
Cliquez sur Generate

Consultez le guide du générateur connection pour plus de détails sur la configuration de la connexion.

Invoquer un agent A2A en tant qu’outil

Pour déléguer du travail de cet agent à un agent A2A distant (soit TypeScript soit Python), utilisez le générateur connection. Il fournit un client authentifié SigV4 pour l’agent cible et transforme par AST le agent.py de cet agent pour enregistrer l’agent A2A distant en tant que délégué décoré @tool.

CLI
VSCode

pnpm nx g @aws/nx-plugin:connection

yarn nx g @aws/nx-plugin:connection

npx nx g @aws/nx-plugin:connection

bunx nx g @aws/nx-plugin:connection

Vous pouvez également effectuer une simulation pour voir quels fichiers seraient modifiés

pnpm nx g @aws/nx-plugin:connection --dry-run

yarn nx g @aws/nx-plugin:connection --dry-run

npx nx g @aws/nx-plugin:connection --dry-run

bunx nx g @aws/nx-plugin:connection --dry-run

Installez le Nx Console VSCode Plugin si ce n'est pas déjà fait
Ouvrez la console Nx dans VSCode
Cliquez sur Generate (UI) dans la section "Common Nx Commands"
Recherchez @aws/nx-plugin - connection
Remplissez les paramètres requis
Cliquez sur Generate

Consultez le guide du générateur connection pour plus de détails sur la configuration de la connexion.

Invoquer un agent AG-UI

Pour invoquer votre agent AG-UI depuis un site web React, utilisez le générateur connection, qui configure un client CopilotKit configuré pour votre agent déployé avec l’authentification correcte (IAM ou Cognito).

CLI
VSCode

pnpm nx g @aws/nx-plugin:connection

yarn nx g @aws/nx-plugin:connection

npx nx g @aws/nx-plugin:connection

bunx nx g @aws/nx-plugin:connection

Vous pouvez également effectuer une simulation pour voir quels fichiers seraient modifiés

pnpm nx g @aws/nx-plugin:connection --dry-run

yarn nx g @aws/nx-plugin:connection --dry-run

npx nx g @aws/nx-plugin:connection --dry-run

bunx nx g @aws/nx-plugin:connection --dry-run

Installez le Nx Console VSCode Plugin si ce n'est pas déjà fait
Ouvrez la console Nx dans VSCode
Cliquez sur Generate (UI) dans la section "Common Nx Commands"
Recherchez @aws/nx-plugin - connection
Remplissez les paramètres requis
Cliquez sur Generate

Consultez le guide du générateur connection pour plus de détails sur la configuration de la connexion.

Sécuriser votre Agent

Les agents agissent sur des entrées non fiables et peuvent déclencher des actions réelles via leurs outils, il est donc important de considérer la sécurité dès le départ. Les pratiques suivantes s’appliquent à l’agent généré.

Traiter les entrées et sorties du modèle comme non fiables

Les prompts peuvent contenir des instructions adverses (injection de prompt), et la sortie du modèle est non déterministe — ni l’un ni l’autre ne doivent être considérés comme fiables dans une logique sensible à la sécurité :

Définissez des schémas d’entrée stricts pour vos outils, comme dans l’exemple d’outil généré. Contraignez les valeurs à ce dont l’outil a réellement besoin (énumérations, limites de longueur, plages numériques) plutôt que d’accepter des chaînes de caractères libres.
Ne passez jamais la sortie du modèle directement dans des commandes shell, des requêtes SQL, une évaluation de code ou du HTML rendu sans validation ou encodage.
Appliquez des vérifications d’autorisation dans vos outils et services en aval — ne comptez pas sur le prompt système pour empêcher le modèle d’utiliser à mauvais escient un outil auquel il a accès.

Les guides Prompt Engineering et Responsible AI de Strands couvrent la rédaction de prompts système robustes et soucieux de la sécurité.

Limiter étroitement les permissions des outils

Accordez au rôle IAM de l’agent uniquement les permissions dont ses outils ont besoin. Les constructs CDK et modules Terraform fournis exposent des méthodes grant* et des politiques limitées à cet effet — par exemple, accorder à un agent l’accès pour invoquer une API spécifique plutôt que d’attacher de larges politiques gérées. Lorsqu’un outil agit au nom d’un utilisateur, préférez autoriser l’action en utilisant l’identité de l’utilisateur appelant (transmise via le contexte de la requête) plutôt que les permissions ambiantes de l’agent lui-même.

Fournir un interrupteur d’urgence

Étant donné que le comportement du modèle peut changer de manière inattendue, prévoyez de désactiver ou de remplacer rapidement le modèle sans modification de code :

Lisez l’ID du modèle depuis la configuration (par exemple une variable d’environnement MODEL_ID) afin que les opérateurs puissent changer ou revenir à un modèle différent en mettant à jour la configuration.
Placez l’agent derrière un feature flag afin que sa fonctionnalité IA puisse être désactivée entièrement. Lorsqu’elle est désactivée, renvoyez un message générique plutôt qu’une erreur, et assurez-vous que le reste de votre application se dégrade gracieusement.

Documentez comment activer ces contrôles dans votre manuel opérationnel.

Protéger les données sensibles

Évitez de journaliser les prompts et les complétions, qui peuvent contenir des données utilisateur. Le hook de journalisation des erreurs du modèle de l’agent généré journalise uniquement les métadonnées d’erreur, pas le contenu de la conversation — conservez cette propriété lors de l’ajout de votre propre journalisation.
Renvoyez des messages d’erreur génériques aux utilisateurs ; journalisez les erreurs détaillées côté serveur.
Isolez l’état de conversation entre les utilisateurs et les sessions, et autorisez l’accès à toutes les données de session persistées.
Masquez les informations personnellement identifiables (PII) des prompts et des sorties — soit avec un filtre d’informations sensibles Amazon Bedrock Guardrail (ci-dessous), soit, pour les agents Strands, les approches du guide PII Redaction.

Amazon Bedrock Guardrails

Amazon Bedrock Guardrails fournit des filtres de contenu configurables, des sujets interdits et des filtres d’informations sensibles (PII) qui sont évalués sur l’entrée et la sortie du modèle. Vous pouvez attacher un guardrail au modèle utilisé par l’agent généré :

Strands
LangChain

import os

from strands import Agent
from strands.models import BedrockModel

model = BedrockModel(
    model_id=os.environ.get("MODEL_ID"),
    guardrail_id=os.environ["GUARDRAIL_ID"],
    guardrail_version=os.environ.get("GUARDRAIL_VERSION", "DRAFT"),
)

agent = Agent(model=model)

Consultez le guide Strands sur les Guardrails pour plus de détails.

import os

from langchain_aws import ChatBedrockConverse

model = ChatBedrockConverse(
    model=os.environ.get("MODEL_ID"),
    guardrail_config={
        "guardrailIdentifier": os.environ["GUARDRAIL_ID"],
        "guardrailVersion": os.environ.get("GUARDRAIL_VERSION", "DRAFT"),
    },
)

Consultez la documentation ChatBedrockConverse pour les champs guardrail_config.

Connexions

Utilisez le générateur connection pour intégrer ce projet avec d’autres dans votre espace de travail. Les connexions suivantes impliquent ce projet :

React to Python AgentCall a Python Agent from a React website

React to AG-UI AgentCall an Agent exposing the AG-UI protocol from a React website via CopilotKit

Python Agent to MCPConnect a Python Agent to an MCP server

Python Agent to A2A AgentConnect a Python Agent to a remote A2A agent

TypeScript Agent to A2A AgentConnect a TypeScript Agent to a remote A2A agent

Python Agent to Python DynamoDBConnect a Python Agent to a DynamoDB table

Python Agent to AgentCore GatewayConnect a Python Agent to an AgentCore Gateway

AgentCore Gateway to AgentFront an agent with an AgentCore Gateway as a runtime target