Bedrock en producción: streaming, herramientas, caché, lotes y guardrails
Lleva el asistente a producción en Amazon Bedrock con streaming, herramientas desde el SDK y desde Converse, caché de prompts explícita, trabajos de inferencia por lotes en S3 y Amazon Bedrock Guardrails.
El asistente de incidencias de Tlali Logística ya responde desde Bedrock. Ahora llegan los requisitos de producción: el panel de servicio al cliente quiere ver la respuesta mientras se escribe, el asistente debe consultar el estado real de un envío, el catálogo de políticas de compensación (unos 8,000 tokens) se envía en cada llamada, cada noche hay que reclasificar los 15,000 tickets del día y el área legal pide un filtro que bloquee datos de tarjetas y lenguaje ofensivo. En la API de Claude cada uno de estos puntos tenía una receta conocida. En Bedrock algunas recetas se mantienen y otras cambian de forma.
Qué verás en esta lección
- Streaming
- Herramientas: dos formatos para lo mismo
- Con el SDK de Anthropic
- Con Converse
- Caché de prompts
- Lotes: la inferencia por lotes de Bedrock
- Guardrails
- Práctica
- Resumen
- Quiz
El resto de la lección es para alumnos. Se abre al comprar el curso o con la Membresía de IA con Clase.
Ver precios Ya compré: acceder o empieza con una lección gratis