Conversaciones, parámetros y streaming

Usa el mensaje de sistema, mantén el historial de una conversación, ajusta temperature, max_tokens y stop_sequences, y muestra respuestas en vivo con chat_stream y sus eventos en la API v2 de Cohere.

Mariana ya tiene coop.py funcionando, pero al probarlo con Don Arturo, socio de la cooperativa, aparecieron tres problemas. Primero, Don Arturo preguntó "¿y eso cuánto tarda?" y el asistente no supo a qué se refería "eso". Segundo, a veces las respuestas salían larguísimas y otras se cortaban. Tercero, en el celular la pantalla se quedaba en blanco varios segundos y Don Arturo pensó que no servía.

Los tres tienen solución con lo que ves en esta lección: historial de mensajes, parámetros de generación y streaming.

Qué verás en esta lección

1. Los cuatro roles de un mensaje
2. La API no recuerda nada: tú envías el historial
3. Parámetros de generación
4. El razonamiento del modelo
5. Streaming: mostrar el texto mientras se genera
6. Juntando todo: un chat de consola
7. Práctica
8. Resumen
9. Quiz