Enviar mensaje vía LangChain a ChatGPT

Aquí enviamos un mensaje vía LangChain a ChatGPT y mostramos la respuesta.

Realizar un encadenamiento con “chain”

Usa “chain” para encadenar el modelo y el parser.

Prompts de plantilla

Preparar los prompts con una plantilla.

Usa la plantilla:

El idioma de destino se externaliza:

Más encadenamientos

Encadena la plantilla con el modelo y el parser:

Servidor mediante FastAPI y endpoint REST

Crea mediante FastAPI un servidor. El servidor carga la aplicación (app.py), recibe la petición REST y devuelve la traducción:

Chatbot

Este bot reenvía todas las solicitudes 1:1 a ChatGPT y funciona como “proxy”.

Chatbot incl. plantilla de prompt

Chatbot incl. plantilla de prompt y consulta de SessionID

El chatbot solo responde a las solicitudes mediante Session-ID. La consulta de SessionID se ha vuelto a suprimir:

Chatbot incl. plantilla de prompt y limitación de la longitud del historial & salida como stream

Limitar la longitud del historial y emitir la respuesta del bot como stream. La consulta de SessionID se ha vuelto a suprimir.

Enviar solicitud vía agente a Anthropic u OpenAI

Dentro de la solicitud REST se puede indicar a partir de ahora si se debe usar OpenAI (ChatGPT) o Anthropic (Claude).

Llamada a Anthropic:

Llamada a OpenAI:

La biblioteca transformers-biblioteca, proporcionada por Hugging Face, es una de las bibliotecas más populares para trabajar con modelos preentrenados para el procesamiento de lenguaje natural (NLP). Esta biblioteca ofrece una forma sencilla de acceder a una variedad de modelos de NLP y utilizarlos, incluidos modelos para generación de texto, clasificación, traducción y muchas otras tareas.
La biblioteca transformers (pip install transformers) es necesaria para:
Tokenización: La biblioteca transformers incluye tokenizadores que dividen el texto en unidades más pequeñas (tokens). Esto es crucial para asegurar que el número de tokens permanezca dentro de los límites establecidos por los modelos.
Recuento de tokens: La función trim_messages calcula el número de tokens en un texto.