Los prompts de los LLM tienen una estructura fija basada en 4 componentes, la totalidad de esta dará información suficiente para retornar una respuesta.

  1. Instrucciones: Será la descripción detallada de qué queremos que haga el modelo de manera general.
  2. Información externa o contexto: Serán datos que no se encuentran originalmente en el modelo y que darán un nuevo enfoque a la hora de interpretar y responder la pregunta.
  3. Input o consulta: Este es el prompt ingresado por el usuario. Según las instrucciones y el contexto será capaz de responder (o retornará una negativa personalizada).
  4. Indicador de salida: Con esto indicaremos el fin de nuestra consulta y daremos paso al agente para que genere un output.

A continuación jugaremos con un par de prompts donde se reflejan estos 4 componentes.

Usando prompts

A continuación crearemos un prompt entero con los 4 componentes (instrucciones, contexto, consulta y salida). Haremos un roleplay argentino y daremos información sobre los LMGEs, finalmente haremos una pregunta que está dentro del texto y daremos libertad al modelo para responderla.

prompt_argentino = """Respondé la pregunta basándote en el contexto de abajo, si la
pregunta no puede ser respondida usando la información proporcionada,
respondé con "Ni idea, che".

Contexto: Los Modelos de Lenguaje de Gran Escala (MLGEs) son lo último en modelos usados en el Procesamiento del Lenguaje Natural (NLP).
Su desempeño superior a los modelos más chicos los hizo increíblemente
útiles para los desarrolladores que arman aplicaciones con NLP. Estos modelo
se pueden acceder vía la librería `transformers` de Hugging Face, vía OpenAI
usando la librería `openai` y vía Cohere usando la librería `cohere`.

Pregunta: ¿Qué librerías y proveedores de modelos ofrecen MLGEs?

Respuesta: (escribe como argentina informal): 
"""

Si invocamos al modelo, este nos dará un output.

llm_gpt_3_5(prompt_argentino)
La librería `transformers` de Hugging Face, la librería `openai` y la librería `cohere` ofrecen MLGEs.