Existen 2 grandes escuelas a la hora de usar LangChain: La primera será usar un modelo desplegado por alguna empresa (OpenAI con GPT por ejemplo), la segunda será descargar y correr un modelo propio localmente.
La primer opción siempre será más sencilla con la condición de que se debe pagar por consumir los servicios remotamente, sin embargo, la segunda, a parte de permitir soportar los costos personalmente, implicará una mayor personalización del modelo.
A continuación exploraremos esta primera, donde haremos uso de los modelos de OpenAI desplegados on demand.
Instalaremos openai y langchain.
%%capture
!pip install openai langchain
Usaremos un par de librerías para cargar como variable local la api key de OpenAI.
from getpass import getpass
import os
Este pequeño script cargará la variable desde teclado en formato de contraseña segura.
OPENAI_API_KEY = getpass("Enter key: ")
os.environ["OPENAI_API_KEY"] = OPENAI_API_KEY