Qué es Alpaca🦙

Alpaca es una inteligencia artificial del campo del NLP que ha sido desarrollada en la Universidad de Stanford.

Alpaca es capaz de generar texto, pero ¿cómo de potente es Alpaca? Según afirman en la propia universidad, han reportado una potencia similar a GPT-3 de OpenAI, concretamente a la versión superior actualmente: DaVinci-0003.

Es decir, Alpaca es ahora mismo “State of art” en su campo. Y además es reseñable el hecho de que es de código abierto.

Sin embargo, y a pesar de ser código abierto, no es “free”, es decir, es OpenSource pero no FreeSource. Su licencia se limita casi al uso personal y educativo. Esta licencia tan restrictiva es debido a cómo se ha conseguido entrenar a Alpaca como veremos en el siguiente punto.

State of Art en NLP con pocos recursos

El artículo presenta dos desafíos importantes en el entrenamiento de modelos de seguimiento de instrucciones de alta calidad con un presupuesto académico: la necesidad de un modelo lingüístico pre-entrenado sólido y datos de seguimiento de instrucciones de alta calidad. Para abordar estos desafíos, se propone el uso de los nuevos modelos LLaMA de Meta y la generación automática de datos de instrucción a través de un modelo de lenguaje sólido ya existente. Se explica cómo se obtuvo el modelo de lenguaje Alpaca a través del método de autoinstrucción y la generación de 52,000 instrucciones únicas y sus salidas correspondientes a un costo inferior a los 500 dólares utilizando la API de OpenAI.

Para que os hagáis una idea de lo que esto significa: GPT-3 costó la friolera de más de varios millones de dólares en entrenamiento. Aquí lo que estamos viendo es como es entrenado un modelo potente con muy pocos recursos, aunque eso sí, ayudado de modelos más potentes. 😱

Cómo instalar y usar Alpaca 🍣

Instalación en Linux

Puedes descargar e instalar Alpaca en Linux siguiendo estos pasos. Tanto en Debian como Ubuntu y distros con paquetería .deb en general.

Si quieres instalar Alpaca en distros Linux como Fedora, solo cambia los “apt” en los comandos por “dnf” y ya está.

Abre la terminal y usa los siguientes comandos:

sudo apt update

sudo apt upgrade

sudo apt install make gcc g++ git

git clone https://github.com/antimatter15/alpaca.cpp

cd alpaca.cpp

make chat

Puedes descagar Alpaca con este comando:

curl -o ggml-alpaca-7b-q4.bin -C - https://ipfs.io/ipfs/QmQ1bf2BTnYxq73MFJWu1B7bQ2UD6qG7D7YDCxhTndVkPC

Y aqui dejo otros 3 sitios desde dónde descargarlo(por si acaso 😜).

curl -o ggml-alpaca-7b-q4.bin -C - https://gateway.estuary.tech/gw/ipfs/QmQ1bf2BTnYxq73MFJWu1B7bQ2UD6qG7D7YDCxhTndVkPC

curl -o ggml-alpaca-7b-q4.bin -C - https://cloudflare-ipfs.com/ipfs/QmQ1bf2BTnYxq73MFJWu1B7bQ2UD6qG7D7YDCxhTndVkPC

Desde HuggingFace también.

Si, todos desde el protocolo IPFS o puentes del mismo.

¡Y listo, lo podremos usar! 🥳

./chat

Instalación en Windows

Tan solo tienes que descargar Alpaca desde cualquiera de las 3 fuentes citadas al final del punto de la instalación para linux, y luego ejecutar en la terminal el siguiente comando:

./chat

• 
• 
• 
• 
• 
• 
• 

Like