ChatGPT ha llegado para quedarse. De eso no hay duda. Su funcionamiento ha revolucionado el mundo cotidiano y empresarial. Y aun así, si no estás muy conforme con sus políticas de suscripción o con las de privacidad, siempre puedes optar por una opción que funciona de manera local y que no requiere de conexión a internet. Hablamos de LocalGPT.
Sí, es capaz de funcionar en Windows sin conexión a internet, lo que quiere decir que jamás se enviarán tus datos a servidores externos. Esta opción en particular ha llamado muchísimo la atención de la comunidad online, y muchos de ellos ya optan por esta medida para interactuar con su propia IA privada. Para ello, solo tenemos que instalar un par de cosas rápidamente y descargar un modelo de lenguaje. Tras ello, todo un mundo (offline) se abre ante nosotros.
Cómo instalar LocalGPT en Windows 11
Lo primero que vamos a necesitar en este proceso es instalar Python en nuestro ordenador, siempre que no esté ya instalado. Así que, ve a su web oficial y hazte con su última versión para descargar. Recuerda que tienes que marcar la casilla de agregar Python al PATH a la hora de instalarlo. Por último, abre la consola de CMD o PowerShell (la que prefieras) y asegúrate de tener «pip» actualizado.
Ahora que ya tenemos Python en nuestro PC, lo siguiente será hacernos con LocalGPT. Pero tranquilo, porque este se encuentra en los repositorios de GitHub. Así que solo tenemos que clonarlo en nuestro PC. En el caso de que no sepas hacerlo, no temas. Solo tienes que descargar el ZIP del proyecto que elijas de GitHub y extraer todo su contenido dentro de una carpeta. Lo único que tendrás que hacer es entrar a esa carpeta desde la terminal.
Es el momento de ejecutar el siguiente comando:
pip install -r requirements.txt Esto hará que se instalen todas las bibliotecas necesarias para ejecutar LocalGPT. Eso sí, ten en cuenta que dependiendo de la potencia de tu ordenador, este proceso puede tardar algunos minutos. Y más aún si instalamos algún paquete más grande como lo es «torch».
Ahora que ya tenemos todas las bibliotecas instaladas, es el momento de hacernos con nuestro modelo de lenguaje. O sea, con el cliente en sí de la IA. Ten en cuenta que LocalGPT funciona tanto con Llama, Mistral o bien Vicuna. Esto quiere decir que tienes que descargar uno de estos modelos de lenguaje. Nosotros te aconsejamos que lo hagas desde Hugging Face, ya que es una fuente fiable desde la que descargar programas del estilo. Tan solo deberás colocarlo dentro de la ruta que te indique el propio proyecto. Si no tienes del todo claro qué modelo escoger, siempre podrás usar un modelo de los más fáciles y ligeros, como lo es TinyLlama.
Para finalizar esta pequeña odisea, ya tendrás disponible tu propio «ChatGPT» en el PC. Ahora podrás cargar tus propios documentos tal y como se te dirá en la documentación de GitHub y ejecutar el script que indexa el contenido. Y listo, ya tienes tu propio chatbot local con una IA que jamás se conectará a internet.
Requisitos mínimos si quieres instalar LocalGPT en tu PC
En el caso de que te hayas decidido a tener LocalGPT en tu PC, tienes que echarle un vistazo a lo que requiere este software de ti. Ten en cuenta que es un modelo que trabaja de manera completamente offline, por lo que todos los recursos van a salir de tu propio equipo:
- Procesador: se requiere un procesador de varios núcleos, pero preferiblemente un in i5 en adelante o un AMD Ryzen 5 en adelante.
- Memoria RAM: lo ideal es que cuentes, al menos, con 16 GB para que se ejecute de manera fluida, pero si te ves más apurado, puede funcionar igualmente con 8 GB, aunque esto va a suponer que puede ocurrir algún fallo de vez en cuando.
- Tarjeta gráfica: una gráfica que cuente con 6 GB de VRAM es lo más idóneo. Por ejemplo, una NVIDIA RTX 2060 podría ser bastante adecuada, ya que va a mejorar y mucho la velocidad de las respuestas.
- Espacio en disco: tendrás que reservar 10-20 GB aproximadamente, pero todo va a depender del modelo que elijas.
