Durante mucho tiempo, no dudé en pegar un contrato en ChatGPT, subir un informe confidencial para solicitar un resumen o introducir la propuesta de un cliente en una herramienta de inteligencia artificial en la nube. Un día, me detuve a leer el documento de Condiciones de Servicio (algo que había estado hojeando distraídamente durante años) y me di cuenta de que estos archivos salían de mi dispositivo y se alojaban, al menos temporalmente, en servidores ajenos. Curiosamente, me di cuenta de que un antiguo compañero me había explicado el motivo. No confíe información confidencial a ChatGPTEsta molestia me impulsó a buscar un camino mejor.
Lo que encontré fue AnythingLLM, una aplicación de escritorio gratuita y de código abierto que te permite crear un asistente de IA totalmente personalizado a partir de tus propios documentos, y lo hace todo en tu dispositivo. Se ha convertido en una de las... Aplicaciones de inteligencia artificial de código abierto que uso todos los díasAsí es como realmente se veía la transformación.
Enlaces rápidos
Instalar y configurar AnythingLLM sólo toma unos minutos.
Te dice exactamente dónde van tus datos incluso antes de comenzar.
Tras obtener el archivo de instalación, haga doble clic en él y el asistente se encargará del resto. Durante la instalación, se descargarán automáticamente los componentes de soporte: las bibliotecas CUDA de Ollama si tiene una GPU NVIDIA compatible. Este proceso le resultará útil una vez que lo comprenda. ¿Qué son los núcleos CUDA y cómo mejoran la potencia informática general? FFProbe para el procesamiento de medios y recursos de Meeting Assistant para funciones de audio. Nada de esto requiere tu intervención. Todo el proceso, desde hacer doble clic en el instalador hasta ver el panel de control principal, tomó menos de cinco minutos.
Al abrir AnythingLLM, una de las primeras cosas que se muestra es una pantalla de gestión de datos y privacidad, que vale la pena leer. Indica claramente que solo se puede acceder a su formulario y conversaciones en su dispositivo, que el texto del documento se integra de forma privada en esta instancia mediante el incrustador integrado de AnythingLLM y que sus vectores se almacenan localmente a través de LanceDB. Si alguna vez ha buscado... ¿Qué es una base de datos vectorial y cómo mejora la inteligencia artificial?Te darás cuenta de que mantener este componente completamente desconectado es una gran ventaja para la privacidad. No hay botones para alternar, y las opciones de desactivación están ocultas en la configuración. Todo permanece local por defecto.
Inmediatamente después de la descripción general de la privacidad, AnythingLLM le guía a través de su pantalla de preferencias de LLM. La lista de proveedores compatibles es extensa: en la nube, se encuentran OpenAI, Anthropic, Azure OpenAI, Gemini, Groq y otros. En la versión completamente local, se encuentran Ollama, LM Studio, LocalAI, KoboldCPP, Dell Pro AI Studio, Microsoft Foundry Local y Docker Model Runner, entre otros. La opción predeterminada "AnythingLLM" combina un ejecutor de modelos local con tecnología de Ollama, lo que significa que puede descargar modelos como Phi-4 de Microsoft (9.1 GB) o Qwen3 0.6 B de Alibaba (unos 600 MB) directamente desde la aplicación, sin necesidad de configuración adicional.
Si tu equipo no tiene una unidad de procesamiento gráfico (GPU) dedicada, no hay problema. Conectarse a la API de Groq te da acceso a modelos de inferencia rápidos como el Llama 3 70B con un coste prácticamente nulo, y solo necesitas una clave API para que funcione. Puedes cambiar de proveedor en cualquier momento desde la configuración, así que no estás atado a la opción que seleccionaste. Empecé con el proveedor local para las pruebas (el Phi-3 3.8B me sorprendió con su excelente gestión de preguntas y respuestas de documentos en un portátil de gama media). Luego cambié a Groq para tareas más exigentes donde la velocidad era más importante.
Una vez configurado, AnythingLLM transforma sus documentos personales en un asistente de inteligencia artificial enfocado.
Tus archivos vuelven a hablar de forma más clara
El panel de control te da la bienvenida con una lista de verificación para empezar y una barra lateral que ya contiene un espacio de trabajo virtual llamado "Mi espacio de trabajo". Los espacios de trabajo son el concepto organizativo central de AnythingLLM: cada uno es un entorno autónomo donde coexisten tus documentos y conversaciones. Piensa en cada espacio de trabajo como una sala independiente: una para los contratos de los clientes, otra para la investigación interna y una tercera para notas personales. Los documentos se pueden compartir entre espacios de trabajo si es necesario, pero no interfieren entre sí, lo que mantiene la concentración y la precisión de las respuestas de la IA.
Agregar documentos al espacio de trabajo es sencillo con solo arrastrar y soltar. AnythingLLM gestiona documentos de Word, archivos de texto sin formato, archivos CSV, hojas de cálculo, archivos de audio e incluso archivos PDF, de forma similar a... NotebookLM lo utiliza para convertir cualquier archivo PDF en una conversación interactiva.También hay un campo "Obtener sitio web" en el panel de carga. Si desea obtener una página web o un recurso en línea, pegue la URL y el contenido se descargará automáticamente. Una vez cargado, AnythingLLM procesa cada archivo, dividiendo el texto y almacenando los vectores localmente. Un archivo PDF típico de diez páginas solo tarda unos segundos.
Los agentes y las órdenes policiales sesgadas llevan a AnythingLLM más allá de un cuadro de búsqueda inteligente
Aquí es donde la cosa se pone realmente emocionante.
AnythingLLM viene equipado con funciones de agente que van más allá de las simples preguntas y respuestas de documentos. Realiza la mecanografía @agente En el chat, puedes activar un agente de IA que realiza tareas de llamada a la herramienta: búsquedas web, búsquedas más profundas y acciones entre aplicaciones. Las habilidades personalizadas del agente están disponibles en el Centro de la Comunidad de AnythingLLM, donde la biblioteca crece constantemente. La función de comando de barra diagonal te permite crear y guardar plantillas de indicaciones para tareas repetitivas, como resumir las notas de reuniones en un formato uniforme, redactar respuestas de correo electrónico con un tono específico o extraer campos específicos de los documentos cargados cada vez.
Si quieres ir un paso más allá, existe una extensión de navegador que te permite interactuar con tu instancia de AnythingLLM desde cualquier página web, y una integración con GPTLocalhost que integra el asistente directamente en Microsoft Word. Los equipos que necesitan acceso compartido pueden optar por la versión de Docker, que añade compatibilidad multiusuario, controles basados en roles y listas blancas. La aplicación de escritorio es más que suficiente para uso personal, pero es útil saber que hay disponible una ruta de configuración para equipos.
Bienvenido a la revolución de la IA para ti (población: tú)
Al cambiarme a AnythingLLM, dejé de ver la IA como un servicio que alquilo y empecé a verla como una herramienta que poseo. Mis documentos permanecen en mi disco duro, mis consultas son privadas y ahora tengo un asistente digital que realmente entiende mi contexto, no solo la internet pública.
