ASAPUtils
¿Qué es Private AI Chat?
Private AI Chat es un asistente de IA completamente privado y totalmente en el dispositivo, impulsado por @mlc-ai/web-llm. Ejecuta Modelos de Lenguaje a Gran Escala (LLMs) directamente en tu navegador usando WebGPU.
Características
- 100% Privado: Tus datos nunca salen de tu dispositivo. Sin claves API, sin procesamiento en la nube, sin seguimiento.
- Capaz de funcionar sin conexión: Una vez que el modelo se descarga y se almacena en caché, puedes chatear con la IA sin conexión a internet.
- Impulsado por WebGPU: Aprovecha la tarjeta gráfica de tu dispositivo para ejecutar los modelos de manera eficiente en el navegador.
Cómo Usar
- Inicializar el Modelo: Haz clic en el botón “Cargar Motor” para inicializar la IA.
- Esperar la Descarga: La primera vez que cargas un modelo, se descargarán los archivos necesarios y se almacenarán en caché en tu navegador. Esto puede tardar unos minutos dependiendo de tu conexión a internet. 3. Comenzar a chatear: Una vez cargado, simplemente escribe tu mensaje y haz clic en “Enviar”.
Nota: Esta herramienta requiere un navegador moderno con soporte WebGPU (como Google Chrome, Microsoft Edge o Firefox).)