WebGPU Chat descarga un modelo de lenguaje abierto una sola vez y lo ejecuta en tu propia tarjeta gráfica. No hay cuenta, ni servidor que lea lo que escribes, ni analítica.
La web solo entrega archivos estáticos. Todo el cálculo ocurre en tu equipo, y el navegador impide a la página conectarse a otros sitios que no sean ella misma y Hugging Face, de donde se descargan los modelos.
Los mensajes, las respuestas y el historial se quedan en el almacenamiento de tu navegador. Puedes borrarlos cuando quieras.
Tras la primera descarga, el modelo queda guardado en la caché del navegador y puedes chatear sin internet.
El código está en GitHub con licencia MIT, y los modelos son abiertos. Puedes comprobar qué hace y alojarlo tú.
La app comprueba tu GPU, te recomienda el modelo que mejor encaja y bloquea los que no caben. Se descargan directamente de Hugging Face, en una versión fija y verificada.
Uso y redistribución libres; el uso comercial solo está permitido a entidades con menos de 10 millones de dólares de ingresos anuales. Texto completo.
Apache 2.0: uso libre, también comercial, conservando el aviso de licencia.
Apache 2.0: uso libre, también comercial, conservando el aviso de licencia.
Cada modelo se ha pasado por una batería propia de 30 preguntas en español e inglés (conversación, código y razonamiento). Respuestas y notas completas en el repositorio.
Medidas en preparación.
Sin servidor de inferencia: la web es un conjunto de archivos estáticos y tu navegador hace el resto.
Lee las capacidades de WebGPU de tu tarjeta (números de 16 bits, tamaño máximo de búfer) y te recomienda un modelo.
Los pesos, cuantizados a 4 bits en formato ONNX, se bajan de Hugging Face con la revisión fijada y se guardan en la caché del navegador.
Transformers.js y ONNX Runtime Web ejecutan el modelo con WebGPU en un hilo aparte, con la plantilla de chat oficial de cada modelo.
Entre mensajes se conserva la caché de claves y valores, así que cada turno solo procesa lo nuevo y responde antes.
Caben en un ordenador personal a cambio de saber menos que los grandes modelos comerciales. Pueden inventar datos, nombres o cifras con total seguridad. Comprueba lo importante y no los uses para decisiones médicas, legales o financieras.
Tus mensajes no salen del navegador. Lo único que se conecta a internet es la descarga de los modelos desde Hugging Face, que, como cualquier servidor, ve tu dirección IP. La web no tiene analítica ni cookies, y su política de seguridad (CSP) solo le permite conectarse a sí misma y a Hugging Face. Puedes comprobarlo en la pestaña «Red» de las herramientas de desarrollo.
Un navegador con WebGPU y una GPU que admita números de 16 bits (shader-f16): Chrome o Edge recientes en Windows, macOS o ChromeOS, Chrome en Android, o Safari 26. El modelo ligero funciona con gráficas integradas; el máximo necesita una GPU dedicada potente.
Entre 1,1 y unos 8 GB por modelo, en el almacenamiento del navegador. En la app, «Modelos» muestra lo que ocupa cada uno y permite borrarlo. También desaparece al borrar los datos del sitio en tu navegador.
En el procesador estos modelos irían a pocas palabras por segundo, demasiado lento para chatear. Por eso la web exige WebGPU y te explica qué hacer si tu navegador no lo tiene.
Sí. Es un proyecto personal sin ánimo de lucro, sin publicidad ni registro. El coste de cálculo lo pone tu equipo.
WebGPU Chat