Was ist Private AI Chat?
Private AI Chat ist ein vollständig lokal auf dem Gerät laufender, vollkommen privater KI-Assistent, der von @mlc-ai/web-llm unterstützt wird. Er betreibt große Sprachmodelle (LLMs) direkt in Ihrem Browser mit WebGPU.
Funktionen
- 100% privat: Ihre Daten verlassen niemals Ihr Gerät. Keine API-Schlüssel, keine Cloud-Verarbeitung, kein Tracking.
- Offline-fähig: Sobald das Modell heruntergeladen und zwischengespeichert ist, können Sie mit der KI chatten, ohne eine Internetverbindung zu benötigen.
- Unterstützt durch WebGPU: Nutzt die Grafikkarte Ihres Geräts, um Modelle effizient im Browser auszuführen.
Nutzung
- Modell initialisieren: Klicken Sie auf die Schaltfläche „Engine laden“, um die KI zu initialisieren.
- Auf den Download warten: Beim ersten Laden eines Modells werden die notwendigen Dateien heruntergeladen und im Browser zwischengespeichert. Dies kann je nach Internetverbindung ein paar Minuten dauern. 3. Chatten starten: Sobald geladen, geben Sie einfach Ihre Nachricht ein und klicken Sie auf “Senden”.
Hinweis: Dieses Tool erfordert einen modernen Browser mit WebGPU-Unterstützung (wie Google Chrome, Microsoft Edge oder Firefox).