ChatGPT, Perplexity, Claude & Co.: Inzwischen gibt es eine ganze Reihe an Tools, die einen mit Künstlichen Intelligenzen chatten lassen. Ein Nachteil: Alle diese Tools sind ans Internet angebunden und verarbeiten oder speichern die eigenen Daten. Wer ein Large Language Model (LLM) anonym nutzen möchte, kann das über Apps aber ebenfalls machen.
Der Hype ist groß: KI-Modelle wie ChatGPT, Perplexity oder Claude scheinen da gesamte Weltwissen jederzeit parat zu haben. Kein Wunder also, dass die Dienste immer mehr Nutzer erreichen. Während das für alltägliche Probleme im privaten Bereich oft kein Problem ist, gibt es bei beruflichen oder verfänglichen Informationen doch Bedenken. Kann ich meine Geheimnisse wirklich einer KI geben?
Alternative zu ChatGPT: KI-Chatbots ohne Internet nutzen
Wer wirklich auf Geheimhaltung setzt, sollte seine Daten nicht weitergeben. Zwar gibt es bei den meisten KI-Chatbots auch eine Art Inkognito-Modus – wie genau der funktioniert, lässt sich aber nicht überprüfen. Ganz verzichten muss man auf die Künstliche Intelligenz dennoch nicht: Große Sprachmodelle, die ganz ähnlich wie ChatGPT funktionieren, stehen inzwischen auch zum Download bereit. Damit kann man die Künstliche Intelligenz auch ohne Internet komplett lokal nutzen.
Offline mit KIs chatten – kostenlose App für Windows und macOS
Als App kann man dafür das kostenlose GPT4All nutzen. GPT4All steht sowohl für macOS als auch für Windows zum Download bereit. GPT4All ähnelt der App von ChatGPT – man kann hier ganz einfach in einem Chatfenster seine Texte eingeben und erhält von der KI die passenden Texte zurück.
Als Vorteile nennt GPT4All unter anderem:
- Die eigenen Chats mit dem KI-Tool sind privat und werden ausschließlich offline auf dem eigenen Rechner verarbeitet
- Man kann vertrauliche Dokumente wie PDFs oder andere Daten in GPT4All nutzen – diese werden ebenfalls nicht ins Internet übertragen
- Man kann die Künstlichen Intelligenzen mit System-Prompts individuell an die eigene Nutzung anpassen
- Die App läuft problemlos auf normalen, modernen Rechnern
Das richtige Open-Source-Sprachmodell finden
Sobald man GPT4All installiert hat, zeigt sich die ganze Power des Tools: In einem eigenen Model-Bereich kann man diverse Sprachmodelle auswählen und mit einem Klick installieren. GPT4All spricht von mehr als 1.000 Sprachmodellen, die aktuell zur Nutzung bereitstehen.
Wer von dieser großen Menge an Sprachmodellen überfordert ist, kann sich auf einige der besten Modelle verlassen, die es aktuell am Markt gibt. So stehen unter anderem LLaMa, Mistral und Nous-Hermes zur Verfügung. LLaMa wurde von Facebook-Konzern Meta entwickelt und gehört zu den modernsten LLM überhaupt.
Häufig gibt es bei den Sprachmodellen noch unterschiedliche Versionen. Hier sollte man einerseits auf die Versionsnummer achten (bei LLaMa ist aktuell die Version 3.2 die aktuellste Variante). Daneben gibt es bei LLaMa noch eine Angabe, die aus Zahlen und einem B besteht. Diese Versionen wie 8B, 3B oder 1B unterscheiden sich in der Anzahl ihrer Parameter. Grundsätzlich gilt: Mehr Parameter machen das Modell leistungsfähiger, benötigen aber auch höhere Ressourcen.
Wer einen langsameren Rechner hat, sollte sich also mit 1B beschäftigen, bei besserer Hardware und höheren Ansprüchen kann man auf 3B oder 8B wechseln. Praktisch ist hier, dass einem GPT4All bei allen Modellen direkt anzeigt, wie viel RAM das Modell benötigt.
Quellen:
Schreibe einen Kommentar