Lokal laufende große KI-Sprachmodelle vs. ChatGPT-4: Eine explorative Analyse ihrer Fähigkeiten

Zunehmend taucht die Frage auf, wie gut die lokal am Rechner laufenden KI-Sprachmodelle im Vergleich zu ChatGPT 4 von OpenAI sind ? Habe das diese Woche explorativ getestet für: einfache Prognoserechnungen, Erstellung von Rohkonzepten und Nutzung lokaler Dateien als Basis für Prompts. Mit dem kostenlosen GPT4All (mit Mistral LLMs) von Nomic AI und interessanten Ergebnissen:

• Prognoserechnung und Datenauswertung ähnlich gut wie ChatGPT 4 (aber langsamer, da auf dem lokalen Rechner)
• Erstellung eines Rohkonzeptes ähnlich gut wie ChatGPT 4 (aber einige Formulierungsfehler bei GPT4All
• Nutzung lokaler Text-Dateien und Ordner für Auswertungen (da ist GPT4All leider nicht gut wegegekommen und hat nicht lokale sondern generische Daten verwendet)

Zusammenfassend würde ich sagen lokale LLMs am Rechner bleiben ein spannendes Feld, entwickeln sich ebenfalls rasant weiter, werden besser und sind vor allem auch aus Datenschutz Gründen interessante Alternativen.

Der Download und die lokale Installation von GPT4All funktioniert in der Regel problemlos und ist nach einer einfachen Einrichtung (v.a. der Auswahl der LLMs die verwendet werden sollen) ähnlich Nutzbar wie ChatGPT. Kostenloser Download und Infos unter https://gpt4all.io/index.html