Mit den eigenen Daten über Cloud Lösungen zu chatten wird auf die Dauer sehr teuer. Wenn dann für den upload der Daten OpenAI Lösungen genutzt werden, wird es nochmal teuerer. Die hochgeladenen Daten müssen in ein Vector Format umgewandelt werden und das kostet „Token“.

In dem Beitrag habe ich gezeigt, das man mit privateGPT wunderbare Lösungen bauen kann. Der Nachteil von privateGPT ist, das erstmal über den gesamten Datenpool gesucht wird (das reicht sicher für viele Cases aus), eine Selektion über ein einzelnes Buch ist etwas tricky.

Es gibt eine weitere OpenSource Lösung mit Enterprise Option.

H20.ai hat ein gesamtes ÖKO System gebaut um solche Lösungen in Unternehmen einzuführen.

Das besondere ist, das bei einer Suche direkt auch die Quellen angezeigt werden und es möglich ist, einzelne Dateien zu befragen oder auch Collections.

Jetzt kann man ganz einfach, in meinem Case folgende Collections machen:

1. Strategie
2. Innovation
3. HR
4. ….und viele andere

Und vieles mehr, so kann ich dann auch sehr schnell auf ein einzelnes Buch unterbrechen und dann dort suchen. Das Modell habe ich mir schon mit privateGPT gebaut, aber dort habe ich keine Collections. Das Bild zeigt die Enterprise Version für Unternehmen.

Das macht das Produkt interessant. Hier gibt es eine Einführung in das System.

Für den privaten Gebrauch kann man sich aus GitHub eine einfache Version runterladen und installieren. Es gibt verschiedene Systeme (abhängig von der Performance des eigenen Rechners)

Fazit:

Lokale Systeme kommen immer mehr in die Unternehmen um unabhängig von OpenAI und EU zu werden. h20.ai ist ein interessanter Ansatz dazu.