• Home
  • Lokale KI
  • #46 Expert: Wie kann man im Firmennetzwerk mit den eigenen Daten chatten?
#46 Expert: Wie kann man im Firmennetzwerk mit den eigenen Daten chatten?
By Holger Gelhausen profile image Holger Gelhausen
2 min read

#46 Expert: Wie kann man im Firmennetzwerk mit den eigenen Daten chatten?

Der Vortrag zeigt h20.ai mit deren Lösungen man lokale Daten im eigenen Unternehmensnetzwerk mit der KI besser suchen kann

Mit den eigenen Daten über Cloud Lösungen zu chatten wird auf die Dauer sehr teuer. Wenn dann für den upload der Daten OpenAI Lösungen genutzt werden, wird es nochmal teuerer. Die hochgeladenen Daten müssen in ein Vector Format umgewandelt werden und das kostet „Token“.

In dem Beitrag habe ich gezeigt, das man mit privateGPT wunderbare Lösungen bauen kann. Der Nachteil von privateGPT ist, das erstmal über den gesamten Datenpool gesucht wird (das reicht sicher für viele Cases aus), eine Selektion über ein einzelnes Buch ist etwas tricky.

Wie baut man ein persönliches Wissensmanagement mit einer OpenAI unabhängigen KI auf?
Ich zeige wie man mit dem Aufbau von lokalen KI-Systemen (Notebook, PC) mehrere tausend Euro im Jahr sparen kann.

Es gibt eine weitere OpenSource Lösung mit Enterprise Option.

H20.ai hat ein gesamtes ÖKO System gebaut um solche Lösungen in Unternehmen einzuführen.

Das besondere ist, das bei einer Suche direkt auch die Quellen angezeigt werden und es möglich ist, einzelne Dateien zu befragen oder auch Collections.

Jetzt kann man ganz einfach, in meinem Case folgende Collections machen:

  1. Strategie
  2. Innovation
  3. HR
  4. ....und viele andere

Und vieles mehr, so kann ich dann auch sehr schnell auf ein einzelnes Buch unterbrechen und dann dort suchen. Das Modell habe ich mir schon mit privateGPT gebaut, aber dort habe ich keine Collections. Das Bild zeigt die Enterprise Version für Unternehmen.

Das macht das Produkt interessant. Hier gibt es eine Einführung in das System.

Für den privaten Gebrauch kann man sich aus GitHub eine einfache Version runterladen und installieren. Es gibt verschiedene Systeme (abhängig von der Performance des eigenen Rechners)

Fazit:

Lokale Systeme kommen immer mehr in die Unternehmen um unabhängig von OpenAI und EU zu werden. h20.ai ist ein interessanter Ansatz dazu.

By Holger Gelhausen profile image Holger Gelhausen
Updated on
Lokale KI Workflows KI-Tools Automatisierung Expert