KI ‚Made in Augsburg‘: Wie Open Hippo Datensouveränität und Klimaschutz vereint

B4BSCHWABEN.de: Wie ist die Idee hinter Open Hippo entstanden und welches konkrete Problem lösen Sie damit für Unternehmen?

Thomas Fraunholz: Die Idee zu Open Hippo ist im Januar 2024 entstanden. Ich habe damals mit Open-Source-Sprachmodellen experimentiert, die in den USA gehostet waren. Die Schnittstellen sind aber ständig nachts ausgefallen und erst wieder repariert worden, als in San Francisco die Sonne aufging. Da dachte ich mir: Das geht besser. Entsprechende Anbieter gab es auf dem deutschen Markt damals noch nicht.

Viele Unternehmen setzen im Alltag auf etablierte Produkte großer US-Konzerne. Was unterscheidet Ihre Lösung konkret von bekannten Tools wie ChatGPT oder Microsoft Copilot?

Wir setzen konsequent auf Open-Source-Sprachmodelle. Durch diesen Ansatz können wir unseren Kunden bei unserem Hippo Chat die Wahl lassen, ob sie unsere Managed Services aus dem LEW Green Data Center hier in Augsburg verwenden oder die Lösung lieber ins eigene Rechenzentrum stellen wollen. Darüber hinaus können wir unsere Lösung so auch an die individuellen Bedürfnissen unserer Kunden anpassen.

Viele Mittelständler zögern beim Einsatz von KI. Woran liegt das Ihrer Einschätzung nach und wo sollten Unternehmen konkret anfangen?

Persönlich habe ich häufig beobachtet, dass beim Thema KI weiterhin viel Unsicherheit besteht, da die Technologie für die meisten immer noch schwer greifbar ist. Meine Empfehlung ist deswegen, erstmal den Mitarbeitern einen offiziellen Zugang zu einem Chat zu geben, in Kombination mit praktischen Schulungen. Der Rest ist dann oftmals ein Selbstläufer, da die Mitarbeiter von ganz alleine auf Anwendungen in ihrer Domäne kommen.

Unabhängig davon nutzen Mitarbeitende oft bereits kostenlose KI-Dienste. Wie groß ist das Risiko dieser „Schatten-KI“ und wie begegnen Sie dem?

Schatten-KI ist Fluch und Segen zugleich. Fluch, weil diese kostenlosen Angebote meistens deswegen kostenlos sind, weil die Daten zum Training neuer KI-Modelle verwendet werden – ein DSGVO-Supergau. Segen, weil sie ein idealer Startpunkt sind, eine Unternehmensstrategie für KI aufzubauen. Die Mitarbeiter nutzen diese Tools ja, weil sie bereits erkannt haben, dass sie gewinnbringend eingesetzt werden können. Deswegen scannen wir ganz gerne das Netzwerk anonym nach bekannten KI-Tools und empfehlen dann, sofort Unternehmenslizenzen hierfür bereitzustellen. Diesen Stand kann man dann entsprechend der Compliance-Richtlinien Schritt für Schritt in souveräne KI, unter anderem mit eigenen KI-Servern, umziehen.

Für wen ist Open Hippo besonders interessant: für Einsteiger oder bereits digitalisierte Unternehmen?

In der Tat beides. Wir haben mit dem Hippo Chat eine Möglichkeit geschaffen, wie Firmen schnell und einfach ihren Mitarbeitern eine DSGVO-konforme ChatGPT-Lösung zur Verfügung stellen können. Gleichzeitig kann ein digitalisiertes Unternehmen, welches momentan OpenAI-Modelle in Automatisierungsprozessen oder KI-Agenten einsetzt, diese einfach durch unsere ersetzen, da unsere Schnittstellen zu 100 Prozent kompatibel sind. Zu guter Letzt helfen wir Unternehmen, die bereits hohe, monatliche KI-Rechnungen haben, diese Kosten durch eigene Server in den Griff zu bekommen. So verwandeln sich unkalkulierbare Kosten in eine feste monatliche Größe mit der man betriebswirtschaftlich arbeiten kann. 

Nehmen wir einen mittelständischen Maschinenbauer: Welche Prozesse kann er mit Ihrer Lösung sofort verbessern und wo entsteht messbarer Mehrwert?

Schnelle Erfolge erzielt man auch hier mit einem einfachen Chat. Sei es das mühsame Formulieren einer Kundenmail oder Beantwortung von Angebotsanfragen im Verbund mit dem aktuellen Preiskatalog: Das sind alles Dinge, die sofort wegfallen. Jeder Mitarbeiter spürt diesen Effizienzgewinn durch KI unmittelbar im Alltag.

Ehrlich gesagt ist es erschreckend, wie wenig Unternehmen KI im Vergleich zu den USA aktiv in ihren Geschäftsprozessen einsetzen. Wenn das nicht sehr bald besser wird, können wir – auch bei ein paar mehr Arbeitsstunden pro Woche – mit den exponentiellen Effizienzgewinnen durch KI nicht Schritt halten. 

Vielerorts wird aktuell über die technologische Abhängigkeit von den USA gesprochen. Welche Rolle spielt Datensouveränität in der Infrastruktur von Open Hippo?

Ich behaupte, dass 90 Prozent aller Unternehmens-Chats auf Sprachmodellen von Microsoft und Amazon basieren, die in europäischen Rechenzentren betrieben werden. Das mag für manche DSGVO-konform sein, für mich ist das aber keine souveräne Infrastruktur. Wir sind bewusst einen anderen Weg gegangen, weil wir als Team das technologische Know-how besitzen. Wir hosten unsere Sprachmodelle auf unseren eigenen KI-Servern im Green Data Center. Dadurch sind wir technologisch auf Augenhöhe mit viel größeren europäischen Anbietern wie Scaleway oder Ionos. Alles aus einer Hand – vom Chat über das Modell bis zum Server – das können nur sehr wenige und wir.

Ein weiteres drängendes Thema bei Künstlicher Intelligenz ist der enorme Strom- und Wasserverbrauch der Rechenzentren. Sie hosten Ihre Lösungen lokal im LEW Green Data Center. Wie wichtig ist für Sie das Thema Nachhaltigkeit?

Persönlich ist mir das Thema sehr wichtig. Als ich bei der Suche nach einem Rechenzentrum vom Green Data Center der LEW erfahren habe, war für mich klar, dass unser Server dort einziehen wird. Es ist energieeffizient bei der Kühlung, nutzt ausschließlich den regional erzeugten Strom und damit wirklich CO₂-neutral. Deswegen bin ich besonders stolz auf unsere Bronzepartnerschaft mit dem LEW Green Data Center.

Wo sehen Sie Open Hippo in den nächsten fünf Jahren?

Wir sind bewusst aus der Region Augsburg heraus gestartet und wollen von hier aus ein fester Bestandteil des europäischen KI-Ökosystems werden. Frei verfügbare Sprachmodelle werden immer besser und günstiger – davon profitieren vor allem Unternehmen, die auf offene Standards setzen. Und genau da positionieren wir uns. In fünf Jahren soll Open Hippo die erste Adresse sein, wenn ein Unternehmen in Europa souveräne KI aufbauen will – vom Chat über KI-Agenten bis hin zur eigenen Infrastruktur.