IBM führt ‘Lightweight Engine’ für WatsonX.ai-Service ein

IBM hat kürzlich die ‘Lightweight Engine’ als Teil seines WatsonX.ai-Dienstes eingeführt. Diese neue Funktion wird sich zunächst auf größere Unternehmen konzentrieren. Dennoch könnte sie auch eine wichtige Rolle für kleinere Unternehmen spielen, die ihre KI-Fähigkeiten ausbauen möchten, sowie für mittelgroße Unternehmen in schnell wachsenden Sektoren wie Fintech.

Generative KI-Markt treibende Kraft hinter Umsatzwachstum

Zweifellos ist der generative KI-Markt der treibende Faktor hinter einem Großteil des Umsatzwachstums im Technologiesektor in der ersten Hälfte des Jahres 2024. Vor etwa zehn Jahren hätte kaum jemand das enorme Wachstum dieses Sektors vorhersagen können, das vor allem durch die Beliebtheit großer Sprachmodelle wie ChatGPT von OpenAI und Claude von Anthropic angetrieben wird.

Vor der Einführung von ChatGPT gingen Experten aus der KI- und Finanzwelt allgemein davon aus, dass große Sprachmodelle wie GPT-3 nicht zuverlässig genug für Anwendungen im Finanzsektor oder in anderen Bereichen seien, in denen Fehler nicht toleriert werden können. Trotz der seither erzielten Fortschritte bleibt die Warnung bestehen, dass auf öffentlichen Daten trainierte KI-Modelle unvorhersehbar sein können.

Ein Beispiel für die Anwendung generativer KI in der Finanzwelt ist JPMorgan Chase, das kürzlich den Zugang zu OpenAI’s ChatGPT für seine 60.000 Mitarbeiter erworben hat. Dabei wurden interne Daten und angepasste Sicherheitsvorkehrungen integriert. Dies zeigt, dass selbst der konservative Finanzsektor zunehmend auf generative KI setzt.

Andere KI-Dienste bieten inzwischen auch Unternehmensoptionen an

Obwohl viele beliebte KI-Dienste wie ChatGPT inzwischen auch Unternehmensoptionen anbieten, sind diese in der Regel vollständig cloudbasiert. In Sektoren wie Fintech, wo Vorschriften und Sicherheitsanforderungen verlangen, dass Daten vor externen Einflüssen isoliert bleiben, erfüllen cloudbasierte KI-Lösungen möglicherweise nicht immer die Anforderungen.

IBM’s WatsonX.ai bietet sowohl cloudbasierte als auch On-Premise-Lösungen an. Mit der Einführung der ‘Lightweight Engine’ können Modelle nun auch lokal mit einem kleineren Footprint ausgeführt werden.

Savio Rodrigues, IBM’s Vizepräsident für Ökosystemtechnik und Entwicklervertretung, erklärt: „Unternehmen, die On-Premise-Lösungen einführen möchten, suchen nach der leichtesten Plattform, um ihre generativen KI-Szenarien auszuführen, ohne unnötige CPU- oder GPU-Ressourcen zu verschwenden. Die Lightweight Engine von WatsonX.ai ermöglicht es ISVs und Entwicklern, GenAI-Lösungen für Unternehmen zu skalieren und gleichzeitig die Kosten zu optimieren.“

Flexibilität dieses Systems kann den Unterschied ausmachen

In schnell wachsenden Sektoren wie Fintech, Blockchain und Krypto-Krediten, in denen externe KI-Lösungen nicht immer den strengen Sicherheitsanforderungen gerecht werden, kann die Flexibilität einer hybriden Cloud- und On-Premise-Lösung den Unterschied ausmachen zwischen der internen Entwicklung von Modellen und dem Bezug einer externen Dienstleistung.

Obwohl es verschiedene konkurrierende Dienste gibt, scheint IBM’s ‘Lightweight Engine’ ihrem Namen gerecht zu werden. Der kleinere Footprint und die höhere Effizienz gehen jedoch mit einem Verlust einiger Funktionen einher, die nur in der vollwertigen Version verfügbar sind.