SAP nimmt das günstigste KI-Modell, das die Aufgabe schafft

Das kleinste Modell, das reicht

SAP tauscht in seiner Software einige besonders teure KI-Modelle gegen günstigere aus. Das hat Finanzvorstand Dominik Asam der Nachrichtenagentur Reuters gesagt. Das Prinzip: Für jede Aufgabe kommt das günstigste Modell zum Einsatz, das sie in der geforderten Qualität erledigt. Bei der Leistung will SAP dabei keine Abstriche machen. Der Wechsel soll mit dazu beitragen, dass der Konzern in den kommenden zwei Jahren rund 2 Milliarden Euro einspart.

Für mich ist das im Kern eine Suffizienzfrage, angewandt auf die Mittel: Brauchen wir für diese Aufgabe wirklich das größte Modell? Bei SAP lautet die Antwort offenbar oft: nein.

Warum es diesmal funktioniert

Suffizienz scheitert in Unternehmen meist am Verdacht, sie koste Qualität oder Umsatz. Hier ist es umgekehrt. SAP rechnet bei seinen Kunden nicht nach Tokens ab, sondern pro erledigter Aufgabe, etwa pro bearbeiteter Rechnung oder pro Klärungsfall, oder über Paketabonnements. Ersetzt SAP ein Modell wie GPT-4 oder Claude Opus durch ein günstigeres, sinken die eigenen Rechenkosten pro Aufgabe. Der Preis für den Kunden bleibt gleich. Die Ersparnis landet direkt in der Marge. Einen stärkeren Anreiz gibt es kaum.

Die Auswahl dafür hat SAP: Über den Generative AI Hub seiner Business Technology Platform greift der Konzern auf rund 70 KI-Modelle zu.

Tipp

Das Prinzip lässt sich auf jede Unternehmensgröße übertragen. Schau Dir an, welche KI-Aufgaben bei Dir laufen: Texte zusammenfassen, E-Mails vorsortieren, Code prüfen. Teste für jede Aufgabe ein kleineres Modell gegen das große, und zwar mit Deinen echten Beispielen. Wo das Ergebnis gleich gut ist, wechselst Du. Die Ersparnis wird kleiner ausfallen als bei SAP, die Logik ist dieselbe.

Der Haken: Die Gesamtrechnung wächst

So weit die gute Nachricht. Die weniger gute liefert SAP gleich mit. Auf Nachfrage von Reuters stellte das Unternehmen klar, das Ziel seien gesunde Margen bei wachsendem Umfang, keine absolute Senkung der KI-Ausgaben. Asam erwartet, dass die Ausgaben für KI insgesamt steigen, je stärker sie sich verbreitet.

Das ist der Rebound-Effekt in Reinform. Jede eingesparte Rechenoperation pro Aufgabe macht die nächste Aufgabe billiger und damit wahrscheinlicher. Für Klima und Stromnetz zählt aber nicht die Effizienz pro Rechnung, sondern der Gesamtverbrauch.

Achtung

Günstiger heißt nicht automatisch sparsamer. Der Preis eines Modells ist nur ein grober Hinweis auf seinen Energiebedarf. Kleinere Modelle brauchen in der Regel weniger Rechenleistung, belastbare Energiezahlen pro Anfrage veröffentlichen die meisten Anbieter aber nicht.

Was Du daraus mitnimmst

SAP zeigt: Suffizienz funktioniert, sobald sie Geld spart und die Qualität hält. Das ist ein Argument, das in jeder Geschäftsführung zieht. Ehrlich wird die Rechnung aber erst mit der zweiten Frage: Brauchen wir diese KI-Aufgabe überhaupt?

Das kleinste Modell, das reicht, ist ein guter Anfang. Die sparsamste KI-Anfrage bleibt die, die gar nicht erst gestellt wird.

Quellen: SAP ersetzt hochpreisige KI-Modelle (Golem) · SAP swaps costly AI models for cheaper alternatives (Reuters)