SAP und Siemens fordern neue KI-Regulierung

Herr Klein, Herr Busch, wenn sich die Künstliche Intelligenz (KI) so rasant weiterentwickelt wie in den vergangenen zwei Jahren, wird sie in 20 Jahren vielleicht auch Unternehmen allein führen können. Sorgt Sie das?

Busch: Diese Sichtweise übersieht die Fähigkeiten des Menschen. Die kognitiven Fähigkeiten des Menschen kann der Roboter nicht ersetzen. Dagegen kann die KI sehr gut repetitive, also sich wiederholende Aufgaben übernehmen. Dann kann der Mensch sich auf die Entwicklung von Ideen, Produkten und Verbesserungen konzentrieren.

Klein: Die repetitiven Aufgaben werden automatisiert. Nehmen wir Beispiele aus dem Bereich von SAP: Ein KI-Agent kann beim Quartalsabschluss eines Unternehmens die Zahlen in Echtzeit zusammenführen und automatisiert zahlreiche Kontrollstufen absolvieren. Doch am Ende steht der Mensch, der das Ganze nicht nur zertifiziert, sondern die Ergebnisse interpretiert und daraus Entscheidungen ableitet. Oder nehmen Sie einen KI-Agent im Personalwesen: Es ist unabdingbar, dass da ein Mensch beteiligt ist, der da mit anderen Augen draufschaut und auch die emotionale Komponente versteht.

Busch: Wahrscheinlich gehöre ich zur letzten Generation von Managern, die ausschließlich Menschen geführt haben. Die Generation, die derzeit Führungsaufgaben übernimmt, wird eine Mischung aus Menschen und KI-Agenten führen. Aber Menschen werden nicht durch KI-Agenten ersetzt, sondern durch Menschen, die mit KI-Agenten arbeiten können.

Klein: Ich denke nicht, dass er Siemens und SAP im Hinterkopf hatte, als er das gesagt hat. SAP beweist seit mehr als 50 Jahren, dass wir Software können und Siemens tut das ebenfalls. Ich bin sicher, der Bundeskanzler weiß das.

Trotzdem hat Sie das offenbar nicht kalt gelassen. Sie haben jetzt schon mehrfach die Subventionen „nur“ für Hardware wie Rechenzentren oder Chipfabriken kritisiert.

Klein: Gerade jetzt, wo es um den Erfolg in der Künstlichen Intelligenz geht, wird Software immer wichtiger. Dort geschieht die Wertschöpfung. Das ist für die deutsche und europäische Wirtschaft von existenzieller Bedeutung.

Busch: Als Merz das gesagt hat, hatte er einen anderen Fokus. Es ging ihm um den möglichen Bau von AI-Factories. Solche Fabriken sind superkomplex und seine Aussage war, das können wir ganz gut. Das ist kein Widerspruch. Trotzdem sagen wir, dass es am Ende vor allem werthaltige Informationen und Daten braucht, damit solche Fabriken ausgelastet sind. Dazu braucht man Software und KI. Siemens gehört zu den führenden zehn Softwareanbietern der Welt und wir sind die Nummer eins in industrieller Software. Wir sind mit unserer Software mit sehr hoher Wahrscheinlichkeit bei der Entwicklung und Produktion ihrer Smartwatch, ihres Autos oder in einem Flugzeug, in dem Sie sitzen, oder in den Halbleiterchips, die sie benutzen, mit dabei. SAP und Siemens spielen ohne Frage in der Champions League für Software.

Busch: Wir können auch generell über technologische Souveränität reden. Das Thema zieht sich komplett durch: Seltene Erden, Halbleiter, Software, Cloud Services bis hin zur Infrastruktur – keiner baut heute einen Hochleistungschip ohne Zusammenspiel einer globalen Lieferkette und Partnerschaften. Zu glauben, man kann Souveränität so scharf abgrenzen und noch Herr der eigenen Technologie sein, funktioniert nicht. Ich denke, es geht im Wesentlichen darum, wie man kritische Abhängigkeiten vermeiden kann. Dass wir auf Cloud Services von amerikanischen Hyperscalern wie Google, Amazon oder Microsoft verzichten, ist schwer vorstellbar. Natürlich ist es schön, wenn wir einen Teil der kritischen Infrastruktur unter der eigenen Kontrolle haben, aber wir müssen Augenmaß bewahren: Was ist das, was wir wirklich brauchen, und wo werden wir uns auch weiter auf Partner verlassen müssen.

Klein: Wenn wir sagen, wir möchten keine amerikanische Technologie mehr, müsste jedes deutsche Unternehmen nicht nur die technische Infrastruktur, sondern konsequenterweise auch solche Geschäftssoftware abschalten, die von amerikanischen Anbietern stammt. Diese haben direkten Zugriff auf unternehmenskritische Daten. Aber ist das die richtige Herangehensweise? Viel wichtiger ist doch, dass Kunden wissen, was mit ihren Daten passiert. Souveränität bedeutet nicht Isolation, sondern Kontrolle und Wahlfreiheit.

Was wäre die richtige Herangehensweise?

Klein: Zunächst brauchen wir eine einheitliche Definition, was wir unter Souveränität und kritischen Daten verstehen. Es gibt hochkritische Daten, etwa in der Verteidigung oder im Gesundheitswesen. Dafür gibt es schon heute Lösungen: Bei Bedarf kann das Rechenzentrum in Deutschland stehen, nur von deutschen Mitarbeitern betrieben und sogar vom globalen Netz entkoppelt werden. Natürlich kann hier trotzdem Hardware von Nvidia oder ein Stück Blech aus Amerika drin sein – aber macht das einen Unterschied? Dann gibt es Anwendungsfälle, bei denen Kunden Daten in Rechenzentren in Europa speichern und sie damit effektiv vor einem möglichen Zugriff aus den USA schützen können. Und schließlich gibt es solche Daten, die außerhalb Europas gespeichert werden können, solange bestimmte Standards eingehalten werden. Wir brauchen für die verschiedenen Stufen klare, europaweite Regeln.

Halten Sie deshalb den Bau der AI-Gigafactories für falsch?

Klein: Es gibt schon heute viele Rechenzentren in Europa. Wir als SAP betreiben unsere Lösungen sowohl auf eigenen als auch auf Rechenzentren von Hyperscalern. Wie Roland sagte, eine völlige Unabhängigkeit ist nicht möglich. Wichtig ist, dass Kunden wissen, dass sie nicht immer an eine Infrastruktur gebunden sind. Für digitale Souveränität brauchen wir vor allem feste Regeln. Wie in den USA. Wenn wir dort als SAP zertifiziert sind, eine eigene legale Einheit gegründet haben, unsere Mitarbeiter überprüft sind, dann können wir kritische Dienstleistungen erbringen, egal woher wir kommen. So etwas brauchen wir auch in Europa.

Haben Sie den Eindruck, es gibt ein Erkenntnisproblem in der EU?

Busch: Es gibt ohne Frage Erkenntnisprobleme auf europäischer Ebene, etwa beim AI Act und beim Data Act. Beim Thema AI Factories: Hier muss das Ziel sein, dass wir diese Fabriken auch auslasten und werthaltige Daten generieren – beispielsweise für den Finanzsektor, in der Automobilindustrie, und auch eigene, spezifische Modelle dafür entwickeln. Wichtig ist dabei zu verstehen, dass KI-Modelle auf Basis von industriellen Daten ganz anderen Anforderungen unterliegen als die „Publikumsmodelle“. Das Pferd von hinten aufzuzäumen ist keine gute Idee. Wenn wir wirklich fünf Gigafactories bauen – ich wüsste gar nicht, wie wir diese derzeit auslasten könnten.

Klein: Da kann ich nur zustimmen. Wir sollten erst einmal etwas entwickeln, das für Wettbewerbsfähigkeit sorgt. Für die USA macht die Infrastrukturinitiative Stargate Sinn. Dort werden viele Large-Language-Models, sogenannte LLMs, entwickelt, die eine entsprechende Infrastruktur benötigen. Wir sollten das in Europa aber nicht einfach kopieren. Bislang ist noch kein KI-Kundenprojekt von uns an fehlender Rechenzentrumskapazität gescheitert. Was wir wirklich brauchen, ist angewandte KI. SAP-Kunden können schon heute 400 KI-Funktionen nutzen, und die EU sollte ermöglichen, dass wir das Angebot ausbauen können.

Was hindert Sie daran, sie zu entwickeln?

Busch: Ganz einfach, die europäische Gesetzgebung, zum Beispiel der europäische AI Act. Der ist der Grund, warum wir hier nicht Vollgas geben können. Teilweise widersprechen sich die Akte, teilweise überschneiden sie sich mit schon bestehenden Regulierungen. Bald müssen wir neben jedem Entwickler noch jemanden sitzen haben, der prüft, ob das überhaupt zulässig ist. Wir haben gerade Vasi Philomin für Siemens gewinnen können, einen echten Topexperten für KI und LLMs in der Welt. Aber er wird in Seattle sitzen. Dort kann Vasi auf die Daten zugreifen und wirklich Vollgas geben. Wir sitzen in Europa auf einem Datenschatz, kriegen den aber noch nicht gehoben. Uns fehlt derzeit nicht der Zugriff auf Rechenkapazitäten, sondern ein Freisetzen der Kräfte bei uns. Wir könnten das alles in den industriellen Kontext bringen, das ist unsere Stärke in Europa und ganz besonders in Deutschland.

Eine Reihe von Industrievertretern hat in einem offenen Brief eine Regulierungspause gefordert. Ein zweijähriges Moratorium, in denen die Umsetzung der KI-Verordnung ausgesetzt wird. Sie haben nicht unterschreiben, warum?

Busch: Ich habe den Brief nur deshalb nicht unterschrieben, weil er mir nicht weit genug ging.

Wenn die EU jetzt eine Regulierungspause macht, droht noch mehr Unsicherheit in der Industrie.

Busch: Nein, das ist falsch. Es geht nicht darum anzuhalten und das gleiche Gesetz zwei Jahre später scharf zu schalten. Moratorium heißt anhalten. In der Zwischenzeit müssen wir das Gesetz substanziell verändern. Und ja, es muss Regeln und Leitplanken geben, aber wir sollten nichts regeln, was nicht geregelt werden muss. Wenn sich zwei Geschäftspartner einig sind, brauche ich keine Regularien, das ist anders als im Konsumentengeschäft.

Nennen Sie doch mal ein Beispiel. Wo wird denn aus ihrer Sicht überreguliert?

Busch: Ich könnte Ihnen viele Schoten berichten. Nehmen wir den Nahverkehr. Unsere Züge sind heute Hochleistungscomputer und generieren eine Menge Daten, um vorausschauend warten zu können oder pünktlicher zu sein. Stand jetzt müssen wir jeden dieser Datenpunkte klassifizieren und auf Geschäftsgeheimnisse überprüfen, und das für jeden Zug. Das ist Wahnsinn. Im Zweifel produziere ich lieber Züge, die weniger Daten produzieren, dann habe ich weniger Probleme. Das kann es doch nicht sein. Noch ein Beispiel: Wir erzeugen digitale Zwillinge von Maschinen und Prozesse, um die Entwicklung zu beschleunigen und Qualitätsprobleme zu lösen. Dazu verknüpfen wir Daten aus verschiedensten Quellen. Der Data-Act würde uns dazu zwingen, unsere aufbereiteten Daten auch der Konkurrenz zur Verfügung zu stellen. Als ob Coca-Cola sein Rezept öffentlich machen müsste. Der Data-Act ist toxisch für die Entwicklung digitaler Geschäftsmodelle.

Klein: Roland und ich sind uns einig: Wir brauchen ein Rahmenwerk für Europa, das Innovationen fördert, nicht verhindert. Aber wir haben zu viele Überlappungen und Unklarheiten. Und trotz neuer Vorschriften bleiben die alten Regelungen in den Mitgliedstaaten bestehen. Sie werden nicht ersetzt – das heißt, die Regeln werden immer mehr! Unsere Rechtsabteilung haben wir jetzt schon verdoppelt. Wenn mein KI-Chef mit Kunden zusammensitzt, geht das nicht mehr ohne Anwälte, die sich durch den Wust an Regularien wühlen.

Viele Leute haben einfach Angst vor KI. Die Mentalität in Europa ist auch hier eine andere als in den USA…

Klein: Ich war vor zwei Wochen in Washington, da ging es nicht einen Moment um Regulierung.

Busch: Ich war vier Wochen lang im Silicon Valley, um besser zu verstehen, was dort passiert. Ich habe dasselbe erlebt: Nicht in einem Meeting waren Regulierung oder Sicherheit ein Thema. Es ging nur darum, wie man die neue Technologie mit möglichst großer Geschwindigkeit ausrollen kann. Das ist eine komplett andere Welt.

Sinnvolle Regulierung könnte auch ein Wettbewerbsvorteil sein, auch Unternehmen haben Interesse an Datenschutz.

Klein: Wir würden einen entsprechenden Rahmen begrüßen, aber der muss praxisnah sein, technologische Innovation fördern und zugleich die Daten der Kunden schützen. Aber nicht alles muss haarklein geregelt werden. Wenn wir mit einem Unternehmen wie Lockheed Martin in die Cloud gehen, stellt es heute hohe Anforderungen an die Datensicherheit. Vieles machen wir also schon, allein weil die Kunden ein hohes Eigeninteresse haben.

Sie fordern also einen grundsätzlich neuen Ansatz der Regulierung, keine Verschiebung.

Busch: Absolut, eine Verschiebung allein hilft uns nicht.

Welche Signale erhalten Sie denn dazu aus Brüssel?

Busch: Widersprüchliche. Es gibt nach wie vor einige, die glauben, dass sie damit unsere Wettbewerbsfähigkeit steigern. Die unterschätzen immer noch, mit welcher unglaublichen Geschwindigkeit die neue Technologie ihren Weg findet, so oder so. 17 Prozent der Kosten einer KI entfallen in der EU nur auf Dokumentationen. Wir werden damit nicht nur teurer, sondern noch langsamer.

Diese Sprache müsste die Bundesregierung doch verstehen, Herr Merz und Frau Reiche.

Busch: Frau Reiche versteht das mit Sicherheit. Der Bundeskanzler auch. Was Deutschland anbelangt, habe ich weniger Sorge. Wir müssen Gehör finden in Europa.

Klein: Dem stimme ich zu. Auch in der EU werden die Diskussionen intensiver, weil der Data Act uns bald neue, zusätzliche Lasten auferlegen wird. Er ist aktuell ein Eigentor für Europa und droht die Einführung von Cloud und KI in der Wirtschaft zu behindern. Ich habe aber Hoffnung, dass bis August, September etwas passiert. Noch mal: Wir sind nicht per se gegen Regulierung, aber wir benötigen Rahmenbedingungen, die Innovation fördern, statt sie zu hemmen. Schließlich betrifft es die gesamte europäische Industrie. Angewandte KI ist der neue Maschinenbau. Das ist das, was für die Industrie in Europa zählt und was wir hier brauchen.

Busch: Wenn wir unsere Wirtschaft wieder in den Wachstumsmodus bringen wollen, geht das nur über den Einsatz digitaler Technologien. Wir haben hier hohe Energie- und Arbeitskosten, die Leute arbeiten hier bekanntlich nur 1350 Stunden im Jahr, im OECD-Schnitt sind es 1750. Wenn wir nicht anfangen, die technischen Stärken ins Spiel zu bringen, bekommen wir ein substanzielles Problem. Das trifft nicht nur große Konzerne, das trifft alle. Auch der Maschinenbau wird digitalisieren müssen, sonst werden wir uns gegen chinesische Lowcost-Anbieter nicht durchsetzen können.

Haben Sie schon konkrete Vorschläge für eine wachstumsfreundliche EU-Regulierung?

Busch: Schlank, also nur das regulieren, was reguliert werden muss. Wenn Siemens und SAP einen Vertrag schließen, ist dazu keine europäische Regulierung nötig. Wir sind Partner auf Augenhöhe. Unstrittig sind die wenigen Leitplanken, die gesetzt werden müssen. Es erschließt sich mir aber nicht, was es hier noch an zusätzlichem Regulierungsbedarf gibt. Besser wäre es, erstmal die Dinge laufen lassen. Sollten Probleme auftreten, lassen sich diese auch als Einzelfälle lösen.

Die Mentalität der Europäer wird sich nicht so schnell ändern lassen. Es gibt Stimmen wie die des Physiknobelpreisträgers Geoffrey Hinton, die vor ernsten Gefahren der KI warnt. Die Politik kann diese Sorgen nicht übergehen.

Klein: Hier geht es um mögliche Auswirkungen auf die Gesellschaft. Es ist richtig, wenn man ethische Richtlinien vorgibt. Das machen wir bei SAP auch. Die europäische Regulierung schränkt aber technische Innovation ein. Das ist der falsche Ansatz.

EU-Verordnungen entstehen in der Regel über den Austausch mit der Industrie. Haben Sie es versäumt, Ihre Standpunkte einzubringen?

Klein: Wir haben am Anfang unseren Standpunkt eingebracht. Aber in den vergangenen Jahren kam es zu weiteren Verschärfungen, an diesem Prozess waren wir dann nicht mehr beteiligt. Die Verschärfungen im Data Act hätten auf ihre Praxistauglichkeit und mögliche Nachteile für die europäische Industrie geprüft werden müssen.

Klein: Das ist ein weiteres zentrales Thema. Wir müssen mehr in die Universitäten investieren. Fachkräfte müssen vorbereitet werden, wie in Zukunft mit angewandter KI gearbeitet wird. Ohne Anwendungsprofis gibt es auch keine angewandte KI. Die Berufsfelder werden sich grundlegend verändern. Daher wird Bildung und Ausbildung für Europa von zentraler Bedeutung sein. In dieser Frage sind die USA schon aufgewacht.

Die KI-Nutzung ist mit einem sehr hohen Energiebedarf verbunden. Kann sich Europa diesen leisten?

Busch: Das ist ein wichtiges Thema. Das Wachstum wird nicht mehr nur durch die Verfügbarkeit von KI-Chips eingeschränkt, sondern durch die Netzanbindung und die Verfügbarkeit von Strom, insbesondere von grünem Strom. Man muss aber berücksichtigen, dass der höhere Bedarf an Strom an anderer Stelle durch einen effizienteren Ressourceneinsatz eingespart werden kann. Das Problem wird darin bestehen, die enorme Menge an Netzanbindungen und grünem Strom zu finden.

Was werden Sie tun, wenn das regulatorische Rahmenwerk in Europa so bleibt? Können Sie technische Entwicklungen nach China oder in die USA verlagern und dann in der EU verkaufen?

Busch: Im Fall von China wäre es nicht möglich, bestimmte Technologien hier anzuwenden. Wir entwickeln aktuell ein ‚Industrial Foundation Model‘. Das ist ein KI-Modell für industrielle Anwendungen, trainiert auf industriellen Daten. Wir tun das an mehreren internationalen Standorten, mit einem starken Hub an der amerikanischen Westküste und einem in China. Dabei setzen wir auf unterschiedliche Basismodelle. Ersteres kommt auch in Europa zum Einsatz. Die Geschwindigkeit, die für die Entwicklung solcher Modelle gebraucht wird, schaffen wir derzeit nur an der Westküste. Trotzdem werden davon auch unsere europäischen Kunden profitieren. Wir investieren auch hier, zum Beispiel 500 Millionen Euro in Erlangen, und selbstverständlich auch in KI-Anwendungen.

Klein: Wenn wir zu viel Regulierung haben und sieben bis acht Monate darüber diskutieren müssen, welche KI-Modelle und Daten ich verwenden darf, dann werde ich lieber in den USA, Indien oder Singapur investieren. Wir brauchen für die angewandte KI eine pragmatische Regulierung und mehr Unterstützung. Unsere Entwicklungen kommen schließlich der gesamten europäischen Industrie zugute. In den USA gibt es diese Unterstützung längst.