Am 13. März stimmt das Europäische Parlament über den Artificial Intelligence Act (AI Act) ab, mit dem die EU erstmals einheitliche Regeln für den Einsatz von Künstlicher Intelligenz schaffen will. Sollte es dem Gesetz zustimmen, haben die Unternehmen Mistral AI aus Frankreich und Aleph Alpha aus Heidelberg Grund zur Freude. Denn es waren die europäischen KI-Start-ups, die sich dank der starken Unterstützung ihrer Regierungen bei den Regeln weitgehend durchgesetzt haben. Die endgültige Fassung des AI Act befreit sie von den meisten Auflagen und Regulierungen, die ihnen zu Beginn der Verhandlungen noch drohten. Da ihre KI-Systeme nicht als risikoreich eingestuft werden, unterliegen sie nur geringen Transparenz-Anforderungen.

Gemeinsam mit unseren Partnerorganisationen Observatoire des multinationales aus Frankreich und Corporate Europe Observatory aus Brüssel haben wir untersucht, wie Mistral und Aleph Alpha ihren privilegierten Zugang zu Entscheidungsträgern in Deutschland und Frankreich erfolgreich genutzt haben, um darauf zu drängen, dass sogenannte „General Purpose AI” weitgehend von der Regulierung ausgenommen wird. Während Google und Microsoft ihren direkten Zugang zur Kommission in Brüssel nutzten, nahmen die KI-Start-ups die Verhandlungen in die Zange, indem sie ihren Einfluss in den wichtigen Mitgliedsstaaten Deutschland und Frankreich geltend machten.

Was auf dem Spiel stand

Aleph Alpha CEO und Gründer Jonas Andrulis verhandelte im März 2023 über die zweitgrößte europäische KI-Finanzierungsrunde in Höhe von 500 Millionen Dollar. Für Andrulis stand also viel auf dem Spiel. Die Verhandlungen über das KI-Gesetz hätten das Potenzial gehabt, seinen zukünftigen Investoren, darunter SAP, das US-Unternehmen Hewlett-Packard Enterprise, die Schwarz-Gruppe (Lidl, Kaufland) und Bosch die Laune zu verderben, weil sie eine geringere Rendite in Aussicht gestellt hätten. Anbieter von „General Purpose AI” wie Aleph Alpha, das französische KI-Start-up Mistral, aber auch große Tech-Konzerne wie Google und Microsoft befürchteten, dass der AI Act sie für ihre KI-Systeme zur Verantwortung ziehen würde.

In dieser Situation beklagte sich Jonas Andrulis, dass es kaum Lobbyarbeit zu „General Purpose AI” gebe. Und er fügte trotzig hinzu: „Wahrscheinlich, weil wir hier die Innovation anführen, aber bisher null Lobbying betrieben haben.“

Erfolgreich von der KI- Industrie verwässert

Nur zehn Monate später war Andrulis sichtlich erleichtert über den Ausgang der Verhandlungen: „Das KI-Gesetz ist in Ordnung. Eine Menge Arbeit hat auf der Ziellinie zu deutlichen Verbesserungen geführt.“ Und auch der Gründer des französischen Unternehmens Mistral, Arthur Mensch, stimmte zu: „Der AI Act ist für uns einfach zu handhaben.“

Unter dem Vorwand, die Entwicklung potenzieller europäischer Champions nicht zu behindern, die in der Lage sein müssen, mit den großen Tech-Konzernen aus den USA oder China zu konkurrieren, hatten die KI-Unternehmen Verbündete in den Regierungen Frankreichs, Deutschlands und Italiens gefunden. In der heißen Phase der Verhandlungen über das KI-Gesetz zwischen EU-Kommission, EU-Parlament und den Mitgliedsstaaten sprachen sie sich gegen strenge Regeln aus und forderten in einem gemeinsamen Papier, die Regulierung von „General Purpose AI” auf freiwillige Verhaltensregeln und mehr Transparenz zu beschränken.

Der Hype um ChatGPT

Als das Unternehmen OpenAI Ende 2022 den Chatbot ChatGPT veröffentlichte, löste dies weltweit einen großen KI-Hype aus. Bei ChatGPT handelt es sich um sogenannte „General Purpose AI” (auch Foundation Models oder Basis-Modelle), die aufgrund ihrer Fähigkeiten für verschiedene Zwecke eingesetzt werden kann.

Andere Konzerne, die ebenfalls ans Basis-Modellen arbeiteten, sahen sich besonders durch die enge Zusammearbeit von OpenAI und Microsoft unter Druck gesetzt. Google veröffentlichte nur wenige Monate nach OpenAI sein eigenes Basismodell BARD, das später in Gemeni umbenannt wurde.

In der allgemeinen Begeisterung rund um KI sahen sich KI-Start-ups wie Aleph Alpha plötzlich im Aufwind. Und nur kurze Zeit später wurde in Frankreich Mistral AI gegründet. Beide nutzten den Hype, um mehrere Millionen an Finanzierung einzusammeln.

Auch in Deutschland wollte die Politik den Hype für sich nutzbar machen. In einem internen Vermerk empfahl das Ministerium für Wirtschaft und Klimaschutz (BMWK) im April 2023 angesichts der breiten Berichterstattung, das BMWK im Bereich KI „sichtbar zu machen“.

Die Debatten um ChatGPT beeinflusste auch die Verhandlungen über den AI Act, der von der EU-Kommission bereits im April 2021 vorgelegt wurde. Schnell wurde in Brüssel die Forderung laut, dass der AI Act auch die neuen Basis-Modelle umfassen müsse. Eine Forderung, die bei den Anbietern dieser KI-Systeme auf wenig Begeisterung stieß.

Lobbyarbeit von Aleph Alpha in Deutschland

Wie sehr Jonas Andrulis vom Hype um ChatGPT profitieren konnte, zeigt die lange Liste hochrangiger Treffen zwischen Aleph Alpha und Vertretern der Bundesregierung. Allein in den sechs Monaten zwischen Juni und November, der Hochphase der Verhandlungen zum KI-Gesetz, gab es zwölf solcher Treffen zum Thema KI-Regulierung. Darunter mit Olaf Scholz, dreimal mit dem für den AI Act zuständigen Minister Robert Habeck, dreimal mit Volker Wissing und je zweimal mit dem zuständigen Staatssekretär im BMWK Udo Philip und der zuständigen Parlamentarischen Staatssekretärin Franziska Brantner. Brantner, die für die Grünen im Bundestag sitzt, hat ihren Wahlkreis in Heidelberg –dem Standort von Aleph Alpha. Darüber hinaus wurde Jonas Andrulis im August 2023 zur Kabinettsklausur nach Meseberg eingeladen und traf dort die gesamte Bundesregierung.

"Dies ermöglicht Aleph Alpha einen privilegierten Zugang, der die Lobbyarbeit deutlich erleichtert und den andere Akteure, etwa aus der Zivilgesellschaft, nicht in gleichem Maße haben", bestätigt auch Matthias Spielkamp, Geschäftsführer von Algorithmwatch, der die Nähe zwischen Aleph Alpha und Robert Habeck bereits in der Vergangenheit kritisch kommentiert hat.

Einen Hinweis auf mögliche Inhalte, die bei den Treffen besprochen wurden, gibt die Antwort auf eine von uns gestellte IFG-Anfrage zu Positionspapieren, die Aleph Alpha an das BMWK geschickt hat. Diese Positionspapiere zeigen, wie detailliert das KI-Start-up versucht hat, die Position der Bundesregierung während der laufenden Verhandlungen zu beeinflussen. Aleph Alpha machte darin konkrete Änderungsvorschläge zum Gesetz und forderte beispielsweise, Basis-Modelle von der Regulierung auszunehmen.

Dabei wiederholten das Start-up und seine Vertreter immer wieder zwei zentrale Botschaften: Erstens solle nur die Anwendung von KI-Systemen reguliert werden, nicht die Systeme selbst. Diese Forderung wurde auch von Robert Habeck und Volker Wissing aufgegriffen. Etwa auf dem Digitalgipfel der Bundesregierung im November 2023. Auch das gemeinsame Papier von Frankreich, Deutschland und Italien, das gegen Ende der Verhandlungen in Brüssel für Aufsehen sorgte, argumentierte in diese Richtung.

Auch die zweite Botschaft von Aleph Alpha wurde von Deutschland und Frankreich geteilt, nämlich die Notwendigkeit, die KI-Industrie in Europa zu unterstützen, um mit den Tech-Konzernen in den USA und China mithalten zu können. Laut Robert Habeck hänge sogar die Wettbewerbsfähigkeit Europas davon ab, ob es gelinge, KI in Europa erfolgreich zu entwickeln. Dafür sei eine „innovationsfreundliche Regulierung“ notwendig.

Dem widerspricht Matthias Spielkamp von der NGO Algorithmwatch deutlich: Natürlich könne man KI regulieren und gleichzeitig Innovationen ermöglichen. Um die Gefahren von KI zu begrenzen, etwa bei der automatischen Gesichtserkennung, brauche es aber strengere gesetzliche Regelungen und keine Selbstverpflichtung der KI-Industrie.

Nicht nur bei seinen zahlreichen Treffen mit Mitgliedern der Bundesregierung, sondern auch bei zwei Anhörungen im Bundestag und in vielen Interviews verbreitete Jonas Andrulis seine Botschaften. In einem seiner Interviews ging der Chef von Aleph Alpha sogar noch einen Schritt weiter und drohte unverhohlen damit, Europa zu verlassen, sollte die KI-Regulierung seinen Handlungsspielraum zu sehr einschränken.

Lobbyarbeit von Mistral AI in Frankreich

Das erst im April 2023 gegründete französische KI-Start-up Mistral AI stieg relativ spät in die Debatte um den AI Act ein. Im Sommer 2023 eröffnete das Unternehmen ein Lobbybüro in Brüssel. Verantwortlich für die Beziehungen zur EU wurde der ehemalige französische Staatssekretär für Digitales, Cédric O. Der Vertraute von Emanuel Macron hatte für Frankreich bereits den Digital Markets Act (DMA) ausgehandelt und ist daher in Brüssel bestens vernetzt.

Cédric O war mitverantwortlich dafür, die französische Regierung davon zu überzeugen, sich ebenfalls gegen verbindliche Regeln für „General Purpose AI” einzusetzen. Gemeinsam mit René Obermann, Präsident von Airbus, und Jeannette zu Fürstenberg vom Technologie-Risikokapitalfonds La Famiglia, war Cedric O im Juni 2003 einer der Initiatoren eines von 150 europäischen Unternehmen unterzeichneten offenen Briefes. In diesem wurde davor gewarnt, dass der AI Act "die Wettbewerbsfähigkeit und die technologische Souveränität Europas gefährden" würde.

Während Cedric O als Cheflobbyist von Mistral AI in Brüssel versuchte, Einfluss auf die Verhandlungen zum AI Act zu nehmen, wurde er im Oktober 2023 in das Komitee für generative künstliche Intelligenz berufen. Das Gremium berät die französische Regierung in Bezug auf ihre KI-Politik. Der Gründer von Mistral AI, Arthur Mensch, sowie Vertreter von Google und Meta wurden ebenfalls in das Komitee berufen.

Ende Oktober zeigte die Lobbyarbeit einen ersten deutlichen Erfolg. Bei einem Treffen der Wirtschaftsminister Frankreichs, Deutschlands und Italiens, an dem auch Unternehmensvertreter teilnahmen, sprachen sich alle drei im Sinne von Mistral und Aleph Alpha aus. Man wolle Hand in Hand mit der Industrie an einer innovationsfreundlichen KI-Regulierung arbeiten, kündigten die Minister an.

Nur drei Wochen später veröffentlichten die drei Länder ein gemeinsames Papier, in dem sie sich gegen gesetzliche Regelungen und für eine Selbstregulierung durch einen Verhaltenskodex aussprachen. Laut FAZ wurde dieses vom Europäischen Parlament als „Kriegserklärung“ aufgefasst.

Die fragwürdige Erzählung von europäischen Champions

Insbesondere in Frankreich ist die Debatte um die Regulierung von KI stark von der Forderung nach der Entwicklung europäischer Champions geprägt. Diese müssten in der Lage sein, mit den großen Tech-Konzernen aus den USA oder China zu konkurrieren und dürften daher in ihrer Entwicklung nicht behindert werden. Aber auch Wirtschaftsminister Habeck und Verkehrsminister Wissing bedienen sich dieser Argumente.

Diese Erzählung wurde deutlich in Frage gestellt, als Ende Februar 2024 bekannt wurde, dass sich Microsoft an Mistral AI beteiligt. Microsoft wird das Start-up mit 16 Millionen Dollar Kapital und Infrastruktur unterstützen.

Der Journalist Luca Bertuzzi vermutet, dass der Deal während der laufenden Verhandlungen über den AI Act ausgehandelt wurde. In diesem Fall wäre das Argument der Wettbewerbsfähigkeit gegenüber den großen Tech-Konzerne nur vorgeschoben. Laut Bertuzzi hätten viele am AI Act Beteiligte bemerkt, dass die Lobbyarbeit von Microsoft, Google & Co. gegen Ende der Verhandlungen nachgelassen habe, da Mistral die „Drecksarbeit“ für sie erledigt habe.

Als Reaktion auf die Zusammenarbeit von Mistral und Microsoft forderten mehrere Abgeordnete der Grünen die EU-Kommission auf, den Fall zu untersuchen. Sie sehen in der Zusammenarbeit einen möglichen Interessenkonflikt und eine mögliche Verletzung der Transparenzpflichten.

Lobbyarbeit von Big Tech in Brüssel

Während Mistral AI und Aleph Alpha über die Mitgliedsstaaten Deutschland und Frankreich die Verhandlungen zum AI Act in die Zange nahmen, waren die großen Tech-Konzerne besonders in Brüssel aktiv. Eine Studie unserer Partnerorganisation Corporate Europe Observatory (CEO) zeigt, wie Big Tech während der Verhandlungen privilegierten Zugang zu hochrangigen EU-Entscheidungsträgern hatte und diesen nutzte, um die Regeln für „General Purpose AI” zu verwässern.

Die Forderung nach Selbstregulierung war auch eine der zentralen Botschaften bei den Treffen der EU-Kommission mit den Chefs von Google und Microsoft. Zahlreiche von CEO angeforderte Dokumente zeigen, dass die großen Tech-Konzerne mit intensiver Lobbyarbeit auf die Pläne der EU-Kommission für den AI Act reagiert haben. Insbesondere zwischen Mitte 2021 und Mitte 2022 gab es zahlreiche Kontakte mit Kommissionschefin Ursula von der Leyen, Wettbewerbskommissarin Margrete Vestager und dem für den AI Act zuständigen Binnenmarktkommissar Thierry Breton.

Ein Ungleichgewicht zeigte sich auch im Jahr 2023. Eine von CEO durchgeführte Analyse belegt, dass 78 % der Treffen von hochrangigen Kommissionsbeamten zum Thema KI mit Industrie- oder Wirtschaftsverbänden stattfanden.

Die Tech-Konzerne können dabei auf ein enormes Budget für ihre Lobbyarbeit zurückgreifen. Unsere Berechnungen zeigen, dass der Digitalindustrie mittlerweile 113 Millionen Euro pro Jahr für Lobbyarbeit in Brüssel zur Verfügung stehen. Das sind 16,5 Prozent mehr als noch bei unserer Analyse von 2021. Im Vergleich der zehn größten Lobbyakteure ist die Digitalindustrie damit die Branche mit den höchsten Lobbyausgaben in der EU und übertrifft sogar die mächtige Auto-, Pharma- oder Finanzlobby.

Wie geht es weiter mit dem AI Act?

Die Einflussnahme von Mistral AI, Aleph Alpha, Google, Microsoft & Co auf den AI Act verheißt nichts Gutes für die Umsetzung der Regeln, sollte das Europäische Parlament dem Gesetz wie erwartet am 13. März zustimmen. Zudem sind viele Aspekte noch offen und müssen in zahlreichen weiteren Rechtsakten diskutiert und geklärt werden. Das gilt sowohl für das beschlossene europäische KI-Büro als auch für die Transparenzpflichten für Basis-Modelle. Arthur Mensch von Mistral AI hat bereits Widerstand angekündigt. In einem Interview sagte er, der AI Act dürfe ihn nicht dazu zwingen, Geschäftsgeheimnisse preiszugeben, was Know-how und Wettbewerbsfähigkeit beeinträchtigen würde.

Es ist zu befürchten, dass auch die Transparenzregeln des AI Act in der Umsetzung weiter verwässert werden. Die EU-Kommission und die Mitgliedsstaaten, allen voran Deutschland und Frankreich, müssen bei der Diskussion um die Umsetzung der Regeln daher auf Ausgewogenheit achten. Wichtige Regeln für Künstliche Intelligenz dürfen nicht zugunsten von Unternehmensgewinnen geopfert werden.

Die für die Umsetzung zuständigen Ministerien haben aber bereits angekündigt, sich für eine bürokratiearme und innovationsfreundliche Lösung einzusetzen. Am Standort von Aleph Alpha in Heidelberg wird man zufrieden sein.