Um den AI Act der EU, der den Einsatz von Künstlicher Intelligenz (KI) regeln soll, gab es in der letzten Woche noch einen Verhandlungsmarathon. Nach einer komplizierten Vorbereitungszeit und einer schweren Geburt war es dann Freitagnacht endlich soweit: „Deal“, schrieb Digitalkommissar Thierry Breton auf der Onlineplattform, die früher mal Twitter hieß.

Deal heißt im Klartext: Europa setzt klare Regeln für den Umgang mit KI. Künftig sollen KI-Systeme in verschiedene Risikogruppen eingeteilt werden. Je höher die potenziellen Gefahren einer Anwendung sind, desto höher sollen die Anforderungen an die Anbieter sein. Die Hoffnung ist, dass die Regeln weltweit Nachahmer finden. Und bekannterweise stirbt die Hoffnung ja zuletzt …

Der AI Act teilt Anwendungen  in vier Risikogruppen ein: inakzeptables Risiko, hohes Risiko, begrenztes Risiko und minimales oder kein Risiko. Bei den ersten beiden und bei der letzten Stufen war man sich weitgehend einig. So werden künftig in der EU Anwendungen wie das sogenannte „Social Scoring“ untersagt.

Gefeilscht wurde vor allem um die Stufe mit dem begrenzten Risiko. Hauptstreitpunkt war hier die Frage, wie die großen „KI-Basismodelle“ reguliert werden sollen. Gemeint sind ChatGPT von OpenAI und die entsprechenden Modelle von Google, Meta und Konsorten. Das Parlament wollte viel regulieren, die Kommission lieber nur Selbstverpflichtungen für die Entwickler einführen.

Das Parlament konnte seine Forderungen jetzt weitgehend durchsetzen. Entwickler von KI-Basismodellen müssen „technische Dokumentationen“ erstellen, die Aufschluss über Trainings- und Testverfahren geben. Sie müssen nachweisen, dass sie urheberrechtliche Bestimmungen einhalten. Zudem sollen KI-generierte Produkte mit digitalen Wasserzeichen versehen werden. Das darf man getrost als Erfolg der Urheberrechtslobby interpretieren.

Was bedeutet das konkret für KI in der Medizin? Hier werden viele Anwendungen in der Kategorie mit hohem Risiko landen, weil sie letztlich mit über Laben und Tod entscheiden können. Die Pharma- und Medizintechnik-Branche ist solche Regulierungen ja aber schon seit Jahrzehnten gewohnt. Hier erwarten wir Stand heute keine zusätzlichen Hürden, aber letztlich wird das die Zukunft zeigen müssen.