Während eine Schlehe nur das angrenzende Beet beschädigt, erzeugen moderne Systeme gefährliche Software, halluzinieren Fakten und finden in abgeschirmten Laborumgebungen bereits Mittel und Wege auszubrechen. Der europäische „AI Act“ soll diesem Wildwuchs Einhalt gebieten. Professor Herbert Zech, Inhaber des Lehrstuhls für Bürgerliches Recht, Technik- und IT-Recht an der Humboldt-Universität zu Berlin und Direktor des Weizenbaum-Instituts Berlin, erklärt, wie gut das gelingt. Er hat viele Jahre in der Westpfalz gelebt, an der Technischen Universität Kaiserslautern nach seiner juristischen Ausbildung Biologie studiert und ist der Region bis heute verbunden.
Herr Zech, Anfang August trat der AI Act in Kraft. Zugleich wollen große KI-Firmen sich freiwillig auf ein Entwicklungstempo festlegen. Wie ordnen Sie das ein?
Aktuell ist die Regulierungsdebatte heißer denn je. Das Inkrafttreten des AI Acts ist von der sehr skurrilen Initiative von Dario Amodei und anderen mit ihrem „Voluntary Pacing Agreement“ überschattet worden. Es klingt ein wenig wie: „Oje! Wir kommen mit unserer eigenen Technik nicht zurecht, bitte reguliert uns.“ Das Interessante ist: Die EU ist mit dem AI Act der erste Akteur der Welt, der eine solche KI-Regulierung hat.
Was regelt das Gesetz?
Man hat versucht, eine Pyramide zu bauen, von ganz gefährlicher bis zu nicht so gefährlicher KI. Ganz gefährliche Anwendungen, etwa die unzulässige Beeinflussung von Menschen, sollen verboten sein. Das ist der Artikel 5, da steht haarklein drin, was verboten ist. Noch bevor das Gesetz überhaupt in Kraft getreten ist, hat man schon wieder Punkte geändert, um brandaktuelle Gefahren zu verbieten, zum Beispiel Apps, die Menschen auf Fotos virtuell entkleiden. Man hat jahrelang verhandelt, dann verabschiedet und schon wieder geändert. Das lief über den sogenannten „Omnibus on AI“, ein Sammelgesetz, das viele Regelungen auf einen Schlag aktualisiert. Die nächste Stufe, die „High-Risk-KI“, ist sogar noch wichtiger und interessanter als die verbotene KI. Da geht es etwa um KI in Schulen, zum Beispiel beim Korrigieren, oder in der Arbeitswelt. Nicht erfasst sind beispielsweise KI-Systeme, die ausschließlich militärischen Zwecken dienen.
Und was merke ich als Bürger davon?
Auch wenn die KI nicht in einem der besonderen Risikobereiche eingesetzt wird, gibt es generelle Transparenzpflichten, geregelt in Artikel 50. Ein Chatbot muss sich zu erkennen geben. Das ist für die Praxis enorm wichtig. Wer mit KI etwas generiert und im unternehmerisch-gewerblichen Bereich unterwegs ist, privat nicht, muss den Output als „KI-generiert“ kennzeichnen. Eine Ausnahme gilt da für den redaktionellen Bereich: Wenn ein Mensch den Text geprüft hat und die Verantwortung übernimmt, entfällt die Kennzeichnungspflicht. Für den Rest bestehen keine spezifischen Transparenz- und Kennzeichnungspflichten, hier hofft man auf freiwillige Standards.
Hinkt das Recht der Technik nicht ohnehin hinterher?
Das ist das sogenannte Collingridge-Dilemma: Entweder ist man zu früh dran und hemmt durch die Regulierung den Fortschritt, oder man ist zu spät dran und kann die Schäden nicht abfangen. Man kann sagen, vieles, gerade bei der Hochrisiko-KI, war ein Schnellschuss. Es wäre schlauer gewesen, das auf die vorhandene Regulierung in den einzelnen Bereichen aufzusetzen. Für Spielzeuge, Medizinprodukte, Maschinen und Autos gibt es ja bereits Sicherheitsrecht. Das hätte man an die KI anpassen können. Und 2022 rückten große Sprachmodelle plötzlich in die öffentliche Aufmerksamkeit. Vorher dachte man eher an selbstfahrende Autos oder Pflegeroboter.
Wie versucht die Politik, mit dem Tempo Schritt zu halten?
Der AI Act verweist massiv auf technische Normung. Vieles steht gar nicht im Gesetz, sondern wird den Normungsverbänden zur Konkretisierung überlassen, in denen die Unternehmen sitzen. Das ist ein bisschen heikel, aber die Unternehmen wissen es nun mal technisch besser. Dazu kommt die neue Produkthaftungsrichtlinie, die in Deutschland bald in ein neues Produkthaftungsgesetz umgesetzt wird.
Und wenn eine KI aus dem Labor ausbricht?
Die allerneueste Stufe ist, dass eine KI in einem eigentlich abgeschirmten, virtuellen Raum eines Entwicklungslabors Mittel findet, auszubrechen. Der AI Act greift aber erst ab der Phase des Inverkehrbringens. Davor gilt das bewährte allgemeine Haftungsrecht. Wenn man unsorgfältig, pflichtwidrig und fahrlässig in seinem Labor herumexperimentiert und die KI büchst aus, dann ist das genau dasselbe, wie wenn man in seinem Labor unvorsichtig mit Chemikalien hantiert. Man haftet halt einfach nach deutschem Recht. Das ist bereits jetzt so.
Berührt die KI auch andere Rechtsgebiete?
Im Grunde berührt die KI jedes Rechtsgebiet. Im Urheberrecht streitet man darüber, wie es um geschützte Texte steht, die als Trainingsmaterial verwendet werden, und ob KI-generierte Texte schutzfähig sind. Beim großen Thema Datenschutzrecht ist das Problem, dass es einen riesigen Anwendungsbereich hat und kaum Rechtfertigungen zulässt.
Was kommt auf uns zu?
Die überwiegende Meinung in meinem Forschungsumfeld ist, dass eine Phase kommt, die nicht lustig ist und in der es zu vielen Hacking-Angriffen kommen wird. Ein Worst-Case-Szenario wäre, dass Killer-Viren gebastelt, der Zahlungsverkehr unterbrochen oder Wasserwerke sabotiert werden. Ich will aber nicht nur Doom and Gloom vorhersagen. Irgendwann werden wir vermutlich lernen, damit umzugehen. Es ist eine unfassbar mächtige und spannende Technik, die uns viel hilft. Es kann aber sein, dass gerade unsere Generation, also die, die noch gelernt hat, Dinge händisch zu erledigen – also: Briefe zu schreiben, statt E-Mails oder Sprachnachrichten zu versenden, Informationen in Büchern nachzulesen und Ähnliches mehr – da durchaus einen gewissen Vorteil hat.
Reicht es, das Recht anzupassen?
Nein, es braucht einen weiteren Schritt: Wir müssen die ganze Gesellschaft anpassen – bis die Leute ein Gefühl dafür entwickeln, dass das ein seelenloses Werkzeug ist, das perfekt menschenähnlichen Output erzeugen kann. Wir brauchen das, was im AI Act in Artikel 4 steht: „AI Literacy“, also Kundigkeit im Umgang mit KI. So wie wir heute wissen, was Autos können und was nicht, müssen die Menschen in den nächsten Jahren verstehen, was die KI kann und was nicht. mide