Berlin Der Bundesbeauftragte für den Datenschutz, Ulrich Kelber, warnt vor „KI-Missbrauch und KI-Fehlentwicklungen“ – und fordert Möglichkeiten, sich vor solchen zu wappnen. Es sei wichtig, der Künstlichen Intelligenz schon jetzt einen Rahmen zu geben und sich mit naheliegenden Problemen wie unzureichender Haftung zu beschäftigen, sagte er im Interview mit dem Handelsblatt.
Es brauche „starke Verbraucherrechte gegenüber KI-Betreibern“, mahnte Kelber. Hier sei es wichtig, Sammelklagen zu ermöglichen. Zugleich warnte er vor Alarmismus: „Bei KI stellen sich besondere Herausforderungen. Wir müssen uns klarmachen, wo positive oder negative Entwicklungen liegen.“
Herr Kelber, der Macher des KI-Chatbots ChatGPT warnte kürzlich, KI könnte die Menschheit auslöschen. Ist das Alarmismus?
Für mich ist das ein großes Ablenkungsmanöver. Gemeint ist ein Szenario in ferner Zukunft. Wir müssen KI aber schon jetzt einen Rahmen geben und uns mit den naheliegenden Problemen wie zum Beispiel unzureichender Haftung, Ausspionieren, schlechten Trainingsdaten, Perpetuierung von Diskriminierung und festgezurrten Machtverhältnissen befassen.
Einige von denen, die von der gefährlichen Superintelligenz reden, wollen nur diese Regulierung von heutigen Problemen hinauszögern. Bei KI stellen sich besondere Herausforderungen. Wir müssen uns klarmachen, wo positive oder negative Entwicklungen liegen.
Was heißt das konkret?
Meine Behörde ist bereits als Aufsicht über Künstliche Intelligenz aktiv. Denn in allen Bundesministerien gibt es mindestens Überlegungen zu der neuen Technologie. Aber auch in den Unternehmen, die wir beaufsichtigen, prüfen wir schon Vorhaben.
Zum Beispiel?
Ich nenne mal die Zentralstelle für Finanztransaktionsuntersuchungen, die FIU: Diese Behörde ist zuständig für die Entgegennahme, Sammlung und Auswertung von Meldungen über verdächtige Finanztransaktionen, die im Zusammenhang mit Geldwäsche oder Terrorismusfinanzierung stehen könnten. Im Jahr 2021 gingen knapp 300.000 Meldungen ein. Die FIU setzt zum Filtern all dieser Meldungen unterstützend ein KI-Tool ein, mit dem die Meldungen Arbeits- beziehungsweise Risikoschwerpunkten zugeordnet werden.
>> Lesen Sie auch: Wie eine KI mein Business aufgebaut hat
Eigentlich doch eine sinnvolle Vorgehensweise.
Ich sehe hier das pauschale, ungeprüfte Überführen der Meldungen in den Datenpool der FIU kritisch, weil es gegen den Grundsatz der Datenminimierung verstößt. Außerdem hat es bisher an einer spezifischen Rechtsgrundlage für den Einsatz gefehlt. Jetzt liegt endlich ein Gesetzentwurf vor, der dies ändern soll und den ich aktuell prüfe.
Die EU arbeitet am AI-Act, zu Deutsch KI-Verordnung. Wird der richtige Weg eingeschlagen?
Die KI-Verordnung ist absolut die richtige Richtung. Die Bürgerinnen und Bürger als Anwender von KI werden profitieren. Aber auch jene, die selbst etwas entwickeln, bekommen Rechtssicherheit. Über den risikobasierten Ansatz, der KI-Systeme in verschiedene Kategorien einteilt, wird Regulierung dort konzentriert, wo es notwendig ist. Und für Innovationen wird keine Hürde für den Markteintritt entstehen.
Kritiker meinen, dass überzogener Datenschutz die neue Technologie und damit Innovationen ausbremst. Wie sehen Sie das?
Es gibt bestimmte Geschäftsmodelle oder Vorgehensweisen, die mit europäischen Werten nicht vereinbar sind. Natürlich lassen sich mit der Datenbank der chinesischen Überwachungsbehörden bessere biometrische Erkennungsmethoden und eine bessere Spracherkennung entwickeln, als wenn das auf Einwilligungsbasis wie in Europa geschieht. So was wird es in Europa nicht geben.
>> Lesen Sie auch: Vom Mythos zur revolutionären Technologie – Eine kurze Geschichte der KI
Andererseits sollten wir auf Vorabprüfungen verzichten, wenn KI-Anwendungen ohne hohes Risiko auf dem europäischen Markt angeboten werden. Jedes Unternehmen muss sich aber im Klaren sein, dass Geldbußen fällig werden, wenn bei der Risikoeinstufung getäuscht wurde.
Wie sollte die Haftung geregelt werden, wenn KI-Systeme Schäden verursachen oder fehlerhaft sind? Sollten EU-Sammelklagen ermöglicht werden?
Wir müssen uns gegen KI-Missbrauch und KI-Fehlentwicklungen wappnen. Dieser Aufgabe stellen sich die Datenschutz- und Kartellbehörden. Wichtig sind aber auch starke Verbraucherrechte gegenüber KI-Betreibern. Ich halte Verbandsklagen für eine wichtige zusätzliche Möglichkeit, um die Regulierung von KI-Systemen durchzusetzen und Schadensersatzansprüche geltend zu machen.
Könnte die Datenschutz-Grundverordnung (DSGVO) bei der Höhe der Bußgelder eine Orientierungshilfe geben?
Die DSGVO sieht für Datenschutzverstöße Bußgelder von bis zu 20 Millionen Euro oder für Unternehmen von bis zu vier Prozent des weltweiten Jahresumsatzes vor. Diese Größenordnung ist möglich, wenn die grundlegenden Rechte einer Person verletzt worden sind, und gilt auch für KI-Systeme. Im Bereich von KI werden wir es darüber hinaus mit weiteren Formen von Verstößen zu tun haben, zum Beispiel der Nichteinhaltung von Regulierungsvorhaben. Dafür braucht es einen eigenen Bußgeldrahmen.
>> Lesen Sie auch: Wie KI zur Gefahr für die Demokratie werden könnte
Braucht es beim Megathema KI eine separate nationale, vielleicht sogar internationale Aufsichtsbehörde?
Meine dringende Empfehlung an die Politik ist: Wir brauchen keine neuen KI-Aufsichtsbehörden. Es gibt bereits verschiedene Behörden, die mit ihrer jeweiligen thematischen Ausrichtung auch mit KI zu tun haben. Bei der Schaffung einer neuen Behörde würden wir uns beim Kampf um die richtigen Fachleute nur weiter kannibalisieren. Denn eine Aufsichtsbehörde muss stark sein und über technische Kenntnisse verfügen und europäisch vernetzt sein.
Wie soll dann in der Praxis eine Kontrolle aussehen?
Im AI-Act wird festgelegt, dass die Finanzaufsichtsbehörden einen ganz bestimmten Teil der Aufsicht übernehmen sollen. In Deutschland wäre das die Bafin. Es kann auch noch eine sektorspezifische Aufsicht geben, etwa bei der kritischen Infrastruktur. Das läge dann gut bei der Bundesnetzagentur. Aus meiner Sicht wäre es nur logisch, die restliche KI-Aufsicht den Datenschutzbehörden zu übertragen. Sie schauen ohnehin bereits in alle Systeme rein, wenn es um personenbezogene Daten geht. Ich glaube, wir wären eine sehr gute Behörde dafür und schnell handlungsfähig. Wir haben auch gezeigt, dass wir gut beraten können, wie man etwas macht, und nicht nur sagen, dass etwas nicht geht.
Sie bringen sich also selbst ins Spiel. Das lässt darauf schließen, dass Sie eine weitere Amtszeit anstreben.
Ich würde gern weitere fünf Jahre im Amt bleiben. In den vergangenen Jahren hat sich die Behörde stark weiterentwickelt und gut positioniert. Es gibt deutlich mehr Mitarbeiterinnen und Mitarbeiter, Methoden und Aufgaben. Wir können wirklich etwas bewegen, das würde ich gern weiter verantworten.
Herr Kelber, vielen Dank für das Interview.
Mehr: Aufbruch in eine neue Zeit – das große Handelsblatt-KI-Special als Download