ESV im Dialog: Sie sehen und hören Recht | Folge 24 mit Dr. Silvio Andrae und Jan Pohle

00:00:00: ESV in Dialog, Berndpreis und Gäste.

00:00:03: Sie sehen und hören recht.

00:00:05: Heute folge es hier in Zwanzig.

00:00:08: Thema die KI-Verordnung der EU als Meilenstein zur Regulierung künstlicher Intelligent.

00:00:16: Die neue KI-Verordnung ist ein erster umfassender Regulierungsansatz für künstliche Intelligent und gilt als Meilenstein im europäischen Recht.

00:00:26: Wir soll aber nicht nur EU-weit vom Innovationen steuern, sondern auch der EU-Grundrechtskater und zentralen demokratischen Prinzipien gerecht werden.

00:00:38: Ich habe mich daher mit Dr.

00:00:40: Wilvio André.

00:00:41: Er ist Senior-Experte für KI-Regulierung und Rechtsanwalt Jan Pole über die komplexen neuen Anforderungen unterhalten.

00:00:50: Im Mittelpunkt standen dabei die rechtlichen technischen und ethischen Perspektiven, die allerdings auch ineinander greifen.

00:00:59: Neben den Problemstellungen und Zielsetzungen ging es natürlich auch um Definitionen und Begriffe.

00:01:05: Wichtig sind auch der risikobasierte Ansatz oder die gesellschaftlichen Dimensionen.

00:01:12: Schließlich diskutierten wir noch sogenannte Governance-Fragen, das Verhältnis zu anderen Rechtregimen bzw.

00:01:20: die internationale Perspektive.

00:01:23: Herr Andre, ich grüße Sie und wenn es noch erlaubt ist, einen guten Start ins neue Jahr.

00:01:29: Vielen

00:01:29: Dank.

00:01:29: Zu Ihnen, Herr Pole, viele Grüße an Sie, auch für Sie mit den besten Wünschen für den Jahr für

00:01:31: den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den

00:01:41: Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für

00:01:44: den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für den Jahr für.

00:01:54: Die KI-Verordnung verfolgt ja mehrere Zierrichtungen gleichzeitig, nämlich die Binnenmarktintegration, den Grundrechtschutz und die Innovationsförderung.

00:02:05: Was ist denn aus Ihrer Sicht die zentrale Leitidee der Verordnung?

00:02:10: Ja, vielen Dank.

00:02:11: Sie sprechen es schon quasi in Ihrer Frage an, Herr Preis.

00:02:15: Wenn man es in einem Satz zusammenfassen will, die EU will mit der KI-Verordnung einen Rahmen schaffen, der zugleich Innovationen ermöglicht, aber auch sicherstellte, dass die Grundrechte als solches hinreichend beachtet und berücksichtigt werden.

00:02:30: Das heißt, ganz konkret klare Regeln und gleiche Standards in Europa, ein Gefühl von Rechtssicherheit für alle, die KI entwickeln und oder nutzen wollen.

00:02:41: Die EU setzt damit auf vertrauenswürdige KI.

00:02:44: Ihre Botschaft lautet, wir wollen KI aber verantwortungsvoll.

00:02:48: Man kann diese Leitidee in gewisser Weise als Balanceart zu beschreiben, einerseits die technische Risikosteuerung, andererseits ökonomische Wettbewerbsfähigkeit und gesellschaftliche Akzeptanz.

00:03:03: In diesem Dreieck bewegt sich die Verordnung und das macht sie juristisch wie operativ, technisch, faktisch, spannend, allerdings auch maximal herausfordernd.

00:03:13: Das sehe ich auch so, Herr Pole, nochmal an Sie.

00:03:17: Europa sagt immer, die KI-Verordnung wäre die erste umfassende Regulierung weltweit.

00:03:23: Was bedeutet das denn genau?

00:03:26: Ja, dieses Vollkommen richtig.

00:03:27: am Ende des Tages setzt die KI-Verordnung der Europäischen Union.

00:03:32: einen ersten verbindlichen Rechtsrahmen für einen signifikant relevanten wirtschaftlichen Raum auf globaler Ebene fest.

00:03:39: Die EU wird so zum First Mover und setzt damit globale Standards oder versucht es zumindest.

00:03:46: Formen, die in Europa aktiv sein wollen, müssen diese Regeln einhalten.

00:03:50: Gleich, ob sie aus den USA, aus Asien, sprich China oder sonst woher kommen und auch ihre Hauptoperativen Sitze haben.

00:04:01: Dadurch entsteht ein einheitlicher Markt und Unternehmen wissen so, was gilt.

00:04:06: Das ist nicht zu unterschätzen, diese Rechtssicherheit als solches und wird auch von den entsprechenden Playern in Hintergrundgesprächen durchaus unterstrichen, dass das bei allen potenziellen Mängeln der KI-Verordnung ein ganz wesentlicher Schritt nach vorne ist.

00:04:21: Was macht letztendlich Europa oder was erreicht Europa mit dieser KI-Verordnung?

00:04:25: Wir kommen damit in den Mittelpunkt, was die KI-Regulierung den Rechtsrahmen für KI angeht auf einer globalen Ebene.

00:04:34: Grundrechte werden damit zu einem verbindlichen Maßstab etwas, was gerade in diesen Zeiten vielleicht nicht zu unterschätzen ist.

00:04:41: Und für den europäischen Rechtsraum heißt das damit ganz konkret, KI soll nicht nur sicher, sondern sie muss auch grundrechtskonform sein.

00:04:50: Und dann kommt allerdings auch die besondere Herausforderung an die staatlichen Überwachungsbehörden, ohne die kommt auch die KI-Verordnung, ähnlich wie andere Regelwerke, sprich Datenschutz, Grundverordnung als Beispiel, nicht aus.

00:05:02: Allerdings müssen sich die Behörden ganz neue Kompetenzen aufbauen.

00:05:05: Das heißt, sie müssen personell wie qualitativ inhaltlich auch Ressourcen haben, um die Regeln überhaupt prüfen zu können.

00:05:14: Es geht nicht nur um technische Sicherheitsfragen, sondern auch um komplexe Bewertungen wie Verzerrungen, Transparenz und menschliche Aufsicht bei den Betrieben, bei der Anwendung von KI-System.

00:05:27: Schließlich ist die KI-Verordnung für den europäischen Rechtsraum eine industriepolitische Weichenstellungen, wer den ersten verbindlichen Rahmen setzt, kann Standards definieren, an denen sich andere Märkte orientieren.

00:05:39: Das war bereits ein wesentlicher Treiber.

00:05:41: Unter anderem für die Gartenschutz-Grundverordnung ist es seinerzeit in dem Jahr, in dem Jahr, in dem Jahr, in dem Jahr, in dem Jahr, auf internationaler Ebene belächelt worden.

00:05:49: Wie wir heute wissen, war dieser Ansatz der EU-Kommission oder der EU insgesamt seinerzeit nicht falsch.

00:05:56: Und es bleibt vielleicht zu hoffen, dass die KI-Verordnung, wenn sie sich entsprechend auch weiterentwickelt und offen ist, weitere Innovationen sich entsprechend auf globaler Ebene als Standard durchsetzen wird.

00:06:08: Das klingt sehr ambitioniert, ist aber wohl auch nicht, also ist aber auch auf jeden Fall notwendig und unumgänglich.

00:06:16: Das Ganze geht natürlich auch nicht ohne... Definitionen und Begriffe.

00:06:21: Davon gibt es ja zahlreiche.

00:06:23: Herr André, die Definition des KI-Systems in Artikel drei Nummer eins der Verordnung ist sehr weit umfasst und gilt als umstritten.

00:06:33: Welche Vorteile hat denn diese Breite und wo entstehen die praktischen Probleme dabei?

00:06:41: Vielen Dank, Herr Preis.

00:06:43: Die Definition, was ein KI-System ist, ist bewusst sehr weit geförst.

00:06:50: unter anderem auch deswegen, weil die Verordnung in ein paar Jahren ja auch noch passen muss.

00:06:56: Nehmen wir beispielsweise das Maschinente Lernen oder nehmen wir auch wissensbasierte Systeme oder auch statistische Methoden.

00:07:04: Das sind alles Verfahren, die unter den Begriff eines KI-Systems fallen.

00:07:11: Der Vorteil ist, der Gesetzgeber bleibt maximal Technologie offen und verhindert auf diese Art und Weise Schubflöcher.

00:07:20: Auf der anderen Seite steht der Nachteil, dass es natürlich manchmal auch absolut unpraktisch wird.

00:07:26: Denn auf Systeme, die eigentlich kaum Intelligenz sind, können plötzlich als KI gelten.

00:07:32: Nicht alles, was Daten verarbeitet oder automatisiert entscheidet, ist KI im engeren Sinne.

00:07:39: Nimm mal ein Beispiel.

00:07:40: Klassische Statistikprogramme oder auch einfache Entscheidungsbäume.

00:07:46: Die würde man sicherlich nicht hier unter einem KI-System im Sinne der KI-Verordnung fücken können und auch wollen.

00:07:54: Systeme mit minimalem intelligenten Anteil könnten fälschlich auch als KI-System gelten und so auch unnötigen Pflichten unterliegen.

00:08:04: Also müssen Unternehmen und auch Aufsichtsbehörden im Einzelfall klären, ob ein System unter die Definition fällt.

00:08:12: Das schafft am Ende des Tages natürlich auch eine gewisse Rechtsunsicherheit.

00:08:16: Ich möchte ein einfaches Beispiel nennen.

00:08:18: Ein regelbasiertes Diagnosisystem im Gesundheitswesen fällt noch formal unter diese Definition, obwohl es eigentlich kein lernendes System ist.

00:08:28: Für die Entwickler solcher KI-Systeme stellt sich dann die Frage, muss ich dieselben Anforderungen erfüllen wie jemand, der beispielsweise ein sogenanntes generatives Basismodell trainiert?

00:08:38: Also ich fasse zusammen, der Vorteil einer sehr breiten Definition besteht sicherlich in der Schutzwirkung und der technologischen Offenheit, aber damit einher, das muss man fairerweise anerkennen, besteht die Gefahr der Überregulierung und damit auch des erheblichen Interpretationsbedarfs in der Praxis.

00:08:59: Gut, das

00:08:59: wird natürlich noch überlagert davon, dass Unternehmen gleich mehrere Rollen haben können.

00:09:08: Wir können zum Beispiel das Anbieter auftreten als Betreiber oder als Händler und es sogar noch komplexere Konstellationen möglich, wie zum Beispiel Cloud-Dienste oder KIS Services.

00:09:21: Wie passt diese Realität zu der eher linearen Logik der Verordnung?

00:09:26: Noch einmal, Herr André?

00:09:29: Ja, ich denke, das passt eigentlich nur teilweise.

00:09:33: Natürlich ist so eine lineare Logik schön.

00:09:38: Um eine solche lineare Logik kann man einen Gesetz wie die KI-Verordnung gut bauen.

00:09:45: Wir haben einen Anbieter, wir haben einen Betreiber.

00:09:49: Aber die Realität sieht leider anders aus.

00:09:52: Da läuft doch einiges durcheinander, vor allem auch den von Ihnen erwähnten Cloud-Diensten oder anderen Services.

00:09:59: Das macht die Umsetzung am Ende des Tages natürlich sehr kompliziert.

00:10:04: Die DSGVO, also die Datenschutzrundverordnung, ist da sehr viel flexibler, weil sie gemeinsame Verantwortlichkeiten kennt.

00:10:12: Die KI-Verordnung hält eher und viel stärker an der Produkt-Sicherheitslogik fest.

00:10:17: Das führt dann in der Praxis zu Ereibungen und natürlich auch zu vielen Fragen.

00:10:24: Man braucht beispielsweise Kommunikations- und Dokumentationsmechanismen, um Verantwortlichkeiten lükenlos nachvollziehbar zu machen.

00:10:31: Das ist eine der anspruchsvollen Anforderungen der KI-Verordnung.

00:10:36: Aber neue KI-Architekturen wie eben die Basismodelle oder KI-Agenten, die werden diese angelegte Logik wahrscheinlich sprengen, denn hier verschwimmen die Grenzen zwischen der Entwicklung eines KI-Systems, des Einsatzes und am Ende auch der Bereitstellung.

00:10:53: Also das Modell der linearen Wertschöpfungskette löst sich am Ende des Tages auf.

00:10:59: Sie kann einen Anfang darstellen, um die Verantwortlichkeiten für Anbieter, Betreiber und Händler normativ gut herauszuarbeiten, aber die Praxis sieht dann doch deutlich vielfältiger und komplexer aus.

00:11:16: Die KI-Verordnung ist also bewusst auf das N-Produkt ausgerichtet.

00:11:20: Man könnte sagen, Hauptsache, das finale System ist sicher und rechtskonform, aber die Praxis zeigt, dass es eine flexible Auslegung bedarf, sodass die Reibung so gering wie möglich sein sollten, denn gerade dann könnten Reibungen entstehen, wenn Unternehmen im Mehrerrollen gleichzeitig entnehmen.

00:11:45: Verstehe.

00:11:48: Meiner der Grundpfeiler oder eine ganz wichtige Rolle spielt der sogenannte risikobisierte Anwärts.

00:11:55: Das heißt, es gibt mehrere Stufen.

00:11:59: Man kann also als Hochrisikosystem eingestuft werden.

00:12:04: Von dieser Einstufung zum Beispiel als Hochrisikosystem hängen ja auch die strengen Pflichten ab.

00:12:10: Und hier gibt es natürlich viele Zweifelsfälle bei der Klassifikation.

00:12:15: Noch mal an Sie, Herr André.

00:12:17: Was macht diese Einstufung denn so entscheidend für Anbieter?

00:12:23: Naja, wenn ein System, ein KI-System, also Hochrisiko-KI-System eingestuft wird, dann muss der Anbieter richtig tief in die Pflichten einsteigen.

00:12:31: Er muss ein Risikomanagement-System haben und aufbauen.

00:12:36: Es bedarf einer umfassenden technischen Dokumentation.

00:12:39: Es bedarf der Kontrolle durch Menschen, der menschlichen Aufsicht, es bedarf einer angemessenen Konformitätsbewertung.

00:12:47: Da ist eine ganze Palette von Artikel in der KI-Verordnung, die dann für diese Hochrisiko-KI-Systeme greifen.

00:12:55: Das kostet am Ende des Tages natürlich Geld und auch Zeit.

00:12:58: Und diese Hochrisikosysteme, die müssen Prüfe und Zertifizierungsprozesse durchlaufen, vergleichbar eigentlich mit Medizinprodukten oder eben der Luftfahrtsicherheit.

00:13:08: Also da kennen wir vergleichbare Standards.

00:13:13: In der Praxis heißt das eben hohe Kosten für die Anbieter, lange Markteinführungszeiten und auch umfassende Compliance Strukturen.

00:13:23: Ohne diese Nachweise dürfen diese KI-Systeme nicht in den Verkehr gebracht werden.

00:13:27: Das ist die Prämisse der KI-Verordnung.

00:13:31: Deshalb ist dieser Einstufung als KI-System mit einem hohen Risiko strategisch sehr wichtig.

00:13:38: Sie kann ein Geschäftsmodell ermöglichen oder auf der anderen Seite auch blockieren.

00:13:43: Manche Anbieter, das wäre jetzt eine Vermutung, werden versuchen, ihre Systeme unter der Hochrisikospelle zu halten, um eben diese umfassenden von mir genannten Pflichten zu vermeiden.

00:13:55: Andere werden ganz bewusst wahrscheinlich auf diese Hochrisikoanwendung setzen, weil dort ja regulatorische Klarheit herrscht.

00:14:04: und regulatorische Klarheit schafft ihm auch Vertrauen und bringt dann auch Wettbedarfsvorteile mit sich.

00:14:11: Aber wie das Leben eben so ist, es gibt natürlich eine Vielzahl von Grenzfällen, bei denen die Abgrenzung Ist das jetzt ein Hochrisikosystem oder ist es keins?

00:14:23: Sehr, sehr schwer.

00:14:25: Also beispielsweise ist ein KI gestützt, HR-Modell-Tool für die Bewerberauswahl, als ein Hochrisikosystem einzustufen oder nicht.

00:14:35: Es kommt also am Ende des Tages immer und das ist auch das Besondere an der KI-Verordnung immer auch auf den Anwendungskontext an.

00:14:42: Dieser ist entscheidend.

00:14:44: Die Gesichtserkennung im Flughafen-Sicherheitsbereich wird die große Wahrscheinlichkeit eines Hochrisikosystems eingestuft werden?

00:14:52: in einer Social Media App, möglicherweise nicht.

00:14:56: Also für die Anbieter ist die Hochrisikoeinstufung der zentrale Hebel der Verordnung.

00:15:01: Sie ist weder die Eintrittskarte oder auch ein Markthemd.

00:15:05: Das macht eben die Klassifikation zu einem der heigesten Punkte in der KI-Verordnung.

00:15:12: Jetzt enthält die KI-Verordnung ja auch Mechanismen.

00:15:16: zur Anpassung an neue Risikotüten, etwa barfes Modelle oder eben auch generativer KI.

00:15:23: Was bedeutet das für die Praxis?

00:15:25: Wie geht sie damit um?

00:15:29: Können Sie diese Aufgabe überhaupt lösen?

00:15:33: Ja, das ist eine sehr wichtige und entscheidende Frage, weil die Technologieentwicklung ist natürlich ungeheuerer Sand.

00:15:46: K.I.-Verordnung, als sie im Jahre und einundzwanzig als Kommissionsentwurf geplant wurde und der Öffentlichkeit zugänglich gemacht wurde.

00:15:57: Da hat niemand von den sogenannten Foundationsmodels oder den Basismodellen wie GPT-IV beispielsweise gesprochen.

00:16:04: Die hatte der Gesetzgeber einfach nicht auf dem Radar.

00:16:08: Deshalb hat die K.I.-Verordnung, als sie dann zwei Jahre später eingeführt wurden, in der Praxis auch nachgeschärft.

00:16:17: Heute kann sie diese neuen Risikobereiche mit dedikierten Rechtsakt auch ergänzen.

00:16:23: Und für diese Basismodelle, insbesondere für die, wie es im Gesetz heißt, KI-Modelle mit allgemeinen Verwendungszweck gibt es ganz eigene Regeln.

00:16:33: Das System ist also lernfähig, aber die Technik ist eben auch schneller als die Regulierung.

00:16:38: Das muss man leider im Bereich KI konstatieren oder auch zum Glück, je nachdem, wie man es gerne hätte.

00:16:45: Die Anwendungsvielfalt ist enorm, die ist sehr, sehr groß.

00:16:48: Generative KI ist eine Querschnittstechnologie.

00:16:51: Sie kann im Bildungswesen, in der Verwaltung oder eben negativer Perspektive auch für Deepfakes genutzt werden.

00:16:59: Und je nach Kontext resultieren daraus ganz unterschiedliche Risiken.

00:17:05: Was ist die Antwort?

00:17:05: der EU-Darbau des Gesetzgebers?

00:17:07: Er setzt auf Standards, ein eigenes KI-Büro und natürlich auch eine enge Zusammenarbeit mit internationalen Standardisierungsgremien.

00:17:17: Die neu auftretenden Risiken, die also aus solchen Modellen wie der generativen KI-Resultieren zeigen eigentlich sehr schön die Notwendigkeit eines flexiblen, anpassungsfähigen Regulierungswagens.

00:17:34: Die KI-Verordnung bietet da entteilen Mechanismen an, aber am Ende muss man sagen, wird ihre Wirksamkeit davon abhängen, wie schnell ein Praxiser sie in der Umsetzung reagieren kann.

00:17:49: Das ist quasi der Lackmusstest für die KI-Verordnung.

00:17:54: Wie schnell sie reagieren kann auf neue technologische Entwicklungen.

00:18:01: Das wird sicherlich sehr spannend werden.

00:18:05: Kommen wir zu einem weiteren Thema.

00:18:07: Man findet in der öffentlichen Diskussion stößt man oft auf den Begriff des digitalen Omnibus.

00:18:13: Herr Pole, was bedeutet der für die KI-Verordnung?

00:18:18: Ja, vorausgeschickte für all diejenigen, die sich mit dem Begriff digitaler Omnibus oder auch Omnibus-Gesetzgeber als solche nicht jeden Tag auseinandersetzen.

00:18:27: Das hat nichts mit öffentlichen Nahverkehr zu tun.

00:18:29: Nein, Spaß beiseite.

00:18:31: Der digitale Omnibus ist... Das große EU-Reformpaket, die die gesamte digitale Regulierung auf EU-Ebene vereinfachen soll.

00:18:43: Der digitale Omnibus gliedert sich in zwei Pakete.

00:18:46: Das eine Paket, beide veröffentlicht im November, das eine Paket befasst sich mit all derjenigen Digitalregulierung auf EU-Ebene.

00:18:57: mit Ausnahme der KI-Verordnung, da fördern also der Digital Services Act, der Data Act und ähnliche Regulierungen drunter.

00:19:04: Und das zweite Paket ist halt ganz spezifisch auf die Reform der KI-Verordnung ausgerichtet.

00:19:11: Was ist der Grund?

00:19:11: Was ist der Hintergrund für diese Gesetzesinitiative auf EU-Ebene?

00:19:15: wie ja nun auch in der breiten Öffentlichkeit durchaus diskutiert worden ist und aus Wirtschaftskreisen immer wieder kritisiert wird, ist, dass die Regulierung im Rahmen der KI-Verordnung zu bürokratisch sei, zu schwer sei und das ganze innovationsfeindlich zu langsam ausgestaltet ist.

00:19:34: Gleichzeitig, und das ist natürlich ein grundsätzlicher Webfehler, hat die EU für sich festgestellt, dass zentrale Elemente der KI-Verordnung, wie beispielsweise Standards, Leitlinien und neue Aufsichtsstrukturen, die einen wesentlichen Kern auch der Regulierung beinhalten, dass die nicht rechtzeitig fertig werden bis zum ursprünglich ins Auge genommen endgültige Inkrafttreten sämtlicher Teile der KI-Verordnung im Jahr.

00:20:03: Was macht nun diese Gesetzesinitiative bzw.

00:20:06: worauf zielt sie ab?

00:20:07: So sie denn tatsächlich im Rahmen der EU-Gremien unverändert beschlossen werden sollte und in Kraft treten.

00:20:15: Zum einen liebt sie das in Kraft treten.

00:20:20: von harten KI-Regeln für Hochrisikosysteme, wie ich eben schon gesagt habe, von im Jahr im Jahr.

00:20:29: die EU braucht halt diese zusätzliche Zeit, um entsprechende Standards Leitlinien, die in der KI-Verordnung vorausgesetzt werden, für die Anwendung des Gesetzes zu erlassen und auch die Behörden in den einzelnen Mitgliedstaaten aufzubauen.

00:20:43: Darüber hinaus soll, und das ist das Thema Endbürokratisierung, der digitale Omnibus dazu führen, dass es weniger Registrierungspflichten, vereinfachte Dokumentationspflichten und insgesamt, und das ist ganz wichtig, Nährspielraum für kleine und mittlere Unternehmen, die sogenannten KMU und sogenannte Small- und Mitcaps geben sollen.

00:21:04: Das soll letztendlich dazu führen, dass Milliarden an Bürokratiekosten sowohl auf EU-Ebene, Mitgliedstaats-Ebene, allerdings auch vor allen Dingen auf Unternebene eingespart werden.

00:21:15: Last but not least sollen über den digitalen Omnibus Datenzugänge eröffnet werden und digitale Prozesse standardisiert werden.

00:21:25: Firmen sollen leichter auf Daten zugreifen können, um KI zu trainieren, auch über EU-weit einheitliche Schnittstellen oder ein Business Wallet, das ja nun auch auf EU-Ebene noch eingeführt werden sollen.

00:21:38: Ganz wichtig ist in diesem Zusammenhang, dass gerade, aber da kommen wir vielleicht gleich auch noch zu, im Bereich des Datenschutzes, sprich Nutzung von Gesundheitsdaten zum Training von KI Modellen und System, eine signifikante Liberalisierung dann doch eintreten sollen.

00:21:55: Am Ende des Tages soll das ganze Innovation fördern, ohne gleichzeitig auf Grundrechte zu verzichten.

00:22:02: Insgesamt will die EU mit dem digitalen Omnibus ihr grundsätzliches Ansinnen unterstreichen, dass KI in Europa nicht ausgebremst werden soll.

00:22:11: Die Kommission geht jetzt wieder mehr in ihrem Regulierungsansatz dahingehend, die Regulierung und hier im Zusammenhang mit der KI-Verordnung als Chance.

00:22:20: und nicht nur als Risiko zu betrachten.

00:22:23: Das ist insofern ein paar Dickmenwechsel als das gerade in den zwanzigzehnern Jahren im Nachgang zur Finanzkrise viel im Bereich Digitalregulierung auf EU-Ebene, die ganzen innovativen Businessmodelle und Entwicklungen und Techniken mehr als Risiko, denn als Chance begriffen hat.

00:22:41: Da wird jetzt mit aufgeräumt und insofern kann man kurz und bündig sagen, dass der digitale Omnibus insgesamt ein großer Regel auf Räumer ist.

00:22:51: Er soll Bürokratie abbauen, Übergangsfristen verlängern und so allen Beteiligten luftvoll schaffen und Last but not least und dann ist das zentrale Ziel Europa im KI-Wettbewerb schneller und besser machen.

00:23:04: Vielen Dank.

00:23:05: Beleuchten wir mal das Verhältnis zu anderen Rechtsregimen.

00:23:09: Sie haben es ja gerade angedeutet.

00:23:11: Die KI-Verordnung greift als sogenannte horizontale Regelregulierung in ziele bestehende Rechtsbereiche ein, und zwar vom Datenschutzrecht bis hin zur Produktsicherheit.

00:23:23: Herr Pole, noch mal an Sie.

00:23:25: Wo entstehenden so weit die größten Reibungen?

00:23:29: Ja, Ihre Beschreibung ist schon vollkommen richtig.

00:23:33: Die KI-Verordnung ist und das ist auch pure Absicht des Gesetzgebers der EU, ist eine hohe zentrale Regulierung, die quer durch alle Broschulungen.

00:23:43: Sie gilt also im Bereich Gesundheitswesen genauso wie im Verkehr.

00:23:46: Das sind vielleicht neben der Finanzwelt die wesentlichen Regulierungsziele, Regulierungssektoren.

00:23:54: Aber und das ist ganz wesentlich, die KI-Verordnung tritt an die Seite vieler bestehender Gesetze auf EU-Ebene, aber links dann auch auf nationaler Ebene.

00:24:05: Sie ersetzt sie aber nicht.

00:24:06: Ein gutes Beispiel ist da insbesondere der Datenschutz.

00:24:10: Ob das nun besonders gelungen ist oder nicht gelungen ist, das wird die Zeit zeigen.

00:24:15: Aber in der KI-Verordnung steht relativ am Anfang sehr deutlich drin, dass die Datenschutz-Grundverordnung und die dort niedergelegten Regelungen von der KI-Verordnung unberührt bleiben.

00:24:26: Jetzt ist es allerdings auch so, dass gerade, wenn man solche Allgemeinplätze, ich will es mal so nennen, in ein Gesetz einbauen, da sozusagen die Spannungen vorgegeben sind.

00:24:35: Und das liegt halt auch daran, dass die Rollmodelle von DSGVO und KI-Verordnung nicht unbedingt kompatibel sind.

00:24:45: Sie preilen sozusagen aufeinander.

00:24:47: Dann darüber hinaus muss man ganz klar sagen, insbesondere im Zusammenhang mit dem Kern der KFI-Verordnung, nämlich der Regulierung von Hochrisiko-KI-Systemen ist die KI-Verordnung in erster Linie ein Produkt-Sicherheitsrecht.

00:25:01: Und dementsprechend tritt sie neben andere oder ergänzt sie andere produkt-sicherheitsrechtliche Regelungen.

00:25:08: Ich sage hier ganz insbesondere wieder in den Sektoren Automobil, aber auch Gesundheit.

00:25:14: Und in dem Sinne entsteht hier sozusagen ein Dualismus.

00:25:19: Ja, und drittens gibt es dann noch sehr spezifische regulierte Bereiche, wie insbesondere Medizin und Finanzaufsicht, auch auf EU-regulierte Bereiche.

00:25:27: Und da ist es halt die besondere Herausforderung für Unternehmen, all diese Regeln parallel einzuhalten.

00:25:34: Weiter vor dem Hintergrund, und das ist jetzt nicht eine Pauschalkritik angesetzgeber, dass die KI-Verordnung nicht unbedingt, ich hatte es eben schon zum Bandschutz angesprochen, mit diesen Regulierungen im Bereich Medizin und Finanzaufsicht inhaltlich hundertprozentig kompatibel sind.

00:25:51: Es gibt also echte Überschneidungen und dementsprechend auch gelegentlich zumindest doppelte Pflichten.

00:25:59: Allerdings schafft eine hohe zentrale Regulierung durchaus, oder hat jedenfalls auch potenzial, einen Vorteil zu generieren, wenn sie und weil sie Konsistenz schafft.

00:26:10: Allerdings, und das hat man auch in den vergangenen Jahren schon bei der Anwendung der Datenschutzgrundverordnung gesehen, das Ganze dauert und ist ein langer Weg und insbesondere erfordert ist, enge Abstimmungen zwischen den beteiligten Behörden, sei es beispielsweise Marktaufsichtsbehörden, Datenschutzbehörden oder ähnlichen oder Finanzaufsichtsbehörden als Beispiel.

00:26:29: Wenn das nicht passiert, haben sie hohe Kompetenzstreitigkeiten und das führt letztendlich dann wiederum zu dem ungewünschten Effekt, dass Unternehmen keine Rechtssicherheit mehr verspülen.

00:26:40: Ein Beispiel ist da ganz schlicht, weil man dann im Bereich Healthcare, Life Sciences eine Gesundheitsapp mit KI-Funktionen hat.

00:26:49: Muss man sich darüber im Klaren sein, dass hier gleichzeitig Datenschutz, Medizinprodukte und KI recht parallel zur Anwendung gelangen.

00:26:57: Das muss man sozusagen in einen Topf bekommen, und zwar nicht nur auf Anwenderseite, sondern in gewisser Weise auch durch Guidance von den entsprechenden Behörden, die untereinander abgestimmt sein müssen und sollten.

00:27:09: Das sicherzustellen ist sicherlich nicht ganz einfach.

00:27:12: Wir haben den Datenschutz schon angesprochen.

00:27:15: Gerade beim Umgang mit Daten oder Fragen sprechen wir mal das Profiling und Transparenzpflichten an.

00:27:22: Gerade hier kommt es ja nun zu deutlichen Überschneidungen mit der DSGVO.

00:27:27: Sie grenzt sich denn die KI-Verordnung gegenüber der DSGVO ab?

00:27:32: und wo sind die typischen Konfliktpunkte zwischen diesen beiden Gesetzen?

00:27:38: Ja, ich hatte es eben schon erwähnt, dass die KI-Verordnung sich da vielleicht etwas erlogggesachten schlanken Fuß macht und ganz einfach die Position nimmt.

00:27:49: dass die KI-Verordnung, die Regelung und Bestimmung der Datenschutzgrundverordnung unberührt lässt.

00:27:55: Das ist ein einfacher Ansatz, allerdings muss man da auch ein gewisses Verständnis, wie ich meine, für den EU-Gesetzgeber aufbringen, weil also all diejenigen Themen, die datenschutzrechtlich in Zusammenhang mit KI und jetzt Anwendung, Betrieb und Entwicklung in Rede stehen, die sind dermaßen komplex, dass es wahrscheinlich den Verordnungsgeber massiv überfordert hätte, dass alles jetzt in der KI-Verordnung ad hoc.

00:28:17: innerhalb eines überschaubaren Zeitraums mit der Möglichkeit der politischen Konsensfindung zu implementieren.

00:28:24: Also, dieses Brett wäre dann definitiv zu groß gewesen.

00:28:28: Das heißt dann aber auch, ich habe sozusagen natürlich das Spannungsfeld zwischen KI-Verordnung und Datenschutz und der beginnt letztendlich damit, dass die Datenschutzgrundverordnung von den menschenrechtlichen Ansatz betrachtet, personenbezogene Daten, also das Individuum schützt.

00:28:46: Und die KI-Verordnung schützt wiederum Menschen, in dem Sinne auch grundrechtsrelevant, von Risiken, die vom KI-System ausgehen.

00:28:56: Das heißt dann und führt dann in der Praxis dazu, dass sich das letztendlich die beiden Schutzziele sich ständig überschneiden.

00:29:04: Und das ist in gewisser Weise eine Schnittmenge.

00:29:07: Wiederum beide Regelungsbereiche maximale Transparenz verlangen, allerdings auch maximale Daten in Qualität.

00:29:15: Gleichwohl, sie sprechen unterschiedliche Sprachen an den, was in Adressaten der jeweiligen Regulierung angeht.

00:29:22: Die DSGVO spricht immer von Verantwortlichen, die KI-Verordnung von Anbietern und Betreibern.

00:29:29: Ein Verantwortlicher kann in der Regel oder in vielen Fällen auch der Betreiber eines KI-Systems sein, aber er muss es nicht sein.

00:29:39: Da sind sozusagen die Missverständnisse vorprogrammiert und die Unternehmen sind wirklich im Detail gehalten beide Welten gleichzeitig zu denken und die Ableitung aus der jeweiligen Regulierung in die Praxis zu übernehmen und umzusetzen.

00:29:52: Bei der Datenschutz-Grundverordnung für Datenschutzprozesse, für der KI-Verordnung für Systemprozesse.

00:29:59: Ich gebe einfach ein ganz simples Beispiel.

00:30:01: wenn sie personenbezogene Daten in einem KI-System verarbeiten, was die Regel sein wird in der Praxis, stellt sich da natürlich immer auch die Frage, wie will ich hier beim Input wie beim Output und insbesondere im letzten Fall Auskunftsansprüche nach DSGVO praktisch sinnvoll, schnell und innerhalb der vorgegebenen gesetzlichen Fristen erfüllen.

00:30:23: Das ist schon in der Entwicklung eines Systems eine massive Herausforderung und muss beachtet werden.

00:30:29: Insgesamt muss man sagen, wenn man all dies als Unternehmen, als Anbieter genauso wie als Betreiber gut koordiniert, kann das letztendlich alles ein doppelter Sicherheitsgott im Sinne der betroffenen Individuen, Menschen sein.

00:30:43: Ohne Abstimmung droht allerdings eine Doppelbelastung.

00:30:48: Und dementsprechend dann auch eine massive kommerzielle Belastung zu Lasten der Unternehmen.

00:30:54: Schwere Aufgabe für alle Beteiligten.

00:30:57: Hinzu kommen natürlich, wir haben es vorhin schon angesprochen, die internationale Perspektive, denn die internationale Dimension entscheidet ja darüber, ob die KI-Verordnung wirklich zum globalen Trendsetter oder Standardsetter wird.

00:31:13: Wie positioniert sich die EU denn im Vergleich zu den USA?

00:31:17: Dort setzt man ja eher auf Selbstregulierung im Gegensatz zu China, das wiederum auf starke, stärkere staatliche Steuerung setzt.

00:31:26: Herr André zu Ihnen, wie sehen Sie das?

00:31:30: Ja, das ist in der Tat so.

00:31:33: Jetzt haben wir uns tatsächlich drei große Blöcke mal herausgegriffen.

00:31:39: Wir könnten noch weiter differenzieren und könnten uns auch noch andere Juristikationen und Regionen anschauen, aber wir belassen es mal bei dem Vergleich dieser drei großen Regionen.

00:31:51: Also wenn wir die EU mit den USA und den China vergleichen, dann sehen wir tatsächlich drei völlig unterschiedliche Ansätze.

00:31:58: Und das macht die Sache am Ende des Tages auch sehr spannend, aber wahrscheinlich auch sehr kompliziert.

00:32:06: Wenn ich das mal so sagen darf, sind wir ja alle stark miteinander verflochten und die KI-Systeme der einen Region arbeiten in den anderen.

00:32:18: Für die EU gesprochen kann man sagen, sie setzt ganz klar, Herr Pohler hat es auch schon mehrfach erwähnt, auf Grundrechte, auf Risikomanagement und auf Transparenz.

00:32:29: Sie will die KI nicht einfach laufen lassen, sondern... KI soll im Verständnis des EU-Gesetzgebers sicher und auch vertrauenswürdig sein.

00:32:39: Das berühmte Stichwort ist der trustworthy AI made in Europe.

00:32:43: Die Idee dahinter ist, wenn die Menschen vertrauen haben, dann setzen sie KI auch ein.

00:32:49: Und genau das soll langfristig, das ist das Ziel des Gesetzgebers ein Wettbewerbsvorteil für Europas.

00:32:56: Die USA gehen einen völlig anderen Weg.

00:32:59: Dort dominiert man vereinfacht gesagt der Markt.

00:33:02: Es gibt keine große einheitliche KI-Gesetzgebung, sondern wir beobachten ganz, ganz viele verstreute Initiativen, wie zum Beispiel den AI Bill of Rights.

00:33:16: Jeder Bundesstaat schraubt an eigenen KI-Regeln herum.

00:33:20: Allein in den Jahren, dass wir beobachten konnten, gab es hunderte Gesetzesvorhaben.

00:33:26: Gleichzeitig gab es aber auch im letzten Jahr einen Entwurf, der die Bundesstaaten für zehn Jahre ausbremsen würde, der also den Bundesstaaten verbietet, eigene Gesetze zu schmieden.

00:33:40: In den USA läuft also, wenn man das so vereinfacht sagen darf, Regulierung oft über Software, also über freiwillige Standards und Bankenleitlinien.

00:33:50: Der Vorteil dahinter ist, dass von mir erst schon angesprochene Tempo Und auch die Flexibilität ist auf diese Weise gegeben.

00:33:59: Es bedeutet aber auch, dass Bürgerinnen und Bürger viel weniger verbindlichen Schutz haben.

00:34:05: Und viele Pflichten hängen am Ende des Tages stark, äußerst stark, vom guten Willen des einzelnen Unternehmens, des Anbieters der KI ab.

00:34:19: steht für das komplett andere Extrem.

00:34:22: Dort orchestriert der Staat die KI-Entwicklung sehr, sehr eng mit sehr detaillierten Vorschriften für Algorithmen, für generative KI und auch für Datenkontrolle.

00:34:33: Der Fokus liegt dort viel stärker auf dem Thema Cyber-Sicherheit und vor allen Dingen auch auf politischer Kontrolle.

00:34:41: Ganz kurz formulieren, China nutzt KI also auch als Instrument staatlicher Souveränität und strategischer Dominanz.

00:34:51: Wenn man diese drei Modelle jetzt nebeneinander stellt, ergibt sich eigentlich ein klares Bild.

00:34:57: Europa bietet Rechtssicherheit, kämpft aber mit der Bürokratie, die damit einhergeht.

00:35:03: Die USA fördert Innovation, aber lassen viele Risiken offen.

00:35:08: und China sitzt auf Kontrolle, aber auf Kosten von Freiheitsrechten.

00:35:11: Das ist zugegebenermaßen jetzt sehr, sehr holzschnittartig von mir formuliert, macht aber doch sehr deutlich, wo sich die KI-Verordnung zwischen diesen Kohlen am Ende des Tages positioniert.

00:35:25: Sie versucht, Vertrauen und Sicherheit herzustellen, ohne Innovationen abzuwirken.

00:35:31: Ob das am Ende des Tages gelingt, dafür ist es jetzt wahrscheinlich noch viel zu früh, dann abschließendes Urteil zu fällen, wird abwarten, ob diese gewünschten Ziele der EU tatsächlich am Ende des Tages eintreten werden.

00:35:47: Vielen Dank.

00:35:48: Ich denke, der Bild macht die Grundprobleme schon sehr deutlich.

00:35:53: Haben gut herausgearbeitet.

00:35:57: Jetzt müssen wir das Ganze natürlich auch noch umsetzen.

00:36:01: die institutionelle Architektur für die Datendurchsetzung oder für die Durchsetzung der Verordnung, die ist zwar zentral, aber in die ist noch im Aufbau, welche neuen Institutionen entstehen dann oder sind zu erwarten, zum Beispiel ein KI-Vero auf EU-Ebene?

00:36:20: oder welche Kompetenzen haben dann diese Organisation.

00:36:24: Herr Poler, was meinen Sie?

00:36:27: Ja, also die Frage ist relativ einfach, aber gleichzeitig auch wieder komplex zu beantworten.

00:36:35: Am Ende sieht die KI-Verordnung den Aufbau eines komplett neuen Aufsichtssystems

00:36:40: vor.

00:36:41: Komplett neu, insbesondere insofern, weil es verschiedene Ebenen, verschiedene Layer geben wird, da insbesondere, und das ist wirklich ganz neu, Sie sprachen es eben schon an der Preis, ein KI-Beru wird es geben.

00:36:56: Und dieses KI-Beru ist auf europäischer Ebene bei der EU-Kommission angesiedelt.

00:37:01: Dieses KI Büro soll sozusagen die Spinnennetz der zentrale Knotenpunkt sein und drei Dinge leisten.

00:37:08: Zum einen die Umsetzung der Verordnung in Europa zu koordinieren.

00:37:13: Zum zweiten die Mitgliedsstaaten dabei zu unterstützen ihr eigenes Aufsichtssystem zu etablieren und vernünftig zu implementieren.

00:37:24: Und Last but not least soll das systemische Risiken überwachen, vor allem bei großen Basismodellen, die überall in Europa wirken.

00:37:31: Das ist in Teilen ein Regulierungsrahmen, ein Aufsichtsrahmen, den wir schon in Ansätzen in anderen Regulierungsbereichen gesehen haben, aber insofern auch ein Stück weit mehr.

00:37:45: Das KI-Büro als solches soll dabei allerdings nicht nur beaufsichtigen, sondern auch wissen bündeln und wissen vermitteln.

00:37:54: Es soll ein Kompetenzzentrum werden und sein, dass Expertise zu KI-Themen auf europäischer Ebene sammelt und europaweit verfügbar macht.

00:38:02: Insofern in gewisser Weise ein Aufsichtsansatz, ein Behördenansatz, den wir schon aus dem Bereich der Cybersecurity-Regulierung seit einigen Jahren kennen.

00:38:15: Die zweite Ebene, die sozusagen unterhalb des KI-Büros auf EU-Ebene angehesiedelt sind, sind die nationalen Bildwerden.

00:38:23: Und da ist jeder Mitgliedstaat aufgerufen nach der KI-Verordnung, die entsprechenden Stellen zu benennen.

00:38:28: Das können entweder Marktüberwachungs- oder Datenschutzbehörden sein.

00:38:33: Und in Deutschland geht momentan nach dem entsprechenden Gesetzentwurf die Reise in die Richtung, dass grundsätzlich als Überwachungsbehörde die Bundesnetzagentur benannt werden wird, die sich dann allerdings wiederum mit den Datenschutzbehörden ins Benehmen zu sehen setzen hat im Rahmen ihrer Aufsichtstätigkeit.

00:38:52: Allerdings muss man auch sagen, insbesondere für einen Katalog.

00:38:56: von Finanzdienstleistungen wird die Bundesnetzagentur nicht die entsprechende Behörde sein, sondern die BAFIN als Finanzregulierer.

00:39:06: Also auch hier, ich habe es eben schon in anderen Zusammenhang angesprochen, Komplexität, mögliche Überschneidungen, Konsistenz, Herausforderungen etc.

00:39:15: Das wird durch diesen aufgesplitteten Überwachungsrahmen in Deutschland sicherlich nicht einfacher, sondern eher komplexer.

00:39:23: Die gesetzgeberische Diskussion ist aber insbesondere noch nicht am Ende, weil die Datenschutzbehörden hier in der juristischen Diskussion durchaus massive und erhebliche Einwände gegen die Zuordnung der Überwachungstätigkeit bei der Bundesnetzangeltour haben.

00:39:38: Was sollen diese nationalen Behörden leisten?

00:39:41: Sie sollen konkret prüfen, welche KI-Systeme sind auf dem Markt, funktionieren diese sicher und muss gegebenenfalls sanktioniert werden, sei es durch Bußgelder, aber sei es auch durch, ich sage es jetzt mal, Rückrufaktionen, dass bestimmte KI-Systeme vom Markt genommen werden müssen.

00:39:57: Das Problem ist, diese Behörden müssen erst Fachwissen aufbauen und das ist in Deutschland schon schwierig genug.

00:40:04: in anderen kleineren EU-Ländern wahrscheinlich noch mit größeren Herausforderungen verbunden.

00:40:12: Und last but not least gibt es dann noch eine Netzwerkstruktur im Rahmen des Aufsichtsraums und da soll das KI-Büro, das ich eben schon angesprochen habe, auf EU-Ebene nicht alleine arbeiten, das ist das Ziel, sondern koordiniert ein europäisches KI-Gremium.

00:40:30: Das ist ähnlich wie der europäische Datenschutzausschuss im Bereich der DSGVO.

00:40:37: Hier soll Leitlinien für die Anwendung von KI und deren rechtliches Umfeld ebenso entworfen und verabschiedet werden, wie Streitfragen geklärt werden und letztendlich dafür besorgt werden, dass die Regelungen der KI-Verordnung europaweit Einheitlich ausgelegt werden.

00:40:58: Wir kennen die Thematik aus der DSGVO, die seit einigen Jahren schon in Kraft ist, aber die Streitfragen, die in der Praxis auftreten und der Koordinierungsaufwand ist immer noch erheblich und die Community schaut immer noch mit Interesse auf all das, was von der Ebene des European Data Protection Board kommt.

00:41:19: Die große Frage, die sich letztendlich anschließt, aber das ist auch gewisserweise eine Frage, die wir eben angesprochen auch im Datenschutzbereich nach wie vor in gewisser Weise offen sind, ist und jedenfalls noch nicht abschließend geklärt ist.

00:41:33: Was bleibt national und was wird europäisch zentralisiert?

00:41:37: Das ganze wird nicht unerhebliches Konflikt potenziell allerdings auch und das ist letztendlich das Enziel der Regulierung und auch des etablierten Aufsichtsrahmen.

00:41:46: Es soll ein Level-Playing-Field europaweit über alle siebenundzwanzig EU-Staaten ausgerollt werden für den Bereich der künstlichen Intelligenz.

00:41:59: Vielen Dank.

00:42:00: Kommen wir mal zu den gesellschaftlichen Dimensionen.

00:42:04: Die Dimensionen, die Schutzdimensionen der KI-Verordnung zielt ja ab auf Diskriminierungsfreiheit, Transparenz und Teilhabe.

00:42:15: Was bedeutet denn die VU langfristig für Bürgerinnen und Bürger, Herr André?

00:42:23: Ja, langfristig kann man sagen, dass die KI-Verordnung für Bürgerinnen und Bürger vor allem eines bietet, nämlich mehr Schutz und mehr konfolle Umgang mit KI.

00:42:33: Die KI-Verordnung stellt ganz bewusst, Herr Polat hat es auch schon mehrfach erwähnt, die Grundrechte ganz bewusst ins Zentrum.

00:42:41: Sie soll verhindern, dass die KI zur Überwachung eingesetzt wird, dass Menschen diskriminiert werden.

00:42:47: Und das Entscheidungen entstehen, die niemand richtig nachvollziehen kann.

00:42:52: Und das ist ja sehr, sehr wichtig, weil KI längst Teil unseres Alltags ist.

00:42:58: Wir begegnen KI bei der Jobsuche, bei der Kreditvergabe, in der medizinischen Diagnostik oder sogar im öffentlichen Raum.

00:43:06: Zum Beispiel bei Gesichtserkennungssystemen.

00:43:10: Die KI-Verordnung will also sicherstellen, dass auch solche Systeme fair, nachvollziehbar und kontrollierbar arbeiten.

00:43:18: Das sind so die Begrifflichkeiten, die mit der KI-Verordnung mitschwählen.

00:43:24: Ein großer Punkt, auch das hat Herr Polöschen erwähnt, ist das Thema der Transparenz.

00:43:30: Die Menschen sollen wissen, wenn sie mit KI zu tun haben und gerade auch bei den schon angesprochenen Hochrisiko-KI-Systemen, gibt es aus diesem Grund zusätzliche Informationsrechte, etwa darüber, wie das System funktioniert und welche Risiken mit der Inbetriebnahme dieses KI-Systems einhergehen.

00:43:53: Ein zweites großes Ziel ist der Schutz vor Diskriminierung.

00:43:58: Die KI-Verordnung verlangt, dass Trainingsdaten überprüft werden, damit vor allen Dingen Verzerrungen erkannt und im Ende des Tages auch minimiert werden soll.

00:44:11: Diese Weise sollen Benachteiligungen aufgrund des Geschlechts, aufgrund des Alters, der Herkunft oder anderer Merkmale suchen, weit wie möglich verhindert werden.

00:44:21: Im Ende kann man also sagen, steht etwas ganz, ganz Grundsätzliches im Raum.

00:44:27: Die KI soll keine Blackbox sein, der man ausgeliefert ist.

00:44:32: Sie soll ein Werkzeug sein, das nachvollziehbar und vertrauenswürdig funktioniert.

00:44:37: Nur wenn dieses Vertrauen bei den Bürgerinnen und Bürgern da ist, dann wird KI auch in sensiblen Bereichen wie der Gesundheit oder der Justiz akzeptiert werden.

00:44:51: Langfristig kann die KI-Verordnung also einen wesentlichen Beitrag leisten und viel bewirkt, indem sie also die Bürgerinnen und Bürger nicht nur schützt, sondern auch die Grundeile dafür schafft, dass KI breit und verantwortungsvoll genutzt werden kann.

00:45:10: Das ist zum Vorteil der gesamten Gesellschaft.

00:45:15: Vielen Dank.

00:45:19: Sie haben nur noch einen Kommentar dazu herausgegeben, der demnächst im Erich Schmidt Verlag erscheint.

00:45:26: Was ist denn der Leitgedanke dieses Kommentars?

00:45:32: Ich würde jetzt ganz gern begrüßen, wenn jeder kurz was dazu sagt.

00:45:36: Fangen wir mal an mit Ihnen, Herr Pohle.

00:45:39: Ja, der Leitgedanke des Kommentars kann man ganz kurz und bündig zusammenfassen.

00:45:46: Wir wollten das neue komplexe Regelwerk KI-Verordnung so erklären, dass es wirklich verstanden wird und wir dem Leser, dem Nutzer klare Hilfestellungen bei der Anwendung dieses komplexen Regelwerks.

00:46:02: bieten.

00:46:04: Warum?

00:46:05: Die KI-Verordnung ist ein völlig neuer Rechtsrahmen.

00:46:07: Wir hatten es eingangs und im Laufe des Interviews schon mehrfach erwähnt.

00:46:10: Es ist interdisziplinär, es ist technisch anspruchsvoll und voller Querverbindung.

00:46:16: Deshalb braucht es ein Werk, das all diese Elemente zusammenbringt.

00:46:19: Unsere Motivation war also Komplexivität verständlich machen, zeigen, wie die KI-Verordnung funktioniert, was sie schützt, wie sie aufgebaut ist.

00:46:31: und was sie in der Praxis bedeutet.

00:46:34: Insofern ist natürlich die erste Auflage ein Beginn.

00:46:38: Weitere Auflagen werden diesen Ansatz, so meine Hoffnung und meine feste Überzeugung, werden diesen Ansatz weiter verfeinern, weiter nach vorne bringen.

00:46:47: Insofern ist das Werk auch von einer gewissen Dynamik durchzogen.

00:46:54: Was uns auch wichtig war, nicht nur juristisch präzise kommentieren, sondern auch technische Hintergründe einordnen und konkrete Anwendungsfragen beantworten.

00:47:04: Auch hier gilt das vorgesagte entsprechend.

00:47:07: Dieses Werk wird für die Zukunft eine weitere Dynamik haben.

00:47:12: Nach der ersten Auflage ist vor der zweiten Auflage, um einen alten Fußballer-Spruch mal etwas frei in den Kontext zu bringen.

00:47:21: Dabei ist natürlich zu beachten, dass die Regulierung nicht nur für Juristen relevant ist, sondern insbesondere auch für Entwickler, Compliance-Teams, Aufsichtsbehörden, politische Entscheidungsträger und letztendlich auch, wir hatten es eben schon gesagt, hero-horizontaler Ansatz für Unternehmen in allen möglichen Branchen.

00:47:41: Deshalb haben wir auch bewusst einen interdisziplinen Ansatz gewählt.

00:47:45: Juristische Tiefe unbedingt erforderlich und daher ein klares Ja.

00:47:49: Aber immer auch ergänzt durch technische und praktische Perspektiven.

00:47:54: Das Werk folgt strukturell der KI-Verordnung, aber wir haben uns bemüht, auch über den Tellerrand hinauszuschmalen.

00:48:02: Unser Anspruch war und ist, nicht nur den Normtext zu erklären, sondern auch die Wirkung im Zusammenspiel mit anderen Rechtsbereichen sichtbar zu machen und zu erklären.

00:48:13: Kommen wir mal zur Zielgruppe, Sie haben es schon angedeutet, möchte ich das mal zusammenfassen, sind Juristen, Entwickler, Aufsichtsbehörden angesprochen, allerdings auch viele weitere Akteure.

00:48:27: Herr Andre, welche Zielgruppen haben Sie denn besonders den Blick gehabt?

00:48:34: Klar, es ist ein juristischer Kommentar und insofern ist die wichtige Zielgruppe, natürlich sind die Juristen, Rechtsanwälte, Unternehmensjuristen, aber auch Gerichte, die konkrete Fälle bewerten müssen.

00:48:47: Genauso haben wir aber auch Wissenschaftler im Blick gehabt, die die Verordnung in größter rechtliche und gesellschaftliche Zusammenhänge einordnen.

00:48:57: Dadurch, dass wir den Leitgedanken eines Praxiskommentierung immer mitgetragen haben, fokussierten wir vor allen Dingen natürlich auch auf die Unternehmen in unterschiedlichen Branchen, vor allem natürlich diejenigen Unternehmen, die KI entwickeln, einsetzen oder im Vertreiben.

00:49:17: Für Sie ist die KI-Verordnung nämlich eben nicht nur ein juristisches Thema, sondern ein ganz ganz praktisches.

00:49:22: Also Fragen wie, wie baue ich mein Risikomanagement auf, wenn ich eine Hochrisiko-KI habe, welche Dokumentation benötige ich am Ende des Tages, wie muss ich meine Prozesse anpassen.

00:49:35: Deswegen richtet sich der Kommentar auch an Compliance Teams und Risikomanager in Unternehmen und Organisationen.

00:49:44: Wichtig war uns außerdem auch die technische Community, die Software-Entwickler, KI-Architekten oder Data Scientists.

00:49:53: Sie alle müssen verstehen, welche Anforderungen das Gesetz an ihre Modelle, die Daten und die Prozesse stellt.

00:50:01: Nehmen wir das Beispiel der Start-ups.

00:50:03: Das sind häufig kleine, kleinste Unternehmen mit vier bis fünf Beschäftigten.

00:50:09: Sie haben keine eigene Rechtsabteilung und daher wollten wir auch solche Unternehmen Orientierung bieten, den Kommentar verständlich darstellen und direkt nutzbar nach.

00:50:22: Natürlich last but not least bilden auch die Aufsichtsbehörden Unterstützung.

00:50:27: Herr Bohler hat es schon angesprochen, die Marktüberwachungsbehörden, die Datenschutzbehörden und auch die sektoralen Aufsichten etwa im Finanz- oder Gesundheitsbereich müssen in Zukunft diese Regeln anwenden und auch durchsetzen.

00:50:41: Und auch für Sie wollten wir eine anwendungsorientierte und präzise Auslegungshilfe

00:50:46: schaffen.

00:50:48: Nicht zuletzt denken wir natürlich auch an die Verbände und Interessengruppen.

00:50:52: Sie sind wichtige Multiplikatoren und übersetzen die komplexe Regulierung für ihre Mitglieder in die Praxis.

00:51:00: Also fassen wir zusammen.

00:51:01: Der Kommentar richtet sich bewusst nicht an eine einzige Berufsgruppe, sondern an ein ganz hinterdissidplinäres Publikum.

00:51:09: Und so war auch das Autor im Team von Anfang an.

00:51:13: zusammengesetzt.

00:51:15: Auch auf diesem Wege möchten wir allen Beteiligten für die Kommentierung der komplexen KI-Verordnung da.

00:51:26: Genau, unser Werk ist also sehr breit angelegt und adressiert viele unterschiedliche Akteure.

00:51:33: Das Ganze ist und bleibt sehr komplex und vor allem spannend.

00:51:39: Herr Pole, Herr André, ich bedanke mich mal für Ihre umfassenden Erläuterung.

00:51:44: Wir wünsche Ihnen mit Ihrem Werk viel Erfolg.

00:51:47: Noch mal vielen Dank.

00:51:49: Danke sehr.

00:51:50: Sie

00:51:52: sind gerne.

00:51:53: Das war eine neue Ausgabe der Reihe.

00:51:55: Ihr ist Formdialog.

00:51:57: Sie hören und sehen recht.