No Women, no AI (pt.3) – EU AI Act und was er für Developer bedeutet

Künstliche Intelligenz entwickelt sich aktuell schneller als viele gesetzliche Regelungen. Der EU AI Act gilt als eine der weltweit wichtigsten Vorgaben für den Umgang mit KI-Systemen. Ziel der Regulierung ist es, Risiken wie Diskriminierung, Intransparenz oder Manipulation durch KI besser kontrollierbar zu machen. Besonders relevant ist das bei Themen wie Bias in KI, Deep Fakes oder automatisierten Entscheidungen. Denn je stärker KI in unseren Alltag integriert wird, desto wichtiger wird die Frage, wie solche Systeme verantwortungsvoll entwickelt und kontrolliert werden können.

Die Blackbox knacken: Wie der EU AI Act Nachvollziehbarkeit & Rechenschaftspflicht erzwingt und was das für Developer bedeutet.

Im dritten Teil meiner „No Women, no AI“-Serie schauen wir uns deshalb an, was der EU AI Act eigentlich regeln soll, welche Auswirkungen er auf Entwickler:innen hat und warum gute KI-Entwicklung mehr mit Software Craftsmanship zu tun hat, als man vielleicht denkt.

Was kann der EU AI Act?

Der EU AI Act ist dafür gedacht, uns gegen mutwillig negative Effekte von KI abzusichern und deren Einsatz sinnvoll zu regulieren. Ein großer Vorteil davon ist, dass sich auch ausländische Firmen an dessen Regeln halten müssen, wenn sie ihre Produkte auf dem europäischen Markt anbieten wollen.

Im AI Act ist festgelegt, dass in bestimmten Branchen und für bestimmte Aufgaben keine KI verwendet werden kann. Dabei geht es vor Allem um hoch sensible Bereiche, wie automatisierte Gesichts- oder Gefühlserkennung in Echtzeit oder die Vorhersage von Straftaten, die stark negative Effekte für Betroffene haben können. Das ist natürlich eine wichtige Eingrenzung, gilt aber auch nur für wenige Fälle.

Im Alltag sind eher andere Punkte der Regulierung relevant: so müssen KI-generierte Inhalte als solche markiert werden und User müssen darauf hingewiesen werden, wenn sie mit einer KI interagieren. Diese Form von Transparenz würde gerade im Zeitalter von Deepfakes und Fake News natürlich extrem helfen.

Allerdings ist es in der Praxis nicht ganz so einfach. Bisher gibt es zumindest in Deutschland noch keine aktive Umsetzung des AI Acts und entsprechend wird auch noch nichts aktiv durchgesetzt. Und dann gibt es da noch die Plattform-Thematik. Plattformen wie Instagram erlauben ja eine weltweite Vernetzung von Inhalten und sind dabei nicht für das Verhalten ihrer Nutzenden verantwortlich. Damit können sie sich rausreden und KI-generierte Inhalte aus dem Ausland bleiben im Zweifel auch ohne Kennzeichnung erhalten. (Und sind wir mal ehrlich, wenn die Kennzeichnungen weiterhin so unauffällig und versteckt sind wie bisher, dann werden es viele Leute eh nicht mitbekommen…)

Aber trotzdem ist der EU AI Act ein wichtiger Schritt in die Richtung einer sinnvollen Regulierung und eins der ersten Gesetze, das das Thema KI wirklich direkt adressiert. Nun können wir also nur abwarten und hoffen, dass uns die gut-gemeinte Theorie auch in der Praxis helfen kann.

Und was bedeutet der EU AI Act für Developer?

Auf den ersten Blick: Dokumentation. Puh. Nein, ich mag die auch nicht lieber als die nächste Entwicklerin, aber da muss man halt durch. In der iSAQB-Schulung zum Thema KI-Architekturen ist uns bei der Diskussion dieser Dokumentationspflichten recht schnell aufgefallen, dass da aber auch noch was anderes passiert: wir haben in deutlich mehr Detail über unser geplantes System nachgedacht. Und ich glaube gerade das ist die Stärke.

Wenn schon von vornherein vorgegeben ist, wie nachvollziehbar und auditierbar das System sein muss, dann ist das praktisch direkt ein Qualitätsmerkmal, das wir als Software-Architektinnen von Anfang an miteinplanen können. Und wenn wir gezwungen sind, über Biases oder Verzerrungen in unseren Daten nachzudenken, dann fällt da vielleicht mehr auf, als wenn man es einfach wegignorieren kann…

Also an sich würde ich diese Regulierung als Leitfaden verstehen, der sicherstellen möchte, dass wir über die Systeme nachdenken und nicht einfach nur drauf los entwickeln. Und das fühlt sich für mich persönlich mehr nach Software Craftsmanship an als nach lästigem Pflichtenheft. Aber hey, maybe that’s just me 😉

Was können Developer im Umgang mit KI sonst noch tun?

Natürlich sind gesetzliche Vorgaben nicht gerade das beste Mittel, um KI für alle besser zu machen. Ähnlich wie beim Thema Nachhaltigkeit stehen auch hier die Entwickler:innen im Vordergrund und können selbst mitentscheiden, was in ihren Systemen erlaubt ist und was kontrolliert werden soll. Wie so häufig verstehen viele Manager nicht im Detail, was die Technik kann – und was die Gefahren sind.

Das bedeutet, dass gerade bei der Entwicklung von Systemen mit KI-Komponenten besonders kompetente Architekt:innen und Entwickler:innen gefragt sind, die aktiv auf Gefahren hinweisen und zu einfach gedachte Konzepte auch mal challengen. Denn wir kennen unsere Systeme und deren Komplexität doch am besten. Und ganz ehrlich: wenn wir schon kommen sehen, dass unsere menschlichen Teams da aufpassen müssen, um nicht durcheinander zu kommen, dann wird es der KI auch nicht besser gehen!

Also plädiere ich bei KI-Systemen für eine bewusstere Entwicklung:

• Wenn ihr Systemprompts schreibt, die für eine automatische Verarbeitung hergenommen werden sollen, dann lasst sie nicht nur durch eine weitere KI prüfen. Sondern geht damit zu Kolleginnen und Menschen, die vielleicht noch andere Sichtweisen haben könnten, und fragt die um Feedback. Der Vorteil von Prompts ist ja gerade, dass jeder sie lesen kann. Also kann auch jeder mit beitragen, sie besser zu machen.

• Wenn ihr den Aufbau oder die Architektur von Systemen mit KI-Komponenten plant, dann denkt sicherheitsbewusst. Wie kann man die KI-Schritte absichern, ohne sich dabei direkt wieder auf eine KI zu verlassen? Wo lassen sich Eingabedaten in eine KI minimieren? Und an welchen Stellen sollte doch nochmal ein Mensch draufschauen?

• Falls ihr mit Data Scientists zusammenarbeitet, dann lasst euch von denen was über eure Daten erzählen. Und fragt mal gezielt nach, ob bestimmte Sachen in den Daten über- oder unterrepräsentiert sind. Vielleicht findet sich schon in einem einfachen Gespräch ein Ansatz, wie man solche Verzerrungen von Vornherein vermeiden kann.

• Und bleibt menschlich: wenn ihr ein schlechtes Gefühl bei einem KI-Anwendungsfall habt, dann hört darauf. Und wenn ihr euch unsicher seid, dann sprecht darüber. Gerade bei einem so neuen Thema wie KI ist es doch besser, sich einmal zu viele Sorgen gemacht zu haben. Denn wer bewusst mit seiner Datengrundlage und seinen Unsicherheiten im System umgeht, der kann in jedem Fall bessere Entscheidungen treffen.

  
  

So, das waren erstmal die Fragen, die ich am spannendsten fand und am häufigsten gehört habe. Aber wie auch schon in der Fishbowl-Diskussion, die diese ganze Serie mitbegründet hat, bin ich gerne offen für eure Fragen.

Habe ich was übersehen und unbeantwortet gelassen?

Wollt ihr zu einem der Themen noch mehr wissen?

Dann schreibt es mir und wir können uns darüber austauschen!

Ganz vorbei ist diese Reihe an der Stelle aber noch nicht, denn ich habe in den letzten Wochen einige gute Bücher zu dem Thema gelesen. Da ich euch die nicht vorenthalten möchte, gibt es nächstes Mal ein paar Leseempfehlungen zu diesem ganzen Themengebiet.