EU AI Act: 5 Dinge, die Sie wissen müssen
5 Aspekte der KI-Verordnung, die Sie jetzt umsetzen sollten
Seit August 2024 gilt der EU AI Act, die Verordnung der Europäischen Union zum Thema Künstliche Intelligenz. Sie legt fest, welche Vorgaben bei der Nutzung von KI in der EU gelten. Es handelt sich um den ersten umfassenden Rechtsrahmen für KI weltweit. Ziel ist es, einen sicheren, transparenten und kontrollierten Umgang mit KI zu schaffen und gleichzeitig ihr Innovationspotenzial auszuschöpfen.
Immer mehr Unternehmen nutzen das Potenzial von KI in ihrer Arbeit – sei es in Kundenservice, Marketing oder der Personalabteilung. Deshalb sollten sie sich frühzeitig über die Regelungen informieren und sie umsetzen. Denn viele Aspekte betreffen nicht nur Firmen, die selbst KI entwickeln oder sie im großen Stil einsetzen. Auch bei gelegentlicher Verwendung zur Arbeitserleichterung greift die KI-Verordnung.
Deshalb möchten wir Ihnen hier eine Zusammenfassung zum EU AI Act geben und die wichtigsten Vorgaben auflisten, die Ihr Unternehmen kennen sollte.
1. Risikostufe des KI-Einsatzes prüfen: Welche Regeln gelten?
In der KI-Verordnung der EU werden Anwendungen mit Künstlicher Intelligenz in vier Risikostufen von minimal über gering und hoch bis hin zu unvertretbar eingeteilt. Je nach Risikostufe gelten unterschiedliche Regelungen und Anwendungen mit unvertretbarem Risiko sind unzulässig.
Unternehmen sollten also prüfen, welche ihrer KI-Anwendungen in welche Kategorie fallen und was sie dementsprechend beim Einsatz beachten müssen. Viele Systeme im Büroalltag fallen in eine minimale bis geringe Risikostufe. Zum Beispiel gelten für einen Chatbot im Kundenservice meist keine komplexen Regeln, sondern vor allem eine Transparenzpflicht. Anders sieht es dagegen aus, wenn ein KI-Tool die HR-Abteilung beim Sichten von Bewerbungen unterstützt oder für medizinische Diagnosen herangezogen wird. Hier ist es wichtig, die strengeren Vorschriften genau zu kennen und einzuhalten.
2. Mitarbeitende im Umgang mit KI schulen
Laut Artikel 4 des EU AI Act müssen Unternehmen, die KI-Anwendungen nutzen oder entwickeln, dafür sorgen, dass ihre Mitarbeitenden über eine ausreichende KI-Kompetenz verfügen. Sie müssen so geschult werden, dass ihre Kenntnisse und Fähigkeiten zu den eingesetzten Systemen und Anwendungsfällen passen. Je nach Unternehmen kann der Bedarf also unterschiedlich hoch sein. Nutzen Mitarbeitende zum Beispiel KI, um Texte für Marketingaktivitäten zu erstellen, müssen sie wissen, dass keine Faktenprüfung stattfindet und sie die Inhalte vor Veröffentlichung selbst prüfen müssen. Bei Systemen mit höherer Risikostufe muss die Schulung in der Regel umfangreicher ausfallen.
Ein einfacher Weg für grundlegende KI-Schulungen sind vorgefertigte Inhalte. Doch wenn das Training in mehreren Sprachen erfolgen soll, steigen schnell die Kosten. Autorentools wie imc Express bieten auch fertige Inhalte an, unter anderem ein KI-Training, das von der Anwaltskanzlei Baker McKenzie geprüft wurde und den Anforderungen des EU AI Acts entspricht. Die X-Library in imc Express beinhaltet über 60 Copyright-freie Kurse in 80 Sprachen, die an das Branding und die Anforderungen eines Unternehmens anpassbar sind.
3. Für Transparenz gegenüber Nutzenden sorgen
Wenn Unternehmen Künstliche Intelligenz einsetzen, schreibt der EU AI Act vor, dass sie dies transparent kennzeichnen müssen. Das gilt zum Beispiel für mit KI erstellte Bilder oder sonstige Inhalte. Aber auch beispielsweise Software mit KI-Bestandteilen oder ein KI-basiertes Empfehlungssystem in einem Onlineshop müssen ausgewiesen werden. Dafür können Hinweise wie “KI-generiert” oder “Mit Künstlicher Intelligenz erstellt” genutzt werden.
4. Menschliche Aufsicht für Hochrisiko-Systeme gewährleisten
KI-Anwendungen, die einer hohen Risikostufe zugeordnet werden, müssen bei ihrem Einsatz von Menschen überprüft werden. Diese Personen müssen in der Lage sein, die Fähigkeiten und Grenzen des Systems zu verstehen. Entscheidungen müssen sie selbst treffen, anstatt der KI blind zu vertrauen.
Ein Beispiel ist die Auswahl von Bewerber*innen für ein Vorstellungsgespräch. Falls KI bei der Vorauswahl unterstützt, muss die HR-Abteilung dies nachvollziehen können und selbst die finale Entscheidung übernehmen. Unternehmen sollten für solche Anwendungen Prozesse und Verantwortlichkeiten festlegen.
5. Dokumentationspflichten zu KI-Anwendungen kennen und einhalten
Bei Hochrisiko-Systemen gelten besondere Dokumentationspflichten. Anbieter solcher Systeme müssen eine umfangreiche technische Dokumentation bereitstellen. Doch die Nutzenden müssen ebenfalls verantwortungsvoll vorgehen und eventuelle Vorfälle den Behörden melden.
Auch wenn es für KI-Anwendungen mit geringeren Risikostufen keine solchen Dokumentationspflichten gibt, ist es empfehlenswert, bestimmte Informationen festzuhalten. Dazu gehören zum Beispiel:
- Welche KI-Tools genutzt werden
- Wer sie anwendet
- Wofür sie eingesetzt werden
- Welche Daten dort eingegeben werden
Dadurch stellen Organisationen sicher, dass sie die interne KI-Nutzung jederzeit gut einschätzen können und sich immer über Risiken bewusst sind.
Schulungen, Transparenz und verantwortungsvoller Einsatz
Um die Vorgaben des EU AI Act zu erfüllen, sollten Unternehmen sich umfassend informieren und sich einen Überblick verschaffen, welche KI-Anwendungen bei ihnen zum Einsatz kommen. Je nach Risikostufe gelten strengere Vorschriften. Außerdem gilt eine Transparenzpflicht gegenüber Dritten: Inhalte oder Ergebnisse durch KI müssen gekennzeichnet werden.
KI-Anwendungen mit hohem Risiko sollten immer von Menschen überwacht werden. Und auch grundsätzlich ist ein verantwortungsvoller Umgang mit KI wichtig. Mitarbeitende, die KI nutzen, müssen Schulungen erhalten, damit sie über die nötigen Kompetenzen verfügen. Das geht zum Beispiel durch die KI-Schulung von imc Express.
