Die rasante Entwicklung von Künstlicher Intelligenz hat unsere Gesellschaft in vielerlei Hinsicht stark beeinflusst. Maschinen können mittlerweile komplexe Aufgaben ausführen und Entscheidungen treffen, die einst allein den Menschen vorbehalten waren. Dieser Fortschritt ruft ethische Fragen hervor, die sorgfältig betrachtet und angegangen werden müssen. Seit dem 1. August 2024 gilt in der EU zudem die KI-Verordnung (Verordnung (EU) 2024/1689, AI Act), das weltweit erste umfassende Gesetz zu Künstlicher Intelligenz. Sie übersetzt einen Teil der folgenden ethischen Grundsätze bereits in verbindliches Recht.
Transparenz und Verantwortlichkeit
Eine der wichtigsten ethischen Überlegungen in Bezug auf KI ist die Transparenz. Künstliche Intelligenz-Systeme sollten so entwickelt werden, dass ihre Funktionsweise verständlich und nachvollziehbar ist. Dies gilt insbesondere in Bereichen wie der Gesundheitsversorgung und der Strafjustiz, in denen KI-Systeme weitreichende Auswirkungen auf das Leben von Menschen haben können. Ohne Transparenz besteht die Gefahr von Diskriminierung, Voreingenommenheit und enormem Machtmissbrauch. Der AI Act macht daraus für sogenannte Hochrisikosysteme eine Pflicht: Nach Artikel 14 müssen diese Systeme so gebaut sein, dass ein Mensch ihre Ausgaben versteht, eingreifen und das System notfalls abschalten kann.
Darüber hinaus müssen Entwickler und Organisationen die Verantwortung übernehmen und sicherstellen, dass ihre KI-Systeme ethisch einwandfrei sind. Ethikkommissionen legen dafür Richtlinien und Standards fest und überwachen die Entwicklung und Anwendung von KI-Technologien.
Diskriminierung und Voreingenommenheit
Ein weiteres Problem der Künstlichen Intelligenz ist die Diskriminierung und Voreingenommenheit von KI-Systemen. KI-Algorithmen basieren oft auf großen Datenmengen, die menschliche Vorurteile und Bevorzugungen enthalten können. Wenn KI-Systeme diese Daten nutzen, um Entscheidungen zu treffen, können sie unbeabsichtigt bestehende Ungleichheiten verstärken.
Um diesem Problem entgegenzuwirken, müssen Entwickler dafür sorgen, dass ihre Datenquellen vielfältig und repräsentativ sind. KI-Algorithmen brauchen zudem regelmäßige Prüfungen, um mögliche Verzerrungen zu erkennen und zu korrigieren. Für Hochrisikosysteme schreibt Artikel 10 des AI Act das inzwischen ausdrücklich vor: Trainings-, Validierungs- und Testdaten müssen auf mögliche Verzerrungen untersucht werden, die zu Diskriminierung führen könnten, bevor ein System auf den Markt kommt.
Datenschutz und Sicherheit
KI-Systeme sammeln und analysieren oft große Mengen an persönlichen Daten, um ihre Aufgaben effektiv ausführen zu können. Deshalb müssen Entwickler von KI-Technologien Datenschutz und Sicherheit von Anfang an mitdenken. Personenbezogene Informationen müssen vertraulich behandelt und vor unbefugtem Zugriff geschützt werden. In der EU gilt dafür zusätzlich zum AI Act weiterhin die Datenschutz-Grundverordnung (DSGVO), die den Umgang mit personenbezogenen Daten unabhängig von der eingesetzten Technologie regelt.
Um den Datenschutz und die Sicherheit zu gewährleisten, setzen Entwickler auf starke Verschlüsselungstechniken. Zudem braucht die Sammlung und Verwendung von Daten einen klaren Rahmen, der den Bedürfnissen und Rechten der Nutzer gerecht wird.
Menschliche Kontrolle und Delegierung von Aufgaben
Obwohl KI-Systeme in der Lage sind, bestimmte Aufgaben effizienter und genauer auszuführen als Menschen, ist es wichtig, dass die Kontrolle über Entscheidungen und Prozesse in den Händen von Menschen bleibt. Die Delegierung von Entscheidungen an KI-Systeme erfordert eine sorgfältige Abwägung zwischen Effizienz und ethischer Verantwortung.
KI-Systeme brauchen deshalb eingebaute Mechanismen, die menschlichen Entscheidungsträgern die letzte Kontrolle sichern. Klare Richtlinien und Vorschriften legen dafür Umfang und Grenzen der Entscheidungsfähigkeit von KI-Systemen fest.
Ethik in der Künstlichen Intelligenz entscheidet darüber, ob die Entwicklung und Anwendung von KI-Technologien den höchsten moralischen Standards entspricht. Transparenz, Verantwortlichkeit, der Umgang mit Diskriminierung und Voreingenommenheit, Datenschutz und Sicherheit sowie die Aufrechterhaltung der menschlichen Kontrolle sind die zentralen Bausteine dafür.
International haben sich zwei Rahmenwerke als Referenz etabliert: die OECD-Prinzipien für Künstliche Intelligenz, ursprünglich 2019 verabschiedet und zuletzt 2024 aktualisiert, und die UNESCO-Empfehlung zur Ethik der Künstlichen Intelligenz, die 2021 von allen Mitgliedstaaten der Organisation angenommen wurde. Beide verlangen im Kern dieselben Bausteine: menschliche Aufsicht, Transparenz und Rechenschaftspflicht, bevor eine KI-Anwendung Menschen betrifft.
Häufig gestellte Fragen
Was schreibt der EU AI Act zur menschlichen Kontrolle über KI-Systeme vor?
Der EU AI Act verlangt in Artikel 14 für Hochrisikosysteme eine wirksame menschliche Aufsicht. Ein Mensch muss die Fähigkeiten und Grenzen des Systems verstehen, seine Ausgaben richtig einordnen, bei Fehlfunktionen eingreifen und das System im Notfall stoppen können. Bei biometrischer Identifizierung schreibt die Verordnung sogar vor, dass mindestens zwei Personen eine Entscheidung unabhängig voneinander bestätigen müssen.
Seit wann gilt die KI-Verordnung der EU, und für wen?
Die KI-Verordnung (Regulation (EU) 2024/1689) ist am 1. August 2024 in Kraft getreten und wird seither stufenweise anwendbar. Verbotene KI-Praktiken gelten seit dem 2. Februar 2025, die Pflichten für allgemeine KI-Modelle seit dem 2. August 2025. Die Vorgaben für Hochrisikosysteme in sensiblen Bereichen wie Bildung oder Beschäftigung wurden 2025 vom ursprünglich geplanten 2. August 2026 auf den 2. Dezember 2027 verschoben, damit Unternehmen mehr Zeit zur Umsetzung haben.
Wie verhindert man Diskriminierung durch KI-Algorithmen?
Diskriminierung durch KI-Algorithmen entsteht meist über verzerrte Trainingsdaten, die vorhandene gesellschaftliche Ungleichheiten fortschreiben. Der AI Act verpflichtet Anbieter von Hochrisikosystemen deshalb in Artikel 10 dazu, ihre Trainings-, Validierungs- und Testdaten gezielt auf solche Verzerrungen zu untersuchen und Gegenmaßnahmen einzubauen, bevor ein System eingesetzt wird. Vielfältige, repräsentative Datenquellen und regelmäßige Prüfungen bleiben dabei die Grundvoraussetzung.
Welche internationalen Rahmenwerke regeln die Ethik von Künstlicher Intelligenz?
Zwei internationale Rahmenwerke prägen die Debatte um KI-Ethik. Die OECD-Prinzipien für Künstliche Intelligenz wurden 2019 verabschiedet und 2024 aktualisiert; sie fordern unter anderem Transparenz, Robustheit und Rechenschaftspflicht. Die UNESCO-Empfehlung zur Ethik der Künstlichen Intelligenz wurde 2021 von allen Mitgliedstaaten angenommen und verlangt, dass KI die Menschenrechte und die Menschenwürde respektiert. Beide Rahmenwerke sind rechtlich nicht bindend, prägen aber nationale Gesetze wie den EU AI Act.