Notizen · EthikDE · Abitur

Medien- und Digitalethik — Information, soziale Medien, Privatsphäre und KI

Die Medien- und Digitalethik ist die jüngste Bereichsethik: Sie reflektiert die moralischen Fragen der vernetzten Informationsgesellschaft. Vier Felder strukturieren das Thema: (1) Grundlagen der Informationsethik (Luciano Floridi: Infosphäre, „onlife", Information als moralisch relevantes Gut); (2) soziale Medien (Filterblase nach Eli Pariser 2011 und Echokammer nach Cass Sunstein 2001, Fake News, Hatespeech, NetzDG 2017); (3) Privatsphäre und Big Data (informationelle Selbstbestimmung, DSGVO 2018, Recht auf Vergessenwerden, Überwachung); (4) KI-Ethik (algorithmische Verzerrung, Verantwortungslücke, EU AI Act 2024). Maßstab bleiben die klassischen Theorien — Kant (Würde, Autonomie), Utilitarismus (Folgenabwägung) und Verantwortungsethik (Jonas, Floridi) — angewandt auf digitale Streitfälle.

4Abschnitteca. 23Min Lesezeit2KompetenzenNiveauStandard 2 · Vertiefung 2Stand 06/2026

T·101010 / 11

Prüfungsprofil

KMK-EPA-Ethik-3 · Beurteilen ethischer PositionenKMK-EPA-Ethik-4 · Anwendung ethischer Theorien auf konkrete Fälle

Operatoren:analysierenanwendenerörternbeurteilen

grundlegendes Niveau

gA-Niveau: Begriffe Medien-/Digitalethik und informationelle Selbstbestimmung; Filterblase und Echokammer unterscheiden; Grundproblem Fake News und Hatespeech; Grundzüge des Datenschutzes (DSGVO); ein Beispiel algorithmischer Verzerrung.

erhöhtes Niveau

eA-Niveau: Floridis Informationsethik (Infosphäre, onlife, Patientenstatus von Informationswesen); BVerfG-Volkszählungsurteil 1983 (Recht auf informationelle Selbstbestimmung); DSGVO Art. 17/22, „Recht auf Vergessenwerden" (EuGH Google Spain 13.5.2014); Verantwortungslücke (responsibility gap) und EU AI Act 2024; Kant, Utilitarismus und Jonas im digitalen Anwendungsstreit.

Tiefe

Schrift

Inhalt · 4 Abschnitte

Medien- und Digitalethik — Information, soziale Medien, Privatsphäre und KI

Grundlagen — Medienethik, Digitalethik und Informationsethik#

Standardkmk-epa-ethik-3kmk-epa-ethik-4

Die Medien- und Digitalethik ist die jüngste der angewandten Ethiken: Sie entsteht erst, als die digitale Vernetzung die Bedingungen menschlicher Kommunikation, Öffentlichkeit und Selbstdarstellung grundlegend umstellt. Den historischen Kern bildet die Medienethik im engeren Sinn — die Reflexion der moralischen Verantwortung in der öffentlichen Kommunikation. Ihre klassischen Leitwerte sind Wahrhaftigkeit, Sorgfaltspflicht und der Schutz der Persönlichkeit; kodifiziert sind sie etwa im Pressekodex des Deutschen Presserats, der zu wahrheitsgemäßer Unterrichtung, Quellenprüfung und Achtung des Privatlebens verpflichtet. Was ursprünglich für eine überschaubare Zahl professioneller Sender (Presse, Rundfunk) galt, betrifft heute jede Nutzerin und jeden Nutzer, da in den sozialen Netzwerken jeder zugleich Empfänger und Sender ist — die Verantwortung des Publizierens hat sich demokratisiert und damit vervielfacht.

Die Digitalethik (oder digitale Ethik) ist die übergreifende Bereichsethik der vernetzten Informationsgesellschaft. Sie bündelt die moralischen Fragen, die sich aus den Strukturmerkmalen des Digitalen ergeben: aus den sozialen Medien und ihrer algorithmischen Steuerung, aus Big Data und der massenhaften Auswertung von Verhaltensspuren, aus der Künstlichen Intelligenz als entscheidungsmächtiger Technik, aus der Plattformökonomie weniger marktbeherrschender Konzerne und aus der Frage digitaler Teilhabe (digital divide). Anders als die ältere Technikethik betrifft die Digitalethik nicht nur einzelne Artefakte, sondern eine Infrastruktur, die als Medium nahezu alle Lebensbereiche durchdringt — von der politischen Willensbildung über die Arbeitswelt bis zur intimen Selbstdarstellung.

Den theoretisch anspruchsvollsten Grundlegungsversuch unternimmt Luciano Floridi mit seiner Informationsethik. Seine Diagnose: Der Mensch lebe nicht mehr neben, sondern in einer „Infosphäre" — der Gesamtheit aller Informationsräume und -wesen — und führe ein „onlife", in dem die Grenze zwischen offline und online faktisch verschwimmt (Luciano Floridi, „The Fourth Revolution", 2014). Floridi deutet die Digitalisierung als vierte Revolution bzw. Kränkung des menschlichen Selbstbildes nach Kopernikus, Darwin und Freud: Nach der kosmologischen, der biologischen und der psychologischen Dezentrierung verliert der Mensch nun auch seine Sonderstellung als einziges informationsverarbeitendes Wesen. Daraus folgt seine eigentliche These: Information ist selbst ein moralisch relevantes Gut, und der Kreis der zu berücksichtigenden „Patienten" (dessen, was geschädigt werden kann) reicht über Personen und empfindungsfähige Wesen hinaus — eine bewusst holistische Erweiterung der Ethik auf die gesamte Infosphäre.

Floridis Ansatz ist patienten- statt akteurszentriert: Während die klassische Ethik fragt, was ein Handelnder tun darf, fragt die Informationsethik, was an Information beschädigt, zerstört oder „verschmutzt" werden kann und daher Schutz verdient. Das ist zugleich ihre Stärke und ihre umstrittene Flanke. Die Stärke liegt darin, dass auch Datenbestände, digitale Identitäten und die Integrität des Informationsraums als schützenswert in den Blick geraten — nicht nur der unmittelbar betroffene Mensch. Die Schwäche sehen Kritiker im weiten Begriff des „moralischen Patienten": Erhält alles Informationelle moralischen Status, droht der Begriff der Schädigung seine Schärfe zu verlieren. In der Klausur genügt es, Floridis Grundidee — Infosphäre, onlife, Information als Gut — zu kennen und sie von einem bloßen Datenschutzdenken zu unterscheiden.

Praktisch handhabbar wird die Digitalethik durch die Unterscheidung von vier Verantwortungsträgern entlang der Wertschöpfungskette der Information. Die Produzenten (Plattformbetreiber, Software-Entwickler) gestalten die technischen Strukturen und verantworten deren Voreinstellungen — etwa ein Empfehlungssystem, das auf maximale Verweildauer optimiert. Die Distributoren (Algorithmen, Intermediäre, Suchmaschinen) entscheiden über Sichtbarkeit und Reichweite und damit über die faktische Öffentlichkeit. Die Nutzerinnen und Nutzer verantworten Mündigkeit, Quellenkritik und den eigenen Umgang mit Inhalten (etwa die Pflicht, vor dem Teilen zu prüfen). Der Staat schließlich verantwortet Regulierung und Grundrechtsschutz — er muss die Bedingungen einer freien, aber nicht entgrenzten digitalen Öffentlichkeit sichern. Diese Mehrebenen-Struktur verhindert die beiden gängigen Verkürzungen, die Verantwortung allein „den Plattformen" oder allein „den Nutzern" zuzuschieben.

Entscheidend für die Klausur ist, dass die Digitalethik keine neuen Grundnormen erfindet, sondern die klassischen ethischen Theorien auf neuartige Sachverhalte anwendet. Die deontologische Perspektive (Kant) fragt nach Würde und Autonomie der Beteiligten: Wird der Mensch im digitalen Vorgang als vernünftiges Subjekt geachtet oder zum bloßen Datenobjekt herabgesetzt? Die utilitaristische Perspektive fragt nach der Gesamtfolgenbilanz: Überwiegt der Nutzen (Effizienz, Vernetzung, Information) die verteilten Schäden (Manipulation, Diskriminierung, Vertrauensverlust)? Die verantwortungsethische Perspektive (Jonas, Floridi) fragt nach Vorsorge und Zurechnung angesichts großer und schwer überschaubarer technischer Macht — sie verlangt im Zweifel die vorsichtige Option und eine klare Verantwortungszuweisung. Diese drei Brillen systematisch nacheinander aufzusetzen ist das methodische Grundmuster jeder digitalethischen Fallanalyse.

Typische Fehler

Digitalethik wird auf „Internet ist gefährlich" verkürzt — die ethische Begründung (Theorien, Verantwortungsträger) fehlt.
Floridis Informationsethik wird mit reinem Datenschutz gleichgesetzt — sie ist weiter (Information als moralisches Gut).
Die Verantwortung wird nur den Nutzern oder nur den Plattformen zugeschrieben — die Mehrebenen-Struktur wird übersehen.

LK-Vertiefung

eA-Vertiefung: Diskutieren Sie Floridis These, dass auch nicht-personale Informationswesen moralische „Patienten" sein können. Überschreitet diese Ausweitung des moralischen Kreises (von Personen über empfindungsfähige Wesen hin zur gesamten Infosphäre) die sinnvolle Grenze ethischer Rücksicht, oder ist sie die konsequente Antwort auf eine Welt, in der Information zur Grundlage allen Handelns geworden ist? Vergleichen Sie mit der Erweiterung des moralischen Kreises in der Umweltethik.

Aktive Wiederholung

Erläutern Sie an einem aktuellen Beispiel (z. B. einer Empfehlungsfunktion auf einer Videoplattform) die vier Verantwortungsträger der Digitalethik und ordnen Sie ihnen je eine konkrete Pflicht zu.

Aktiv abrufen

Erinnere dich an die Kernpunkte — dann aufdecken.

Quellen: Stanford Encyclopedia of Philosophy — Information (Stanford University) · KMK EPA Ethik 2006 (KMK)

Soziale Medien — Filterblase, Fake News, Hatespeech#

Standardkmk-epa-ethik-3

Filterblase und Echokammer — Personalisierung und Polarisierung

Abb. 1Personalisierungsalgorithmen (Eli Pariser, „The Filter Bubble" 2011) filtern den Informationsstrom auf bereits geteilte Überzeugungen — die Echokammer verstärkt sie durch soziale Resonanz; Folge ist eine schwindende gemeinsame Faktenbasis.

Soziale Medien haben die Struktur der Öffentlichkeit verändert: An die Stelle redaktionell kuratierter Massenmedien tritt ein algorithmisch personalisierter Strom, der nicht nach Wahrheit oder Relevanz, sondern nach Aufmerksamkeit und Verweildauer sortiert. Zwei verwandte, aber verschiedene Begriffe fassen die Folge. Die „Filterblase" (Eli Pariser, „The Filter Bubble", 2011) ist ein algorithmisches Phänomen: Personalisierungsalgorithmen zeigen den Nutzern bevorzugt Inhalte, die zu ihrem bisherigen Verhalten passen, sodass abweichende Perspektiven systematisch ausgeblendet werden — die Nutzerin merkt nicht einmal, was ihr vorenthalten wird. Die „Echokammer" (Cass Sunstein, „Republic.com", 2001) ist dagegen ein soziales Phänomen: In homogenen Gruppen werden die eigenen Überzeugungen wechselseitig bestätigt und durch den Bestätigungsfehler (confirmation bias) sowie die Gruppenpolarisierung verstärkt. Beide sind sauber zu trennen — die eine ist maschinell erzeugt, die andere sozial.

Für eine reflektierte Beurteilung ist wichtig, dass die empirische Reichweite der Filterblasen-These umstritten ist: Mehrere Studien finden, dass viele Nutzer online sogar vielfältigeren Quellen begegnen als offline, sodass die starke „Einsperrungs"-These überzogen erscheint. Ethisch bleibt das Strukturrisiko gleichwohl bestehen, denn schon eine teilweise Fragmentierung der Öffentlichkeit bedroht das, was die Demokratie voraussetzt: eine geteilte Faktenbasis und die Begegnung mit dem Andersdenkenden. Die Aufgabe besteht also darin, das Phänomen ernst zu nehmen, ohne es empirisch zu überzeichnen — ein Musterfall für den ehrlichen Umgang mit umstrittener Empirie in der Klausur.

Fake News bzw. Desinformation sind bewusst falsche oder irreführende Inhalte, die — anders als der bloße Irrtum — mit Täuschungsabsicht verbreitet werden und sich viral, das heißt schneller als ihre Korrektur, ausbreiten. Ethisch lassen sie sich doppelt verurteilen. Aus kantischer Sicht verstoßen sie gegen das unbedingte Wahrhaftigkeitsgebot: Die Maxime „verbreite Unwahres, wenn es deinem Zweck dient" ist nicht universalisierbar, denn würde ihr jeder folgen, bräche das Vertrauen zusammen, das Kommunikation überhaupt erst ermöglicht (ein performativer Selbstwiderspruch). Aus diskursethischer Sicht (Habermas) untergraben sie die Bedingungen des „herrschaftsfreien Diskurses": Wer täuscht, sucht nicht den besseren Grund, sondern manipuliert — er verlässt den Boden verständigungsorientierten Sprechens und macht rationale Meinungsbildung unmöglich.

Hassrede (hate speech) bezeichnet herabwürdigende, verächtlichmachende oder zur Feindseligkeit aufstachelnde Äußerungen gegen Personen oder Gruppen, meist wegen zugeschriebener Merkmale. Sie führt in den klassischen Grundrechtskonflikt zwischen der Meinungsfreiheit (Art. 5 Abs. 1 GG) und der Menschenwürde bzw. dem allgemeinen Persönlichkeitsrecht (Art. 1, Art. 2 Abs. 1 GG). Entscheidend ist, dass die Meinungsfreiheit gerade nicht schrankenlos gilt: Art. 5 Abs. 2 GG nennt ausdrücklich die Schranken der „allgemeinen Gesetze", des Jugendschutzes und des Rechts der persönlichen Ehre; strafrechtlich greift bei Aufstachelung zum Hass gegen Bevölkerungsgruppen der Tatbestand der Volksverhetzung (§ 130 StGB). Die ethische Aufgabe ist die Abwägung — wo endet die zu schützende scharfe Meinung, wo beginnt der nicht mehr hinnehmbare Angriff auf die Würde des anderen?

Der Staat hat auf diese Risiken regulierend geantwortet. Das Netzwerkdurchsetzungsgesetz (NetzDG, 2017) verpflichtet große Plattformen (über zwei Millionen Nutzer in Deutschland), „offensichtlich rechtswidrige" Inhalte binnen 24 Stunden und sonstige rechtswidrige Inhalte binnen sieben Tagen nach Beschwerde zu löschen, andernfalls drohen Bußgelder bis zu 50 Millionen Euro. Die Kritik daran ist selbst klausurrelevant: Es droht das „Overblocking" — die Plattformen löschen im Zweifel zu viel, um Bußgelder zu vermeiden, was die Meinungsfreiheit einschränkt — und die „Privatisierung der Rechtsdurchsetzung", weil ein privates Unternehmen statt eines Gerichts über die Grenze der Strafbarkeit entscheidet. Seit 2024 wird das NetzDG zunehmend durch das unmittelbar geltende europäische Digitalrecht, den Digital Services Act (DSA), überlagert und vereinheitlicht.

Regulierung allein genügt jedoch nicht; ihr notwendiges Gegenstück ist die Mündigkeit der Nutzer. Medienkompetenz, Quellenkritik und die Selbstverpflichtung, Inhalte vor dem Teilen zu prüfen, sind die Bürgerpflichten der digitalen Öffentlichkeit — eine direkte Aktualisierung von Kants Aufklärungsbegriff als „Ausgang des Menschen aus seiner selbstverschuldeten Unmündigkeit". Erst das Zusammenspiel der Ebenen — mündige Nutzer, sorgfältige Plattformen, ein verhältnismäßig regulierender Staat und ein die Grundrechte wahrendes Recht — kann die Spannung zwischen freier und zugleich wahrhaftiger, würdewahrender Kommunikation austarieren.

Typische Fehler

Filterblase und Echokammer werden synonym verwendet — die eine ist algorithmisch, die andere sozial.
Die Filterblasen-These wird als gesicherte Tatsache referiert — sie ist empirisch umstritten.
Meinungsfreiheit wird als schrankenlos behauptet — Art. 5 II GG kennt die Schranken (allgemeine Gesetze, Jugendschutz, Ehre).

LK-Vertiefung

eA-Vertiefung: Erörtern Sie das NetzDG im Spannungsfeld von staatlicher Schutzpflicht und Zensurverbot. Wägen Sie die kantische Position (unbedingter Schutz der Würde vor Hassrede) gegen das liberale Argument J. S. Mills („On Liberty") ab, wonach selbst falsche und anstößige Rede grundsätzlich zuzulassen ist, weil die Wahrheit sich nur in der freien Auseinandersetzung bewährt — und beurteilen Sie, ob das Overblocking-Risiko diese Abwägung verschiebt.

Aktive Wiederholung

Erörtern Sie am Beispiel der Hassrede, wie das Spannungsverhältnis von Meinungsfreiheit (Art. 5 GG) und Menschenwürde (Art. 1 GG) ethisch und rechtlich auszugleichen ist. Beziehen Sie das NetzDG ein.

Aktiv abrufen

Erinnere dich an die Kernpunkte — dann aufdecken.

Quellen: Stanford Encyclopedia of Philosophy — Ethics (Stanford University) · Grundgesetz Art. 1 — Menschenwürde (BMJ)

Privatsphäre, Big Data und Überwachung — informationelle Selbstbestimmung#

Vertiefungkmk-epa-ethik-3

Verantwortungslücke bei algorithmischen Entscheidungen

Abb. 2Bei automatisierten Entscheidungen (ADM) verteilt sich die Verantwortung auf Entwickler, Betreiber, Trainingsdaten und das Modell selbst — die „Verantwortungslücke" (responsibility gap) entsteht, wenn niemand eindeutig zurechenbar bleibt. Ethik fordert Transparenz, Erklärbarkeit und einen Menschen in der Kontrolle (human-in-the-loop).

Die Privatsphäre ist der Bereich selbstbestimmter Lebensführung, über dessen Zugänglichkeit allein die Person verfügt — sie ist nicht Selbstzweck, sondern Bedingung von Autonomie, Vertrauen und freier Persönlichkeitsentfaltung. Das Grundgesetz schützt sie als allgemeines Persönlichkeitsrecht (Art. 2 Abs. 1 i. V. m. Art. 1 Abs. 1 GG). Die ältere juristische Sphärentheorie unterscheidet abgestufte Schutzzonen — eine unantastbare Intimsphäre, eine Privatsphäre und eine nach außen gewandte Sozialsphäre —, die unterschiedlich stark vor Eingriffen geschützt sind. Entscheidend für das Verständnis ist, dass Privatheit nicht mit Geheimhaltung zusammenfällt: Es geht nicht darum, etwas zu verbergen, sondern um die Kontrolle darüber, wer in welchem Kontext was über mich erfährt (Helen Nissenbaums „kontextuelle Integrität" — ein Datum, das beim Arzt am Platz ist, ist es beim Arbeitgeber nicht).

Den verfassungsrechtlichen Kern bildet das Recht auf informationelle Selbstbestimmung, das das Bundesverfassungsgericht im Volkszählungsurteil vom 15. Dezember 1983 (BVerfGE 65, 1) begründet hat: Jeder darf grundsätzlich selbst über die Preisgabe und Verwendung seiner personenbezogenen Daten bestimmen. Die Begründung ist gerade für das digitale Zeitalter wegweisend: Unter den Bedingungen automatisierter Datenverarbeitung „gibt es kein belangloses Datum mehr", weil sich scheinbar harmlose Einzelangaben durch Verknüpfung zu aussagekräftigen Profilen fügen. Das Gericht benennt zudem den Einschüchterungseffekt (chilling effect): Wer nicht überschauen kann, wer was über ihn weiß, passt sein Verhalten vorsorglich an und verliert damit die Freiheit, die eine Demokratie von ihren Bürgern verlangt — Datenschutz ist also nicht nur Individual-, sondern Funktionsschutz der Demokratie.

Big Data bezeichnet die massenhafte, automatisierte Auswertung von Datenbeständen, deren Umfang, Geschwindigkeit und Vielfalt eine qualitativ neue Stufe erreichen. Aus den Verhaltensspuren, die jeder Klick, jede Bewegung und jeder Kauf hinterlässt, lassen sich durch Profiling Persönlichkeitsprofile, Prognosen und gezielte Manipulationsangriffe erzeugen — oft genauer, als die Person sich selbst kennt. Shoshana Zuboff hat diese Logik als „Überwachungskapitalismus" analysiert (2019): Menschliches Verhalten wird als kostenloser „Verhaltensüberschuss" abgeschöpft, in Vorhersageprodukte verwandelt und gehandelt. Datenmacht wird so zu Marktmacht und potenzieller politischer Macht; der Skandal um Cambridge Analytica (2018), bei dem Profildaten zur gezielten politischen Beeinflussung dienten, zeigt die demokratische Sprengkraft. Kennzeichnend ist die Wissens- und Machtasymmetrie: Die Plattform weiß fast alles über den Nutzer, der Nutzer fast nichts über die Plattform.

Die wichtigste regulatorische Antwort ist die europäische Datenschutz-Grundverordnung (DSGVO, anwendbar seit dem 25. Mai 2018). Sie folgt dem Grundsatz des „Verbots mit Erlaubnisvorbehalt": Die Verarbeitung personenbezogener Daten ist grundsätzlich untersagt, sofern nicht eine Einwilligung oder ein gesetzlicher Erlaubnistatbestand vorliegt. Ihre tragenden Prinzipien sind Zweckbindung (Daten nur für den angegebenen Zweck), Datenminimierung (so wenig wie möglich), Transparenz und die Betroffenenrechte (Auskunft, Berichtigung, Löschung nach Art. 17, Datenübertragbarkeit nach Art. 20). Besonders bemerkenswert ist Art. 22, der ein Recht enthält, nicht einer ausschließlich automatisierten Einzelentscheidung mit erheblicher Wirkung unterworfen zu werden — die Brücke zur KI-Ethik. Die praktische Schwachstelle ist die Einwilligung: Zwischen Einwilligungsmüdigkeit (consent fatigue) und manipulativen Designmustern (dark patterns) wird die formal freie Zustimmung oft zur bloßen Fiktion.

„Recht auf Vergessenwerden": Grundlegend ist das EuGH-Urteil Google Spain (Rs. C-131/12) vom 13. Mai 2014. Der Gerichtshof stufte den Suchmaschinenbetreiber als „Verantwortlichen" der Datenverarbeitung ein und verpflichtete ihn, auf Antrag Links zu nicht mehr relevanten oder überholten personenbezogenen Informationen aus der Ergebnisliste zu entfernen (Auslistung). Wichtig ist die Reichweite: Es geht nicht um die Löschung der Quelle selbst, sondern um ihre Auffindbarkeit über die Namenssuche, und stets um eine Abwägung mit dem Informationsinteresse der Öffentlichkeit und der Pressefreiheit — bei Personen des öffentlichen Lebens überwiegt regelmäßig das Informationsinteresse. Art. 17 DSGVO hat diesen Anspruch kodifiziert. Ethisch steht dahinter die Spannung zwischen dem Recht auf einen Neuanfang und der Dauerhaftigkeit des öffentlichen Gedächtnisses, denn die digitale Welt „vergisst" nicht von selbst.

Die ethische Erörterung verläuft entlang einer klaren Konfliktachse. Für einen starken Datenschutz sprechen die Würde und Autonomie der Person (sie darf nicht zum bloßen Datenobjekt herabgesetzt werden), das Vertrauen als Bedingung sozialer Beziehungen sowie die Notwendigkeit, Machtasymmetrien zu begrenzen. Für eine weitgehende Datennutzung sprechen Sicherheit (Terror- und Kriminalitätsabwehr), Forschung und Medizin (etwa Big-Data-gestützte Epidemiologie), Komfort und wirtschaftlicher Nutzen. Die Abwägung ist kein Nullsummenspiel, verlangt aber stets Verhältnismäßigkeit — der Staat etwa darf nicht anlasslos auf Vorrat speichern (das BVerfG hat der Vorratsdatenspeicherung enge Grenzen gesetzt), und das chinesische Sozialkreditsystem markiert die totalitäre Grenze, an der Datennutzung in umfassende Verhaltenssteuerung umschlägt.

Eine beliebte Klausurfalle ist das „Nichts-zu-verbergen"-Argument: Wer nichts Unrechtes tue, müsse Überwachung nicht fürchten. Daniel Solove hat es überzeugend widerlegt. Erstens verkennt es, worum es bei Privatheit geht — nicht um das Verbergen von Schuld, sondern um Freiheit und Machtbalance; auch der Unbescholtene hat Angelegenheiten, die niemanden etwas angehen. Zweitens verschiebt es die Beweislast in die falsche Richtung: Nicht der Bürger muss rechtfertigen, warum er etwas geheim hält, sondern der Staat oder das Unternehmen muss rechtfertigen, warum es Daten erhebt. Drittens wirkt Überwachung auch auf den Unschuldigen verhaltensändernd (Einschüchterungseffekt) und schafft die Gefahr des Datenmissbrauchs durch künftige Machthaber. Kantisch gewendet: Wer den Menschen vollständig durchleuchtet und steuert, behandelt ihn als bloßes Mittel und Objekt, nicht als autonomes Subjekt.

Typische Fehler

Privatsphäre wird nur als Geheimhaltung gedeutet — sie ist Bedingung von Autonomie und Machtkontrolle.
Das „Recht auf Vergessenwerden" wird mit vollständiger Löschung verwechselt — es betrifft v. a. die Auffindbarkeit über Suchmaschinen und verlangt eine Abwägung.
Das „Nichts-zu-verbergen"-Argument wird unkritisch übernommen.

LK-Vertiefung

eA-Vertiefung: Diskutieren Sie Shoshana Zuboffs These vom „Überwachungskapitalismus" (2019). Inwiefern verwandelt die kommerzielle Datennutzung menschliches Verhalten in eine handelbare Ware und bedroht damit Autonomie und Demokratie?

Aktive Wiederholung

Beurteilen Sie das „Nichts-zu-verbergen"-Argument. Warum schützt das Recht auf informationelle Selbstbestimmung auch Menschen, die nichts Unrechtes tun?

Aktiv abrufen

Erinnere dich an die Kernpunkte — dann aufdecken.

Quellen: Stanford Encyclopedia of Philosophy — Privacy and Information Technology (Stanford University) · Datenschutz-Grundverordnung (DSGVO) — Art. 17 Recht auf Löschung (Europäische Union) · Grundgesetz Art. 1 — Menschenwürde (BMJ)

KI-Ethik — algorithmische Verzerrung, Verantwortungslücke, EU AI Act#

Vertiefungkmk-epa-ethik-3kmk-epa-ethik-4

Verantwortungslücke bei algorithmischen Entscheidungen

Abb. 3Bei automatisierten Entscheidungen (ADM) verteilt sich die Verantwortung auf Entwickler, Betreiber, Trainingsdaten und das Modell selbst — die „Verantwortungslücke" (responsibility gap) entsteht, wenn niemand eindeutig zurechenbar bleibt. Ethik fordert Transparenz, Erklärbarkeit und einen Menschen in der Kontrolle (human-in-the-loop).

Künstliche Intelligenz — hier verstanden als maschinelles Lernen, das aus großen Datenmengen selbständig Muster gewinnt — trifft oder unterstützt zunehmend folgenreiche Entscheidungen: über Kreditvergabe, Bewerberauswahl, Strafrückfallprognosen, medizinische Diagnosen und die Verteilung von Sozialleistungen. Das ethisch Neue liegt nicht darin, dass eine Maschine vorgegebene Regeln ausführt, sondern darin, dass ein lernendes System mit Undurchschaubarkeit, großer Reichweite und einem Maß an Autonomie handelt, das den Menschen aus der unmittelbaren Kontrolle nimmt. Daraus erwachsen vier Leitfragen, die das Thema strukturieren: Fairness (diskriminiert das System?), Transparenz (ist die Entscheidung nachvollziehbar?), Verantwortung (wer haftet für den Schaden?) und Kontrolle (bleibt der Mensch Herr des Verfahrens?).

Das erste Kernproblem ist die algorithmische Verzerrung (algorithmic bias). Da ein lernendes System sein Wissen aus historischen Daten bezieht, übernimmt und reproduziert es deren Vorurteile — „bias in, bias out". Reale Fälle sind einschlägig: Amazons experimentelles Bewerbungstool benachteiligte systematisch Frauen, weil es aus überwiegend männlichen Einstellungsdaten gelernt hatte; das in den USA eingesetzte COMPAS-System zur Rückfallprognose ordnete schwarzen Angeklagten laut einer ProPublica-Untersuchung (2016) häufiger fälschlich ein hohes Risiko zu. Das eigentlich Gefährliche ist, dass die Diskriminierung technisch verschleiert wird: Sie erscheint als „objektive" Berechnung, wird massenhaft skaliert und kann sich in Rückkopplungsschleifen selbst verstärken (wenn etwa vorhergesagte Kriminalitätsschwerpunkte mehr Polizei anziehen, die dort mehr registriert). Erschwerend kommt hinzu, dass verschiedene mathematische Fairness-Kriterien nachweislich nicht gleichzeitig erfüllbar sind — Fairness ist nicht rein technisch, sondern normativ zu entscheiden.

Das zweite Problem ist die Undurchschaubarkeit (Black-Box-Problem): Komplexe Modelle, vor allem tiefe neuronale Netze, liefern Ergebnisse, deren Zustandekommen selbst ihre Entwickler nicht vollständig erklären können. Daraus folgt die Forderung nach „erklärbarer KI" (Explainable AI) und nach Begründungspflichten. Kantisch gelesen verschärft sich das zur Würdefrage: Eine nicht begründbare Entscheidung verweigert der betroffenen Person die Achtung als vernünftiges Subjekt — wer eine Ablehnung nicht verstehen kann, kann sie auch nicht prüfen und ihr nicht widersprechen, er wird zum bloßen Objekt eines Verfahrens. Genau hier setzt Art. 22 DSGVO an, der ein Recht gewährt, nicht einer ausschließlich automatisierten Entscheidung unterworfen zu werden, und ein Recht auf menschliches Eingreifen vorsieht.

Das dritte Problem ist die Verantwortungslücke (responsibility gap), die Andreas Matthias 2004 benannt hat. Wenn ein selbstlernendes System Schaden anrichtet, lässt sich die Verantwortung schwer zurechnen: Der Entwickler hat das konkrete Verhalten nicht programmiert, sondern nur die Lernfähigkeit; der Betreiber hat das Modell nicht entworfen; die Datenquelle ist diffus; und die Maschine selbst ist kein verantwortungsfähiges Subjekt. Zwischen der Kontrolle über das System und der Zurechenbarkeit des Schadens klafft eine Lücke. Die diskutierten Antworten zielen darauf, sie zu schließen: der Mensch in der Entscheidungsschleife (human-in-the-loop) bzw. wirksame menschliche Aufsicht, klare Haftungsregeln (etwa eine Gefährdungshaftung des Betreibers), Prüfbarkeit (Auditierbarkeit) der Systeme und — mit Hans Jonas — das Vorsorgeprinzip, das bei großer und unüberschaubarer technischer Macht im Zweifel die vorsichtige Option gebietet.

Die regulatorische Antwort der EU ist die KI-Verordnung (EU AI Act), die seit dem 1. August 2024 in Kraft ist — das weltweit erste umfassende Regelwerk für Künstliche Intelligenz. Es verfolgt einen risikobasierten Ansatz mit vier Stufen: Verbotene Praktiken mit inakzeptablem Risiko (etwa staatliches Social Scoring, manipulative unterschwellige Techniken, ungezieltes Abgreifen von Gesichtsbildern) sind untersagt; Hochrisiko-Systeme (in Medizin, Justiz, Personalauswahl, kritischer Infrastruktur) unterliegen strengen Auflagen zu Transparenz, menschlicher Aufsicht, Datenqualität und Dokumentation; Systeme mit begrenztem Risiko (Chatbots, Deepfakes) treffen Kennzeichnungspflichten; Anwendungen mit minimalem Risiko bleiben weitgehend frei. Wie schon bei der DSGVO ist ein „Brüssel-Effekt" zu erwarten — der europäische Standard strahlt als faktischer Weltmaßstab aus.

Den grundsätzlichsten Streit führt die Maschinenethik: Kann eine Maschine selbst moralischer Akteur sein, oder bleibt sie moralisch relevantes Werkzeug? Praktisch zugespitzt wird die Frage beim autonomen Fahren, das die Vorab-Programmierung von Dilemma-Situationen erzwingt (das Trolley-Problem als Algorithmus). Die deutsche Ethik-Kommission zum automatisierten und vernetzten Fahren (2017) hat dazu eine klare Grenze gezogen: Eine Aufrechnung von Menschenleben nach persönlichen Merkmalen (Alter, Geschlecht, Zahl) ist unzulässig, weil sie die Menschenwürde (Art. 1 GG) verletzte — die Würdegarantie verbietet es, eine „richtige" Opferauswahl zu berechnen. Theoretisch spricht das Hauptargument gegen eine echte Maschinen-Akteurschaft: Der KI fehlen Bewusstsein, Intentionalität und die Fähigkeit, für Gründe einzustehen; sie kann daher nicht Verantwortung tragen, sondern allenfalls eine „funktionale Moral" simulieren (Wallach/Allen, „Moral Machines", 2009). Die Verantwortung bleibt deshalb bei den Menschen — Entwicklern, Betreibern und der staatlichen Aufsicht.

Für die Klausur empfiehlt es sich, jeden KI-Streitfall durch die drei bekannten Brillen zu betrachten. Die deontologische Perspektive (Kant) prüft, ob Würde und Autonomie gewahrt bleiben — keine intransparente Objektbehandlung, keine Verrechnung von Personen. Die utilitaristische Perspektive wägt den Gesamtnutzen (Effizienz, Sicherheit, medizinischer Fortschritt) gegen die verteilten Schäden (Diskriminierung, Manipulation, Kontrollverlust) ab. Die verantwortungsethische Perspektive (Jonas, Floridi) verlangt Vorsorge und eine klare Zurechnung angesichts einer Technik, deren Wirkungen weit in die Zukunft reichen. Über alle drei hinweg gilt als Leitlinie der gegenwärtigen KI-Ethik die Forderung nach „bedeutsamer menschlicher Kontrolle" (meaningful human control): Der Mensch muss Herr des Verfahrens bleiben, weil nur er Verantwortung tragen kann.

Musterlösung

Algorithmisches Scoring — ethische Fallanalyse mit drei Theorien

Eine Bank setzt ein KI-System ein, das die Kreditwürdigkeit von Antragstellern aus Tausenden Datenpunkten (auch Wohnort und Kaufverhalten) automatisch bewertet. Eine Antragstellerin wird ohne nachvollziehbare Begründung abgelehnt; eine Prüfung ergibt, dass das Modell Bewohner bestimmter Stadtviertel systematisch schlechter bewertet. Beurteilen Sie den Einsatz aus deontologischer, utilitaristischer und verantwortungsethischer Sicht.

1. Sachverhalt rekonstruieren
Ethisch relevante Aspekte: (a) Intransparenz — die Betroffene erhält keine Begründung (Black-Box-Problem); (b) statistische Diskriminierung — der Wohnort korreliert mit geschützten Merkmalen, sodass ein Bias im Trainingsdatensatz reproduziert wird (Proxy-Diskriminierung); (c) fehlende Anfechtbarkeit; (d) Verantwortungsdiffusion zwischen Entwickler, Bank und Modell.
2. Deontologische Analyse (Kant)
Die Selbstzweckformel verlangt, jede Person „niemals bloß als Mittel" zu behandeln. Eine undurchschaubare, nicht begründete Ablehnung verweigert der Betroffenen die Achtung als vernünftiges Subjekt — sie wird zum bloßen Datenpunkt. Die Maxime „bewerte Menschen nach intransparenten Gruppenkorrelationen" lässt sich nicht universalisieren, ohne die Idee gleicher Würde aufzuheben. Pflicht zu Transparenz und Begründung (vgl. DSGVO Art. 22: Recht, einer rein automatisierten Entscheidung nicht unterworfen zu werden).
3. Utilitaristische Analyse (Mill / Singer)
Ein Algorithmus kann Kredite effizienter und im Schnitt treffsicherer vergeben (Nutzengewinn: weniger Ausfälle, schnellere Bearbeitung). Doch der systematische Bias erzeugt erheblichen Schaden: ganze Bevölkerungsgruppen werden benachteiligt, Vertrauen sinkt, soziale Ungleichheit verfestigt sich. Eine ehrliche Gesamtbilanz muss diese verteilten Schäden und langfristigen Folgen einrechnen — der scheinbare Effizienzgewinn ist dann nicht eindeutig positiv.
4. Verantwortungsethische Analyse (Jonas / Floridi)
Jonas’ Imperativ verpflichtet zur Vorsorge bei technologischer Macht: im Zweifel ist das Risiko ernst zu nehmen (Heuristik der Furcht). Floridis Informationsethik fordert, die „Infosphäre" und ihre Bewohner (auch als Informationswesen) nicht zu schädigen. Daraus folgt die Forderung nach human-in-the-loop, Erklärbarkeit, Bias-Audits und klarer Zurechnung — die „Verantwortungslücke" muss geschlossen werden.
5. Reflektierte Stellungnahme
Die drei Perspektiven konvergieren ausnahmsweise: Kant (Würde/Transparenz), eine ehrliche Utilitarismus-Bilanz (Schaden durch Bias) und die Verantwortungsethik (Vorsorge, Zurechnung) verurteilen den intransparenten, voreingenommenen Einsatz. Vertretbar wäre der Algorithmus nur als Entscheidungsunterstützung mit Begründungspflicht, Diskriminierungs-Audit und menschlicher Letztentscheidung — wie es der EU AI Act für Hochrisiko-Systeme verlangt.

Ergebnis: Der Einsatz in der vorliegenden Form ist ethisch nicht zu rechtfertigen: Er verletzt die Würde (Kant), erzeugt verteilten Schaden (Utilitarismus) und lässt die Verantwortung im Dunkeln (Jonas/Floridi). Klausurtauglich ist eine Erörterung, die das Black-Box- und das Bias-Problem benennt, alle drei Theorien anwendet und konkrete Schutzauflagen (Transparenz, Audit, human-in-the-loop) als reflektierte Position formuliert.

Typische Fehler

KI wird als „neutral/objektiv" beschrieben — tatsächlich erbt und skaliert sie die Verzerrungen der Trainingsdaten.
Die Verantwortung wird allein der Maschine zugeschrieben — ethisch tragen sie Menschen (Entwickler, Betreiber, Aufsicht).
Das Trolley-Problem beim autonomen Fahren wird gelöst, als gäbe es eine berechenbar „richtige" Opferwahl — die Würdegarantie verbietet die Aufrechnung.

LK-Vertiefung

eA-Vertiefung: Diskutieren Sie, ob eine Maschine moralischer Akteur (agent) sein kann oder nur moralisch relevantes Werkzeug bleibt. Was folgt daraus für die Zurechnung von Verantwortung?

Aktive Wiederholung

Beurteilen Sie, wer für den Schaden verantwortlich ist, wenn ein selbstlernendes KI-System eine Person diskriminiert. Wenden Sie die Verantwortungsethik (Jonas/Floridi) und Kants Würdeprinzip an.

Aktiv abrufen

Erinnere dich an die Kernpunkte — dann aufdecken.

Quellen: Stanford Encyclopedia of Philosophy — Ethics of Artificial Intelligence and Robotics (Stanford University) · Verordnung über künstliche Intelligenz (EU AI Act) — in Kraft seit 1.8.2024 (Europäische Kommission) · Grundgesetz Art. 1 — Menschenwürde (BMJ)

Belege & Quellen

Quellen

Stanford University

KMK

KMK EPA Ethik 2006

BMJ

Grundgesetz Art. 1 — Menschenwürde

Europäische Union

Datenschutz-Grundverordnung (DSGVO) — Art. 17 Recht auf Löschung

Europäische Kommission

Verordnung über künstliche Intelligenz (EU AI Act) — in Kraft seit 1.8.2024

Medien- und Digitalethik — Information, soziale Medien, Privatsphäre und KI

4Abschnitteca. 23Min Lesezeit2KompetenzenNiveauStandard 2 · Vertiefung 2Stand 06/2026