Ein Chatbot, der nicht weiterhelfen kann, erzeugt doppelte Arbeit: erst den Dialog, dann die E-Mail, die der Nutzer ohnehin schreibt. Aus einer Anfrage werden zwei Vorgänge, und der erste hat für beide Seiten nichts gebracht außer Rechenzeit. Automatisierte Entscheidungen ohne Ausweg sind deshalb nicht nur ein Fairnessproblem, sie sind auch ein Ressourcenproblem. Guideline 5.16 verlangt beides zugleich: Menschen an Entscheidungen zu beteiligen und automatisierte Entscheidungen anfechtbar zu machen.
Das einzige Erfolgskriterium von Guideline 5.16
Entscheidungsfindung: Beziehe Menschen, darunter Nutzer und Beschäftigte, in Entscheidungen ein, die sie betreffen. Schaffe echte Gelegenheiten zur Beteiligung an den relevanten Entscheidungsprozessen und stelle sicher, dass Entscheidungsträger klare Befugnisse und klare Verantwortlichkeiten haben. Wo automatisierte Systeme eingesetzt werden, mache deren Rolle bei Entscheidungen transparent, ermögliche menschliche Aufsicht und erlaube es den Betroffenen, sich abzumelden, zu widersprechen, ihre Einwilligung zurückzuziehen und Entscheidungen anzufechten. Sorge dafür, dass Anfechtungen von einem Menschen geprüft werden.
Meine Einordnung
Der zweite Teil des Kriteriums klingt vertraut, und das ist kein Zufall. Artikel 22 der Datenschutz-Grundverordnung räumt Betroffenen bei ausschließlich automatisierten Entscheidungen mit erheblicher Wirkung das Recht auf Eingreifen einer Person ein, auf Darlegung des eigenen Standpunkts und auf Anfechtung. Die Guideline überträgt dieses Prinzip auf alle automatisierten Systeme, unabhängig davon, ob eine Rechtspflicht besteht.
Vier Verben stehen dort nebeneinander: abmelden, widersprechen, Einwilligung zurückziehen, anfechten. Sie beschreiben unterschiedliche Situationen, und die letzte ist die anspruchsvollste, weil sie einen Menschen erfordert, der zuständig ist und entscheiden darf. Das verbindet sich mit dem ersten Teil des Kriteriums, in dem es um klare Befugnisse und Verantwortlichkeiten geht. Ein Widerspruch, der wieder in einem automatisierten Prozess landet, ist keine Anfechtung, sondern eine Warteschleife.
Warum das in einem Nachhaltigkeitsstandard steht, erschließt sich über die dritte Säule. Die Web Sustainability Guidelines bewerten jede Regel nach ihrer Wirkung auf Planet, Menschen und Wohlstand. Hier liegt das Gewicht eindeutig bei den Menschen, und die Governance-Frage ist ihr Werkzeug.
Wo ich weiter gehe
Auf normalen Websites gibt es selten dramatische automatisierte Entscheidungen über Kredite oder Bewerbungen. Es gibt aber jede Menge kleine, und die trifft fast niemand bewusst.
Ein Spamfilter entscheidet, welche Kontaktanfrage ankommt. Eine Bot-Erkennung entscheidet, wer die Seite überhaupt sehen darf. Ein Sicherheitsdienst entscheidet, ob ein Besucher erst ein Rätsel lösen muss. Eine automatische Moderation entscheidet, welcher Kommentar erscheint. In jedem dieser Fälle gibt es Fehlentscheidungen, und in den meisten gibt es keinen Weg, sie zu korrigieren.
Und hier liegt das eigentliche Problem.
Besonders unangenehm wird das, wenn die Entscheidung gar nicht bei Dir liegt. Wer seine Seite hinter einen großen Schutzdienst stellt, übergibt die Regeln an einen Anbieter, dessen Voreinstellungen er nicht kennt und dessen Entscheidungen niemand anfechten kann. Wenn dieser Dienst Screenreader-Nutzer, ältere Browser oder bestimmte Crawler aussperrt, hast Du diese Entscheidung getroffen, ohne sie zu treffen.
Der Ausweg ist unspektakulär: Es muss immer einen Weg zu einem Menschen geben. Eine echte E-Mail-Adresse neben dem Formular. Eine Telefonnummer neben dem Chatbot. Ein Hinweis, an wen man sich wendet, wenn etwas nicht funktioniert. Das kostet fast nichts, verhindert die doppelte Arbeit aus dem Einstieg und erfüllt nebenbei die anspruchsvollste Forderung des Kriteriums.
Es gibt eine dritte Ebene, die in der Guideline nur zwischen den Zeilen steht: Entscheidungen, die niemand anfechten kann, weil sie unsichtbar bleiben.
Auf meiner Seite habe ich mehrere davon bewusst getroffen. Barrierefreiheit hat Vorrang vor Gestaltung. Es findet keine Auswertung durch Dritte statt. Und ich gendere nicht, weil ich Lesefluss und Vorlesbarkeit höher gewichte: Sonderzeichen mitten im Wort werden von Screenreadern je nach Programm und Konfiguration unterschiedlich ausgegeben, und Verständlichkeit ist für mich ein Kriterium der Barrierefreiheit. Dass gegenderte Formen den Text zusätzlich verlängern, ist messbar, aber im Vergleich zu Bildern und Skripten der kleinste der drei Effekte. Ich führe ihn deshalb als Nebenargument und nicht als Begründung.
Entscheidend ist dabei nicht, dass jeder diese Abwägungen teilt. Entscheidend ist, dass sie als Abwägungen erkennbar sind. Wer solche Festlegungen trifft, muss sie nach außen erklären, an einer auffindbaren Stelle und mit Begründung. Genau das ist der Unterschied zwischen einer Haltung und einer Nachlässigkeit, und es ist der Punkt, an dem aus einer internen Entscheidung eine überprüfbare wird.
Dein erster Schritt heute
Du brauchst keine Beteiligungsstruktur. Du brauchst einen Ausweg und eine Stichprobe.
Wer automatisiert entscheiden lässt, muss auch widersprechen lassen. Sonst optimiert er ein System, dessen Fehler er nie zu sehen bekommt.
Quelle: W3C-Fassung von Guideline 5.16