KI und Fairness

Dein Kind fragt einen Assistenten nach etwas Naheliegendem: woher deine Familie kommt, ein Wort, das deine Großmutter benutzt, ein Stück Geschichte, das Menschen wie euch passiert ist. Die Antwort kommt schnell, flüssig und ohne sichtbares Zögern. Und sie ist dünn, oder leicht daneben, oder so geschrieben, als sei der interessante Teil woanders passiert. Nichts darin ist gelogen. Es handelt nur nicht von euch.

Zu einem Einwand statt einer Beschwerde wird das, weil es sich daraus ergibt, wie die Sache gebaut wurde. Ein Modell lernt aus einem riesigen Haufen von Texten und Bildern, die Menschen hergestellt haben, und dieser Haufen ist kein Querschnitt der Menschheit. Er ist, wer veröffentlicht hat, in den Sprachen, die das Netz beherrschen, in den Jahrzehnten, die digitalisiert wurden, über die Themen, über die sehr viel geschrieben wurde. Was dick verzeichnet ist, wird zur Vorstellung des Modells vom Normalen. Was dünn verzeichnet ist, kommt genauso dünn zurück.

Niemand hat das entschieden. Es gibt keinen Raum, in dem jemand beschlossen hätte, deine Gemeinschaft wegzulassen, und das zu sagen tröstet wenig, weil die Antwort, die dein Kind liest, so oder so dieselbe ist. Genau das macht die Sorge schwer abzutun: Sie hängt an niemandes böser Absicht, also verschwindet sie nicht, wenn alle Beteiligten es gut meinen. Und ein Kind trifft es härter als dich. Du würdest merken, dass in einer Zusammenfassung etwas fehlt. Ein Neunjähriger liest einen selbstsicheren Absatz und legt ihn ab als das, was passiert ist.

Das ist eine der wenigen Sorgen auf dieser Seite mit einer echten Datengrundlage statt einer Prognose. Unterschiede darin, wie diese Systeme verschiedene Gruppen behandeln, wurden wiederholt gemessen — von Hochschulgruppen, von Journalistinnen und Journalisten, von Aufsichtsbehörden und in den eigenen veröffentlichten Prüfungen der Unternehmen. Es ist nicht der Befund eines einzigen Labors. Dieselben Formen tauchen über Systeme, über Aufgaben und über Jahre hinweg wieder auf.

Diese Formen lohnen die konkrete Benennung. Bildgeneratoren, die um einen Arzt, einen Ingenieur oder einen Kriminellen gebeten wurden, lieferten eine auffällig enge Bandbreite an Gesichtern, bis die Unternehmen eingriffen. Es wurde gezeigt, dass Spracherkennung bei manchen Akzenten und Mundarten einer Sprache schlechter arbeitet als bei anderen. Systeme, die geschriebenes Material sichten oder sortieren sollten, lieferten andere Ergebnisse, wenn ein Name auf der Seite geändert wurde und sonst nichts. Die Übersetzung ins Englische lässt das grammatische Geschlecht fallen, und die Übersetzung aus dem Englischen muss raten — und das Raten folgt dem Muster im Material.

Was nichts davon trägt, ist eine Zahl zum Mitnehmen. Wie groß eine dieser Lücken ist, schwankt nach System, nach Version, nach Aufgabe und nach Messverfahren, und eine Zahl aus einer Prüfung von vor drei Jahren beschreibt ein heutiges Modell vielleicht überhaupt nicht. Mehrere der oben genannten konkreten Fehlleistungen wurden gefunden, öffentlich gemacht und dann deutlich verringert. Die Richtung ist solide und der Mechanismus ist weiterhin da; die Größenordnung ist ein bewegliches Ziel, und wer dir einen einzigen Prozentwert nennt, zitiert eine Studie über ein System an einem Tag.

Ebenfalls gesichert ist, dass das ernst genommen wurde, und eine Seite, die das überginge, verdiente beim Rest kein Vertrauen. Die Prüfung auf Verzerrungen gehört inzwischen ganz normal dazu, wenn große Modelle getestet und dokumentiert werden, und die Ergebnisse werden ausführlicher berichtet als früher. Das ist eine echte Veränderung. Die nächsten beiden Abschnitte handeln davon, warum sie die Sache nicht erledigt.

Die offensichtliche Quelle ist das Trainingsmaterial, und von ihr haben die meisten schon gehört. Ist der Texthaufen überwiegend englisch, überwiegend aus einer Handvoll Länder und überwiegend von Leuten geschrieben, die im Internet veröffentlichen, dann ist die Vorstellung des Modells vom Üblichen deren Vorstellung. Das ist kein moralisches Versagen der Maschine. Es ist, was das Mitteln über einen schiefen Haufen hervorbringt.

Die zweite Quelle wird weit seltener besprochen und wiegt genauso schwer. Nach dem ersten Training wird ein Modell mit menschlichen Urteilen nachjustiert: Menschen bewerten, welche von zwei Antworten besser, sicherer oder hilfreicher ist. Diese Menschen sind eine bestimmte Gruppe mit einem bestimmten Auftrag, und ihre Vorstellung von einer guten Antwort wird zur Vorstellung des Modells. Ein System kann so justiert werden, dass es höflich, vorsichtig und zustimmend ist — auf eine Weise, die selbst kulturell geprägt ist.

Die dritte vergisst man am leichtesten: was überhaupt jemand von ihm verlangt hat. Was ein Modell gut kann, ist das, wofür es gebaut und geprüft wurde, und das haben die ausgewählt, die es gebaut haben. Eine Fähigkeit, die niemand zu prüfen dachte, ist eine Fähigkeit, deren Fehlen niemand bemerkt hat.

Unter dem Streit über die Korrekturen liegt eine schwierigere Frage, die meist übersprungen wird. Bitte ein System um ein Bild einer Pflegekraft. Sollen die Ergebnisse dem entsprechen, wer diesen Beruf heute in deinem Land ausübt? Wer ihn weltweit ausübt? Oder wer ihn ausüben würde, wenn ihn nicht ein Jahrhundert von Annahmen darüber geprägt hätte, wer das macht? Das sind drei verschiedene Bilder, und jedes davon hat schon jemand als das faire verteidigt.

Dasselbe Problem taucht im Text auf. Eine Zusammenfassung eines historischen Ereignisses, die jeder Darstellung gleiches Gewicht gibt, ist nicht neutral; sie ist eine Entscheidung, und häufig eine irreführende. Eine Zusammenfassung, die dem Gewicht der überlieferten Quellen folgt, erbt, wessen Quellen überlebt haben. Es gibt keine Fassung davon ohne jede Perspektive darin. So oder so steckt das Urteil von jemandem in der Antwort, und “sei einfach neutral” ist eine Anweisung, der man nicht folgen kann.

Das zu wissen lohnt sich, weil es ändert, was du vernünftigerweise verlangen kannst. Es ist fair zu verlangen, dass ein System über deine Familie nicht dünn und selbstsicher zugleich ist, und fair zu verlangen, dass man dir sagt, wenn eine Antwort eine Perspektive unter mehreren ist. Eine Antwort ohne jede Perspektive zu verlangen heißt, etwas zu verlangen, das es nicht gibt — und eine Firma, die es verspricht, verkauft dir den Anschein davon.

Ob diese Systeme die Bandbreite dessen, was gesagt wird, verengen oder erweitern, ist wirklich offen, und beides ist plausibel. Ein Werkzeug, das in hundert Sprachen antwortet, bringt mehr Menschen mehr in Reichweite als alles davor. Ein Werkzeug, das jeden Text still auf eine einzige Norm hin vereinheitlicht, tut das Gegenteil. Beides passiert gleichzeitig, und es gibt keine Messung, die daraus eine Bilanz macht.

Die schärfste Fassung der Frage lautet: Was passiert mit einer Sprache oder einer Tradition, die im Trainingsmaterial kaum vorkommt? Bleibt das Material dünn, bleibt das Modell dünn darin. Produziert eine Gemeinschaft mehr Material, um das zu beheben, dann existiert dieses Material zum Teil, um ein System zu füttern — und das ist eine merkwürdige Sache, die man von einer Kultur verlangt, und nicht offensichtlich eine gute. Darauf hat niemand eine bequeme Antwort, und wer es am meisten trägt, hat die Frage nicht gestellt.

Auch die Prüfverfahren sind umstrittenes Gelände. Ein Benchmark misst die Lücken, auf die jemand gekommen ist, in den Sprachen, an die jemand gedacht hat, und die Ergebnisse veröffentlicht meist die Organisation, für die am meisten davon abhängt. Das macht die Zahlen nicht falsch. Es heißt aber, dass “dieses Modell schneidet bei Fairness-Prüfungen gut ab” eine viel engere Aussage ist, als sie klingt, und dass man sie als die enge Aussage lesen sollte, die sie ist.

Wer sich das alles ansieht und entscheidet, dass die Beweislast beim Werkzeug liegt, hat die Lage richtig gelesen und ihr nicht ausweichen wollen. Es ist völlig vernünftig, diese Systeme von den Themen fernzuhalten, bei denen die Erzählung der eigenen Familie zählt, und sie stattdessen bei den Rechenaufgaben helfen zu lassen. Das ist keine Verweigerung gegenüber der Technik. Es ist eine Entscheidung darüber, wofür sie gut genug ist, und dieses Urteil kannst du besser fällen als alle, die sie verkaufen.