Verringern Techniken zur Überwachung und Abschwächung von Verzerrungen die Genauigkeit?

Verringern Techniken zur Überwachung und Abschwächung von Verzerrungen die Genauigkeit?

‍

In unserem Workshop bei WeTechTogether zeigten Tanya Golubev und Anastasia Stamatouli, dass dies nicht immer der Fall sein muss.

Leider konzentriert sich der Markt immer noch zu sehr auf diesen Genauigkeitsaspekt und wird fälschlicherweise als Indikator für ein robustes KI-System verwendet.

Der Workshop zeigte, dass die Genauigkeit gleich bleibt, wenn man nichts mit den Daten macht (z. B. sie voller geschlechts- und rassenspezifischer Verzerrungen belässt) oder 3 Ansätze implementiert, um diese zu mildern.

Natürlich handelt es sich hier um ein Spielzeugbeispiel, ein KI-Modell auf der Grundlage öffentlich zugänglicher Daten, aber es zeigt, wie irreführend dieser Aspekt der Genauigkeit ist. Es ist klar, dass die Qualität der Daten, auf die die Abschwächungsmaßnahmen angewendet werden, viel höher ist und zu weniger Diskriminierung führt.

Aber ist die Milderung von Verzerrungen technisch ausreichend, um Fairness zu gewährleisten? Offensichtlich nicht.

Der jüngste KI-Steuerskandal in den Niederlanden zeigt, dass ein Unternehmen oder eine Institution sich nicht nur über die Fähigkeiten und Grenzen der verwendeten technischen Lösung im Klaren sein muss, sondern auch über die Fähigkeiten und Grenzen der Menschen, die sie einsetzen. Klare Verfahren und eine angemessene Schulung sind von entscheidender Bedeutung, denn ein Mensch in der Schleife ist per se keine Entschärfungsmaßnahme, wenn dieser Mensch die Ergebnisse des KI-Systems nicht überprüft oder hinterfragt.

Es ist notwendig, einen Schritt weiter zu gehen.

Daher müssen Unternehmen und Institutionen viele Diskussionen über verschiedene ethische Aspekte führen. Eine vertrauenswürdige KI zu verwirklichen bedeutet unter anderem, den Entscheidungsprozess transparent zu machen, Rechenschaft abzulegen und die Möglichkeit zu schaffen, Entscheidungen, die von KI-Systemen und den Menschen, die sie bedienen, getroffen werden, anzufechten und wirksam in Frage zu stellen.

Unternehmen und Institutionen, die nicht bereit sind, beide Dimensionen der Fairness (die technologische und die verfahrenstechnische) zu berücksichtigen, laufen Gefahr, erheblichen Schaden anzurichten, der auch jegliches Vertrauen in diese erstaunlichen Technologien zerstören würde.

Vorbeugen ist besser als heilen. Das ist nichts Neues.