Der Begriff AI Bias gehört in die Bereiche Künstliche Intelligenz, Big Data und Smart Data sowie Digitale Gesellschaft. AI Bias bedeutet, dass Künstliche Intelligenz – also lernende Computersysteme – bestimmte Vorurteile entwickelt und falsche Entscheidungen trifft, weil sie mit fehlerhaften oder einseitigen Daten gefüttert wurde.
Das Problem entsteht meistens, wenn die Datensätze, mit denen die KI trainiert wird, nicht ausgewogen sind. Angenommen, ein Unternehmen nutzt eine KI, um Bewerbungen zu sichten. Wenn die KI im Training hauptsächlich Informationen von bisherigen, überwiegend männlichen Mitarbeitern erhalten hat, könnte sie weibliche Bewerberinnen unbewusst benachteiligen. Das liegt nicht daran, dass die KI selbst böswillig ist, sondern daran, dass sie aus den ungleich verteilten Beispielen falsche Schlüsse zieht.
AI Bias ist also ein echter Stolperstein, wenn es darum geht, faire und objektive Entscheidungen durch Künstliche Intelligenz zu erreichen. Unternehmen sollten daher darauf achten, ihre Daten sorgfältig auszuwählen und ihre KI regelmäßig auf Vorurteile zu überprüfen, damit niemand benachteiligt wird.
Deutsch 
English (UK)