Ethische Grundprinzipien für Künstliche Intelligenz
Sieben Prinzipien –
Ein Forum
Gerechtigkeit
Transparenz
Datenschutz
Sicherheit
Qualität
Verantwortung
Verzichtsmöglichkeit
Lesen Sie das Positionspapier des Deutschen Forums für Ethisches Maschinelles Entscheiden
Warum braucht es EME?
Mögliche Fehlerquellen bei maschinengestützten Entscheidungen
Seit Jahrhunderten sorgen radikale Innovationen wie beispielsweise die Industrielle Revolution, die Digitalisierung oder Künstliche Intelligenz für potentielle Spannungen und Verwerfungen in der Gesellschaft. Einige Innovationen erfordern ein Umdenken und sorgen so für eine stetige Adaption des Wertebilds. Unserer Erfahrung nach kann es helfen die häufigsten Fehlerquellen zu kennen.
Datengrundlage
1. Unsauberes Labelling von Inputdaten
2. Einbeziehung von sensiblen Informationen
3. Geringes Bewusstsein für unterrepräsentierte Gruppen im Datensatz und deren mangelnde Aussagefähigkeit
Implementierung
4. Fehlende Diversität in Entwicklungs- und Implementierungsteams
5. Vorschneller Einsatz in Produktion
6. Mangelndes Verständnis des Entwicklungsteams für die wirtschaftlichen und ökonomischen Use-Cases
Übergreifende Kriterien
7. Mangelndes Verständnis für Fehlerquellen
8. Zeitversetzte Sichtbarkeit von Fehlern
9. Fehlpriorisierung der Haupt- und Nebengütekriterien