Unternehmerische Entscheidungen werden schon heute mit Hilfe von Algorithmen getroffen. Für die Tätigkeit von Aufsichtsräten hat dies weitreichende Implikationen, denn auch solche Entscheidungen unterliegen seiner Kontrolle. Das setzt ein Mindestmaß von Wissen über mögliche aus Algorithmen resultierende Risiken im Rahmen von Entscheidungsprozessen bei den handelnden Personen voraus.
ChatGPT erwidert auf den Prompt, „Risiko von Algorithmen, Entscheidungsfindung bei Unternehmen“:
Der Einsatz von Algorithmen zur Unterstützung der Entscheidungsfindung in Unternehmen bietet viele Vorteile, birgt aber auch bestimmte Risiken. Hier sind einige wichtige Risiken im Zusammenhang mit der Verwendung von Algorithmen für die Entscheidungsfindung in Unternehmen:
Bias und Diskriminierung: Algorithmen können Vorurteile aus den Trainingsdaten aufnehmen, was zu diskriminierenden oder ungerechten Entscheidungen führen kann. Dies ist ein ernstes Problem in Bereichen wie Einstellungsprozessen, Beförderungen und Kreditvergabe.
Fehlende Erklärbarkeit: Komplexe Algorithmen, insbesondere künstliche neuronale Netze, können schwer verständlich sein und keine klaren Erklärungen für ihre Entscheidungen bieten. Dies kann das Vertrauen der Mitarbeiter und Kunden in die Entscheidungsprozesse beeinträchtigen.
Datenqualität: Die Qualität der Eingangsdaten ist entscheidend. Wenn die Daten fehlerhaft, unvollständig oder veraltet sind, können die Entscheidungen des Algorithmus unzuverlässig sein.
Abhängigkeit von Daten: Algorithmen sind stark von den verfügbaren Daten abhängig. Wenn die Daten nicht repräsentativ oder nicht ausreichend sind, können die Entscheidungen fehlerhaft sein.
Ethik und Wertvorstellungen: Die Festlegung ethischer Grundsätze und Wertvorstellungen, nach denen die Algorithmen Entscheidungen treffen, kann komplex sein. Unternehmen müssen sicherstellen, dass ihre Algorithmen den ethischen Standards der Organisation und der Gesellschaft entsprechen.
Sicherheitsrisiken: Algorithmen können anfällig für Angriffe sein, einschließlich Datenmanipulation und Modellübernahme. Die Sicherheit der Modelle und der zugrunde liegenden Daten ist von entscheidender Bedeutung.
Rechtliche und regulatorische Anforderungen: Unternehmen müssen sicherstellen, dass ihre algorithmischen Entscheidungen den geltenden Gesetzen und Vorschriften entsprechen, insbesondere in Bezug auf Datenschutz und Verbraucherschutz.
Verantwortlichkeit: Die Verantwortlichkeit für algorithmische Entscheidungen kann unklar sein. Unternehmen müssen klare Verantwortlichkeiten für den Einsatz von Algorithmen in der Entscheidungsfindung festlegen.
Menschliche Überwachung: Die Integration menschlicher Überwachung und Eingriffsmöglichkeiten in algorithmische Entscheidungsprozesse ist wichtig, insbesondere in kritischen Unternehmensbereichen wie Compliance und Risikomanagement.
Langfristige Auswirkungen: Unternehmen sollten die langfristigen Auswirkungen von algorithmischen Entscheidungen auf ihre Reputation und Beziehungen zu Kunden und Mitarbeitern berücksichtigen.
Um diese Risiken zu minimieren, sollten Unternehmen klare Richtlinien und Prozesse für den Einsatz von Algorithmen in der Entscheidungsfindung entwickeln. Transparenz, Überprüfbarkeit und ethische Überlegungen sollten im Mittelpunkt stehen. Außerdem ist eine kontinuierliche Überwachung und Aktualisierung der Algorithmen erforderlich, um sicherzustellen, dass sie weiterhin effektiv und fair arbeiten.
Die von ChatGPT aufgelisteten Risiken liefern erste Anhaltspunkte für gezielte Fragen an den Vorstand. Zunächst ist es aber wichtig zu verstehen, welche Algorithmen, wo, seit wann, wie und warum im Unternehmen eingesetzt werden, eng verknüpft mit der Frage nach einem entprechenden Inventar und der Strategie des Vorstands in Bezug auf Künstliche Intelligenz.
