Künstliche Intelligenz: Sechs Risiken richtig managen

alt

Künstliche Intelligenz (KI) eröffnet der Geschäftswelt enorme Chancen und ist aus unserem Alltag nicht mehr wegzudenken. Das hat Vorteile, birgt aber auch Gefahren.

Ein Beispiel macht das deutlich. Der Fahrer eines New Yorker Fahrdienstes, ein Nepalese, ist erst seit Kurzem in der Stadt. Den Job hat er binnen weniger Wochen gefunden. Früher hätten sich Taxifahrer die Straßen, Routen und Besonderheiten der Stadt erst mühsam aneignen müssen, um einen Fahrgast zügig von A nach B bringen zu können. Doch dank modernster Navigationssysteme ist der Nepalese in der Lage, schon kurz nach seiner Ankunft in New York als Fahrer Geld zu verdienen. Fahrgäste sind allerdings der Meinung, dass Taxifahrer früher wesentlich kompetenter und ortskundiger waren.

Je umfassender KI zum Einsatz kommt, desto mehr gilt es, sich auch mit den unerwünschten Folgen auseinanderzusetzen. KI liefert ohne Zweifel schnellere, preiswertere und bessere Antworten als jeder Mensch. KI nimmt uns auch Routinearbeiten wie das Lesen einer Straßenkarte ab. Doch wie gehen wir mit dem Verlust von menschlichem Können und Wissen um?

Unternehmen, die in KI investieren, sollten sich deshalb intensiv mit den Risiken befassen, die diese Technologie mit sich bringt. Auf folgende Fragen müssen Antworten gefunden werden: Wie lässt sich KI erfolgreich im Unternehmen einführen? Wie wird die Technologie richtig angewendet? Und wie können die Risiken von KI gemanagt werden?

Insgesamt gibt es sechs Risiken, die Unternehmen kennen und vermeiden sollten.

Risiko 1: KI kann unentdeckte Fehler verursachen.


KI-Modelle stellen die Welt in Zahlen dar. Sie liefern Antworten auf Grundlage dessen, was sie gelernt haben. Dabei sind sie alles andere als perfekt. Viele KI-Modelle sind intransparent. Dass sie Sachverhalte schnell erfassen oder berechnen können, erhöht die Wahrscheinlichkeit unerkannt bleibender Fehler. Bei autonomen Fahr- oder Flugsystemen nimmt der Einsatz von KI exponentiell zu. Die Modelle werden zwar kontinuierlich besser, machen aber immer wieder auch Fehler – manchmal mit fatalen Folgen.

Risiko 2: KI kann den Verlust von Kompetenz und kritischem Denken nach sich ziehen.


Nicht nur Taxifahrer laufen Gefahr, sich von KI zu abhängig zu machen. Ein Entwickler aus dem Silicon Valley hat erzählt, sein Empfehlungsalgorithmus würde seinem Team das Denken größtenteils abnehmen. Ganz gleich, ob der Leiter einer Finanzabteilung auf algorithmische Umsatzprognosen baut oder ein Verkäufer auf Kundenkontakte setzt, die von einem Algorithmus ermittelt wurden: Das Verständnis für die Grundlagen des eigenen Geschäfts zu verlieren ist gefährlich.

Risiko 3: KI kann zu neuen Bedrohungen führen.


Algorithmen können ebenso manipuliert werden wie menschliches Personal. Doch ein Mitarbeiter trifft im Arbeitsalltag in der Regel deutlich weniger Entscheidungen als ein Algorithmus, bei dem das noch dazu meist im Hintergrund erfolgt. Spammer (Personen, die Spammails verschicken) haben längst gelernt, maschinell lernende Systeme bestmöglich für ihre Zwecke einzusetzen. Und auch Hacker nutzen bereits die Möglichkeiten von KI. Führungskräfte müssen deshalb schon im Vorfeld analysieren, wie sich ein Algorithmus manipulieren lässt, und entsprechend vorbeugen.

Risiko 4: KI kann Vorurteile übernehmen und festigen.


KI lernt anhand von Beispielen aus vorgegebenen Datensätzen. Häufig können KI-Spezialisten nachvollziehen, wie ein Algorithmus zu einem bestimmten Ergebnis gekommen ist. Manche sind jedoch wie eine Blackbox, die selbst Experten Rätsel aufgibt. Dieser Mangel an Transparenz führt zu Vorurteilen. Denn jeder Algorithmus, der auf Basis historischer Daten trainiert wird, kommt zu Schlussfolgerungen, die die in den Daten vorhandene Voreingenommenheit widerspiegeln. Vorurteile müssen jedoch nicht offensichtlich falsch sein, um negative Folgen zu haben. So wird in der Kundenanalyse ein Algorithmus, dessen Datengrundlage die Bestandskunden sind, immer die Präferenzen dieser Gruppe bevorzugen. Allerdings bleiben die der potenziellen Kunden unberücksichtigt.

Risiko 5: KI kann das Einfühlungsvermögen verringern.

Immer mehr Unternehmen setzen bei der Interaktion mit ihren Kunden auf Computerprogramme. Sie laufen dadurch allerdings Gefahr, den Draht zu ihnen zu verlieren. Doch auch Geschäftsführer, deren Mitarbeiter wie oben erwähnter Taxifahrer von Algorithmen gelenkt werden, entfremden sich von den Sorgen und Nöten ihrer Belegschaft. Das schafft Distanz. Die Fähigkeit des Zuhörens geht verloren und damit die Mitmenschlichkeit.

Risiko 6: KI kann Kontrollverlust bewirken.


Entscheidungen auf Basis von KI lassen sich schnell und bequem treffen. Das macht diese Technologie attraktiv. Noch aber sind Menschen beziehungsweise menschliche Kontrollsysteme unverzichtbar. Aber könnte sich das nicht ändern, je mehr wir uns an diese Technologie gewöhnt haben? Und können wir das vertreten?

Top-Manager müssen daran teilhaben, Ziele und Richtlinien für den Umgang mit KI zu entwickeln. Finanzdienstleister, die sich auf Kreditalgorithmen verlassen, sind zu einem strengen Risikomanagement verpflichtet. Für Unternehmen, die KI einsetzen, sollte die KI-Governance in Zukunft einen hohen Stellenwert haben.

Unternehmen aller Branchen sind gefordert, sämtliche Regeln und Richtlinien in Bezug auf KI konsequent umzusetzen. Nur dann können sie die mit der Nutzung dieser Technologie verbundenen Risiken vermeiden oder zumindest minimieren.


Klicken Sie hier, um sich die Studie als PDF herunterzuladen.