Zum Hauptinhalt wechseln

AI

30. Oktober 2023

 

Verantwortungsvolle KI am Steuer: Wie man die Verkehrsregeln festlegt

Generative KI könnte die Arbeitsweise und Innovationsprozesse von Unternehmen verändern. Führungskräfte von Mastercard geben Einblicke, wie sie diese Zukunft gestalten.

Vicki Hyman

Director,

Global Communications,

Mastercard

Bis vor Kurzem schien es, als ob jeder Vorschlag, der auf dem Schreibtisch von Ed McLaughlin, dem Chief Technology Officer von Mastercard, landete, das Wort „Blockchain“ enthielt. „Wäre eine Datenbank nicht besser geeignet?“, fragte er, und die Antwort lautete oft: „Ja, aber das hier befindet sich auf der Blockchain.“

Heutzutage ist es künstliche Intelligenz. Und obwohl Mastercard schon seit Jahren KI zur Betrugsbekämpfung in seinem Netzwerk einsetzt, eröffnen die jüngsten Fortschritte im Bereich der generativen KI, die riesige Datenmengen auswertet, um alle Arten neuer Inhalte zu erstellen, aufregende Möglichkeiten. Das Unternehmen nutzt generative KI, um synthetische Betrugstransaktionsdaten zu erstellen, mit denen es Schwächen in den Systemen eines Finanzinstituts aufdecken und Warnsignale in großen Datensätzen im Zusammenhang mit der Bekämpfung von Geldwäsche erkennen kann. Mastercard nutzt außerdem gen AI, um E-Commerce-Händlern dabei zu helfen, das Nutzererlebnis zu personalisieren.

Doch der Einsatz dieser Technologie ist nicht ohne Risiken – darunter die Gefahr, KI als Vorschlaghammer zu verwenden, oder, wie McLaughlin es ausdrückt, „Schrauben mit sehr teuren Steckschlüsseln einzuhämmern“. Unternehmen sollten sich seiner Meinung nach die Frage stellen: „Welche schwierigen Probleme konnten Sie bisher nicht lösen?“ Wo kann KI tatsächlich einen Mehrwert schaffen? Und wie lässt sich das bewerkstelligen, während gleichzeitig potenzielle Gefahren minimiert werden?

Unternehmen jeder Größe beschäftigen sich mit diesen Fragen. Eine aktuelle Umfrage von VentureBeat unter globalen Führungskräften in den Bereichen Daten, KI, Sicherheit und Marketing ergab, dass mehr als die Hälfte der Unternehmen in kleinem Umfang mit generativer KI experimentieren, aber weniger als 20 % sie bereits einsetzen – und fast jeder Zehnte gibt an, „keine Ahnung“ zu haben, wie er damit umgehen soll.

„Man kann mit KI klein denken und kleine Dinge tun, oder man kann groß denken und sein Unternehmen, seine Branche oder die Welt wirklich verändern“, sagt Rohit Chauhan, Executive Vice President für KI bei Cyber & Intelligence. „Wir wollen groß denken, aber in beiden Fällen muss der Einsatz von KI auf verantwortungsvolle und sichere Weise erfolgen, damit er der Welt ein größeres Wohl bringt.“ „Das größte Risiko der KI besteht darin, sie nicht zu nutzen.“

Wir sprachen mit Führungskräften von Mastercard darüber, wie sie Risiken minimieren, Chancen ausloten und die richtigen Investitionen im Bereich der generativen KI tätigen.

Welche Risiken sollten Unternehmen bei der Verfolgung neuer Geschäftsmöglichkeiten berücksichtigen und minimieren?

Risiken müssen direkt angegangen werden, wenn Unternehmen die Einführung generativer KI-Technologie erwägen. Zu diesen Risiken gehören inhärente Verzerrungen in Datensätzen, unzureichender Datenschutz für die Daten von Personen, nachdem diese in KI-Modelle eingespeist wurden, und „Halluzinationen“ – die Wiederholung von Falschinformationen durch KI.

Starke Grundsätze und Praktiken der Datenverantwortung sollten bereits vorhanden sein, bevor man den Sprung in die generative KI wagt, sagt JoAnn Stonier, die mehr als fünf Jahre lang das Datenprogramm von Mastercard leitete und kürzlich zum Mastercard Fellow ernannt wurde, der sich auf verantwortungsvolle KI und Daten spezialisiert hat. Im vergangenen Jahr aktualisierte Mastercard seine eigenen Grundsätze der Datenverantwortung, um die Inklusion hervorzuheben und so sicherzustellen, dass Datenpraktiken, Analysen und Ergebnisse umfassend und gerecht sind. Das Bekenntnis des Unternehmens zu „Privacy by Design“ integriert auch starke Datenschutz- und Sicherheitsvorkehrungen in KI-Modelle, ergänzt Caroline Louveaux, Chief Privacy and Data Responsibility Officer des Unternehmens.

„Wir haben innerhalb des Unternehmens Standards und Prinzipien für den verantwortungsvollen Umgang mit generativer KI und Daten entwickelt“, sagt Stonier. „Dies umfasst Verhaltensregeln für die Mitarbeiter sowie Leitlinien für das Erlernen und Testen der neuen Technologie, ohne sensible oder vertrauliche Informationen zu gefährden.“ Wir stehen auf der richtigen Seite der Geschichte.“

Diese Empfehlungen – die beispielsweise Mitarbeitern raten, die ersten Ergebnisse nicht zu akzeptieren und Abfragen mehrmals auf verschiedene Weise durchzuführen – haben dazu beigetragen, die Empfehlungen der US Cybersecurity Group des Aspen Institute für andere Unternehmen beim Aufbau ihrer eigenen Strategien für generative KI zu untermauern. „Diese Art von Kooperationsbemühungen zum Aufbau und zur Skalierung bewährter Verfahren sind notwendig, um verantwortungsvolle Innovationen mit generativer KI zu fördern“, sagt Andrew Reiskind, Chief Data Officer von Mastercard.

Welche internen Steuerungsmechanismen können eingeführt werden, um sicherzustellen, dass KI richtig implementiert wird?

Es ist nicht nötig, bei Null anzufangen. Stattdessen sollten Unternehmen auf bestehende Richtlinien, Prozesse und Tools zurückgreifen und unternehmensweit zusammenarbeiten, um den richtigen Weg für deren Entwicklung zu finden. 

Ein interdisziplinärer Ansatz ist von entscheidender Bedeutung. Datenwissenschaftler, Produktentwickler, Softwareingenieure und Systemarchitekten kennen das „Wie“, aber Personalverantwortliche, Politikexperten, Ethiker und Juristen können unter anderem auch das „Warum“ – oder das „Sollten wir?“ – liefern.

Zu diesem Zweck gründete Mastercard vor fünf Jahren den AI Governance Council, um die KI-Aktivitäten des Unternehmens zu überwachen und sicherzustellen, dass sie mit seinen Werten und Grundsätzen der Datenverantwortung übereinstimmen, sagt Louveaux. „Wir holen uns manchmal Rat von unabhängigen Experten oder Kunden, denn zu hören, wie andere unsere KI-Innovationen sehen, ist hilfreich, um mögliche blinde Flecken aufzudecken.“ Dies geht über die bloße Einhaltung von Vorschriften hinaus – es geht darum, Vertrauen in unseren Umgang mit Daten und Technologie zu gewinnen und zu erhalten.“

Regulierung von KI

Während sich die Privatwirtschaft mit den Chancen und Risiken der rasanten Entwicklung künstlicher Intelligenz auseinandersetzt, beschleunigen die Regierungen die Entwicklung von Standards im Bereich KI. Die Europäische Union hat einen weitreichenden KI-Gesetzentwurf vorgelegt, der KI-Systeme nach dem Risiko für die Gesundheit, Sicherheit oder Grundrechte einer Person klassifiziert, und Großbritannien veranstaltet diese Woche auf dem AI Safety Summit einen globalen Dialog über die Risiken der Technologie.

In den USA hat Präsident Biden am Montag eine Exekutivverordnung vorgestellt, die neue Richtlinien für KI schafft. Dazu gehört die Verpflichtung für die Entwickler der leistungsstärksten KI-Systeme, die Ergebnisse von Sicherheitstests mit der Bundesregierung zu teilen, sowie die Entwicklung von Leitlinien für die Inhaltsauthentifizierung und das Wasserzeichenverfahren zur Kennzeichnung von KI-generierten Inhalten. Die Exekutivverordnung befasst sich außerdem mit Möglichkeiten zur Stärkung des Verbraucherschutzes, zur Reduzierung algorithmischer Verzerrungen, die Diskriminierung verschärfen können, und zur Entwicklung von Best Practices für KI am Arbeitsplatz.  

Wie geht man mit generativer KI an neue Ideen heran?

Mastercard hat eine breit angelegte Initiative gestartet, um KI-gestützte Produkte und Dienstleistungen der ersten Generation zu erproben und die Technologien, Werkzeuge und Fähigkeiten zu identifizieren, die für eine Skalierung erforderlich sind, sagt Mohamed Abdelsadek, Executive Vice President für Daten, Einblicke und Analysen. Dazu gehört das systematische Sammeln von Konzepten aus allen Produktteams sowie die Durchführung von Hackathons und unternehmensweiten Innovationswettbewerben rund um KI-Konzepte, die Hunderte von Ideen hervorbringen.

„Wir priorisieren die Auswirkungen auf Umsatz oder Effizienz, die einfache Umsetzung und wägen dies dann gegen das damit verbundene Risiko ab“, sagt er. Bevor ein KI-gestütztes Produkt oder eine Anwendung jedoch in Betrieb genommen wird, sind umfangreiche Tests unerlässlich. Aus diesem Grund werden die meisten Anwendungsfälle wahrscheinlich zunächst intern erprobt, bevor sie öffentlich eingeführt werden.

„Wir konzentrieren uns bewusst schon früh etwas stärker darauf, um sicherzustellen, dass wir alles richtig machen“, sagt Abdelsadek. „Wir wollen die richtige Infrastruktur und die richtigen Prozesse schaffen, um einige der Risiken zu vermeiden, die mit generativer KI einhergehen.“ Gleichzeitig wollen wir sicherstellen, dass wir Innovationen im gesamten Unternehmen ermöglichen.“

Angesichts der Möglichkeit, dass generative KI einige menschliche Arbeitsplätze ersetzen könnte, wie kann man eine Kultur fördern, die die Erforschung und Anwendung von KI begünstigt?

„Die Förderung einer Kultur der Innovation und Zusammenarbeit ist entscheidend für Mastercards Vision, Volkswirtschaften anzukurbeln und Menschen zu stärken“, sagt Ken Moore, Chief Innovation Officer und Leiter von Mastercard Foundry, der Forschungs- und Entwicklungsabteilung des Unternehmens.  Und das geht über die Forschungs- und Entwicklungsabteilung hinaus – Foundry betreibt ein unternehmensweites Innovationsprogramm namens Sandbox, das Mitarbeitern überall im Unternehmen die Möglichkeit gibt, Herausforderungen zu lösen, denen sich Mastercard stellen möchte. Eine kürzlich ausgeschriebene Herausforderung zur Erschließung von Möglichkeiten im Web3-Bereich führte zur Gründung des Mastercard Artist Accelerator, der aufstrebenden Künstlern Zugang zu technologiebasierten Tools wie KI und NFTs bietet, um ihre Musikkarriere voranzutreiben.

Was die Integration von KI in den Unternehmensbetrieb angeht, so wird die menschliche Aufsicht laut Moore auf absehbare Zeit wahrscheinlich eine wesentliche Funktion der generativen KI bleiben, insbesondere bei der Bewältigung von Herausforderungen wie gefälschten Informationen und Halluzinationen.

„Mastercards aktuelle Forschung im Bereich der generativen KI konzentriert sich darauf, die Technologie so einzusetzen, dass Effizienzsteigerungen erzielt werden, die die Mitarbeiter unterstützen und nicht ersetzen“, sagt er. „Wenn KI dazu genutzt werden könnte, die Lösungsfindung für mühsame Alltagsaufgaben zu beschleunigen, wie könnten wir diese eingesparte Zeit nutzen, um mehr von dem zu leisten, wozu nur Menschen fähig sind, wie zum Beispiel den Aufbau und die Pflege von Beziehungen oder die Entwicklung neuer Produkte und Dienstleistungen?“

AI

4 Wege, wie KI unsere Arbeitsweise verändern könnte – und wie wir uns auf diesen Wandel vorbereiten können

Bis 2030 könnte KI jährlich eine zusätzliche Wirtschaftsleistung von 13 Billionen Dollar generieren. Ich könnte auch die Funktionsweise von Unternehmen grundlegend verändern.

Mehr erfahren