So können Sie KI fair und verantwortungsvoll implementieren

Die Verbreitung von Künstlicher Intelligenz in unserem Alltag ist nicht mehr zu leugnen. Laut einer Umfrage von Bitkom sagen 44 Prozent der befragten Bundesbürger, dass KI schon heute ihr alltägliches Leben einfacher macht, und 57 Prozent meinen, alle Menschen sollten die Möglichkeit erhalten, sich mit KI vertraut zu machen. Doch 24 Prozent nehmen KI auch als Gefahr wahr und fast die Hälfte befürchtet, dass KI den Menschen entmündigen könnte. Ursache dafür dürften die zahlreichen Fälle von Diskriminierung durch KI-Algorithmen sein, die im Lauf der letzten fünf Jahre bekannt wurden, sei es bei Bewerbungsverfahren oder der Vergabe von Krediten.

Dabei ist in den allermeisten Fällen keine Absicht seitens der Unternehmen im Spiel. Schon eher die Eile bei der Implementierung neuer Technologien, die versprechen, Routineaufgaben zu automatisieren und für neue Einblicke zu sorgen. Das Dilemma besteht darin, ein Gleichgewicht zwischen der Förderung von Innovationen und dem Schutz vor potenziellen Risiken zu finden. Voreingenommene, undurchsichtige oder schlecht kontrollierte KI-Systeme können das Vertrauen von Kunden und Mitarbeitern schnell zerstören.

Unternehmen in Europa, dem Nahen Osten und Afrika (EMEA), die KI ethisch korrekt einsetzen möchten, müssen eine Basis aus soliden Prinzipien schaffen. Die folgenden vier Faktoren bilden die Grundlage für den Einsatz von verantwortungsvoller KI in der Praxis.

1. KI steht im Dienste des Menschen

Ein Kernprinzip besteht darin, bei der Entwicklung von KI stets den Fokus auf die Bedürfnisse der Menschen zu legen. KI sollte nicht nur der Innovation wegen implementiert werden, sondern um echte Probleme und Reibungspunkte für Anwender zu lösen. Ein Ansatz, bei dem der Mensch im Mittelpunkt steht, bedeutet, ethische Standards über den gesamten Lebenszyklus hinweg zu etablieren: von der ersten Entwurfsphase bis hin zur Bereitstellung und kontinuierlichen Verbesserung.

Vor diesem Hintergrund bietet der ethische Wegweiser für KI der UNESCO einen nützlichen Ausgangspunkt für Unternehmen. Dazu gehören Fairness und Nichtdiskriminierung, Transparenz, Verantwortlichkeit und Kontrolle durch Menschen.

2. Ausgrenzung und Diskriminierung vermeiden

Im Gegensatz zu anderen Technologien lernt KI aus den Daten, mit denen sie trainiert wird, und von den Menschen, die sie entwickeln. Wenn Daten und Teams nicht vielfältig genug sind, ist die daraus resultierende KI wahrscheinlich voreingenommen, was zu einer unfairen Behandlung unterrepräsentierter Gruppen führt. Da KI zunehmend in wichtigen Bereichen wie dem Kundenservice und dem Recruiting eingesetzt wird, ist es essenziell, dass sie richtig funktioniert, um soziale Ungleichheiten zu vermeiden.

Vielfalt und Repräsentanz müssen oberste Priorität haben, um KI zu entwickeln, von der wirklich alle profitieren. Entwicklungsteams und Daten müssen Menschen mit verschiedenen Kulturen, Geschlechtern und Fachgebieten sowie aus unterschiedlichen Altersgruppen einbeziehen, um eine Vielzahl von Perspektiven zu vereinen. So werden unbewusste Vorurteile erkannt und reduziert.

Durch die Priorisierung von Vielfalt und Repräsentanz in jeder Phase – von der Teamzusammensetzung bis hin zu Anwendertests – können Unternehmen KI-Systeme schaffen, die für alle besser funktionieren. Das Ziel sollte darin bestehen, den Zugang zu den Vorteilen der KI zu demokratisieren und sicherzustellen, dass die Technologien der jeweiligen Unternehmen für alle Kunden, Mitarbeiter und Stakeholder zugänglich und inklusiv sind.

3. Nachvollziehbarkeit gewährleisten

Damit KI in großem Maßstab Vertrauen gewinnen kann, müssen die Menschen verstehen, wie sie funktioniert. Eine gute Dokumentation zur Funktionsweise von Modellen, zu den vorgesehenen Anwendungsfällen und zu den Einschränkungen ist entscheidend, um Transparenz rund um die Technologien zu gewährleisten. Die umfassende Kommunikation bei Unsicherheiten und Einschränkungen ist für Mitarbeiter und Kunden ebenfalls von entscheidender Bedeutung, damit sie realistische Erwartungen an die Möglichkeiten und Grenzen von KI haben.

Transparenz geht einher mit solider Verantwortlichkeit und Governance. Dazu gehören Aufsichtsgremien und Möglichkeiten zur Meldung von Problemen. Vor diesem Hintergrund hat ServiceNow interne Gremien eingerichtet, um Initiativen zu überwachen und sicherzustellen, dass sie ethischen Standards der KI-Community entsprechen, damit Unternehmen die KI-Lösungen von ServiceNoe bedenkenlos nutzen können.

4. Mensch und Maschine als produktives Tandem

Egal, wie fortschrittlich die KI-Systeme sind, sie müssen mit Menschen zusammenarbeiten und sollen sie nicht ersetzen. Unternehmen benötigen Transparenz darüber, wo und wie KI verwendet wird. Außerdem müssen sie ihre Ergebnisse interpretieren können und die Möglichkeit haben, Entscheidungen der KI anzupassen oder die KI außer Kraft zu setzen, wenn dies gerechtfertigt ist.

Das menschliche Urteilsvermögen zu wahren ist besonders wichtig für KI-Anwendungsfälle, die erheblichen Einfluss auf das Leben der Menschen haben können. Zum Beispiel kann es passieren, dass ein Finanzdienstleistungsunternehmen, das sich bei der Auswertung von Darlehensanträgen und der Erteilung von Krediten auf KI verlässt, möglicherweise qualifizierten Antragstellern auf unfaire Weise Darlehen verweigert. Dieser Mangel an menschlichem Urteilsvermögen im Entscheidungsprozess könnte Kunden in finanzielle Schwierigkeiten bringen, den Ruf des Unternehmens schädigen und das Vertrauen der Öffentlichkeit zerstören.

Die Durchführung von Beurteilungen zu den ethischen Folgen und die Erstellung von Plänen zur Risikominderung können dazu beitragen, dass KI Menschen zugutekommt – ohne negative Folgen. In der Praxis umfasst die Beurteilung der Folgen eine Bestandsaufnahme der potenziellen Risiken sowohl vor als auch nach der Implementierung eines KI-Systems. Dies ist wichtig, um sicherzustellen, dass die Technologie während der Planungsphase, der Entwicklung und der Bereitstellung den ethischen Standards entspricht.

Diese Prinzipien kombinieren

Die Einhaltung verantwortungsvoller KI-Prinzipien ist eine ständige Verpflichtung. Unternehmen müssen klare Richtlinien für den Fokus auf den Menschen sowie für Inklusion, Verantwortlichkeit und Transparenz festlegen, um sämtliche KI-Initiativen bereit für die Zukunft zu machen.

Wenn Unternehmen in der EMEA-Region diese vier Faktoren berücksichtigen, können sie das volle Potenzial der KI ausschöpfen, um dadurch bessere Experiences für alle zu schaffen. Der ethisch korrekte Weg ist der einzige Weg, um KI-Lösungen zu entwickeln, denen weithin vertraut wird, die geschätzt werden und die zukunftssicher sind. Erfahren Sie, wie Sie mit ServiceNow verantwortungsvolle KI für Ihr Unternehmen nutzen können.