Ethische und sozialverträgliche KI: Wie Unternehmen die Technologie richtig einsetzen können – Handreichungen für die Praxis (Teil 1)

Eine neue Studie zur ethischen und sozial verträglichen KI in Unternehmen zeigt, was Unternehmen bei der Einführung und Nutzung von KI beachten sollten und wie KI und Mensch Hand in Hand gehen können.

Künstliche Intelligenz (KI) wird allmählich zu einem festen Bestandteil der modernen Wirtschaft. Sie automatisiert Routineaufgaben, analysiert große Datenmengen und hilft Unternehmen, ihre Effizienz zu steigern. Es stellt sich jedoch eine wichtige Frage: Wie kann KI so eingesetzt werden, dass sie nicht nur dem Unternehmen nützt, sondern auch die Interessen der Mitarbeiter:innen berücksichtigt?

Anhand des Forschungsprojekts „Ethische und sozial verträgliche KI in Unternehmen“, das vom Ministerium für Wirtschaft, Arbeit und Tourismus Baden-Württemberg initiiert wurde, wurde untersucht, wie Unternehmen den Einsatz von KI richtig angehen können, um negative Folgen zu vermeiden und die Technologie zu einem Helfer und nicht zu einer Bedrohung zu machen.

Die Ergebnisse dieser vom Ministerium für Wirtschaft, Arbeit und Tourismus gemeinsam mit der Universität Hohenheim und dem Institut für Arbeitswissenschaft und Technologiemanagement durchgeführten Untersuchung sind im veröffentlichten Mantelpapier ausführlich dokumentiert – von der Definition des Begriffs KI bis hin zu praxisnahen Lösungen für Unternehmen.

Neben dem Mantelpapier stehen außerdem neun Handreichungen zur Verfügung. Nachfolgend wird eine kurze Übersicht darüber gegeben, welche Themen in den einzelnen Handreichungen behandelt werden, bevor näher auf deren Inhalte eingegangen wird:

Handreichung 1 – Künstliche Intelligenz im Mittelstand: Begriffsbestimmung und Einordnung

Was ist KI? Abgrenzung von verwandten Konzepten, Anwendungsfelder.

Handreichung 2 – Standortbestimmung: Digitalisierung oder KI?

Besonderheiten von KMU, geeignete Einsatzbereiche, Verhältnis von Organisation, IT und KI, Handlungsempfehlungen.

Handreichung 3 – Künstliche Intelligenz im Mittelstand: Chancen und Herausforderungen

Hintergrund, Ziele, Rahmenbedingungen und Umsetzungsmöglichkeiten in KMU.

Handreichung 4 – Gestaltungsempfehlungen für menschenzentrierte KI-Systeme

Relevante Gestaltungsaspekte, Bedeutung eines menschenzentrierten Entwicklungsprozesses, Empfehlungen für KI und umgebende Prozesse.

Handreichung 5 – Digitalisierung oder schon KI?

Unterschiede zwischen Digitalisierungs- und KI-Projekten, das menschenzentrierte Digitalisierungsprojekt, häufige Fehlerquellen.

Handreichung 6 – Mensch-Maschine-Schnittstellen: Intelligente Technik verständlich gestalten

Interaktionstypen, Nutzerakzeptanz und Gestaltung von vertrauenswürdigen Schnittstellen.

Handreichung 7 – Neue Beteiligungsformen bei der KI-Einführung

Entscheidungsebenen im Unternehmen, Top-down-Prozesse und partizipative Technikentwicklung.

Handreichung 8 – Humane Gestaltung von Arbeit mit KI

Ethikleitlinien der EU, Kriterien für „gute“ Arbeitsgestaltung, das TAI-Modell.

Handreichung 9 – Wie Unternehmen konkret mit KI starten können

Prozessgestaltung, Erfahrungen aus Workshops, Best- und Worst-Case-Szenarien.

In diesem ersten Teil des Blogbeitrags widmen wir uns ausführlich den Handreichungen 1 bis 5. Die Handreichungen 6 bis 9 folgen im zweiten Teil.

Was ist KI und wo sind ihre Grenzen?

KI ist ein System, das selbständig lernen und sogar Entscheidungen treffen kann. Sie unterscheidet sich von der Automatisierung, bei der vordefinierte Aufgaben mithilfe von Algorithmen ausgeführt werden.

Es gibt zwei Hauptarten von KI:

  • Narrow AI ist ein sehr ähnlicher Prozess wie die einfache Automatisierung. Sie ist in der Lage, bestimmte Aufgaben auszuführen. Sie ist in der Wirtschaft bereits weit verbreitet.
  • Bei der General AI handelt es sich um eine hypothetische Technologie, die es heute noch nicht gibt und die wie ein Mensch denken könnte: den Kontext verstehen, Schlussfolgerungen ziehen und ein Bewusstsein haben.

Viele Unternehmen wissen, dass die Einführung Künstlicher Intelligenz der nächste notwendige Schritt in der technologischen Entwicklung ist. Bevor jedoch in KI investiert wird, ist es wichtig, den digitalen Reifegrad eines Unternehmens zu beurteilen. In vielen Fällen lohnt es sich, die grundlegenden Stufen der Digitalisierung abzuschließen, bevor man zur KI-Implementierung übergeht.

Aber woher wissen Unternehmen, was sie brauchen? KI oder Digitalisierung? KI ist am effektivsten bei Aufgaben, die die Analyse großer Datenmengen, die Suche nach Mustern und die Erstellung von Vorhersagen erfordern. Zum Beispiel bei der Wartung, bei Finanztransaktionen, bei der Chatbot-Automatisierung und bei der Bild- und Texterkennung.  In vielen anderen Fällen reichen jedoch Schritte zur Digitalisierung aus: Umwandlung von papierbasierten Prozessen in ein elektronisches Format, Automatisierung von Routinevorgängen ohne Einsatz von maschinellem Lernen usw.

Zum besseren Verständnis wurde in der Studie der Unterschied zwischen künstlicher Intelligenz und Digitalisierung erläutert:

Digitalisierung ist die Umwandlung bestehender Prozesse in ein digitales Format, zum Beispiel:

  • Einsatz von CRM-Systemen für das Kundenmanagement.
  • Automatisierung des Dokumentenflusses.
  • Einführung von elektronischer Buchhaltung und digitalen Archiven.

Künstliche Intelligenz ist die nächste Stufe, wenn das System Daten analysieren und selbständig Entscheidungen treffen kann. Zum Beispiel:

  • Chatbots, die mit Kunden kommunizieren und aus deren Antworten lernen.
  • Umsatzprognosen auf der Grundlage historischer Daten.
  • Betrugserkennung bei Finanztransaktionen.

Um die KI-Implementierung effektiv zu gestalten, sollten Unternehmen die folgenden Aspekte beachten:

  • Aktueller Stand der Digitalisierung.
  • Chancen der KI – Beurteilung, was KI der jeweiligen Branche leisten kann und was nicht.
  • Datenvolumen – KI arbeitet mit einer großen Menge strukturierter Daten.
  • Qualifikation der Arbeitskräfte – KI-Systeme erfordern Datenwissenschaftler, Ingenieure und IT-Experten.
  • Tatsächlicher Nutzen von KI – KI ist nicht nur ein Trend, sondern eine Möglichkeit, die Effizienz zu steigern und die Prozesse in einem Unternehmen zu optimieren. Viele Unternehmen, die sich in einem bestimmten Entwicklungsstadium befinden, benötigen solche fortschrittlichen Technologien jedoch nicht, so dass es möglicherweise besser ist, zunächst in die Digitalisierung zu investieren.

Besonderheiten der KI-Einführung in kleinen und mittleren Unternehmen (KMU)

Für KMU ist die Einführung von KI eine komplexe Frage, denn angesichts der begrenzten Ressourcen muss klar unterschieden werden zwischen Bereichen, in denen KI eingesetzt werden sollte, und solchen, in denen Maßnahmen zur digitalen Transformation ausreichen.

Die wichtigsten Bereiche, in denen der Einsatz von KI für KMU als am sinnvollsten erachtet wird, sind:

  • Prozessautomatisierung und intelligente Assistenten
  • Intelligente Sensorsysteme
  • Wissensmanagement-Systeme

Allerdings sollte KI den Menschen nicht ersetzen. Die besten Ergebnisse werden erzielt, wenn KI-Systeme mit Menschen zusammenarbeiten und deren Fähigkeiten ergänzen. So werden beispielsweise in der Medizin die besten Ergebnisse erzielt, wenn menschliches Fachwissen mit den analytischen Fähigkeiten der KI kombiniert wird.

Was ist das MTO-Modell?

Um Künstliche Intelligenz erfolgreich einzusetzen, ist eine klar definierte Strategie wichtig. Einer der wichtigsten Ansätze, die es zu berücksichtigen gilt, ist das MTO-Modell – Mensch, Technologie, Organisation.

1. Der menschliche Faktor und die Rolle der Mitarbeiter:innen: Es ist sehr wichtig, die menschliche Autonomie in Unternehmen zu bewahren, d. h., wichtige Entscheidungen im Unternehmen sollten von Menschen getroffen werden, insbesondere bei kritischen oder ethischen Aspekten.

2. Technologische Aspekte: Es ist notwendig, den Umfang der von der Künstlichen Intelligenz zu erfüllenden Aufgaben klar zu definieren und eine erklärbare KI zu entwickeln, d. h. die Systeme sollten für die Endnutzer transparent und hinreichend verständlich sein, um Fehler zu vermeiden, sie zu kontrollieren und zu korrigieren.

3. Organisatorische Aspekte: Die Durchführung einer Analyse der Auswirkungen von KI auf das Unternehmen und die Überprüfung der Einhaltung ethischer Standards sind von entscheidender Bedeutung, um mögliche negative Folgen für die Mitarbeiter zu minimieren. Darüber hinaus kann KI Änderungen in der Organisationsstruktur und der Entscheidungsfindung erfordern, so dass Mitarbeiter:innen flexibel und bereit für Änderungen sein sollten.

Wie lassen sich häufige Fehler bei der Einführung von KI vermeiden?

  • Den menschlichen Faktor nicht außer Acht lassen – die Mitarbeiter:innen sollten neue Technologien verstehen und akzeptieren.
  • KI nicht nur um der KI willen einführen – bevor Unternehmen damit beginnen, sollten sie sicherstellen, dass es sich um eine wirklich notwendige Lösung und nicht nur um einen Trend handelt.
  • Für ethische Verantwortung sorgen – Algorithmen sollten ehrlich, transparent und erklärbar sein.

Im ersten Teil dieses Beitrags wurde ein Überblick über die ersten fünf Handreichungen gegeben, in denen grundlegende Themen rund um Künstliche Intelligenz ausführlich behandelt wurden. Im Fokus der Untersuchung stehen dabei der Begriff der KI, dessen Notwendigkeit für Unternehmen und eine darauf abgestimmte Strategie für die Einführung.

Damit schließen die praktischen Hinweise jedoch noch nicht. Im zweiten Teil des Artikels werden die nächsten vier Handreichungen (6–9) behandelt, die sich mit noch tiefergehenden Fragen beschäftigen.