Generative KI: Chancen ohne Risiken?
Das Thema generative KI (GenAI) ist derzeit in aller Munde. Täglich werden neue Anwendungsmöglichkeiten vorgestellt und diskutiert und fast jeder Softwareanbieter – egal aus welcher Branche – wirbt mit entsprechenden „intelligenten“ Features.
Die weite Verbreitung der generativen KI ist zunächst einmal auf ihre bemerkenswerte Fähigkeit zurückzuführen, die Effizienz und Kreativität in verschiedenen Bereichen zu steigern. Sowohl Privatpersonen als auch Unternehmen profitieren von GenAI, da sie beispielsweise in der Lage ist, sich wiederholende Aufgaben zu automatisieren, hochwertige Inhalte (Text, Audio, Bild, Video, etc.) zu generieren und aufschlussreiche Datenanalysen zu erstellen.
Darüber hinaus trägt die einfache Zugänglichkeit und die Benutzerfreundlichkeit von GenAI-Plattformen zur Beliebtheit und Verbreitung bei, da es dadurch auch Personen ohne technisches Fachwissen ermöglicht wird, GenAI problemlos zu nutzen.
Die rasche Ausbreitung der generativen KI (GenAI) hat zahlreiche Branchen und den Alltag grundlegend verändert, indem sie die Erstellung hochentwickelter Inhalte und die Automatisierung komplexer Prozesse ermöglicht. Fachleute in kreativen Bereichen wie Schreiben, Design und Musik nutzen GenAI-Tools, um Ideen zu sammeln, Inhalte zu entwerfen und Kunstwerke zu erstellen, was ihre Arbeitsabläufe erheblich beschleunigt und ihren kreativen Horizont erweitert (Vgl. Adobe Firefly – Eine neue Dimension der generativen KI). Im Marketing können GenAI-Tools maßgeschneiderte Werbung und personalisierte Kundeninteraktionen generieren und so das Engagement und die Konversionsraten erheblich steigern. Im Bereich Kundenservice können Chatbots mit GenAI Anfragen mit bemerkenswerter Genauigkeit und Empathie bearbeiten, was die Kundenzufriedenheit erhöht und die Betriebskosten senkt (Vgl. Marketingpower der generativen künstlichen Intelligenz).
Darüber hinaus hat die fortlaufende Integration von GenAI in alltägliche Anwendungen dazu geführt, dass sie sowohl für den privaten als auch für den persönlichen Gebrauch im Beruf immer weniger entbehrlich wird. Die Kombination aus praktischer Anwendbarkeit, Zugänglichkeit und kontinuierlicher Verbesserung macht GenAI zu einem allgegenwärtigen Werkzeug in der modernen Gesellschaft und sorgt für eine breite Akzeptanz und Integration in verschiedene Aspekte des täglichen Lebens.
Ganz offensichtlich bietet die GenAI große Chancen und Möglichkeiten, sie birgt aber auch zweifellos einige nicht zu unterschätzende Risiken und wirft auch ethische und gesellschaftliche Fragen auf, wie z. B. das Potenzial für die Verdrängung von Arbeitsplätzen, Fragen des Datenschutzes und des Urheberrechts oder aber die Verbreitung von Fehlinformationen durch Deepfakes.
Potenzielle Risiken bei der Nutzung von GenAI in Unternehmen
Wie bereits angedeutet, birgt die Nutzung von GenAI bei näherer Betrachtung auch erhebliche Risiken und Gefahren. Diese Probleme betreffen vor allem den Einsatz von GenAI in Unternehmen, wo die unbedarfte Nutzung von GenAI-Lösungen geradezu verheerende Folgen nach sich ziehen kann. Im Folgenden sollen deshalb einige potenziellen Bedrohungen für Unternehmen einer genaueren Betrachtung unterzogen werden.
1. Urheberrechtsverletzungen
Der Einsatz generativer KI in Unternehmen birgt erhebliche urheberrechtliche Risiken. KI-Modelle stützen sich beim Training auf umfangreiche Datensätze, die urheberrechtlich geschütztes Material enthalten können. Wenn die Trainingsdaten urheberrechtlich geschützte Inhalte ohne entsprechende Genehmigung enthalten, könnten die daraus resultierenden KI-Ergebnisse die Rechte an geistigem Eigentum verletzen und das Unternehmen, welches die KI-Ergebnisse nutzt, rechtlichen Verpflichtungen aussetzen. So haben beispielsweise mehrere Plattenfirmen (Sony, Universal und Warner) kürzlich die KI-Songgeneratoren Suno und Udio wegen Urheberrechtsverletzung verklagt.
Darüber hinaus kann generative KI versehentlich Ergebnisse, bspw. Bilder, erzeugen, welche bestehenden urheberrechtlich geschützten Werken sehr ähnlich sind, was zu potenziellen Klagen wegen Urheberrechtsverletzung führen kann. Erschwerend kommt für Unternehmen in den USA hinzu, dass das US-Urheberrechtsamt kürzlich erneut entschieden hat, dass durch künstliche Intelligenz geschaffene Kunstwerke nicht urheberrechtlich geschützt sind, und damit seine Praxis bestätigt, durch KI erzeugte Kunst nicht als urheberrechtlich geschütztes Werk zu registrieren. Diese Punkte sind besonders in Bereichen der Content Creation, und in der Werbe- bzw. Medienbranche bedenklich, wo Originalität und Lizenzrechte entscheidend sind.
Strategien zur Risikominderung
- Die zentrale Frage bezüglich möglicher Urheberrechtsverletzungen ist, mit welche Trainingsdaten das verwendete GenAI-Modell trainiert wurde. Kann sichergestellt werden, dass die Trainingsdaten kein urheberrechtlich geschütztes Material (Texte, Bilder, Audio, etc.) enthalten haben? Nach unserem derzeitigen Wissensstand ist die Firma Adobe mit ihrem Produkt Firefly der einzige Anbieter, der im Bereich KI-Bildgenerierung als kommerziell sicher gilt, da die entsprechenden Modelle ausschließlich mit Adobe Stock-Bildern und frei lizenzierten Werken trainiert wurden. Adobe gibt seinen Unternehmenskunden sogar eine Haftungsfreistellung für IP-Rechtsverletzungen. Darüber hinaus ist es bei Adobe möglich benutzerdefinierte Modelle (Custom Models) mit den eigenen Unternehmensdaten zu trainieren.
- Einführung strenger Data-Governance-Richtlinien für das Training eigener Modelle.
- Etablierung festgelegter Überprüfungs- und Freigabeprozesse auf rechtlicher und inhaltlicher Ebene für KI-generierte Assets.
Ben Derico von „BBC Click“ verdeutlicht in diesem Beitrag, welche Bedrohung die generative KI für Künstler darstellen kann.
2. Verlust von Reputation
Der Einsatz von generativer KI in Unternehmen birgt ein erhebliches Risiko der Rufschädigung. Wenn ein KI-System voreingenommene, beleidigende oder ungenaue Inhalte produziert, kann es den Ruf und die Marke eines Unternehmens empfindlich schädigen und das öffentliche Vertrauen in das Unternehmen untergraben.
Ein generatives KI-Modell, das im Kundenservice eingesetzt wird, bspw. ein Chatbot, könnte beispielsweise unangemessene oder unsensible Antworten erzeugen, was zu Ablehnungsreaktionen der Kunden und zu negativer Publicity führen würde. Hier sei das Beispiel des KI-Chatbots des Paketzustellers DPD erwähnt, der im Chat mit einem Kunden begonnen hatte zu fluchen und das eigene Unternehmen zu kritisieren.
Ähnlich verhält es sich, wenn ein KI-System Fehlinformationen verbreitet oder Deepfakes erstellt, so dass das Unternehmen als unverantwortlich oder unethisch angesehen werden könnte. Darüber hinaus kann jeder wahrgenommene Mangel an Transparenz oder Verantwortlichkeit in KI-Entscheidungsprozessen die Glaubwürdigkeit eines Unternehmens weiter beschädigen.
Strategien zur Risikominderung
- Etablierung festgelegter Überprüfungs- und Freigabeprozesse auf rechtlicher, inhaltlicher und ethischer Ebene.
- Gewährleistung strenger Testverfahren und kontinuierlicher Überwachung.
Parcel delivery firm DPD have replaced their customer service chat with an AI robot thing. It’s utterly useless at answering any queries, and when asked, it happily produced a poem about how terrible they are as a company. It also swore at me. 😂 pic.twitter.com/vjWlrIP3wn
— Ashley Beauchamp (@ashbeauchamp) January 18, 2024
Tweet von Ashley Beauchamp über das unerwartete Verhalten des DPD Chatbots.
3. Verlust von Know-how
Die Integration von generativer KI in Unternehmen birgt das Risiko, dass auf Dauer wichtiges Know-how und Fachwissen verloren geht. Da KI-Systeme Aufgaben und Prozesse automatisieren, besteht die Gefahr, dass sich menschliche Mitarbeiter zu sehr auf diese Technologien verlassen, was zu einer allmählichen Erosion wesentlicher Fähigkeiten und institutionellen Wissens führt. Diese Abhängigkeit kann sich besonders in komplexen Problemlösungsszenarien als nachteilig erweisen, in denen menschliche Intuition und Erfahrung entscheidend sind. Darüber hinaus verbergen KI-Modelle in aller Regel die ihnen zugrundeliegenden Mechanismen und Entscheidungsprozesse (Blackbox), so dass es für die Mitarbeiter schwierig ist, die Arbeitsweise der KI zu verstehen und daraus zu lernen.
Strategien zur Risikominderung
- kontinuierliche Investition in Schulungs- und Trainingsprogramme.
- Einen ausgewogenen Ansatz für die Zusammenarbeit von KI und Menschen sicherstellen.
- Eine umfassende Dokumentation über alle unternehmensintern genutzten KI-Systeme und deren Funktionen führen und pflegen.
Zusammenfassung und Schlussfolgerung
Generative KI (GenAI) hat sich in kürzester Zeit zu einer zentralen Technologie entwickelt, die zunehmend ganze Branchen durch die Steigerung von Effizienz und der automatischen Generierung hochwertiger Inhalte (Texte, Bilder, Videos, etc.) verändert. Aber auch das alltägliche Leben wird durch die vermehrte private Nutzung von GenAI-Anwendungen immer mehr beeinflusst.
Die Einsatzmöglichkeiten der generativen KI sind annähernd unüberschaubar und bergen für Unternehmen zweifellos enorme Einsparungs- bzw. Umsatzpotentiale. Bei aller vorherrschenden Euphorie sollten jedoch auch unbedingt die mit dem Einsatz von GenAI-Anwendungen verbundenen Risiken für Unternehmen in Betracht gezogen werden. Diese Risiken betreffen im Wesentlichen drei Bereiche:
1) Das Risiko einer Urheberrechtsverletzung
Generative KI-Ergebnisse (Texte, Bilder, Audio, etc.) können die Rechte an geistigem Eigentum verletzen, falls die Trainingsdaten auf urheberrechtlich geschützten Inhalten basieren. Außerdem kann generative KI versehentlich Ergebnisse erzeugen, welche bereits urheberrechtlich geschützten Werken sehr ähnlich sind. Beide Punkte könnten zu Klagen wegen Urheberrechtsverletzung führen.
2) Das Risiko des Reputationsverlustes
Falls ein KI-System voreingenommene, beleidigende oder fälschliche Inhalte produziert, kann dies den Ruf eines Unternehmens erheblich schädigen und das öffentliche Vertrauen in das Unternehmen untergraben. Ein solcher Schaden ist dann – wenn überhaupt – nur mit immensem Aufwand zu beheben.
3) Risiko des Verlustes von Know-how
Bei kontinuierlicher Nutzung von KI-Systemen zur Automatisierung von Prozessen kommt es zu Abhängigkeiten und dem Verlust von Fachwissen bei den betreffenden Mitarbeitern. Ein Ausfall der Systeme kann dann zu einem langfristigen Stillstand der entsprechenden Prozesse führen.
Zur Mitigation der oben beschriebenen GenAI-Risiken sollten Unternehmen einige grundlegende Vorgehensweisen beachten:
- Jeder geplante Einsatz von GenAI-Systemen sollte sehr kritisch auf die tatsächliche Sinnhaftigkeit hinterfragt werden. Es gilt außerdem zu klären, welche potenzielle Risiken der Einsatz von GenAI im vorliegenden Use Case birgt und welche konkreten Maßnahmen getroffen werden können, um das Risiko zu minimieren. Neben einer Kosten-Nutzen-Analyse sollte deshalb immer eine einsatzspezifische Chancen-Risiken-Analyse durchgeführt werden. Der unkontrollierte Einsatz von GenAI-Lösungen im Unternehmen sollte nachdrücklich unterbunden werden.
- Der Einsatz von GenAI erfordert in aller Regel zwingend festgelegte Prüf- und Freigabeprozesse, sowohl auf inhaltlicher als auch auf rechtlicher und ethischer Ebene. Die gilt insbesondere dann, wenn GenAI zur Generierung von Inhalten für die externe Unternehmenskommunikation verwendet wird.
- Für einen Einsatz im Unternehmen wäre es definitiv wichtig, die Funktionsweise einer GenAI-Anwendung zu verstehen und die zugrundeliegenden Trainingsdaten zu kennen. Während bei der Erstellung von Inhalten wie Bildern oder Texten urheberrechtliche Fragen im Vordergrund stehen, sollte man beim Einsatz von GenAI bei Entscheidungsfindungsprozessen im Ansatz verstehen können, auf welcher Basis entsprechende Ergebnisse vom System generiert werden. Der Umstand, dass viele Anbieter ihre GenAI-basierten Lösungen als Blackbox verkaufen, ist aus Unternehmenssicht dementsprechend wenig vertrauenserweckend. Unternehmer sollten deshalb vorab prüfen, welche Informationen der GenAI-Anbieter bezüglich Funktionsweise und Trainingsdaten zur Verfügung stellt. Außerdem muss eine Einschätzung hinsichtlich drohender Urheberrechtsverletzungen durchgeführt werden. Seriöse Anbieter, welche sich als kommerziell sicher bezeichnen, geben idealerweise eine Haftungsfreistellung für IP-Rechtsverletzungen.
Die Nutzung generativer KI bietet beeindruckende Möglichkeiten und Chancen – sowohl im privaten als auch im unternehmerischen Umfeld. Demgegenüber stehen jedoch auch einige erhebliche Probleme und Risiken, welche im Zuge der derzeit herrschenden Euphorie gerne in den Hintergrund gedrängt werden. Neben dem kriminellen Einsatz von generativer KI zur Erstellung von nahezu perfekten Mails für Phishing-Angriffe oder dem gezielten Erstellen und Verbreiten von Fehlinformationen durch Deepfakes, wirft die GenAI-Nutzung auch ethische und soziale Fragen auf. Dazu gehört beispielsweise die mögliche Verdrängung von Arbeitsplätzen durch Automatisierung oder die Diskriminierung aufgrund voreingenommener Trainingsdaten. Vor allem beim Einsatz von GenAI-Systemen in Unternehmen sollten sich die Verantwortlichen im Vorfeld Gedanken über potenzielle Risiken machen und sich entsprechend vorbereiten. Andernfalls drohen Klagen wegen Urheberrechtsverletzungen, Reputationsverlust oder der empfindliche Verlust von Mitarbeiter Know-how.
