Strategie & Management

KI – Chancen und Risiken

Künstliche Intelligenz im Zwiespalt der Interessen

24.01.2024 - Generative KI ist ein mächtiges Werkzeug, das in repetitiven als auch in kreativen Prozessen unterstützen kann – aber auch Schaden verursachen und Unheil anrichten kann.

Sie hat viele kreative Ideen zur Veränderung der Wirtschaft und der Welt angeregt – teilweise mit überzeugenden und beeindruckenden Ergebnissen. Es entstehen jedoch ebenso Texte und Bilder, die unrichtig und unrealistisch sind – man spricht vom Halluzinieren – oder Personen verletzen. Die Auseinandersetzung mit KI ist eine wichtige Aufgabe im Jahr 2024.

Seit seiner Einführung durch OpenAI am 30. November 2022 hat sich ChatGPT als Vorreiter der generativen künstlichen Intelligenz (KI) – mit der neue Inhalte wie Text, Bilder, Musik, Audio und Videos erstellt werden – erfolgreich im Alltag und in der Arbeitswelt etabliert. Generative KI kann Studienarbeiten, Gedichte oder Rezepte schreiben und auch zum Chatbot werden, um Information oder Desinformation zu verbreiten – eine Gefahr, auf die das Weltwirtschaftsforum in seinem „The Global Risks Report 2024“ ausdrücklich hinweist. Dass da der Gesetzgeber verpflichtet ist, Richtlinien zu erlassen, um Gutes zu fördern und Böses zu verhindern, ist evident. Und genau so klar ist, dass er es damit nicht allen Seiten mit ihren subjektiv berechtigten Inte­ressen recht machen kann.

 

Iris Ploeger   Iris Plöger, BDI, Mitglied der Hauptgeschäftsführung

„Mit dem AI-Act droht Europa bei einer zentralen Schlüsseltechnologie ins Hintertreffen zu geraten.“

 

Bericht des Weltwirtschaftsforums 2024

KI-generierte Fehlinformation und Desinformation sind der neue Spitzenreiter in der Rangliste der Risiken, die das Weltwirtschaftsforum in seinem im Januar 2024 erschienenen „The Global Risks Report 2024“ aufweist. Viele Länder kämpfen immer noch darum, verlorene Jahre des Fortschritts, der durch die Covid-19-Pandemie entstanden ist, wiederzugewinnen, was einen fruchtbaren Boden für Fehlinformationen und Desinformationen schafft, die sich durchsetzen und Gemeinschaften, Gesellschaften und Länder polarisieren.

Ein wachsendes Misstrauen gegenüber Informationen sowie gegenüber Medien und Regierungen als Informationsquellen wird polarisierte Ansichten vertiefen – ein Teufelskreis, der Unruhen und möglicherweise Konfrontationen auslösen oder die Wahlprozesse in mehreren Volkswirtschaften radikal stören könnte. Gleichzeitig besteht die Gefahr der Unterdrückung und der Aushöhlung von Rechten, da die Behörden versuchen, die Verbreitung falscher Informationen einzudämmen – sowie Risiken, die sich aus Untätigkeit ergeben.

Das disruptive Potenzial manipulierter Informationen wächst rapide. Der offene Zugang zu immer ausgefeilteren Technologien nimmt zu. In den nächsten zwei Jahren wird eine Vielzahl von Akteuren vom Boom synthetischer Inhalte profitieren und gesellschaftliche Spaltungen, ideologische Gewalt und politische Unterdrückung verstärken. Da keine Nischenkenntnisse mehr erforderlich sind, haben benutzerfreundliche Schnittstellen zu groß angelegten Modellen der KI bereits zu einer explosionsartigen Zunahme gefälschter Informationen und sog. „synthetischer“ Inhalte geführt, von raffiniertem Voice-Cloning bis hin zu gefälschten Websites.

Um den wachsenden Risiken entgegenzuwirken, beginnen Regierungen mit der Einführung neuer und sich weiterentwickelnder Vorschriften, die sich sowohl an Hosts als auch an Ersteller von Online-Desinformation und illegalen Inhalten richten. Die aufkommende Regulierung der generativen KI wird diese Bemühungen wahrscheinlich ergänzen. Beispielsweise können Anforderungen in China, KI-generierte Inhalte mit einem Wasserzeichen zu versehen, dazu beitragen, falsche Informationen zu erkennen, einschließlich unbeabsichtigter Fehlinformationen durch KI-halluzinierte Inhalte. Im Allgemeinen ist es jedoch unwahrscheinlich, dass Geschwindigkeit und Wirksamkeit der Regulierung mit dem Tempo der Entwicklung mithalten können. Synthetische Inhalte werden in den nächsten zwei Jahren auf vielfältige Weise Einzelpersonen manipulieren, Börsenmanipulation ermöglichen, Volkswirtschaften schädigen und Gesellschaften spalten.

Es besteht die Gefahr, dass einige Regierungen zu langsam handeln und sich einem Kompromiss zwischen der Verhinderung von Fehlinformationen und dem Schutz der freien Meinungsäußerung gegenübersehen, während repressive Regierungen eine stärkere regulatorische Kontrolle nutzen könnten, Menschenrechte auszuhöhlen.

 

Gunther Kegel   Gunther Kegel, CEO, Pepperl+Fuchs und Präsident des ZVEI

„Die Anlagenverfügbarkeit kann durch Algorithmen der KI noch einmal erhöht werden.“

 

Artificial Intelligence Act der EU

Im Dezember 2023 hat sich die Europäische Union (EU) auf Regeln für die Nutzung von KI verständigt – weltweit die ersten Regeln für KI. Da verwundert es nicht, dass Kritik von zwei Seiten kommt: Die einen halten die Regeln für zu streng, die anderen für zu lasch.
Mit dem Artificial Intelligence Act (AIA) hat die EU-Kommission im Rahmen der EU-Digitalstrategie ein Gesetz über KI veröffentlicht, das konkrete Vorschläge zur Regelung im Umgang mit KI in Forschung und Wirtschaft enthält. Betroffen davon sind:

  • Anbieter, die KI-Systeme in der Union in Verkehr bringen oder in Betrieb nehmen. Gemeint sind damit alle juristischen Personen, Behörden, Einrichtungen oder sonstige Stellen, die ein KI-System entwickeln oder entwickeln lassen.
  • Nutzer von KI-Systemen, die sich in der Union befinden. Das umfasst auch natürliche und somit Privatpersonen. Auch wenn die genannten Akteure in einem Drittland niedergelassen oder ansässig sind, finden die Regularien Anwendung, sobald die KI in der Union eingesetzt wird.

Der AIA teilt die Anwendungen der KI in Kategorien ein, die sich nach dem potenziellen Risiko richten, das mit dem Einsatzbereich der KI einhergeht:

  • Unannehmbares Risiko
  • Hohes Risiko
  • Geringes oder minimales Risiko

KI-Anwendungen der unannehmbarem Risikogruppe sind untersagt. Hierzu zählen Anwendungen, die menschliches Verhalten manipulieren und Menschen schaden könnten.

 

E. Schlothen   Elisabeth Schloten, Geschäftsführerin, Kiotera

„KI ist ein unumgängliches Thema für Industrieunternehmen in 2024“.

 

Wenn ein System als Hochrisiko-­KI-System eingestuft wird, resultieren konkrete Pflichten für die betroffenen Akteure wie z.B. die Einrichtung, Dokumentation und Aufrechthaltung eines Risikomanagementsystems und das Einhalten von Daten-Governance- und Datenverwaltungsverfahren für die zu verwendenden Trainings-, Validierungs- und Testdatensätze.

Für KI-Systeme, die ein geringes oder minimales Risiko bergen (darunter fallen Spamfilter, Videospiele, Suchalgorithmen, Deep Fakes oder Chatbots) gilt nur eine minimale Transparenz- und Informationspflicht über den Einsatz selbst oder darüber, dass die dargestellten Inhalte manipuliert und nicht echt sind. Hierbei kann kritisiert werden, dass der Entwurf das Gefahrenpotenzial solcher KI unterschätzt.

Gegenteilige Befürchtungen äußert Iris Plöger, Mitglied der Hauptgeschäftsführung des Bundesverbandes der Deutschen Industrie (BDI): „Mit dem AI-Act droht Europa bei einer zentralen Schlüsseltechnologie ins Hintertreffen zu geraten. Der Kompromiss bremst unseren Wirtschaftsstandort bei der KI-gestützten Transformation, die gerade für die Bewältigung von Fachkräftemangel und Energiewende dringend gebraucht wird, aus.“

 

Roland Busch   Roland Busch, CEO, Siemens

„KI beschleunigt Innovationen und hilft Unternehmen, den Fachkräftemangel zu bewältigen

 

KI-Anwendungen in der Industrie

Wenn wir den B2B-Bereich betrachten, sind die berechtigten (europäischen) Ängste vor Missbrauch und Unkontrollierbarkeit von KI nicht wirklich relevant. Digitalisierung und KI werden die holistische Betrachtungsweise industrieller Abläufe ermöglichen und vereinfachen und so zu ökonomischeren und auch ökologischeren Prozessen führen. „KI ist für unsere Ingenieure und Produkt- und Verfahrensentwickler ein gigantischer neuer Werkzeugkoffer, der leicht anzuwenden und mit überschaubaren Investitionskosten zu haben ist,“ betont Gunther Kegel, Präsident des ZVEI und CEO von Pepperl+Fuchs. „KI wird uns helfen, den Betrieb, die Wartung und Instandhaltung von Prozess­anlagen deutlich effizienter und damit weniger personalintensiv zu betreiben. Die Anlagenverfügbarkeit kann durch Algorithmen der KI noch einmal erhöht werden. Im Bereich komplexer Prozesse – z.B. der Bioprozesse in der Pharmaherstellung – kann KI helfen, diese zu modellieren und Regelstrategien zu entwickeln. Wenn wir die ersten sind, die KI in industriellen Prozessen erfolgreich nutzen, kann das auch wieder zu einem Innovationsvorsprung auf dem Shopfloor führen.“

Ähnlich optimistisch blickt Elisabeth Schloten, Geschäftsführerin von Kiotera, in die nähere Zukunft: „Im Jahr 2024 wird die Nutzung von KI in der Automatisierung und Instandhaltung dramatisch ansteigen, wodurch wir erheblich Ressourcen und CO2 einsparen können. Das liegt vor allem an zwei Trends: Der erste ist eine Standardisierung der Anwendungen, wodurch ihr Einsatz kostengünstiger wird. Der zweite sind Tools wie ChatGPT, die einerseits das Thema allgemein bekannter, andererseits aber auch viel leichter zugänglich machen. KI ist ein unumgängliches Thema für Industrieunternehmen in 2024.“

Damit industrielle Anwender das generative KI-Modell auswählen können, das am besten zu ihrem spezifischen Anwendungsfall passt, und es schnell und sicher in Software-Anwendungen zu integrieren ist, bauen Siemens und Amazon Web Services (AWS) ihre Partnerschaft aus und vereinfachen es für Unternehmen jeder Größe und Branche, ihre Software-Anwendungen mit Hilfe von generativer KI zu erstellen und zu skalieren. „Wir integrieren Amazon Bedrock in unsere Low-Code-Plattform und demokratisieren damit generative KI: Wir ermöglichen es allen unseren Kunden, genau die Anwendungen zu erzeugen, die sie brauchen, um wettbewerbsfähiger, widerstandsfähiger und nachhaltiger zu werden“, sagt Roland Busch, CEO von Siemens. „Smarte Apps ohne Programmierkenntnisse erstellen zu können, beschleunigt Innovationen und hilft Unternehmen, den Fachkräftemangel zu bewältigen.“

 

Volker Oestreich   Volker Oestreich, CHEManager

„Nur durch aktive Beschäftigung mit den Themen der KI können wir Souveränität behalten und gewinnen.“

 

Ausblick

KI wird unser privates und berufliches Leben mehr und mehr beeinflussen und bestimmen. Wie, das hängt jetzt (noch) von uns ab. Nur durch aktive Beschäftigung mit den Themen der KI können wir Souveränität behalten und gewinnen. Wir müssen jetzt Entscheidungen treffen, um die Zukunft zu bestimmen und nicht uns durch die Zukunft fremdbestimmen zu lassen. In den Unternehmen sollte bei der KI-Debatte ein Perspektivwechsel vollzogen werden, weg von einer primär technologischen hin zu einer (unternehmens-)strategischen Sichtweise. Wenn man sich dem Thema „Nutzung der KI in unserer Organisation“ so nähert, wird es gelingen, erfolgreich neue Verfahren und Technologien bzw. Problem­lösungen im Unternehmen zu implementieren und dieses fit für die Zukunft zu machen.

Autor: Volker Oestreich, CHEManager

Downloads

Wasserstoff für die Prozessindustrie

News & Hintergrundberichte

CITplus Insight

Aktuelle Themen aus der Prozess- und Verfahrensindustrie

Registrieren Sie sich hier

CHEMonitor

Meinungsbarometer für die Chemieindustrie

> CHEMonitor - Alle Ausgaben

Social Media

LinkedIn | X (Twitter) | Xing

Wasserstoff für die Prozessindustrie

News & Hintergrundberichte

CITplus Insight

Aktuelle Themen aus der Prozess- und Verfahrensindustrie

Registrieren Sie sich hier

CHEMonitor

Meinungsbarometer für die Chemieindustrie

> CHEMonitor - Alle Ausgaben

Social Media

LinkedIn | X (Twitter) | Xing