Podcast-Reihe zur künstlichen Intelligenz (KI)

Hallo und herzlich willkommen beim DNV-Podcast zum Thema „KI-Governance“.

Wir, also DNV, sind ein weltweit führender unabhängiger Anbieter für Managementsystem-Zertifizierungen und dazu passenden Trainings.

Mein Name ist Dirk Vallbracht und ich bin Business Development sowie Training Manager und zuständig für den deutschsprachigen Raum.

In den nächsten drei Episoden unserer Podcasts geht es um das Thema Künstliche Intelligenz.

Ich erläutere wichtige Themen für Unternehmen, die Künstliche Intelligenz einsetzen oder anbieten. Es wird in den Beiträgen darum gehen, wie KI-Governance eine sichere, zuverlässige und ethische Nutzung der Technologie ermöglicht.

Das Thema Künstliche Intelligenz oder abgekürzt KI wird aktuell überall und auf den unterschiedlichsten Ebenen von Unternehmen diskutiert. Viele Unternehmen haben bereits KI in ihren Prozessen etabliert, andere beginnen grade damit. Das Thema ist also hoch aktuell.

In diesem Beitrag geht es um die Chancen und Risiken von KI.  

Die KI entwickelt sich rasant weiter. Und es wichtig, sich darüber im Klaren zu sein, worauf man beim Einsatz dieser Technologie achten muss, um Chancen zu nutzen und Risiken zu vermeiden.

Wie alles hat auch jede neue Technologie zwei Seiten. Auf der einen Seite die Chancen und auf der anderen Seite die Risiken. Logischerweise ist es notwendig ein Verständnis für beide Seiten zu bekommen.

Also,

• das, was bei der Nutzung von KI schiefgehen kann,
• wie wir von KI profitieren können,
• und schließlich welche Vorkehrungen getroffen werden müssen, damit wir sicher von der Nutzung von KI profitieren können.

Schauen wir uns zunächst einige Vorteile des Einsatzes von Künstlicher Intelligenz an. Hier stehen Effizienz und Produktivität eindeutig im Vordergrund. Es ist bekannt, dass KI Aufgaben, die immer und immer wieder erledigt werden, automatisieren kann. Dadurch wird mehr Zeit für anspruchsvollere oder kreativere Tätigkeiten frei. Dies steigert die Produktivität in verschiedenen Branchen und im täglichen Geschäftsbetrieb.

Ich persönlich habe zum Beispiel den Vorteil von verschieden großen Sprachmodellen und anderen KI-Tools schätzen gelernt und für meine Arbeit schon die verschiedensten Möglichkeiten gefunden, diese effizienter und mit höherer Qualität durchzuführen. Sei es beim Zusammenfassen von Dokumenten, der Übersetzung von Texten – nur mal als zwei Beispiele hier erwähnt.

Ein anderer Vorteil sind Innovationen.

Ein Beispiel für Innovationen ist die Nutzung von KI-Algorithmen zur Analyse medizinischer Daten. Hier werden durch den Einsatz von KI Diagnosen vereinfacht und Behandlungspläne optimiert.

Eine große Chance liegt in der Fähigkeit von KI der schnellen Datenanalyse. Der Einsatz von KI insbesondere mit sehr großen Datenmengen kann in Echtzeit Einblicke für bessere Entscheidungen und strategische Planung liefern.

Betrachten wir nun einige Risiken beim Einsatz von KI. Zuallererst ist mangelnde Transparenz ein Problem.

Insbesondere bei Deep-Learning-Modellen, die immer komplexer werden. Wenn Menschen nicht verstehen können, wie ein KI-System zu seinen Ergebnissen kommt, führt dies zu einem gewissen Misstrauen der Anwender und damit zu einer Zurückhaltung bei der Einführung dieser Technologie. Das behindert den optimalen Einsatz.

Weitere Risiken betreffen den Datenschutz. KI-Modelle werden mit großen Mengen an Daten gefüttert. Wenn dieser Prozess auch im Hinblick auf die Nutzung von personenbezogenen Daten nicht gut organisiert ist, kann dies bei der Datenerfassung und -analyse zu Datenschutzverletzungen führen.

Auch lernen KI-Systeme oft während der Verwendung weiter und es werden die Eingaben und Ausgaben von Systemen gespeichert, daher entstehen auch hier datenschutzrechtliche Fragestellungen. Wenn z.B. durch die Auswertung von Benutzereingaben Rückschlüsse auf einzelne Personen möglich werden.

Ein sehr bedeutendes Risiko sind auch Bedrohungen der Sicherheit. Künstliche Intelligenz kann sowohl für positive als auch für negative Zwecke eingesetzt werden. Zum Beispiel kann sie böswillig zur Erstellung von Deepfakes oder zur Automatisierung von Cyberangriffen missbraucht werden. Am Ende stellt sich die Frage, ob der Einsatz von Künstliche Intelligenz ethisch erfolgt.

Der ethische Einsatz von KI bedeutet, dass künstliche Intelligenz verantwortungsvoll und transparent entwickelt und eingesetzt wird, um die Rechte und das Wohlergehen aller Menschen zu schützen und zu fördern.

Daher ist es von entscheidender Bedeutung, KI-Systeme mit moralischen und ethischen Werten auszustatten. Dies gilt insbesondere für solche Systeme, die weitreichende Entscheidungen treffen. Denn diese sind durchaus anfällig für Biases und Diskriminierung.

Mit Bias und Diskriminierung ist hier gemeint, dass künstliche Intelligenz Vorurteile oder Ungleichbehandlungen gegenüber bestimmten Gruppen oder Individuen aufweist oder verstärkt. Dies kann passieren, wenn KI-Systeme mit verzerrten Daten trainiert werden.

Wenn wir uns mit KI beschäftigen, geht es also immer um eine Abwägung von Risiken und Chancen. Aber natürlich ist es toll, dass KI zur Verfügung steht und das Leben erleichtern kann.

Doch was sind die nächsten Schritte?

Wie bereits erwähnt, streben Organisationen danach, KI schnell einzusetzen, um Innovationen voranzutreiben, Prozesse zu optimieren und sie in verschiedene Produkte oder Dienstleistungen zu integrieren. Auch muss man diese Entwicklung immer im Zusammenhang mit der Dynamik in der jeweiligen Branche bewerten.

Es gilt sicherzustellen, dass wir im Vergleich zu unseren direkten Mitbewerbern und dem Rest der Branche, gerade auch international, nicht ins Hintertreffen geraten.  Daher sind viele Organisationen dabei, ihre Strategien hinsichtlich KI zu definieren.

Ein zentrales Thema dabei ist die Governance von KI. Um KI vorteilhaft zu nutzen und Risiken zu minimieren, brauchen wir robuste Governance-Rahmenwerke, Transparenz und Fairness in KI-Systemen sowie kontinuierliches Lernen.

Und genau hier kommt die neue Norm für KI-Managementsysteme, die ISO/IEC 42001, ins Spiel.

Sie bietet eine Orientierungshilfe für die Integration von KI-Governance in Organisationen. Sie ist ein flexibles Regelwerk für Organisationen, die KI implementieren oder entwickeln wollen, und regt zum gründlichen Nachdenken an, bevor sie damit beginnen.

Wie immer bei Managementsystemen geht es darum die notwendigen Leitlinien festzulegen und umzusetzen. Hier für die Entwicklung und den Einsatz von KI. Verantwortlichkeiten und Prozesse müssen festgelegt werden. Risiken bewertet und mögliche Auswirkungen analysiert werden. Aus dieser Perspektive betrachtet ist der Standard daher von großer Bedeutung. Er bietet Ihnen eine Anleitung und eine Orientierungshilfe dafür, wie Sie das Thema KI Governance angehen können.

Überlegen Sie sich daher genau, welche Anwendungsfälle von KI für Ihre Organisation interessant sind und denken Sie gründlich nach, bevor Sie handeln.

Gehen wir als Organisation vielleicht einen Weg mit KI, der angesichts der potenziellen Auswirkungen und Risiken nicht wirklich klug ist? Was sind die wichtigsten Überlegungen, die wir im Hinterkopf behalten müssen.

Ich bezeichne diese Norm als ersten Schritt und fundamentale Orientierungshilfe. Die Governance ist ein entscheidender Punkt – die verschiedenen Prozesse, Richtlinien, Ziele und Menschen, die notwendig sind, um ein KI-Programm zu betreiben auf ein gemeinsames Ziel auszurichten.

So können wir alle Vorteile ausschöpfen und die Risiken vermeiden, die mit der Nutzung solch mächtiger Werkzeuge einhergehen.

Wenn Sie mehr darüber erfahren möchten, was ein KI-Managementsystem ist und wie Sie von den Vorteilen profitieren können, besuchen Sie unsere Webseite unter www.dnv.de/was-ist-kims. Dort finden Sie auch einen Link zu unserer aktuellen Viewpoint-Umfrage, die sich damit befasst, wie Unternehmen an KI herangehen und wie weit sie bereits damit fortgeschritten sind.

Vielen Dank, dass Sie sich die heutige Folge des DNV-Podcast zum Thema „KI-Governance“ über die Risiken und Chancen von KI angehört haben. Schalten Sie auch beim nächsten Mal wieder ein, wenn wir uns mit der Überbrückung der Vertrauenslücke bei KI befassen.

Hallo und herzlich willkommen beim DNV-Podcast zum Thema „KI-Governance“. Wir, also DNV, sind ein weltweit führender unabhängiger Anbieter für Managementsystem-Zertifizierungen und dazu passenden Trainings.

Mein Name ist Dirk Vallbracht und ich bin Business Development sowie Training Manager und zuständig für den deutschsprachigen Raum.

In der letzten Folge haben wir uns mit den Risiken und Chancen von KI für Unternehmen beschäftigt. Heute befassen wir uns damit, wie Unternehmen die KI-Vertrauenslücke überbrücken können, um Sicherheits- und Ethikbedenken zu überwinden.

Ja, es gibt so etwas wie eine Vertrauenslücke bei dem Thema KI. Das steht im Zusammenhang mit den in der letzten Folge besprochenen Chancen und Risiken. Wie bei früheren neuen Technologien gibt es auch bei KI viel Angst, Unsicherheit und Zweifel. Das liegt zum großen Teil an den sehr realen vorhandenen Risiken und der Tatsache, dass sich das Innovationstempo und die Möglichkeiten der KI praktisch täglich ändern.

Wie müssen wir damit umgehen?

Es gibt ja wirklich auch gute Gründe, der Nutzung von KI zu misstrauen. Erstens kann KI falsche und schädliche Informationen verbreiten. Zweitens sind diese Systeme anfällig für Hackerangriffe und Sicherheitsbedrohungen. Drittens ist KI oft so etwas wie eine Black Box. Viele KI-Systeme arbeiten intransparent und machen es schwierig, ihren Entscheidungen zu vertrauen. Für mich stellt sich hier die Frage, wie man den Entscheidungsmechanismen einer Maschine vertrauen kann, wenn diese nicht nachvollziehbar sind.

Generell wirft KI viele ethische Fragen auf, wie etwa Verzerrungen bei Entscheidungen und den Schutz der Privatsphäre. Es besteht zudem die Gefahr, dass KI Einzelpersonen oder der Gesellschaft schaden könnte.

Also bringt KI neue Herausforderungen und Risiken mit sich. Wie können wir diesen begegnen. Dies geht nur durch verantwortungsvolle Innovation, die Umsetzung von angemessenen Sicherheitsbestimmungen und die Einrichtung von Schutzvorrichtungen.

KI ist also etwas, das wir versuchen sollten zu verstehen und anzunehmen, um die Vorteile, die sie als Werkzeug und Begleiter bieten kann, zu nutzen.

Vertrauen in die Technologie setzt voraus, dass wir verstehen, wie sie funktioniert. Wir müssen in der Lage sein, ihre Zuverlässigkeit und Sicherheit zu beurteilen. Damit wir der KI vertrauen können, muss sie vertrauenswürdig sein.

Neben der Frage, ob sie auf verantwortungsvolle und ethische Weise eingesetzt wird, müssen auch Schlüsselfragen zur Transparenz geklärt werden.

Wenn öffentliches Vertrauen notwendig ist, spielen Normen eine zentrale Rolle. Sie fördern das Vertrauen, indem sie verlässliche Rahmenwerke für Konsistenz, Qualität und Sicherheit bieten. Normen bieten ein grundlegendes Vokabular, branchenbezogene Normierung und dokumentierte Best Practices.

Diese helfen bei der Bewertung und ermöglichen den Vergleich miteinander. Sie sorgen damit für Klarheit und dokumentieren Verantwortlichkeit. Normen werden also eine entscheidende Rolle spielen, wenn es darum geht, die Kluft zu einer neuen Technologie wie der KI zu überbrücken. Denn neue Technologien benötigen Standards, um sich etablieren zu können.

Normen für das Management von KI, wie die ISO 42001, werden also dazu beitragen, die Governance und den verantwortungsvollen Einsatz von KI zu beeinflussen, einige der zunehmenden gesellschaftlichen Erwartungen in Bezug auf Sicherheit und Vertrauen zu erfüllen und eine Grundlage für die Einhaltung von Gesetzesvorschriften zu schaffen.

Und schließlich, was wir alle ja wollen, die Fähigkeit beschleunigen, das globale Potenzial der KI auf sichere und ethische Weise zu nutzen. Natürlich müssen wir dabei immer Transparenz, Vertrauen und Sicherheit gegenüber den Stakeholdern sicherstellen.

Es besteht ein erheblicher Bedarf, in diesem Bereich die Assurance zu gewährleisten.

Organisationen müssen Sie als Lieferanten überprüfen können, um zu verstehen, wie Sie Künstliche Intelligenz handhaben.

Ist es unschädlich? Ist es wirklich sicher? Ist es vertrauenswürdig?
Dadurch wird letztlich ein Beitrag zu einem sichereren und geschützteren Ökosystem für KI geleistet.

Wenn Sie mehr darüber erfahren möchten, wie die ISO-Zertifizierung Ihrem Business helfen kann, die Vertrauenslücke in der KI zu schließen, besuchen Sie bitte www.dnv.de/governance-ki/. Dort finden Sie ausführliche Artikel und unsere Ressourcen für Zertifizierung und Training. Auf dieser Seite finden Sie auch einen Link zu unserem Online-Tool zur Selbstbewertung. Das Online Tool kann dazu genutzt werden ein umfassendes Verständnis der aktuellen organisatorischen Fähigkeiten zu erlangen. Eine Grundlage für die Erfüllung der normativen Anforderungen zu schaffen und herauszufinden, wo Sie Ihre Verbesserungsbemühungen gezielt einsetzen sollten.

Vielen Dank für Ihr Interesse an unserer heutigen Folge des DNV-Podcast zum Thema „KI-Governance“.

Wir hoffen, dass auch unsere letzte Folge zum Thema KI Ihr Interesse weckt. Hier geht es um die Umsetzung einer effektiven Governance für KI.

Hallo und herzlich willkommen beim DNV- Podcast zum Thema „KI-Governance“. Wir, DNV, sind ein weltweit führender unabhängiger Anbieter für Managementsystem-Zertifizierungen und dazu passenden Trainings.

Mein Name ist Dirk Vallbracht und ich bin Business Development sowie Training Manager und zuständig für den deutschsprachigen Raum.

In den ersten beiden Folgen beleuchteten wir die Risiken und Vorteile der KI für Unternehmen und erörterten, wie die Vertrauenslücke geschlossen werden kann. In der abschließenden Folge dieser Reihe geht es nun um konkrete Maßnahmen zur Implementierung einer effektiven Governance von KI. Denn es gilt eine sichere, zuverlässige und ethische Nutzung von KI zu gewährleisten.

Im Fokus steht heute also die Norm ISO/IEC 42001:2023. Zur Vereinfachung nennt man sie meist einfach ISO 42001.

Hierbei handelt es sich um eine internationale Norm, die Anforderungen an den Aufbau, die Umsetzung, die Aufrechterhaltung und die fortlaufende Verbesserung eines Managementsystems der künstlichen Intelligenz festlegt.

Für wen ist diese Norm denn nun das richtige Werkzeug?

Wie bei allen ISO-Managementsystemnormen handelt es sich bei der ISO 42001 um einen generisch formulierten Standard damit Organisationen, die KI-Systeme entwickeln, bereitstellen oder nutzen, diesen auch anwenden können.

Bei einer korrekten Anwendung hilft dann dieses Managementsystem, eine verantwortungsvolle Entwicklung und Verwendung von KI-Systemen sicherzustellen. Da die Anforderungen der Norm generisch sind ist Sie für jede Art und Größe von Organisationen und Branchen auf globaler, nationaler, regionaler, gemeinnütziger und öffentlicher Ebene geeignet.

Die ISO 42001 ist die weltweit erste zertifizierbare Norm für KI-Managementsysteme und bietet eine wertvolle Orientierungshilfe für diesen sich schnell verändernden Technologiebereich. Sie befasst sich mit den einzigartigen Herausforderungen, die die KI mit sich bringt, wie ethische Überlegungen, Transparenz und kontinuierliches Lernen.

Für Organisationen legt die ISO 42001 einen strukturierten Weg fest, um Risiken und Chancen im Zusammenhang mit KI zu managen und dabei ein Gleichgewicht zwischen Innovation und Governance herzustellen.

Viele Unternehmen haben ja bereits Managementsysteme wie ein Qualitätsmanagementsystem implementiert. Diese Managementsysteme ermöglichen bereits ein Grundniveau an Governance für den Einsatz von KI, wie Nachweisführung, Wiederholbarkeit von Abläufen und Auditierbarkeit. Die ISO 42001 ist um diese Grundsätze und Strukturen herum modelliert. Daher kann sie recht gut mit diesen Managementsystemen wie ISO 9001 oder ISO 27001 integriert werden.

Was sollten Sie tun, wenn Sie die Governance verbessern möchten?

An erster Stelle steht die Unterstützung des obersten Managements. Es ist unerlässlich, frühzeitig die Unterstützung des Managements zu sichern.

Dies funktioniert am Besten, wenn die Geschäftslogik - also die Chancen und Risiken und mögliche Schäden durch den unangemessenen Einsatz von KI-Systemen – klar analysiert und kommuniziert werden. Denken Sie bitte dabei daran, alle relevanten Interessengruppen zu berücksichtigen.

Hierdurch wird die Grundlage für den Erfolg des Systems gelegt.

Wichtig ist direkt am Anfang der Implementierung, die Identifizierung von Lücken: Analysieren Sie sowohl Ihren internen als auch Ihren externen KI-Kontext und Ihre Position, und wählen Sie die Rolle Ihrer Organisation in Bezug auf KI.

Sind Sie beispielsweise Anwender, Hersteller oder Anbieter von KI? Oder nehmen Sie möglicherweise mehrere Rollen ein?

Führen Sie eine Gap-Analyse durch, um den aktuellen Stand der Prozesse und Systeme im Vergleich zu den Anforderungen der ISO 42001 zu bewerten und Bereiche zu identifizieren, die verbessert werden müssen. Diese Analyse ist nützlich, um einen Überblick über den aktuellen Stand Ihrer Organisation in Bezug auf die Erfüllung einiger Anforderungen dieser Norm zu erhalten.

Schulen Sie frühzeitig die Mitarbeiter ihrer Organisation und bauen Sie Bewusstsein auf. Dies ist ein wichtiger Schritt auf dem Weg zu einem für Sie nützlichen Managementsystem und natürlich auch zur möglichen Zertifizierung Ihrer Organisation.

Definieren Sie die Rollen und Verantwortlichkeiten für KI. Definieren Sie ein Kernteam und bauen Sie internes Wissen und Kompetenzen auf. Dieses Kernteam wird eine wesentliche Rolle bei der Umsetzung des Managementsystems haben.

Statten Sie ihr Team in Trainings und Workshops mit den notwendigen Fähigkeiten und Instrumenten aus.
Vermitteln Sie ein klares Verständnis über Ihre Ziele. Kommunizieren Sie die individuellen Rollen und Verantwortlichkeiten.

Damit das Umsetzungsteam die Besonderheiten der Norm versteht, ist ein Training unerlässlich. Sie wollen ja sicherstellen, dass Sie die Norm einhalten und KI auf sichere, verantwortungsvolle und ethische Weise einsetzen.

Sehen Sie sich unseren praktischen achtstufigen Ratgeber und unsere Trainingsangebote auf www.dnv.de/governance-ki an und erfahren Sie, wie Sie die Zertifizierung nach ISO 42001 erreichen können.

Wir bieten neben einem Grundlagenkurs und verschiedenen Auditorentrainings auch ein E-Learning Kurs zur ISO 42001 an. Als Dankeschön für die Aufmerksamkeit biete ich den ersten 25 Personen, die sich für unseren E-Learning-Kurs anmelden, einen Aktionscode an. Dieser Kurs vermittelt den Teilnehmern grundlegende Kenntnisse über die Anforderungen der Norm und für die Umsetzung dieser Norm erforderliches Basiswissen.

Besuchen Sie www.dnv.de/training/grundlagen_isoiec-420012023-selbststudium/ und geben Sie den Promo-Code ISO42KAI-24 ein, um kostenlosen Zugang zu unserem englischsprachigen E-Learning zu erhalten.

Vielen Dank, dass Sie der DNV-Serie „KI-Governance" zugehört haben.

Unser Ziel war es, Unternehmen wichtige Überlegungen und praktische Schritte für eine sichere, zuverlässige und ethische Einführung von KI zu bieten.

KI und KI Governance ist ein sich ständig weiterentwickelnder und schnell verändernder Bereich.
Bleiben Sie informiert.  Sie können DNV auf LinkedIn finden und unsere Website besuchen, um sich regelmäßig über neue Entwicklungen zu informieren.

Wir werden Sie fortlaufend über Managementsysteme und Fragen zum sicheren, zuverlässigen und ethischen Einsatz von KI informieren. Freuen Sie sich auf unseren nächsten Podcast zu Managementsystemen und KI.

Vielen Dank und auf Wiedersehen.