KI - mit Hinweis auf die Aufnahme in das Verfahrensverzeichnis

Künstliche Intelligenz (KI) ist mehr als ChatGPT. Aber erst dieses Werkzeug hat vielen deutlich gemacht, was KI bereits alles kann. Dabei muss einem immer bewusst sein: 

Die Vorgaben des Datenschutzes gelten auch beim Einsatz von KI.

Bild: KI/Künstliche Intelligenz (KI) 

Sie sind immer zu beachten, wenn personenbezogene Daten im Spiel sind.

Geheimnisverrat an die KI?

Einen langen Text kürzen, Ergebnisse einer Besprechung zusammenfassen oder Programmcode schreiben – die Möglichkeiten eines KI-Dienstes wie ChatGPT scheinen fast grenzenlos. 

Haben Sie schon mal ein Geheimnis an die KIverraten?

Doch leider sind auch die möglichen Risiken durch Künstliche Intelligenz (KI) weitreichend. Das darf niemand bei dem Hype um KI vergessen.

Rückblick auf die BvD Herbstkonferenz & Behördentag 2023

Vor zwei Wochen hatten wir von yourIT das Privileg, mit vier unserer Consultants an der BvD Herbstkonferenz teilzunehmen. Hier gibt sich jährlich das "Who's Who" in Sachen Datenschutz das Mikrofon in die Hand. 

yourIT bei der BvD Herbstkonferenz 2023 in München

Diese Datenschutz-Veranstaltung bedeutet für uns daher immer wieder eine großartige Gelegenheit, unser Wissen zu vertiefen, uns mit Branchenexperten auszutauschen und die neuesten Entwicklungen im Bereich Datenschutz & Informationssicherheit zu verfolgen.

In der neuesten Dystopie der Technologie können KI-Chatbots – diese vermeintlich nützlichen digitalen Helferlein – tatsächlich als unauffällige Agenten von Hackern agieren, die hungrig auf DEINE Daten sind!

Wir alle wissen, wie verlockend es ist, mit ChatGPT und anderen KI-Assistenten zu interagieren. Sie versprechen insbesondere, unsere Arbeit effizienter zu machen, Antworten auf unsere Fragen zu liefern und den Kundenservice zu revolutionieren. 

Geister der Zukunft

Aber was ist, wenn hinter diesem glänzenden digitalen Vorhang tatsächlich eine dunkle Gefahr lauert?

Bessere Datensicherheit durch ChatGPT  

Aus der Sicht von Datenschutz und Datensicherheit sehen viele ChatGPT ausgesprochen kritisch. Das BSI setzt andere Akzente. Es sieht in ChatGPT eine Chance zur Verbesserung der Datensicherheit – vorausgesetzt, man setzt es dafür sinnvoll ein. 

Chat GPT - eine Chance zur Verbesserung der Datensicherheit

Denn das menschliche Denken wird durch ein solches System nicht überflüssig 

Wenn die KI zum Datenleck wird

Datenschützer warnen schon länger davor, dass die unbedachte Nutzung von Künstlicher Intelligenz (KI) zum Risiko für die Privatsphäre werden kann. Dienste wie ChatGPT sorgen nun für eine einfache Verbreitung von KI in Unternehmen und Haushalten. 

Risiken von KI

Künstliche Intelligenz (KI) ist zweifellos eine der am schnellsten wachsenden Technologien unserer Zeit. Von Chatbots wie ChatGPT über Spracherkennung und Gesichtserkennung bis hin zu selbstfahrenden Autos: Die Anwendungsbereiche von KI-basierten Systemen sind breit gefächert und haben das Potenzial, unser Leben in vielerlei Hinsicht zu verändern.

Seit dem Start des Chatbots ChatGPT erkennen immer mehr Unternehmen aus verschiedensten Branchen die Chancen, die KI-basierte Systeme für die Optimierung ihrer Geschäftsprozesse bieten. Doch mit der steigenden Anzahl von KI-Anwendungsmöglichkeiten kommen auch enorme Risiken auf die Unternehmen zu.

In diesem Blogbeitrag betrachten wir die Chancen und Risiken von KI aus Sicht eines Datenschutzbeauftragten, eines Informationssicherheitsbeauftragten, eines Netzwerk-Technikers, eines Entwicklers und eines Geschäftsführers.

Was früher als Science Fiction galt, wird langsam in der IT Realität: Maschinen, die selbst lernen und immer intelligenter werden. Das bleibt natürlich nicht ohne Folgen für den Menschen.

Natürliche Angst vor Künstlicher Intelligenz

In Kinofilmen gibt es sie schon lange: Maschinen, die ohne Kommando eines Menschen aktiv werden, scheinbar selbst entscheiden, was sie tun, und letztlich zur Gefahr für den Menschen werden. Hollywood zeigt uns in den Filmen Roboter, die sich gegen ihre Erbauer richten und die Weltherrschaft anstreben.

Solche Filme mögen ein Grund dafür sein, dass viele Menschen ein Unwohlsein verspüren, wenn sie an schlaue Maschinen, an sogenannte Künstliche Intelligenz (KI) oder Artificial Intelligence (AI) denken. Denn Intelligente Maschinen scheinen sich nicht von uns Menschen beherrschen zu lassen.

Andere Sorgen gelten zum Beispiel den Arbeitsplätzen: Schlaue IT-Systeme werden Arbeitsplätze kosten. Auch wenn sie an anderer Stelle Arbeitsplätze schaffen, werden bestimmte Arbeiten den Menschen ab- und damit weggenommen. Doch was hat das mit dem Datenschutz zu tun? Eine ganze Menge!

yourIT: Künstliche Intelligenz und Datenschutz

Maschinen lernen von uns Menschen

Basis der Künstlichen Intelligenz und damit schlauer IT-Systeme wie der digitalen Assistenten Alexa, Siri & Co. ist das maschinelle Lernen. Die IT lernt genau wie wir Menschen, indem sie Erfahrungen macht und ihre Regeln auf dieser Basis anpasst.

Dabei spielen wir Menschen die entscheidende Rolle: Programmierer machen die Regeln, nach denen die Maschinen dann lernen. Außerdem soll die schlaue IT vielfach uns Menschen nachahmen. Dazu sammeln solche Systeme dann Informationen über die Nutzer und über andere Personen, die mit ihren Aufgaben zu tun haben.

Wenn also eine Künstliche Intelligenz dem Menschen etwas vorschlägt und dieser es als falsch ablehnt, lernt die Maschine. Sie lernt aber auch etwas über den Menschen: was er für richtig oder falsch hält, wie er das IT-System nutzt, wann er es nutzt, wozu er es nutzt, wo er es nutzt, abhängig davon, welche Sensoren der Maschine zur Verfügung stehen, um diese Daten zu messen.

Maschinen werden so intelligenter und passen sich uns Menschen besser an, auch indem sie Profile der Nutzer erstellen. Damit ist der Datenschutz betroffen.

Künstliche Intelligenz braucht Schranken

Bei IT-Systemen mit Künstlicher Intelligenz besteht die Gefahr, dass sie immer mehr Daten sammeln und auswerten (Big Data) und dass auf der Basis der Datenanalyse dann Entscheidungen vorbereitet oder sogar getroffen werden, die uns als Menschen betreffen. Der einzelne Mensch ist umso mehr betroffen, je persönlicher die Datenanalysen sind.

Der Schlüssel liegt also im Datenschutz. Künstliche Intelligenz, die bald in immer mehr Geräte Einzug hält, gleich ob Auto, Radio oder Kühlschrank, darf nicht unbegrenzt personenbezogene Daten auswerten, um den einzelnen Nutzer möglichst passgenau unterstützen zu können.

Datenschutz hat somit in der Zukunft eine weiterhin große Bedeutung und sorgt mit dafür, dass intelligente Maschinen den Menschen helfen, ohne ihn dafür komplett zu durchleuchten.

Auch wenn die Intelligenz und der Komfort der Maschinen dadurch scheinbar sinken sollten: Die Beschränkung des Zugriffs auf personenbezogene Daten darf bei Maschinen nicht aufgegeben werden, nur um sie so intelligent wie möglich zu machen!

Wie schätzen Sie die Gefahren durch Künstliche Intelligenz (KI) ein?

Frage 1: Maschinen sind dumm, sie können nur das, was man ihnen als Programm mitgibt. Stimmt das?

• a: Ja, woher sollten Maschinen auch mehr wissen und können?
• b: Nein, die Entwicklung hin zur Künstlichen Intelligenz (KI) bedeutet, dass Maschinen selbstlernend werden.

Lösung zu Frage 1: Die Antwort b. ist richtig. Für den Datenschutz bedeutet das, dass die IT-Systeme von den Menschen lernen und dazu möglichst viele Daten sammeln und auswerten sollen. Hier muss Privacy by Design oberstes Gebot sein.

Frage 2: Digitale Assistenten wie Alexa sind Beispiele für die Entwicklung hin zu KI-Systemen. Was sie lernen, bleibt wie beim menschlichen Gehirn innerhalb des Systems. Stimmt das?

• a: Nein, solche Systeme sind mit dem Internet verbunden und speichern vieles in einer Cloud.
• b: Ja, die Daten sind immer innerhalb des Systems geschützt.

Lösung zu Frage 2: Die Antwort a ist richtig. Intelligente Geräte haben ihre KI-Fähigkeiten meist nicht lokal, sondern nutzen Rechenleistungen aus dem Internet und speichern Daten in der Cloud.

Tatsächlich tauschen solche Systeme auch Daten untereinander aus, um so weitere Rückschlüsse zu ziehen. Personenbezogene Daten bleiben deshalb in der Regel nicht in dem jeweiligen System, sondern werden übermittelt. Deshalb sind Datenschutz-Prüfungen vor dem Einsatz intelligenter Systeme so wichtig.

Die Prüfungen sind allerdings nicht leicht, denn die IT-Systeme werden immer komplexer. Aus diesem Grund muss der Zugriff auf die Daten von Beginn an begrenzt werden, nicht erst bei einer späterer Auswertung, die kaum noch nachvollzogen werden kann.