Anfang Februar wurde der KI-Chatbot Replika von der italienischen Datenschutzbehörde Garante aufgefordert, die Verarbeitung personenbezogener Daten der Bürger zu unterbrechen. Der Zweck der KI-Software bestand darin, ein virtueller „AI-Freund“ für soziale Interaktionen zu sein, für den keine Altersverifizierung erforderlich war. Die Datenschutzbehörde stellte fest, dass der KI-Bot personenbezogene Daten von Kindern ohne deren Einwilligung verarbeitet hatte.
Mit der Weiterentwicklung von KI-Technologien, insbesondere nach der Einführung von ChatGPT und Google Bard, könnten weitere ähnliche Fälle auftreten.
Und bevor Sie sich unwissentlich in eine solche Situation befinden, wäre es sehr sinnvoll, sich über die für KI relevanten Bestimmungen der DSGVO zu informieren:
Personenbezogene Daten:
KI-Systeme sind so konzipiert, dass sie große Mengen an Daten sammeln, darunter auch personenbezogene Daten, die dann analysiert und verarbeitet werden. Gemäß der DSGVO müssen dafür bestimmte Anforderungen erfüllt werden. Im Mittelpunkt stehen Transparenz, Rechtmäßigkeit und Sicherheit bei der Verarbeitung personenbezogener Daten. KI-Systeme müssen daher unter Berücksichtigung dieser Datenschutzanforderungen entwickelt werden. Nutzer müssen darüber informiert werden, welche Daten gesammelt und wie sie verwendet werden. Und sie müssen sich darauf verlassen können, dass KI-Systeme die Vertraulichkeit, Integrität und Verfügbarkeit ihrer personenbezogenen Daten gewährleisten.
Profiling
Gemäß der DSGVO haben Personen das Recht, dass ihre Daten nicht für das “Profiling” verwendet werden. Profiling ist ein automatisierter Prozess, der dazu dient, das Verhalten, die Einstellungen oder die Interessen einer Person auf der Grundlage der von ihr gesammelten Daten vorherzusagen. Daher sollten KI-Systeme so gestaltet sein, dass der Nutzer deutlich informiert wird, wie das Profiling eingesetzt wird.
Einwilligung
Ähnlich wie bei der Verarbeitung personenbezogener Daten verlangt der Aspekt der Einwilligung in der DSGVO, dass der Nutzer ausdrücklich, bewusst und freiwillig in die Verarbeitung seiner personenbezogenen Daten einwilligt. Daher müssen KI-Systeme so gestaltet sein, dass sie eine solche Einwilligung einholen und die Nutzer umfassend über die erhobenen Daten, die Weitergabe der Daten an Dritte und die Möglichkeit, die Einwilligung jederzeit zu widerrufen, informieren.
Fazit:
KI-Entwickler müssen sicherstellen, dass ihre Systeme unter Berücksichtigung des Datenschutzes entwickelt werden und dass die Nutzer ausführlich über die Verarbeitung ihrer personenbezogenen Daten informiert werden. Die Einhaltung der DSGVO ist entscheidend, um Vertrauen in KI-Systeme zu schaffen und sicherzustellen, dass sie in einer Weise eingesetzt werden, die das Recht der Bürger auf Privatsphäre und Datenschutz respektiert.
