Intimste Gespräche mit ChatGPT sind nicht vertraulich

OpenAI-CEO Sam Altman hat auf grundlegende Datenschutzprobleme bei der Nutzung von ChatGPT hingewiesen. In einem Interview mit Podcaster Theo Von erklärte Altman, dass Gespräche mit dem KI-Chatbot nicht über die gleichen rechtlichen Schutzbestimmungen verfügen wie Unterhaltungen mit Therapeuten, Anwälten oder Ärzten.

Es ist bekannt, das ChatGPT von immer mehr Usern auch dazu verwendet wird, um intimste Gespräche zu führen und sich etwa Beziehungstipps oder psychologischen Beistand zu holen.

Keine Schweigepflicht für KI-Gespräche

„Falls Sie mit ChatGPT über Ihre sensibilsten Angelegenheiten sprechen und es dann zu einer Klage kommt, könnten wir dazu verpflichtet werden, diese Informationen herauszugeben“, erklärte Altman. Im Gegensatz zu Gesprächen mit professionellen Beratern, die unter Schweigepflicht stehen, existieren für KI-Konversationen bislang keine entsprechenden rechtlichen Privilegien.

Altman bezeichnet diese Situation als problematisch und fordert dringenden Handlungsbedarf von Seiten der Gesetzgeber. Besonders relevant wird diese Thematik durch die zunehmende Nutzung von ChatGPT als Ersatz für therapeutische Gespräche, Lebensberatung oder bei Beziehungsproblemen, insbesondere unter jungen Menschen.

Technische Zugriffsmöglichkeiten

Anders als bei verschlüsselten Messaging-Diensten wie WhatsApp oder Signal kann OpenAI grundsätzlich auf Unterhaltungen zwischen Nutzern und ChatGPT zugreifen. Das Unternehmen nutzt diese Möglichkeit zur Verbesserung des KI-Modells und zur Überwachung von Missbrauch.

Laut OpenAIs Datenaufbewahrungsrichtlinien werden gelöschte Chats bei ChatGPT Free, Plus und Pro innerhalb von 30 Tagen dauerhaft entfernt – es sei denn, das Unternehmen ist aus „rechtlichen oder sicherheitsrelevanten Gründen“ zur Aufbewahrung verpflichtet.

Rechtsstreit mit der New York Times

Die Datenschutzproblematik verschärft sich durch einen laufenden Rechtsstreit. Im Juni reichten die New York Times und andere Medienunternehmen im Rahmen einer umfassenderen Urheberrechtsklage einen Gerichtsbeschluss gegen OpenAI ein. Dieser fordert, dass das Unternehmen alle ChatGPT-Nutzerdaten, einschließlich gelöschter Chats, unbefristet aufbewahren muss.

OpenAI hat gegen diese Anordnung Berufung eingelegt, was die rechtliche Unsicherheit bezüglich der Datenaufbewahrung weiter verstärkt. Der Rechtsstreit verdeutlicht, wie sensible Nutzerdaten auch nach ihrer vermeintlichen Löschung für rechtliche Verfahren relevant werden können.

Forderung nach rechtlichem Rahmen

Altman betonte die Notwendigkeit eines klaren rechtlichen Rahmens für KI-Anwendungen und äußerte Bedenken über eine mögliche Zunahme der Überwachung durch die verstärkte KI-Nutzung. Während er bereit sei, „etwas Privatsphäre für kollektive Sicherheit zu opfern“, warnte er vor einer Überreaktion der Regierungen, wie sie historisch bei Sicherheitsmaßnahmen zu beobachten gewesen sei.

Die Diskussion um den Datenschutz bei KI-Anwendungen wird voraussichtlich an Bedeutung gewinnen, da immer mehr Menschen ChatGPT für persönliche und sensible Angelegenheiten nutzen, ohne sich der rechtlichen Implikationen bewusst zu sein.