Datenschutz und KI: Ein Einblick in die Nutzung unseres datenschutzkonformen ChatGPT-Voicebots

Die Integration von Künstlicher Intelligenz (KI) in die Geschäftsprozesse und -strategien wird immer relevanter und daher suchen Unternehmen nach sicheren und effizienten Lösungen. Um diese Thematik zu beleuchten, haben wir Rechtsanwalt Stefan Schmidt von den TCI Rechtsanwälten und Björn Bendig von CallOne zu einem informativen Interview eingeladen. In diesem Gespräch wird das Thema Datenschutz im Kontext der Nutzung unseres CallOne ChatGPT-Voicebots diskutiert. Wir bei CallOne sind stolz darauf, unseren Kunden den hochmodernen Voicebot zu präsentieren. Dieser nutzt die neueste Technologie von ChatGPT, um ein qualitativ hochwertiges und nahtloses Kundenerlebnis zu bieten.

Die Sicherheit der Kundendaten hat dabei höchste Priorität und wir sind stolz, bestätigen zu können, dass die Nutzung unseres ChatGPT-Voicebots vollständig datenschutzkonform ist. Das belegt auch die Einschätzung von Rechtsanwalt Stefan Schmidt.

UPDATE 10.07.2023: Die Europäische Kommission hat nun heute auch den Angemessenheitsbeschluss für das EU-U.S. Data Privacy Framework (Nachfolger des „Privacy Shields“) angenommen. Der Angemessenheitsbeschluss kann nunmehr als Grundlage für Datenübermittlungen an zertifizierte Organisationen in den USA dienen. Microsoft, Amazon und Google sind bereits zertifiziert und befindet sich auf der Liste veröffentlichter Unternehmen. Für Betroffene und Datenexporteure besteht damit jetzt Rechtssicherheit bei der Verarbeitung personenbezoger Daten mit zertifizierten US-Unternehmen.

Doch was genau ist ein VoiceBot auf Basis von ChatGPT und welche Rolle spielt der Datenschutz dabei? Dieser Artikel beleuchtet die Technologie hinter dem ChatGPT VoiceBot und stellt ihn in den Kontext des Datenschutzes.

Was ist der Voicebot auf Basis von ChatGPT?

Ein VoiceBot ist eine auf künstlicher Intelligenz basierende Software, die in der Lage ist, Sprachinteraktionen mit Menschen zu führen. Der Begriff „VoiceBot“ leitet sich von „Voice Robot“ ab und bezeichnet somit einen sprachgesteuerten Roboter. Im Falle des ChatGPT-basierten VoiceBots handelt es sich um ein Sprachmodell, das auf der bahnbrechenden KI-Architektur von OpenAI basiert. ChatGPT wurde darauf trainiert, menschenähnliche Kommunikation zu verstehen und zu erzeugen. Dabei kann es eine Vielzahl von Kontexten und Zusammenhängen erfassen, was es für eine breite Palette von Anwendungsfällen nützlich macht. Es ist in der Lage, komplexe Fragen zu beantworten, und kann so in Kundenservice-Szenarien eingesetzt werden, um menschliche Agenten zu unterstützen oder zu ergänzen

Wie funktioniert der VoiceBot für Unternehmen auf Basis von ChatGPT?

Der ChatGPT VoiceBot nutzt die Fähigkeiten des zugrundeliegenden Sprachmodells, um den Dialog mit Kunden zu führen. Ein Unternehmen kann spezifische Regieanweisungen für den VoiceBot festlegen, die dessen Verhalten steuern und an den spezifischen Anwendungsfall des Unternehmens anpassen. Damit kann das Unternehmen sicherstellen, dass der VoiceBot, trotz seines umfangreichen und nahezu unerschöpflichen Wissens, nur die Informationen preisgibt, die das Unternehmen wünscht.

CallOne beispielsweise bietet ein VoiceBot-Modul an, das es Unternehmen ermöglicht, ihre spezifischen Anwendungsfälle auf Basis der ChatGPT KI zu definieren. Diese Informationen werden dem VoiceBot übermittelt und überlagern die Basisinformationen der KI, um eine optimale auf das Unternehmen abgestimmte Antwort für den Anrufer zu gewährleisten.

Was unterscheidet herkömmliche VoiceBots im Vergleich zu einem auf ChatGPT basierenden VoiceBot?

Ein herkömmlicher VoiceBot ist in der Regel auf bestimmte Skripte und Regeln beschränkt und kann nur eine begrenzte Anzahl von Anfragen beantworten. Im Gegensatz dazu kann ein auf ChatGPT basierender VoiceBot durch seine Fähigkeit, komplexe Zusammenhänge zu erfassen und menschenähnliche Kommunikation zu erzeugen, eine breitere Palette von Anfragen bearbeiten und eine natürlichere und menschenähnlichere Interaktion bieten.

Darüber hinaus ermöglicht die Anpassungsfähigkeit des ChatGPT VoiceBots eine größere Flexibilität und Kontrolle für das Unternehmen. Durch die Festlegung spezifischer Regieanweisungen kann das Unternehmen bestimmen, welche Informationen der VoiceBot preisgeben darf und welche nicht, was sowohl zu einer verbesserten Kundenerfahrung als auch zu einem besseren Datenschutz beiträgt.

Die Bestandteile eines ChatGPT-basierten VoiceBots

Für den Betrieb eines VoiceBots sind verschiedene Dienste und Technologien erforderlich, die gemeinsam das Gesprächserlebnis ermöglichen. Die drei Hauptbestandteile eines solchen Systems sind die Spracherkennung (Voice-to-Text, VTT), die künstliche Intelligenz (KI) und die Text-zu-Sprache-Umwandlung (Text-to-Speech, TTS).

VTT (Voice-to-Text)

VTT ist die Technologie, die menschliche Sprache in geschriebenen Text umwandelt. Sie ist ein entscheidender Bestandteil eines VoiceBots, da sie es ihm ermöglicht, die Anfragen der Benutzer zu verstehen. Es gibt viele verschiedene Anbieter von VTT-Diensten, und die Auswahl des richtigen Anbieters kann erheblichen Einfluss auf die Genauigkeit und Leistung des VoiceBots haben. Häufig wird diese Funktion ausgelagert, um von den ständigen Verbesserungen und Updates der führenden Anbieter in diesem Bereich zu profitieren.

Künstliche Intelligenz (KI)

Die KI ist das Herzstück des VoiceBots. Sie ist verantwortlich für die Verarbeitung der von der VTT-Technologie gelieferten Textdaten und die Generierung von Antworten. Es gibt verschiedene KI-Modelle, die für diesen Zweck genutzt werden können, wie beispielsweise OpenAI, BART von Google oder Aleph Alpha, eine KI aus Deutschland. Bei CallOne setzen wir auf eine offene Schnittstellenarchitektur, die es ermöglicht, verschiedene KI-Modelle zu integrieren. Für den Fokus dieses Artikels werden wir uns auf OpenAI konzentrieren.

TTS (Text-to-Speech)

TTS ist die Technologie, die den vom KI-Modell generierten Text zurück in menschliche Sprache umwandelt, sodass der Benutzer die Antwort des VoiceBots hören kann. Wie bei der VTT-Technologie gibt es auch hier viele verschiedene Anbieter, und die Wahl des richtigen TTS-Dienstes kann die Qualität und Natürlichkeit, der vom VoiceBot erzeugten Sprache erheblich beeinflussen.

CallOne: Ein sicheres und flexibles Angebot auf EU-Servern

Bei CallOne bieten wir den Voice-to-Text (VTT), OpenAI und Text-to-Speech (TTS) Dienst als optionales Angebot auf der sicheren und zuverlässigen Microsoft Azure-Plattform. Diese wird ausschließlich auf europäischen oder deutschen Servern von Microsoft und seinen europäischen Tochtergesellschaften betrieben. Durch diese Fokussierung auf Server innerhalb der EU stellen wir sicher, dass der Datenschutz auf höchstem Niveau gewährleistet ist und die Daten unserer Kunden im Einklang mit den aktuellen Datenschutzgesetzen verarbeitet werden.

Immer möglich: Bringen Sie Ihre eigene API mit

Unser flexibles Modell ermöglicht es unseren Kunden, optional ihre eigenen OpenAI- oder Microsoft-APIs in unser VoiceBot-Modul zu integrieren. Dies eröffnet Unternehmen die Möglichkeit, individuelle Datenschutzvereinbarungen mit Partnern wie Microsoft zu treffen. Diese Option könnte besonders attraktiv für diejenigen sein, die den Einsatz fortschrittlicherer Sprachmodelle wie GPT-4 in Betracht ziehen oder gerade an der Stelle der KI eigene Verträge und Datenschutzvereinbarungen mit dem KI-Anbieter zu treffen.

Microsoft Azure: Der Unterschied im Datenschutz bei der Nutzung von OpenAI ChatGPT

Microsoft hat 2023 eine umfangreiche Partnerschaft mit OpenAI eingegangen und bietet nun den OpenAI-Dienst auf seinen eigenen Servern an. Diese Partnerschaft ist insofern besonders, als Azure OpenAI Kunden die bewährten Sicherheitsfunktionen von Microsoft Azure, einschließlich eigener Server in der EU, bietet. Gleichzeitig ermöglicht sie die Nutzung der gleichen OpenAI-Modelle. Die Dienstleistungen von Azure OpenAI umfassen private Netzwerklösungen, regionale Verfügbarkeit – einschließlich in der EU – sowie eine verantwortungsbewusste KI-Inhaltsfilterung. Der Vertragspartner ist dabei Microsoft Ireland Operations Limited, ein europäisches Unternehmen, das den europäischen Datenschutzstandards verpflichtet ist.

Keine Datenspeicherung durch Microsoft

Eine der zentralen Fragen in Bezug auf den Datenschutz betrifft die Speicherung von Daten, die während der Nutzung von Azure gesammelt werden. Microsoft hat hierzu klargestellt, dass weder Eingabeaufforderungen noch Vervollständigungen im Modell gespeichert werden und diese nicht zum Training oder zur Verbesserung der Modelle für Microsoft selbst oder gar OpenAI verwendet werden.

Um Missbrauch oder schädliche Inhalte zu verhindern, hält Microsoft ein Content-Management-System bereit, das ausschließlich auf die Verhinderung von Missbrauch abzielt. Zu diesem Zweck werden Daten für bis zu 30 Tage zur Überwachung von Missbrauch gespeichert. Zugriff auf diese Daten haben nur ausgewählte Microsoft-Mitarbeiter aus der Region, in der der Server steht. Wenn Kunden dies wünschen, können sie die Funktion zur Missbrauchsüberwachung durch das Senden eines kurzen Formulars kundenindividuell je Instanz deaktivieren.

Zusammenfassung: Einsatz von VoiceBots mit ChatGPT und Microsoft Azure

Unser auf ChatGPT basierende VoiceBot kann vollständig auf der Grundlage von Microsoft Azure betrieben werden und wird ausschließlich auf Servern in der EU bereitgestellt. Dies gilt auch für die Zusatzfunktionen, die wir über AWS (Polly für TTS-Sprachausgabe) und Google (alternative Spracherkennung) anbieten. Alle Dienste laufen auf EU- oder DE-Servern und werden von europäischen Tochtergesellschaften der jeweiligen Anbieter bereitgestellt.

Datenschutz und Sicherheitsfunktionen

Microsoft speichert keine Daten für Trainingszwecke, mit Ausnahme von Maßnahmen zur Betrugsprävention. Dieser Dienst kann auf Kundenwunsch deaktiviert und zudem eine Verschlüsselung der eigenen Azure-Instanz angefordert werden. Eine Weitergabe der Daten an OpenAI findet nicht statt, da Microsoft eigene Server entkoppelt von OpenAI verwendet.

Beachtung internationaler Datenschutzstandards

Da der Dienst über die europäische Tochtergesellschaft Microsoft Ireland Operations Limited abgewickelt wird, besteht das Restrisiko, dass es sich bei Microsoft um eine US-Muttergesellschaft handelt. Aufgrund des CLOUD-Acts könnten US-Behörden theoretisch Daten von Unternehmen mit US-Muttergesellschaft anfordern. Diese Diskussion wirft jedoch die Frage auf, inwieweit die generelle Nutzung von Clouddiensten amerikanischer Unternehmen wie Microsoft Teams, Google und Amazon einen Datenschutzverstoß darstellt denen OpenAI im Hinblick auf Datenschutz quasi gleichgestellt sind und defacto aus der Wirtschaftswelt nicht wegzudenken sind. Zusätzlich Hoffnung machen aktuell Grundsatzurteile, beispielsweise das der Vergabekammer des Bundes, einer gerichtsähnlichen Behörde, die in ihrem Urteil festgestellt hat, dass es ein sicheres Datenschutzversprechen trotz US-amerikanischer Mutter gibt (vgl. Beschl. v. 13.02.2023 – VK2-114/22)

Zukünftige Datenschutzbestimmungen

Der aktuelle Mangel an einem Datenschutzabkommen zwischen der EU und den USA sollte nicht von Dauer sein, da ein neues Datenschutzabkommen bereits vorbereitet wird und voraussichtlich Mitte 2023 mit der endgültigen Angemessenheitsentscheidung der Kommission in Kraft treten soll.

Update zu ChatGPT Voicebot und Microsoft Azure: Zertifizierung im Rahmen des neuen EU-US Data Privacy Frameworks 20. Jul 2023

Mit dem dritten Datenschutzabkommen, dem „EU-U.S. Data Privacy Framework“, hat das Datenschutzniveau zwischen der Europäischen Union und den Vereinigten Staaten einen weiteren Meilenstein erreicht. Nachfolgend geben wir Ihnen ein Update zu den jüngsten Entwicklungen und Auswirkungen auf unseren ChatGPT Voicebot, der auf den Diensten von Microsoft Azure basiert.

Die Europäische Kommission hat im Juni 2023 einen Beschluss zur Angemessenheit des Datenschutzes gefasst, der die Datenverarbeitung von zertifizierten Unternehmen in den USA als angemessen einstuft („Angemessenheitsbeschluss“). Dieser Beschluss bildet die Grundlage für den kontinuierlichen und sicheren Datentransfer zwischen der EU und den teilnehmenden US-Unternehmen, darunter auch Microsoft.

Wir freuen uns, Ihnen mitteilen zu können, dass Microsoft nun auch zu den Unternehmen gehört, die für das EU-US Data Privacy Framework zertifiziert sind. Diese Zertifizierung sichert den freien und sicheren Datenfluss zwischen der EU und Microsoft Azure, der Plattform, auf der unser ChatGPT Voicebot läuft.

Die Eckpfeiler des neuen Abkommens, die im März 2022 von der Europäischen Kommission und der US-Regierung festgelegt wurden, beinhalten umfangreiche Datenschutzmaßnahmen. Ziel ist es, die Datenübertragung und -verarbeitung zu schützen und den Zugriff von US-Nachrichtendiensten auf diese Daten zu beschränken. Dies geschieht durch die Etablierung eines neuen Regelwerks und verbindlicher Schutzmaßnahmen. Damit wird der Zugriff nur dann gewährt, wenn er zur Gewährleistung der nationalen Sicherheit notwendig und verhältnismäßig ist, ohne die Rechte und Freiheiten des Einzelnen unverhältnismäßig einzuschränken.

Das neue Abkommen sieht zudem die Einführung eines zweistufigen Rechtsbehelfssystems vor, um Beschwerden von EU-Bürgern über den Zugriff auf Daten durch US-Nachrichtendienste zu bearbeiten. Zudem wird ein neuer, unabhängiger „Data Protection Review Court“ zur gerichtlichen Prüfung etabliert.

US-Unternehmen, die Daten aus der EU verarbeiten, müssen strenge Verpflichtungen einhalten. Diese beinhalten unter anderem die Verpflichtung, die Einhaltung des Abkommens gegenüber dem US-Handelsministerium durch eine Selbstzertifizierung zu bestätigen.

Die Bemühungen der USA, durch das EU-U.S. Data Privacy Framework den Schutz der Privatsphäre und der bürgerlichen Freiheiten zu stärken, wurden vom Weißen Haus als beispiellos bezeichnet. Als Nutzer unseres ChatGPT Voicebots können Sie somit von einem erhöhten Datenschutzniveau profitieren.

Abschließende Überlegungen und Empfehlungen

Zusammenfassend empfehlen wir, sich rechtlichen Rat einzuholen und sorgfältig zu überlegen, welche konkreten Anwendungsfälle Sie mit der KI am Telefon lösen möchten. CallOne steht Ihnen hierbei gerne beratend zur Verfügung.