KI-Ethik und Datenschutz

Die Telekom verpflichtet sich dazu, KI-Systeme sorgsam zu verwenden und die geltenden Rechtsvorschriften einzuhalten. Dabei steht der Mensch im Mittelpunkt, und KI soll den Menschen unterstützen, nicht ersetzen. Daher haben wir als Deutsche Telekom KI-Leitlinien für unsere Prozesse und Produkte entwickelt.

Diese sollen nicht nur intern klare Richtlinien vorgeben, sondern auch eine öffentliche Diskussion über ethische Fragen anstoßen – gemeinsam mit anderen Unternehmen, Verbraucherverbänden, Politikern und Bürgern. Es liegt in unserer Verantwortung zu bestimmen, wie und wofür wir KI einsetzen. Die Technologie selbst ist neutral und dient nur als Werkzeug. Digitale Ethik befasst sich dabei mit der Frage nach dem Guten und Richtigen im Umgang mit KI.

Unsere KI-Leitlinien zielen auf Klarheit, Transparenz, Sicherheit und Vertrauen ab, um unsere Kundenbasis zu stärken. Wir legen fest, wer für welches KI-System und welche Funktion verantwortlich ist, und machen es für Nutzer erkennbar, wenn sie mit einer KI-Anwendung interagieren. Zudem stellen wir ein stabiles und sicheres Fundament für Daten und Infrastruktur bereit. Risiko- und Abhängigkeitsanalysen sowie die Frage nach dem Nutzen für den Menschen sind zentrale Elemente unserer Leitlinien.

Die zentrale Frage beim Einsatz von KI lautet: Wie müssen KI-Anwendungen entwickelt und eingesetzt werden, damit sie sich ethisch und rechtskonform verhalten?

Ethik in der KI basiert auf Standards von Richtig und Falsch, die Rechte, Verpflichtungen, gesellschaftliche Vorteile, Fairness und spezifische Werte berücksichtigen.

Der Schutz von KI-Applikationen erfordert die konsequente Einhaltung von Datenschutzrichtlinien und Compliance-Anforderungen, wie sie in der KI-Verordnung "AI Act" geregelt sind.

Der AI Act (Artificial Intelligence Act) soll die Nutzung und Entwicklung von KI in der EU regulieren. Dabei wird ein risikobasierter Ansatz verfolgt: Je höher das Risiko eines KI-Systems, desto strengere regulatorische Anforderungen gelten für dessen Entwicklung und Einsatz.

Folgende Risikostufen sind definiert:

1. Inakzeptables Risiko: KI-Systeme, die als inakzeptabel risikoreich eingestuft werden, sind verboten. Dazu gehören beispielsweise Systeme für soziale Bewertung (Social Scoring) durch Behörden und bestimmte Formen der biometrischen Fernidentifikation in öffentlichen Räumen.
2. Hohes Risiko: Diese Systeme unterliegen strengen Anforderungen und müssen eine Konformitätsbewertung durchlaufen. Beispiele sind KI-Systeme in kritischen Infrastrukturen, Bildung, Beschäftigung, Strafverfolgung und Gesundheitswesen.
3. Begrenztes Risiko: Für diese Systeme sind bestimmte Transparenzanforderungen vorgeschrieben. Benutzer müssen darüber informiert werden, dass sie mit einem KI-System interagieren.
4. Minimales Risiko: Für diese Systeme gibt es nur minimale Anforderungen, wie z. B. die Einhaltung der allgemeinen Datenschutzbestimmungen.

Unsere Experten beraten Sie gern zu diesem Thema.

Unternehmen, die künstliche Intelligenz (KI) einsetzen, müssen verschiedene Maßnahmen ergreifen, um ihre Anwendungen vor Missbrauch zu schützen. Strategische Ansätze können sein:
 
Ethikrichtlinien und verantwortungsvolle KI-Entwicklung

• Ethikrichtlinien erstellen: Unternehmen sollten klare ethische Leitlinien für die Entwicklung und den Einsatz von KI aufstellen, um sicherzustellen, dass die Technologie im Einklang mit den Werten des Unternehmens und der Gesellschaft steht.
• Bias- und Diskriminierungsvermeidung: Es ist entscheidend, sicherzustellen, dass KI-Modelle nicht diskriminierend sind und keine unfaire Behandlung begünstigen. Dies erfordert sorgfältige Überprüfung und Anpassung der Trainingsdaten und Algorithmen.

Transparenz und Erklärbarkeit

• Erklärbare KI entwickeln: Unternehmen sollten daran arbeiten, KI-Modelle so zu gestalten, dass ihre Entscheidungen nachvollziehbar und erklärbar sind, insbesondere in sensiblen Anwendungsbereichen wie Medizin oder Strafverfolgung.
• Transparente Kommunikation: Nutzer sollten darüber informiert werden, wie und wofür ihre Daten verwendet werden und wie KI-Entscheidungen getroffen werden.

 
Datensicherheit und Datenschutz

• Datenminimierung: Unternehmen sollten nur die Daten erheben, die für den jeweiligen Anwendungsfall unbedingt notwendig sind, um das Risiko von Datenschutzverletzungen zu minimieren.
• Anonymisierung und Pseudonymisierung: Sensible Daten sollten anonymisiert oder pseudonymisiert werden, um die Privatsphäre der Nutzer zu schützen.
• Sichere Speicherung und Verarbeitung: Die Daten sollten sicher gespeichert und verarbeitet werden, unter Verwendung von Verschlüsselung und anderen Sicherheitsmaßnahmen.

Insgesamt ist es für Unternehmen äußerst wichtig, Datenschutz von Anfang an in ihre Projekte zu integrieren, um diese Risiken zu minimieren und eine nachhaltige und vertrauenswürdige Geschäftsbeziehung zu Kunden und Partnern aufrechtzuerhalten.
Bei Missachtung können sich verschiedene Gefahren ergeben:
 
Rechtliche Konsequenzen: Sanktionen und rechtliche Verfahren

• Datenschutzverletzungen können zu erheblichen Bußgeldern und Strafen führen, insbesondere unter der Datenschutz-Grundverordnung (DSGVO) und dem AI Act. Diese können bis 6 % des weltweiten Jahresumsatzes eines Unternehmens betragen. Unternehmen könnten mit Klagen von betroffenen Personen oder Gruppen konfrontiert werden, die durch Datenschutzverletzungen geschädigt wurden.

Reputationsschäden: Vertrauensverlust

• Datenschutzverletzungen können das Vertrauen der Kunden und Geschäftspartner in das Unternehmen nachhaltig schädigen. Dies kann zu Kundenabwanderung und Schwierigkeiten bei der Gewinnung neuer Kunden führen. Datenschutzverletzungen können zu negativer Berichterstattung in den Medien führen, was den Ruf des Unternehmens weiter beschädigen kann.

Finanzielle Schäden:  Direkte und indirekte Kosten

• Dazu gehören Kosten für die Behebung der Datenschutzverletzung, Rechtskosten, Benachrichtigung der betroffenen Personen und mögliche Entschädigungszahlungen. Umsatzverluste durch Kundenabwanderung, erhöhte Marketingkosten zur Wiederherstellung des Images und mögliche Auswirkungen auf den Aktienkurs.

 
Betriebsunterbrechungen: Projektverzug

• Datenschutzverletzungen können erhebliche interne Ressourcen binden, da Mitarbeiter sich mit der Behebung der Probleme, internen Untersuchungen und der Zusammenarbeit mit Aufsichtsbehörden befassen müssen. Es besteht das Risiko, dass Projekte unterbrochen oder sogar neu aufgesetzt werden müssen. In schwerwiegenden Fällen können Datenschutzprobleme zu Geschäftsunterbrechungen führen, insbesondere wenn Systeme vorübergehend abgeschaltet werden müssen, um die Lücke zu schließen.

 
Verlust von Wettbewerbsvorteilen: Geheimhaltung

• Datenschutzverletzungen können dazu führen, dass vertrauliche Geschäftsinformationen oder geistiges Eigentum offengelegt werden, was den Wettbewerbsvorteil des Unternehmens beeinträchtigen kann.

 
Verwaltungsaufwand: Nachträgliche Anpassungen

• Wenn Datenschutz nicht von Anfang an berücksichtigt wird, können nachträgliche Anpassungen und Implementierungen viel teurer und aufwändiger sein als eine frühzeitige Integration. Unternehmen müssen möglicherweise umfangreiche Maßnahmen ergreifen, um nachträglich Compliance sicherzustellen, was zusätzlichen Verwaltungsaufwand bedeutet.

 
Datenverfälschung: Halluzination

• Hat es Lücken, Verzerrungen oder Fehler in den Trainingsdaten gegeben, kann dies zu Fehlinformationen und falschen Entscheidungen führen. Wenn ein KI-System halluziniert, kann dies je nach Risikokategorie des Unternehmens sogar gefährlich werden.