KI im Unternehmen · Leitfaden
KI Verordnung und digitale Mitarbeiter: Was müssen Unternehmen regeln?
Von STANDARDWERKVeröffentlicht: Zuletzt aktualisiert: 2 Min. Lesezeit
Kurzantwort
Die Verordnung (EU) 2024/1689 verlangt, dass Menschen erfahren, wenn sie mit einem KI-System sprechen, und dass Beschäftigte im Umgang damit geschult sind. Für den Einsatz am Telefon heißt das: Offenlegung im ersten Satz und eine benannte verantwortliche Person.
Das Wichtigste in Kürze
- Transparenz: Der Anrufer erfährt zu Beginn, dass er mit einer KI spricht.
- KI-Kompetenz: Wer das System betreibt, kennt seine Grenzen.
- Verantwortung: Eine Person im Unternehmen entscheidet über die Regeln.
Was bedeutet die Transparenzpflicht am Telefon?
Wer ein KI-System betreibt, das mit Menschen spricht, sorgt dafür, dass diese Menschen es erfahren. Am Telefon löst sich das am einfachsten im ersten Satz des Gesprächs.
Die Offenlegung gehört in den Vertrag und in die Regeln des Systems, damit sie nicht an einer Einstellung hängt, die jemand später ändert.
Wen betrifft die KI-Kompetenz?
Sie betrifft die Menschen, die das System im Auftrag des Unternehmens betreiben oder mit seinen Ergebnissen arbeiten. Es geht um ein belastbares Verständnis davon, was das System leistet und wo es an seine Grenze kommt.
- Was der digitale Mitarbeiter selbst beantwortet
- Was er ausschließlich zur Freigabe vorbereitet
- Wie ein Gespräch an einen Menschen übergeht
Was gehört vor dem Start geregelt?
| Punkt | Wer legt fest | Wo steht es |
|---|---|---|
| Offenlegung im ersten Satz | Unternehmen | Vertrag und Systemregeln |
| Notfallweg | Unternehmen | Systemregeln |
| Datenverarbeitung | Unternehmen und Anbieter | Auftragsverarbeitungsvertrag |
| Aufzeichnung von Gesprächen | Unternehmen | Einwilligung der Beteiligten |
Gespräche ohne Einwilligung aufzuzeichnen, ist nach § 201 StGB strafbar. Das gilt für jede Technik gleichermaßen.
Häufige Fragen
Gilt die Verordnung auch für kleine Unternehmen?
Die Transparenzpflicht gilt unabhängig von der Größe des Unternehmens.
Reicht ein Hinweis auf der Website?
Der Hinweis gehört dorthin, wo das Gespräch stattfindet, also in den ersten Satz.
Wer haftet für die Auskünfte?
Das Unternehmen, das den digitalen Mitarbeiter betreibt. Deshalb bereitet er Zusagen vor, statt sie zu treffen.