KI-Transparenz

Art. 50 EU AI Act: Wie wir Künstliche Intelligenz bei NextBeruf einsetzen

1. Welche KI-Systeme setzen wir ein?

• OpenAI Ireland Limited (Dublin, Irland): GPT-Modelle. Ein Auftragsverarbeitungsvertrag besteht. Eine Zusage zur Nicht-Speicherung von Eingaben geben wir nicht.
• OpenRouter, Inc. (USA) mit Claude-Modellen von Anthropic (KI-Coach BERA). Der Vertragsstatus (Auftragsverarbeitung) wird geklärt. Bitte geben Sie in den KI-Chat keine sensiblen Angaben ein.

2. Wofür setzen wir KI ein?

• Anschreiben-Entwurf: Auf Basis der Stellenanzeige und Ihres Profils.
• Match-Erklärung: Warum eine Stelle passt und welche Qualifikationen fehlen, in einfacher Sprache.
• CV-Strukturierung: Die KI extrahiert strukturierte Felder aus Ihrem Lebenslauf.
• Interview-Trainer: KI-generierte Übungsfragen und Musterantworten für Vorstellungsgespräche.
• KI-Coach: KI-gestützter Chat-Assistent. Sie schreiben mit einem KI-System, nicht mit einem Menschen. BERA antwortet auf Ihre Fragen und zeigt Ihnen zusätzlich von sich aus kurze Hinweise zu dem Bereich, in dem Sie gerade arbeiten. Jeder dieser Hinweise ist als Hinweis von BERA gekennzeichnet. Ein Hinweis auf das KI-System steht im Chat.
• Sprach-Hilfe: Vereinfachung deutscher Behörden-Texte.

3. Was die KI bei uns NICHT macht

• Keine automatisierten Einzelentscheidungen (Art. 22 DSGVO)
• Keine Arbeitsvermittlung (§§ 296 ff. SGB III)
• Keine Rechtsberatung (§§ 2, 3 RDG), Verweis an BAMF, IQ-Netzwerk, zugelassene Anwält:innen
• Keine Steuerberatung (§ 5 StBerG)
• Keine biometrische Erkennung, keine Emotionserkennung

4. Risiko-Klassifizierung nach EU AI Act

Nach unserer eigenen Einschätzung stufen wir unsere KI-Funktionen als begrenztes Risiko (Limited Risk) ein. Diese Einschätzung ist rechtlich noch nicht abschließend geprüft. Wir betreiben kein Hochrisiko-System nach Anhang III Nr. 4 (Beschäftigung), da wir keine Auswahl, kein Ranking und keine Bewertung mit Wirkung auf Einstellungsentscheidungen treffen. Die endgültige Auswahl trifft ausschließlich die Nutzer:in.

5. Kennzeichnung von KI-Output

• Sichtbarer Hinweis auf die KI-Erstellung direkt an den KI-Werkzeugen (BERA-Chat, Anschreiben-Editor, Anzeigen-Analyse), einmal an der Stelle der Nutzung.
• Vor Versand eines Anschreibens: Pflicht-Bestätigung „Ich habe den Entwurf gelesen und übernehme die Verantwortung“.
• Der Match-Score trägt den Hinweis, dass er automatisch berechnet wird und eine Orientierung ist, kein verbindliches Urteil.

6. Schutzmaßnahmen für die Zielgruppe

• Maskierung vor KI-Aufrufen: Kontaktdaten wie E-Mail-Adressen, Telefonnummern und Kontonummern werden im BERA-Chat vor der Weitergabe an den KI-Dienst maskiert. Im Lebenslauf-Editor, im Anschreiben-Generator und in der Anzeigen-Analyse erfolgt keine automatische Maskierung, weil Ihre Angaben dort für das Dokument gebraucht werden. Namen und Adressen werden nirgends automatisch entfernt. Bitte geben Sie in KI-Eingaben nur ein, was nötig ist.
• Aufbewahrung beim Anbieter: Wie lange KI-Anbieter Eingaben aufbewahren, richtet sich nach deren Bedingungen. Wir sichern nicht zu, dass Eingaben sofort gelöscht werden.
• Weg der Anfragen: Anfragen laufen über unsere Server in Deutschland (Hetzner, Nürnberg) zum jeweiligen KI-Anbieter (OpenAI, Irland; OpenRouter, USA). Die Verarbeitung beim Anbieter kann außerhalb der EU stattfinden.
• Sprachsensible Disclosure: Der Hinweis „Sie interagieren mit einem KI-System“ erscheint in der gewählten Sprache. Kurze Hinweise von BERA sind immer als solche gekennzeichnet.
• Anti-Diskriminierungs-Audit vor Aktivierung der Match-Funktion: geplant, noch nicht durchgeführt.

7. Recht auf menschliche Überprüfung

Sie haben jederzeit das Recht, den KI-Output durch einen Menschen prüfen zu lassen. Wenden Sie sich an [email protected] oder buchen Sie direkt eine Coach-Sprechstunde im Dashboard.

8. AI Model Card: KI-Coach BERA

• Einsatzzweck: Anschreiben-Entwurf, Match-Erklärung, Interview-Training, Chat-Antworten auf Karriere-Fragen sowie kurze Hinweise zu dem Bereich, in dem Sie gerade arbeiten.
• Modell / Anbieter: OpenAI Ireland Limited (GPT-Modelle) und Claude-Modelle von Anthropic über OpenRouter, Inc. (siehe Abschnitt 1).
• Übermittelte Daten: Text der Stellenanzeige und Profiltext der Nutzer:in, jeweils so, wie Sie ihn eingeben. Für die kurzen Hinweise wird zusätzlich übermittelt, in welchem Bereich Sie gerade arbeiten und wie weit Sie dort gekommen sind, niemals Feldinhalte wie Namen oder Texte.
• Nicht automatisch entfernte Daten: Für andere KI-Funktionen werden Angaben nicht automatisch entfernt. Bitte lassen Sie Name, Adresse, Geburtsdatum, Telefonnummer und sensible Angaben weg.
• Menschliche Aufsicht: Sie können jederzeit eine menschliche Überprüfung des KI-Outputs verlangen (siehe Abschnitt 7 „Recht auf menschliche Überprüfung“ oben).
• Grenzen: Der KI-Output ist ein Entwurf, keine Rechtsberatung und keine Zusicherung einer Anstellung.
• Ausfall: Ist der KI-Dienst nicht erreichbar, weist BERA darauf hin und beantwortet nur häufige Fragen aus einer festen Wissensbasis. Eine Zusage zur Nicht-Speicherung von Eingaben beim Anbieter geben wir nicht.
• Hinweis zu Verzerrungen (Bias): Empfehlungen des KI-Coaches sind Vorschläge, keine Entscheidungen. Die endgültige Auswahl trifft ausschließlich die Nutzer:in.

Stand: September 2026