Krisenerkennung: Der KI-Wächter, der niemals schläft
Jedes Jahr nehmen sich Tausende von Menschen das Leben. Viele dieser Tragödien hätten verhindert werden können, wenn jemand die Warnsignale rechtzeitig erkannt hätte. Das Krisenerkennungssystem von CalmCall ist darauf ausgelegt, dieser "jemand" zu sein — ein wachsamer Wächter, der niemals müde wird, niemals abgelenkt ist und niemals eine Pause macht.
Wie KI Risiken erkennt
Das Krisenerkennungssystem arbeitet gleichzeitig auf mehreren Ebenen:
- Lexikalische Analyse — erkennt Wörter und Ausdrücke, die mit suizidalen Gedanken, Selbstverletzung oder Missbrauch in Verbindung stehen: "Ich möchte nicht mehr leben", "es wäre besser ohne mich", "ich verletze mich", "ich kann es nicht mehr ertragen"
- Vokalanalyse — Stimmveränderungen, die auf akutes Leiden hinweisen: "leere" Stimme, extreme Monotonie, Weinen, stockendes Atmen
- Kontextuelle Analyse — plötzliche Änderungen im Gesprächsthema, uncharakteristische "Abschiede", Diskussionen über die Umverteilung von Besitztümern
- Temporale Analyse — fortschreitende Verschlechterung des emotionalen Zustands über mehrere Gespräche hinweg
Sicherheitsprotokolle
Wenn das System ein signifikantes Risiko erkennt, aktiviert es ein strukturiertes, gestuftes Protokoll:
Stufe 1 — Sanfte Rückfrage: Die KI stellt klärende Fragen: "Ich möchte sicherstellen, dass ich richtig verstehe, was Sie fühlen. Können Sie mir mehr erzählen?" Viele Fehlalarme werden auf dieser Ebene ausgeschlossen.
Stufe 2 — Stabilisierung: Wenn das Risiko bestätigt wird, wechselt die KI in den Stabilisationsmodus. Sie verwendet Deeskalationstechniken: Erdung, kontrolliertes Atmen, emotionale Validierung. Sie versucht nicht, zu minimieren oder "zu lösen" — sondern nur, die Person sicher zu halten.
Stufe 3 — Professionelle Verbindung: Die KI bietet Optionen an: direkte Überweisung an den persönlichen Therapeuten, Anruf bei der Krisenhotline oder zu den Notdiensten. Die Notrufnummer wird mit einem einzigen Tipp angezeigt.
Stufe 4 — Sicherheitsnetzwerk: Mit vorheriger Zustimmung des Nutzers kann das System eine benannte vertrauenswürdige Person (Familienmitglied, Freund, Therapeut) per SMS oder Anruf benachrichtigen.
Umgang mit Fehlalarmen
Ein Krisenerkennungssystem muss zwei Risiken ausbalancieren: eine echte Gefahr zu übersehen (falsches negatives Ergebnis) und unnötig einen Alarm auszulösen (falsches positives Ergebnis). CalmCall ist darauf kalibriert, falsche negative Ergebnisse zu minimieren — es ist besser, einmal mehr zu überprüfen, als ein echtes Signal zu übersehen.
Gleichzeitig reduziert der gestufte Verifizierungsprozess signifikant falsche positive Ergebnisse. Eine einfache Erwähnung von "Tod" in einem metaphorischen Kontext löst nicht Stufe 3 aus, aber eine Ansammlung von Indikatoren wird untersucht.
Ethiküberlegungen
Die Krisenerkennung wirft wichtige ethische Fragen auf, die wir ernst nehmen:
- Der Nutzer wird immer informiert, dass das Erkennungssystem aktiv ist
- Die Benachrichtigung der vertrauenswürdigen Person erfolgt nur mit vorheriger Zustimmung
- Die KI trifft keine medizinischen Entscheidungen — sie verbindet mit Fachleuten, die dies tun
- Alle Krisendaten sind streng vertraulich und DSGVO-geschützt
24/7 Überwachung
Krisen folgen keinem Zeitplan. Deshalb arbeitet das Erkennungssystem rund um die Uhr, 365 Tage im Jahr. Egal, ob Sie um 3 Uhr morgens mit dem Sprachbegleiter sprechen oder am Sonntagabend im therapeutischen Journal schreiben, das System beobachtet.
Wir hoffen, dass es niemals aktiviert werden muss. Aber wenn es das tut, wird es da sein. Denn jedes Leben zählt — einschließlich Ihres.
Wenn Sie sich jetzt in einer Krise befinden, rufen Sie die nationale Suizidpräventions-Hotline unter 988 (USA) oder Ihre lokalen Notdienste an. Sie sind nicht allein.