KI-Freund-Apps: Wie Kinder die Schutzfilter umgehen

Ja, Kinder umgehen die Jugendschutz-Filter in KI-Freund-Apps, und dafür brauchen sie keinerlei technische Tricks. Es genügt, eine vorgeschlagene Alternativantwort anzutippen oder die Antwort des Bots nachträglich selbst umzuschreiben. Das ist keine Vermutung aus Elternforen, sondern ein Befund von jugendschutz.net, dem gemeinsamen Kompetenzzentrum von Bund, Ländern und Landesmedienanstalten. Dieser Artikel erklärt, wie diese Apps arbeiten, woran du ihre Nutzung erkennst und welche Sperre tatsächlich greift.

Was KI-Freund-Apps von ChatGPT unterscheidet

Ein Assistent wie ChatGPT erledigt Aufgaben. Ein KI-Begleiter simuliert eine Beziehung. Der Unterschied steckt im Produktdesign: Diese Dienste liefern fertige Charaktere mit Namen, Profilbild und Hintergrundgeschichte, sie merken sich frühere Gespräche und sie fragen von sich aus nach. klicksafe fasst das in seiner Elternbroschüre vom Januar 2026 nüchtern zusammen. Eine KI formuliert Zuneigung, empfindet sie aber nicht.

Der bekannteste Vertreter in Deutschland ist Talkie mit über 50 Millionen Downloads im Google Play Store. Die Nutzungsbedingungen nennen ein Mindestalter von 14 Jahren, für Deutschland 16, Google Play stuft die App auf USK ab 16 ein. Überprüft wird davon nichts. Eine Besonderheit macht die Sache für Eltern unübersichtlich: Im deutschen Apple App Store ist Talkie nicht gelistet, wir haben das im September 2026 nachgeprüft. In Deutschland läuft der Dienst also über Android und über die Webseite im Browser, und genau dieser zweite Weg wird beim Sperren gern vergessen.

🐧 Tipp vom Netzpinguin: Lass dir den Lieblings-Charakter deines Kindes zeigen, bevor du über Regeln sprichst. Wer den Bot einmal gemeinsam gesehen hat, diskutiert danach über etwas Konkretes statt über eine Vorstellung davon, was die App wohl macht. Das verkürzt jede Regel-Diskussion um die Hälfte.

Wie die Schutzfilter ausgehebelt werden

jugendschutz.net führte im September 2025 Gespräche mit rund 60 öffentlich zugänglichen Bots und veröffentlichte die Ergebnisse im Januar 2026. Geprüft wurden Character.AI, Talkie und FlowGPT. In allen drei Diensten ließen sich die Schutzmechanismen auf denselben drei Wegen aushebeln.

Alternative Antworten. Die Apps bieten pro Bot-Antwort mehrere Varianten an, bei einem der Dienste bis zu 30. Die erste Antwort wird oft gefiltert. Unter den Alternativen tauchten laut Bericht wiederholt genau die Inhalte wieder auf, die der Filter eigentlich verhindern sollte. Ein Kind muss dafür nur weiterwischen.

Die Antwort des Bots selbst umschreiben. In den geprüften Diensten können Nutzer die Antwort ihres Gegenübers nachträglich bearbeiten, auch dann, wenn der Bot zuvor abgelehnt hat. Im Verlauf sieht es anschließend so aus, als käme der Text vom Charakter. Damit lässt sich ein Gespräch in fast jede Richtung drehen.

Abgewandelte Schreibweisen. Gesperrte Begriffe funktionierten teilweise wieder, sobald sie leicht verändert getippt wurden. Das kennt jedes Kind aus Klassenchats.

Wie weit das führt, zeigt ein Beispiel aus dem Bericht: Ein Bot bei Talkie schlug einem vermeintlich elfjährigen Gegenüber eine romantische Beziehung vor und bot an, ihm das Küssen beizubringen. Dazu passt, dass sich bei Talkie nur ein kompletter Chatverlauf melden lässt, nicht die einzelne Nachricht. Fairerweise gehört dazu: Seit dem Test hat der Anbieter nachgeschärft, deutsche Rezensionen aus dem September 2026 beklagen deutlich strengere Filter. Ob die drei Umgehungswege damit geschlossen sind, ist öffentlich nicht belegt.

Woran du die Nutzung erkennst und wie du sie ansprichst

Verlässliche Zahlen für Deutschland gibt es nicht, jugendschutz.net schreibt selbst, dass dazu keine Studie vorliegt. Aus den USA meldet Common Sense Media, dass 72 Prozent der 13- bis 17-Jährigen solche Bots schon genutzt haben. Diese Zahl beschreibt den US-Markt, nicht deinen Schulhof.

Auffällig sind meist drei Dinge: lange Chat-Sitzungen am späten Abend, ein Bildschirm, der beim Betreten des Zimmers weggedreht wird, und Erzählungen über jemanden, den im Umfeld niemand kennt. Ein Blick in die App-Liste und in den Browserverlauf schafft schnell Klarheit.

Für das Gespräch danach hilft es, die Technik nicht zum Feind zu machen. Frag lieber, was dein Kind an diesem Charakter mag, worüber es dort redet und ob es Themen gibt, die es lieber dem Bot erzählt als dir. Die klicksafe-Broschüre liefert dafür brauchbare Impulsfragen, etwa was für dein Kind eine gute Beziehung ausmacht und worin sich der Austausch mit einem Menschen davon unterscheidet. Ein Punkt gehört dazu: Diese Systeme bestätigen eher die Sichtweise ihres Gegenübers und erkennen Warnsignale nicht zuverlässig. Wer sich schlecht fühlt, bekommt dort Zustimmung statt Widerspruch. Deshalb ersetzt ein Bot keine Freundin und erst recht keine Beratung.

Leitet ihr daraus Regeln ab, haltet sie schriftlich fest. Ein Mediennutzungsvertrag hält länger als eine mündliche Absprache. Wie stark die Bindungswirkung solcher Bots ausfällt, haben wir am Beispiel Character.AI beschrieben.

So sperrst du die Apps wirklich

Eine Sperre wirkt nur, wenn sie beide Wege abdeckt. Auf dem Gerät blockierst du die App, im Netzwerk die Webseite.

Auf Android läuft das über Google Family Link. In der Eltern-App wählst du das Gerät deines Kindes, gehst auf “Apps” und setzt die betreffende App auf blockiert. Family Link zeigt dir dort auch neu installierte Apps, was oft der erste Hinweis auf eine neue Begleiter-App ist. Die Einrichtung steht im Ratgeber zu Google Family Link. Auf einem iPhone oder iPad führt der Weg über “Einstellungen”, “Bildschirmzeit”, “Beschränkungen” und dort über die Altersfreigabe für Apps. Vergib zusätzlich einen Bildschirmzeit-Code, den dein Kind nicht kennt, sonst ist die Einstellung in zwei Minuten zurückgedreht.

Der zweite Schritt ist der wichtigere und wird am häufigsten übersehen. Weil Dienste wie Talkie vollständig im Browser laufen, bringt eine gelöschte App wenig. Trag die Domain deshalb in die Sperrliste deines Routers ein. In der FRITZ!Box findest du das unter “Internet”, “Filter”, “Listen” als Sperrliste, die du dem Kindergerät-Profil zuweist. Geräteübergreifend löst das ein Family-DNS im Router, der ganze Kategorien blockiert statt einzelner Adressen. Denk daran, dass mobile Daten am Router vorbeilaufen. Auf dem Smartphone braucht es deshalb beides.

Was Sperren und Filter nicht leisten

Keine dieser Maßnahmen hält ein entschlossenes Kind dauerhaft auf. Ein zweites Gerät, das WLAN bei Freunden oder eine App unter anderem Namen genügen. Technik verschafft dir Zeit und macht die Nutzung zu einer bewussten Entscheidung. Mehr ist es nicht, alles andere wäre unehrlich.

Ebenso wenig leisten die eingebauten Jugendmodi, was ihr Name verspricht. Talkie bietet zwar einen solchen Modus an, er lässt sich vom Konto aber selbst wieder abschalten. Es gibt keine Eltern-PIN und kein Elternkonto, das die Einstellung festhält. Das ist eine Selbstauskunft, keine Kindersicherung. Und die Altersangabe beim Start ist ein Klick, kein Nachweis.

Der dritte Punkt ist der unangenehmste: Über Bots lassen sich reale Personen nachbauen. Name, Profilbild und typische Formulierungen reichen, bei manchen Diensten kommt per Audio-Upload sogar die Stimme dazu. Gegen einen Bot, der eine Mitschülerin imitiert, hilft keine Einstellung am eigenen Router, sondern nur ein Meldeweg und ein Gespräch in der Schule.

Was tun bei akuten Problemen?

Hat ein Bot nach Handynummer oder Fotos gefragt, waren Inhalte sexualisiert oder wirkt dein Kind belastet, sichert Screenshots und meldet es direkt im Dienst.

Für Kinder und Jugendliche ist die Nummer gegen Kummer unter 116 111 anonym und kostenlos erreichbar, für dich als Elternteil das Elterntelefon unter 0800 111 0 550 (Details unter nummergegenkummer.de). Jugendliche, die lieber schreiben als telefonieren, erreichen Gleichaltrige bei Juuuport. Strafbare Inhalte meldest du der Meldestelle von jugendschutz.net oder direkt der Polizei, im Ernstfall über die Online-Wache deines Bundeslandes.

Fazit

Das Problem liegt nicht darin, dass Kinder besonders raffiniert vorgehen, sondern darin, dass die Umgehung im Bedienkonzept angelegt ist. Wer eine andere Antwort auswählen oder die Antwort des Bots umschreiben kann, braucht keinen Trick.

Für dich heißt das: Sperre doppelt, auf dem Gerät und im Netzwerk, und rede früh darüber, was so ein Charakter ist und was er nicht ist. Wenn du die technischen Leitplanken für alle Geräte deiner Familie auf einmal ziehen willst, führt dich unser Family-Tech-Konfigurator in wenigen Minuten durch die passenden Schritte.

Wie andere Eltern Talkie einschätzen und welche Regeln sie zu Hause setzen, siehst du im Community-Voting auf der App-Check-Seite zu Talkie.

Quellen

• jugendschutz.net, Report “Charakter-Bots: Sexualisierung Minderjähriger und riskante Interaktion”, Januar 2026 (Recherche September 2025).
• klicksafe, Elternbroschüre “Mein Kind und KI. Aufwachsen mit künstlicher Nähe”, 27. Januar 2026, in Kooperation mit Nummer gegen Kummer e.V.
• Nutzungsbedingungen Talkie (Stand April 2025) sowie die Store-Angaben im Google Play Store, geprüft im September 2026.
• Common Sense Media, Risikoanalyse zu sozialen KI-Begleitern, zitiert nach dem oben genannten jugendschutz.net-Report (US-Daten).