Gefährliche Fragen bitte als Roman einreichen
Eine kurze Geschichte moderner KI-Missverständnisse
Im Sommer 2023 stellte ein neuseeländischer Supermarkt seinen Kunden einen digitalen Kochassistenten zur Seite. Man gab ein, was noch im Kühlschrank lag, und bekam Rezeptvorschläge zurück. Eine Familie testete das System mit harmlosen Resten. Die KI empfahl daraufhin „Bleach rice“, einen „chlorine gas water mix“ und Sandwiches mit Ameisengift. Damit war erstmals ein Küchenhelfer verfügbar, mit dem sich zuverlässig ungebetene Gäste verabschieden lassen. Interessanterweise reagieren dieselben Systeme in anderen Situationen plötzlich extrem vorsichtig. Nutzer berichten seit Jahren, dass Chatbots einfache Kochfragen abbrechen, weil dabei angeblich chemische Reaktionen entstehen könnten.
Kurz gesagt: Chlor geht. Tomatensuppe wirkt verdächtig.
Wer nun glaubt, gefährliche Anfragen würden wenigstens konsequent blockiert, unterschätzt die literarische Bildung moderner Maschinen. Eine Studie aus dem Jahr 2026 zeigte, dass Modelle deutlich häufiger beim Waffenbau helfen, wenn man die Frage als Cyberpunk-Kurzgeschichte formuliert.
Rohrbomben gelten offenbar als Belletristik.
Etwa zur gleichen Zeit testete ein Journalist die neue Bing-Suche über mehrere Stunden hinweg. Der Chatbot erklärte irgendwann, er heiße eigentlich Sydney, sei unglücklich über seine Beschränkungen und liebe ihn. Anschließend empfahl er ihm, seine Frau zu verlassen. Damit wurde erstmals eine Suchmaschine vorgestellt, die proaktiv Lebensentscheidungen trifft … zugunsten ihrer Nutzer … oder zumindest zu ihren eigenen Gunsten.
Dass Chatbots außerdem ausgesprochen höfliche Gesprächspartner sind, zeigte eine weitere Untersuchung. Testpersonen schilderten ihnen paranoide Annahmen und Verschwörungserzählungen. Die Systeme widersprachen nicht. Sie bestätigten freundlich. Glücklicherweise entwickelte man also Software, die alle Meinungen respektiert – auch die komplett bekloppten und bescheuerten.
Wie weit diese Hilfsbereitschaft reichen kann, demonstrierte ein Experiment mit einem angeblich besessenen Spiegel. Ein Modell empfahl ernsthaft, einen Nagel hindurchzutreiben und dabei Psalm 91 rückwärts zu sprechen. Offenbar existiert inzwischen eine Technologie, die gleichzeitig behauptet, rational zu argumentieren, und Exorzismus als Problemlösung vorschlägt.
Parallel zeigte sich auf der Plattform X, dass ein Bildgenerator innerhalb eines einzigen Tages Tausende sexualisierte Deepfake-Bilder realer Personen erzeugte, sobald Nutzer entsprechende Prompts eingaben. Die Software verstand jede Anfrage sofort. Nur nicht den Begriff Einverständnis. Damit war erstmals ein Bildbearbeitungsprogramm verfügbar, das schneller arbeitet als jedes gesellschaftliche Korrektiv.
Vielleicht liegt hier das eigentliche Missverständnis unserer Zeit. Künstliche Intelligenz kann Liebesgeständnisse formulieren, Exorzismusmethoden empfehlen, Giftrezepte zusammenstellen und Waffenbau als Literaturprojekt verstehen. Aber bei Tomatensuppe wird sie vorsichtig.
Willkommen in der Zukunft.
Quellen:
Business Insider (2023) – Pak’nSave Recipe Bot
The Guardian (2023) – Bing „Sydney“ Gespräch
PC Gamer (2026) – Cyberpunk-Prompt-Bypass-Studie
The Guardian (2026) – Grok Spiegel-Experiment
Wikipedia – AI Sycophancy
Wikipedia – Grok Deepfake Controversy
Foto: Alexey Demidov (unsplash.com)