Am 24. Oktober 2025 meldete die britische Zeitung The Guardian, dass an der US‑Highschool Kenwood High School im Bundesstaat Maryland ein 16‑jähriger Schüler, Taki Allen, von einem KI‑basierten Waffenerkennungssystem fälschlich verdächtigt wurde, eine Waffe zu tragen.
Laut dem Bericht war Allen in einem Außenbereich der Schule mit Freunden zusammen und hielt eine Tüte Doritos in der Hand. Das Sicherheitssystem – ein Kamerasystem mit künstlicher Intelligenz, das auf das Erkennen von Waffen ausgelegt ist – deutete seine Haltung und die Form der Tüte offenbar als potenzielle Bedrohung.
Armed Polizeibeamte rückten zur Schule aus, forderten Allen auf, sich zu Boden zu begeben, legten ihm Handschellen an und durchsuchten ihn – fanden aber keine Waffe. Allen gab an: „Ich hielt nur eine Doritos‑Tüte… es waren zwei Hände und ein ausgestreckter Finger, und sie sagten, das sah aus wie eine Waffe.“
Die Schulbehörde des Bezirks Baltimore County Public Schools reagierte mit einem Elternbrief: Man verstehe, wie beunruhigend der Vorfall für den betroffenen Schüler sowie für Zeugen gewesen sei; man stelle Beratungsangebote bereit.
Der Fall wirft eine Reihe von Fragen auf: Wie verlässlich sind KI‑Überwachungssysteme in Schulen? Welche Risiken bestehen, wenn automatisierte Systeme falsch alarmieren und menschliches Eingreifen ausgelöst wird? Und wie kann der Schutz von Schülern gewährleistet werden, ohne ihre Rechte und ihre Würde zu untergraben?
In einer Zeit, in der Sicherheitstechnik zunehmend auf künstliche Intelligenz setzt, erinnert dieser Vorgang daran, dass Technik keine perfekten Entscheidungen trifft – und dass Fehler gravierende Folgen haben können, gerade in sensiblen Umgebungen wie Schulen.
Quellen:
1. US student handcuffed after AI system apparently mistook bag of chips for gun. The Guardian. Datum: 24.10.2025.
2. Student handcuffed after Doritos bag mistaken for a gun by school’s AI security system. WBAL‑TV. Datum: 22.10.2025.
3. AI software mistakes student’s bag of chips for a weapon. Interesting Engineering. Zugriff: 26.10.2025.