Bedenkliche KI-Entwicklung

Es gibt einige Entwicklungen, die ich tatsächlich als bedenklich einstufe – insbesondere dort, wo Kinder und Jugendliche betroffen sind. Viele davon beschäftigen inzwischen auch Schulen, Datenschutzbehörden und Jugendschutzorganisationen.

Hier sind aus meiner Sicht die wichtigsten:

1. Deepfake-Mobbing

Mit wenigen Klicks lassen sich Fotos von Mitschülerinnen und Mitschülern manipulieren. Besonders problematisch sind sogenannte “Nudify”-Apps, die aus normalen Fotos scheinbar echte Nacktbilder erzeugen. Solche Fälle treten bereits an Schulen auf und haben teilweise strafrechtliche Konsequenzen.  

2. Schülerinnen und Schüler glauben der KI zu schnell

KI formuliert sehr überzeugend – auch wenn sie falsch liegt. Viele Jugendliche überprüfen Antworten kaum noch. Dadurch besteht die Gefahr, dass falsches Wissen ungeprüft übernommen wird.  

3. Verlust von Denk- und Problemlösekompetenzen

Wenn jede Hausaufgabe, jeder Aufsatz oder jede Recherche vollständig von der KI erledigt wird, trainieren Schülerinnen und Schüler wichtige Fähigkeiten immer weniger. KI sollte deshalb unterstützen – nicht ersetzen.

4. KI wird zum “Freund”

Immer mehr Jugendliche nutzen KI-Chatbots nicht nur zum Lernen, sondern auch als Gesprächspartner für persönliche Sorgen. Fachstellen warnen davor, dass emotionale Abhängigkeiten entstehen können und soziale Beziehungen darunter leiden könnten.  

5. Desinformation wird immer perfekter

Früher waren Fake News oft leicht erkennbar. Heute können KI-generierte Texte, Bilder, Stimmen und Videos täuschend echt wirken. Medienkompetenz wird dadurch wichtiger denn je.  

6. Hausaufgaben verlieren ihren Aussagewert

Lehrpersonen wissen oft nicht mehr, ob eine Arbeit tatsächlich von der Schülerin oder dem Schüler stammt. Das zwingt Schulen dazu, Leistungsbeurteilungen neu zu denken.

7. Datenschutz wird komplexer

Viele Jugendliche laden unüberlegt Fotos, Texte oder persönliche Informationen in KI-Systeme hoch. Vielen ist nicht bewusst, welche Daten verarbeitet oder gespeichert werden.

8. KI erleichtert Cyberkriminalität

Täuschend echte Phishing-Mails, Betrugsnachrichten oder gefälschte Sprachnachrichten lassen sich heute mit KI wesentlich einfacher erstellen. Jugendliche gehören zunehmend zur Zielgruppe solcher Angriffe.

9. Die digitale Kluft wächst

Nicht alle Schülerinnen und Schüler haben denselben Zugang zu leistungsfähigen KI-Tools oder lernen deren sinnvollen Einsatz. Dadurch können sich Bildungsunterschiede weiter vergrössern.

10. Lehrpersonen geraten unter Druck

Viele Lehrpersonen fühlen sich von der rasanten Entwicklung überrollt. Neue Tools erscheinen im Wochentakt, gleichzeitig fehlen oft verbindliche Vorgaben oder Weiterbildungen. Dadurch entstehen Unsicherheit und teilweise Ablehnung – obwohl KI langfristig kaum mehr aus dem Bildungsbereich wegzudenken sein dürfte.

Die gute Nachricht

Fast alle diese Risiken lassen sich nicht durch Verbote, sondern durch Bildung entschärfen.

Deshalb braucht es in der Schule künftig neben Lesen, Schreiben und Rechnen auch Kompetenzen wie:

• KI kritisch hinterfragen

• Fakten überprüfen

• Quellen beurteilen

• Datenschutz verstehen

• Deepfakes erkennen

• verantwortungsvoll mit KI arbeiten

Genau hier liegt eine der wichtigsten Aufgaben der Schule in den kommenden Jahren: Schülerinnen und Schüler nicht nur mit KI arbeiten zu lassen, sondern ihnen beizubringen, wann sie der KI vertrauen dürfen – und wann besser nicht.