ZIB Magazin Media

Moderation: Kathrin Pollak

KI-Quellen können mit Falschinfos „vergiftet“ werden

Mehr als 80 Prozent der heimischen Bevölkerung nutzen bereits KI im Alltag, etwa ChatGPT, Claude und Co. Doch woher beziehen diese Systeme eigentlich ihre Informationen? Und wer kontrolliert, mit welchen Daten sie trainiert werden? Denn die Gefahr ist real: KI-Modelle können gezielt mit manipulierten Daten beeinflusst werden. Dieses Phänomen nennt sich „LLM Poisoning“. Die britische Zeitung The Guardian hat aufgedeckt, dass es sich dabei keineswegs nur um ein theoretisches Risiko handelt.