Ein 67-jähriger Landwirt aus Chuzhou in China hat nach Medienberichten Sesampflanzen auf einer Fläche von rund zehn Hektar verloren, nachdem er eine von einer KI erstellte Empfehlung zur Unkraut- und Schädlingsbekämpfung umgesetzt hatte.
Der Mann mit dem Nachnamen Wu nutzte die nicht näher benannte KI-Anwendung den Berichten zufolge seit etwa einem Jahr. Zunächst habe er die Antworten skeptisch betrachtet und kontrolliert. Weil Hinweise zu Wetter, Düngung und Schädlingen wiederholt brauchbar erschienen, wuchs sein Vertrauen in das System.
Als Wu später nach einer Behandlung für sein Sesamfeld fragte, schlug die KI eine Mischung aus Herbiziden und Insektiziden vor. Er ließ die Empfehlung diesmal nicht von einem Pflanzenschutzfachmann prüfen, sondern behandelte 150 Mu. Diese chinesische Flächeneinheit entspricht hier ungefähr zehn Hektar beziehungsweise 24,7 Acres.
Am folgenden Morgen zeigte sich der Schaden. Nach Angaben von CTWANT, die von Tom’s Hardware und The Economic Times aufgegriffen wurden, starben nicht nur Unkräuter, sondern auch die Sesamkeimlinge großflächig ab.
In den Berichten wird Fomesafen als einer der eingesetzten Wirkstoffe genannt. Das Herbizid dient der Bekämpfung breitblättriger Unkräuter. Chinas amtliche Pflanzenschutzmittel-Datenbank führt Fomesafen-Produkte für klar definierte Anwendungen, etwa in Sojabeständen, und enthält Warnhinweise zu empfindlichen Kulturen. Fachleute im ursprünglichen Bericht brachten den Wirkstoff mit dem Schaden am Sesam in Verbindung.
Wie hoch der finanzielle Verlust ausfiel, ist öffentlich nicht belegt. Auch der Name der KI-Anwendung wird in den zugänglichen Berichten nicht genannt. Der Vorfall lässt sich deshalb nicht seriös einem bekannten Chatbot oder einem bestimmten Anbieter zuschreiben.
Bemerkenswert ist vor allem die Entstehung des Vertrauens. Auf der Chat-Seite soll ein allgemeiner Hinweis gestanden haben, dass KI-generierte Informationen falsch sein können und überprüft werden sollten. Ein solcher Standardhinweis verliert jedoch an Wirkung, wenn ein Nutzer über Monate erlebt, dass ein Werkzeug meistens funktioniert.
Bei Pflanzenschutzmitteln ist die Grenze zwischen allgemeiner Information und konkreter Handlungsanweisung besonders wichtig. Entscheidend sind Kulturart, Entwicklungsstadium, Wirkstoff, Dosierung und Applikationsmethode. Eine chinesische Studie von 2024 zu Nachauflaufherbiziden im Sesam zeigte deutliche Unterschiede bei der Kulturverträglichkeit verschiedener Behandlungen.
China arbeitet inzwischen an spezialisierten Systemen. Im Mai wurde das Pflanzenschutz-Sprachmodell Green Shield vorgestellt. Es soll Empfehlungen mit der nationalen Datenbank zugelassener Pflanzenschutzmittel abgleichen und unzulässige Vorschläge blockieren. Die Entwickler begründeten den Ansatz ausdrücklich damit, dass allgemeine Sprachmodelle ungenaue und riskante Angaben zum Pestizideinsatz liefern können.
Der Fall Wu macht damit ein grundsätzliches Problem sichtbar: Je besser eine KI im Alltag funktioniert, desto eher wird aus einer Empfehlung eine Entscheidung. Bei irreversiblen Handlungen reicht es deshalb nicht, Verantwortung in einen allgemeinen Warnhinweis zu verlagern. Das System selbst muss erkennen, wann eine Antwort ohne fachliche Prüfung nicht in die Praxis umgesetzt werden sollte.