У Чучжоу на сході Китаю історія про цифрового помічника завершилася цілком матеріальною втратою. 67-річний фермер на прізвище Ву обробив поле кунжуту за схемою, яку сформував застосунок зі штучним інтелектом, а наступного ранку побачив масову загибель сходів.
За матеріалом CTWANT, який цитують Tom’s Hardware та The Economic Times, фермер користувався ШІ близько року. Спершу він перевіряв відповіді, але поступово звик до того, що сервіс дає корисні підказки щодо прогнозу погоди, добрив і шкідників. Цей досвід став причиною того, що нову рекомендацію він вирішив застосувати без консультації з агротехніком.
Запит стосувався бур’янів і захисту від комах. ШІ запропонував суміш кількох препаратів. У повідомленнях про випадок серед гербіцидів називають фомесафен — речовину для контролю широколистих бур’янів. Китайські реєстраційні документи для фомесафену визначають конкретні культури, способи внесення та попереджають про чутливість низки рослин.
Після обприскування 150 му землі — приблизно 10 гектарів — проблема з бур’янами справді почала зникати. Але разом із ними загинув і кунжут. У первинному повідомленні аграрні фахівці вказали на фомесафен як на ймовірний небезпечний компонент для цієї ситуації.
Доступні публікації не називають конкретний сервіс ШІ. Це суттєва деталь, бо в соцмережах подібні історії швидко починають приписувати найвідомішим чатботам без доказів. Так само немає надійної публічної оцінки того, скільки грошей втратив фермер. Підтверджений масштаб у повідомленнях — площа пошкоджених посівів.
На сторінці чату, за даними медіа, містилося стандартне попередження, що згенерована інформація може бути неточною і потребує перевірки. Проте попередження не спрацювало як реальний бар’єр. Коли інструмент довго допомагає, користувач природно починає витрачати менше часу на повторну перевірку.
У сільському господарстві ця звичка особливо ризикована. Гербіцид не є універсальною відповіддю на слово «бур’ян». Безпека залежить від культури, стадії росту, дози, погоди та способу внесення. Китайські дослідження гербіцидів для кунжуту окремо оцінюють фітотоксичність саме тому, що різниця між дієвою й шкідливою схемою може бути невеликою.
У травні Китай представив спеціалізовану аграрну модель Green Shield. Вона має звіряти поради з офіційною базою пестицидів і блокувати невідповідні рекомендації. Її поява ще до історії Ву показує, що проблема була відома розробникам: універсальна мовна модель може добре пояснювати загальні речі, але не завжди має бути останньою інстанцією в рецепті для поля.
Для Ву наступний урожай почнеться вже з іншого рівня обережності. Для розробників ШІ питання складніше: як зробити так, щоб система сама розуміла, коли впевнена відповідь небезпечніша за відмову дати рецепт.