Какво може да се случи, когато вместо на агроном се довериш на изкуствения интелект? Един 67-годишен фермер в Китай твърди, че е получил доста скъп урок, след като последвал съвет от AI чатбот и на следващата сутрин установил, че е унищожил около 100 дка от реколтата си.
Случаят е поредното напомняне, че колкото и убедително да звучат чатботовете, те не са машини за истина. Те се обучават върху огромни масиви от информация, предимно създадена от хора, и генерират отговори според научените езикови модели. Понякога това води до точен отговор, но понякога - до напълно убедително звучаща грешка.
Според международно проучване от 2025 г. около 45% от отговорите на AI асистенти съдържат поне един съществен проблем, а приблизително една пета включват т.нар. "халюцинации" - измислена или невярна информация, представена като факт. Историята от Китай показва как подобна грешка може да излезе далеч извън рамките на екрана.
Според информация на тайванската медия CTWant, преразказана от IFL Science, 67-годишният фермер от Чучжоу в продължение на няколко месеца използвал AI чатбот, за да организира работата си на полето и да получава съвети за торове и препарати. Първоначално бил скептичен, но постепенно започнал да се доверява на отговорите му.
Източник: iStock
През юли той потърсил помощ от чатбота за справяне с вредители по насажденията си със сусам. Изкуствения интелект му препоръчал комбинация от няколко химикала, сред които флупириметалин и фомесафен, смесени с тиаметоксам и метилова сол. Фермерът последвал съвета и напръскал растенията, без да потърси допълнително мнение от специалист.
На следващия ден обаче го очаквала неприятна изненада - около 100 дка от реколтата му били унищожени. Тогава фермерът отново се обърнал към същия чатбот, за да разбере какво се е объркало. Този път AI успял да посочи проблема: фомесафенът е хербицид, предназначен основно за борба с широколистни плевели, а сусамът също е широколистно растение. Тоест препаратът, който трябва да помогне срещу плевелите, всъщност се оказал неподходящ за самата култура.
Източник: iStock
Историята е особено показателна, защото фермерът не е използвал AI просто от любопитство. Той постепенно го е превърнал в своеобразен дигитален консултант, а една грешна препоръка в крайна сметка е довела до реална финансова загуба.
И това далеч не е единственият случай, в който грешен съвет от AI има последствия в реалния свят. Изследвания вече показват, че хора използват чатботове за съвети по теми като здраве, финанси и други важни решения, въпреки че тези системи могат да предоставят неточна информация.
Затова историята на китайския фермер е добро напомняне за едно от най-важните правила при използването на изкуствен интелект: увереният тон не означава, че отговорът е верен. Особено когато става дума за нещо, което може да бъде напръскано върху 100 дка.
