一名67歲的安徽滁州農戶，在按照AI提供的除草除蟲方案後，讓其150畝芝麻苗一夜枯萎。AI認定枯萎的主因為其所推薦的除草劑。
據報導，農戶吳先生已經使用AI軟件一年有餘，經常諮詢有關施肥、用藥和農事安排等問題。起初的懷疑逐漸轉變為信賴。
在7月10日，吳先生向AI詢問芝麻田的除草除蟲方法。AI給出了一套「百畝芝麻飛防除草＋除蟲全套方案」，推薦使用高效氟吡甲禾靈、氟磺胺草醚、噻蟲嗪及甲維鹽等農藥。
按照AI的方案，吳先生噴藥後第二天發現芝麻苗和雜草一同枯萎，而芝麻苗受害更為嚴重。再次詢問原因時，AI表示是配方中的氟磺胺草醚造成芝麻受害。
附近農藥經銷商指出，氟磺胺草醚主要用於大豆田的除草，不適合在芝麻田全面使用。農業技術人員也解釋，這種農藥只能針對特定作物進行局部除草，全田噴灑會對作物造成損害。
吳先生認為，AI生成方案時未給予明確警告。雖然軟件頁面上有「AI生成可能有誤，注意核實」的提示，但他之前未曾注意到。
AI軟件的客服解釋，該軟件沒有自身的知識庫，回答都是整合自公開網絡信息生成的，平台將調查所參考的網絡資料。對於吳先生的損失，客服僅表示將記錄反饋。至報導時間，平台尚未公布後續處理結果，報導中也未透露AI軟件的名稱。
事件引起網友熱議，有人認為「AI可以參考，但不可全信」，亦有人討論「還不能對AI追責」，也有人擔憂「這麼多塊地怎麼能完全信賴AI呢」。
對此，台灣國防安全研究院網絡安全與決策推演研究所副研究員謝沛學指出，部分AI模型為提高回答速度，引入即時檢索方式，卻可能降低信源質量把關，增加受虛假信息操控風險。
根據中共官媒央視曝光，一款虛構產品的軟文在發布後約兩小時，AI模型開始推薦該產品。有報導指出，三天後，DeepSeek、豆包等模型將這些虛假信息排在推薦結果的前列。
