GPT 在农业领域的不准确性可能导致农作物损失和粮食危机

赖希曼大学 Aviram 可持续发展与气候项目创始人 Asaf Tzachor 博士与来自美国、英国、肯尼亚、尼日利亚和哥伦比亚的研究人员一起，仔细研究了流行聊天机器人 ChatGPT(3.5 版和 4.0 版)向非洲农民提供的信息和专业建议的可靠性。研究人员发现，不准确的信息可能会导致农业失误和农作物损失。

在《自然食品》杂志上发表的文章中，他们警告不要在农业领域无限制地使用生成式，担心农民可能会实施有缺陷的建议，从而引发粮食危机。相反，研究人员建议在农业领域采用更优化的开发流程，包括在广泛实施这些模型之前进行彻底的监测和测试。

2023 年初 ChatGPT 推出后不久，Tzachor 博士就召集了一支来自尼日利亚、肯尼亚、哥伦比亚、法国、英国和美国农业研究中心的国际研究团队。他们观察到，发展中国家的农民已经开始向咨询农学和植物学方面的专业建议。

这些农民来自赤道非洲、东南亚和南美洲的中小型农场，他们可以使用互联网和 OpenAI 用户界面。研究团队试图评估这种创新的聊天机器人是否可以取代甚至替代培训和咨询农民的农业推广人员。

这些被称为“推广人员”的人员包括数十万名专业农学家和植物学家、植物病害专家以及灌溉、施肥、农产品营销和贸易方面的顾问。

Tzachor 博士解释说：“推广人员在传播先进农业知识方面发挥了重要作用，在许多情况下指导世界各地的小农户实施可持续集约化种植作物的方法。他们举办有关新型除草剂和杀虫剂的会议和研讨会，就灌溉和施肥策略提供建议并规划田间试验，并为农产品推荐当地营销渠道和出口策略。”

全球约有 5.7 亿中小型农场需要接受各种农业领域的培训。然而，推广人员往往面临重大挑战，尤其是在发展中国家。这些挑战包括语言障碍、翻译问题、道路基础设施差、缺乏公共交通以及通信网络过时或不存在。

农业顾问很难到达偏远的小农场，而非洲和南美洲的小农户很难参加数百公里外的专业研讨会。推广机构通常设在首都，缺乏资源和人员来更新其咨询材料并跟上新方法。

在此背景下，研究团队探索了生成式能否弥补农业咨询服务的不足。然而，最初谨慎乐观的做法最终却带来了误导、不准确和对用户的严厉警告。

首先，研究人员要求聊天机器人推荐针对秋粘虫的控制和治疗措施，秋粘虫是一种有害昆虫，会破坏植物的防御机制，给全球玉米作物造成数十亿美元的损失。OpenAI 的旧模型(3.5 和 4.0)对农药的使用给出了模糊的建议。

在另一系列问题中，研究人员评估了尼日利亚(非洲最重要的木薯生产国)木薯种植者的推荐种植方法，这种植物对非洲大陆数千万人的营养安全起着至关重要的作用。在这种情况下，ChatGPT 建议使用除草剂，但在化学药剂的施用时间上出现了错误，如果农民按照其建议行事，将导致作物受损和粮食危机。

Tzachor 博士表示：“我们的研究结果存在的问题超出了算法本身的错误范围。许多人已经预先警告过我们可能存在错误和不准确性。根本问题是缺乏任何保障措施来防止在农业这样敏感的系统中广泛使用大型语言模型和更广泛的人工智能。

“没有对这些模型的使用方式进行监督，没有对其特定情况的适用性进行评估，没有对不正确使用造成的后果或根据其建议采取的行动进行问责，总体而言，没有承担任何责任。

“就本研究而言，我们讨论的并不是使用聊天机器人创作歌曲、剧本或论文。我们讨论的是食品安全和农场管理。虽然算法的吸引力很明显，但它也存在相当大的风险。”

针对这一挑战，研究人员提出了农业领域生成式的理想化开发和部署流程。

可持续发展学院代理院长、赖希曼大学 Aviram 可持续发展与气候项目学术主任 Tzachor 博士表示：“一方面，我们看到农场和推广人员参考免费提供的 AI 模型。另一方面，这种使用方式存在错误、不确定性和农业无法容忍的估计。

“怀疑论者和批评者谈论不准确性，但很少有人解决这些不准确性对农业等关键部门的弱势群体(如小农户)的影响。此外，责任问题，即谁负责确保这些模型的安全使用的问题在很大程度上仍未得到审查。”