Представьте себе пшеничное поле, простирающееся до самого горизонта, выращиваемое для муки, из которой будет изготавливаться хлеб, чтобы накормить жителей городов. Представьте, что все полномочия по обработке почвы, посадке, удобрению, мониторингу и сбору урожая на этом поле делегированы искусственному интеллекту: алгоритмам, управляющим системами капельного орошения, автономными тракторами и комбайнами, достаточно умными, чтобы реагировать на погоду и конкретные потребности. урожая. Затем представьте, что хакер все испортил.
Новый анализ рисков, опубликованный сегодня в журнале Nature Machine Intelligence , предупреждает, что будущее использование искусственного интеллекта в сельском хозяйстве сопряжено со значительными потенциальными рисками для ферм, фермеров и продовольственной безопасности , которые плохо изучены и недооценены.
«Идея интеллектуальных машин, управляющих фермами, — не научная фантастика. Крупные компании уже являются пионерами следующего поколения автономных агро-ботов и систем поддержки принятия решений, которые заменят людей в полевых условиях», — сказал д-р Асаф Цахор из Центра Кембриджского университета. по изучению экзистенциального риска (CSER), первый автор статьи.
«Но до сих пор никто не задавался вопросом: существуют ли какие-либо риски, связанные с быстрым внедрением сельскохозяйственного ИИ?», — добавил он.
Несмотря на огромные перспективы ИИ для улучшения управления растениеводством и производительности сельского хозяйства , к потенциальным рискам необходимо подходить ответственно, а новые технологии должным образом тестироваться в экспериментальных условиях, чтобы гарантировать их безопасность и защиту от случайных сбоев, непредвиденных последствий и кибератак, считают авторы. сказать.
В своем исследовании авторы составили каталог рисков, которые необходимо учитывать при ответственной разработке ИИ для сельского хозяйства, и способы их устранения. В нем они поднимают тревогу по поводу кибератак, которые могут нарушить работу коммерческих ферм с помощью ИИ, отравив наборы данных или отключив опрыскиватели, автономные дроны и роботизированные комбайны. Чтобы защититься от этого, они предлагают, чтобы «белые хакеры» помогали компаниям обнаруживать любые недостатки безопасности на этапе разработки, чтобы системы можно было защитить от реальных хакеров.
Авторы предполагают, что в сценарии, связанном со случайным сбоем, система ИИ, запрограммированная только на получение наилучшего урожая в краткосрочной перспективе, может игнорировать экологические последствия достижения этого, что приведет к чрезмерному использованию удобрений и эрозии почвы в долгосрочной перспективе. Чрезмерное применение пестицидов для получения высоких урожаев может отравить экосистемы; чрезмерное применение азотных удобрений загрязнит почву и окружающие водоемы. Авторы предлагают привлекать экологов-прикладников к процессу проектирования технологий, чтобы избежать подобных сценариев.
Автономные машины могли бы улучшить условия труда фермеров, избавив их от ручного труда. Но без разработки инклюзивных технологий социально-экономическое неравенство, которое в настоящее время укоренилось в глобальном сельском хозяйстве, включая гендерную, классовую и этническую дискриминацию, останется.
«Экспертные фермерские системы с искусственным интеллектом, которые не учитывают сложности трудозатрат, будут игнорировать и потенциально поддерживать эксплуатацию обездоленных сообществ», — предупредил Цахор.
Различные агроботы и современное оборудование, такое как дроны и датчики, уже используются для сбора информации о сельскохозяйственных культурах и поддержки принятия решений фермерами: например, для выявления болезней или недостаточного орошения. А беспилотные зерноуборочные комбайны могут собирать урожай без участия оператора. Такие автоматизированные системы направлены на то, чтобы сделать сельское хозяйство более эффективным, сократить расходы на рабочую силу, оптимизировать производство и свести к минимуму потери и отходы. Это приводит к увеличению доходов фермеров, а также к большей зависимости от сельскохозяйственного ИИ.
Тем не менее, мелкие производители, которые возделывают большинство ферм по всему миру и кормят большие участки так называемого глобального юга, скорее всего, будут лишены преимуществ, связанных с ИИ. Маргинализация, низкий уровень проникновения интернета и цифровой разрыв могут помешать мелким землевладельцам использовать передовые технологии, увеличивая разрыв между коммерческими и натуральными фермерами.
Приблизительно два миллиарда человек, страдающих от отсутствия продовольственной безопасности, в том числе около 690 миллионов недоедающих и 340 миллионов детей, страдающих от дефицита микронутриентов, технологии искусственного интеллекта и точное земледелие обещают существенные преимущества для продовольственной и пищевой безопасности в условиях изменения климата и растущего населения мира.
«ИИ приветствуется как способ произвести революцию в сельском хозяйстве. По мере того, как мы внедряем эту технологию в больших масштабах, мы должны внимательно учитывать потенциальные риски и стремиться снизить их на ранних этапах разработки технологии», — сказал д-р Шон О Хейгартай, исполнительный директор. Директор CSER и соавтор нового исследования.
