Что произойдет, если мы передаем скучную, но важную работу ИИ? Исследования показывают, что мы забываем, как сделать это самостоятельно.
В 2009 году самолет Air France упал в океан, выживших не осталось. Система автопилота самолета отключилась, и пилоты, полагаясь на своего компьютеризированного помощника, не смогли исправить ситуацию вручную.
В 2015 году водитель автобуса в Европе ввел в свое GPS-устройство неверный пункт назначения и с радостью повез группу бельгийских туристов в объезд на 1200 километров в неправильном направлении.
В 2017 году в решении, позже отмененном апелляцией, прокуроры США, согласившиеся освободить подростка под испытательный срок, внезапно изменили свое мнение, поскольку алгоритм постановил, что обвиняемый имеет «высокую степень риска».
Это драматические примеры, но они далеко не единичны. Когда мы передаем когнитивные задачи технологиям (например, управление самолетом, навигация или вынесение суждений), исследования показывают, что мы можем потерять способность выполнять эти задачи самостоятельно. Существует даже термин, обозначающий нашу склонность забывать информацию, доступную через онлайн-поисковые системы: эффект Google.
Поскольку новые технологии искусственного интеллекта обещают автоматизировать все больше видов деятельности, растет риск «утраты навыков». Наше исследование показывает , как это может произойти , и предлагает способы сохранить необходимые вам знания, даже если они вам не нужны каждый день.
Утрата навыков может нанести вред организации
Мое исследование показывает, что риск утраты навыков легко упустить из виду. В недавнем исследовании мы с командой изучали утрату навыков в бухгалтерской компании.
Недавно компания прекратила использовать программное обеспечение , которое автоматизировало большую часть ее службы учета основных средств. Однако без этого бухгалтеры оказались не в состоянии выполнить поставленную задачу. Годы чрезмерного использования программного обеспечения подорвали их опыт, и в конечном итоге им пришлось заново изучать свои навыки учета основных средств.
Хотя программное обеспечение было основано на правилах (оно не использовало машинное обучение или «ИИ»), оно было достаточно «умным», чтобы отслеживать амортизацию и составлять отчеты для многих налоговых и финансовых целей. Эти задачи бухгалтеры-люди сочли очень сложными и утомительными.
Компания узнала об утрате навыков только после того, как клиент обнаружил ошибки в ручных отчетах бухгалтерии. Поскольку у бухгалтеров не было достаточного опыта, компании пришлось поручить поставщику программного обеспечения исправить ошибки.
Как происходит утрата навыков
Мы обнаружили, что недостаточная внимательность к задаче, поддерживаемой автоматизацией, привела к снижению навыков. Старая поговорка «используй или потеряешь» применима как к когнитивно интенсивной работе, так и ко всему остальному.
Бухгалтеры не беспокоились о том, чтобы передать свое мышление программному обеспечению, поскольку оно работало почти безупречно. Другими словами, они стали жертвой « самоуспокоенности автоматизации »: предположения, что «все хорошо», игнорируя при этом потенциальные риски.
Это имело три основных последствия:
- они потеряли понимание того, что делает автоматизация
- они потеряли стимул поддерживать и обновлять соответствующие знания (например, налоговое законодательство), поскольку поставщик и программное обеспечение сделали это за них.
- поскольку программное обеспечение было надежным, они больше не утруждали себя проверкой исходящих отчетов на точность.
Как сохранить свои навыки
Итак, как предотвратить самоуспокоенность при использовании ИИ и других автоматизированных систем? Вот три совета:
- обратите внимание на то, что делает система: какие входные данные используются, для какой цели и что может повлиять на ее предложения.
- поддерживать свою компетентность на современном уровне (особенно если вы несете юридическую ответственность за результаты)
- критически оценивать результаты, даже если окончательные результаты кажутся удовлетворительными.
Как это будет выглядеть на практике? Вот повседневный пример: вождение с помощью навигационного приложения на базе искусственного интеллекта.
Вместо того чтобы слепо следовать инструкциям приложения, обращайте внимание на дорожные знаки и ориентиры и осознавайте, что вы делаете, даже под руководством приложения.
Изучите карту и предлагаемый маршрут перед поездкой, чтобы расширить свои «знания предметной области» или понимание того, что находится вокруг маршрута. Это поможет вам связать ваш конкретный путь с более широкой средой, что будет полезно, если вы заблудитесь или захотите найти альтернативные маршруты.
Достигнув пункта назначения, подумайте о маршруте, предложенном приложением: был ли он быстрым, безопасным, приятным? Если нет, в следующий раз подумайте о том, чтобы выбрать другой маршрут, даже если приложение предлагает иное.
Является ли ИИ необходимым спутником?
Случай с бухгалтерской фирмой также поднимает более серьезный вопрос: какие навыки актуальны и заслуживают сохранения, а какие нам следует отказаться от автоматизации?
Универсального ответа не существует, поскольку профессиональные навыки меняются со временем, в зависимости от юрисдикции, отрасли, культуры и географического положения. Однако с этим вопросом нам придется столкнуться, поскольку ИИ возьмет на себя функции, которые раньше считались не поддающимися автоматизации.
Несмотря на трудности, менеджер по бухгалтерскому учету в нашем примере считает, что автоматизированное программное обеспечение очень полезно. По его мнению, его команда просто была застигнута врасплох самоуспокоенностью.
В мире, ориентированном на эффективность и годовые или квартальные цели, организации отдают предпочтение решениям, которые улучшают ситуацию в краткосрочной перспективе, даже если они имеют негативные долгосрочные побочные эффекты. Именно это произошло в случае с бухгалтерским учетом: повышение эффективности затмило абстрактные опасения по поводу опыта, пока не возникли проблемы.
Это не означает, что нам следует избегать ИИ. Организации не могут позволить себе упустить возможности, которые они предоставляют. Однако им также следует осознавать риск утраты навыков.
