В культовой серии «Звёздные войны» капитан Хан Соло и человекоподобный дроид C-3PO обладают совершенно противоположными характерами. Движимый эмоциями и лихой уверенностью, Хан Соло часто игнорирует логически обоснованную осторожность C-3PO. Эти взаимоотношения человека и дроида ярко иллюстрируются знаменитым высказыванием Соло: «Никогда не говори мне о шансах!», когда он отвергает совет C-3PO не пересекать астероидное поле с вероятностью выживания 3720 к 1 — вероятностью, тщательно рассчитанной его блестящим помощником.
Хотя такие комедийные отношения создают неотразимую драму в голливудской классике, подобная динамика не сработала бы в повседневной жизни для успешного взаимодействия человека и машины. Сегодня, когда ИИ становится частью повседневной жизни многих людей, люди и машины должны научиться хорошо работать вместе, говорит доцент Бэй Янь из Школы бизнеса Стивенса, изучающая командную работу человека и машины.
«Компании используют ИИ наряду с людьми, но им сложно эффективно взаимодействовать», — говорит она. «Люди мыслят иначе, чем ИИ. Люди используют опыт, рассудительность и социальные сигналы. ИИ же использует статистические закономерности, выявленные на основе данных».
Когда помощь ИИ становится препятствием
Эти различия могут дополнять друг друга , но только если они хорошо скоординированы, добавляет она. В противном случае пользователи могут чрезмерно доверять результатам работы ИИ, неправильно использовать системы или тратить время на их исправление или обход. «В таких случаях ИИ не снижает трудозатраты. Он создает трение», — говорит она. «Это несоответствие часто приводит к низкой эффективности командной работы между людьми и ИИ». А иногда и вовсе к провалу.
Анализируя сбои в работе ИИ, компании связывают их с одной из двух причин: технология либо недостаточно мощная, либо слишком мощная, чтобы ей можно было доверять. Однако Ян предлагает другую причину: машины и люди плохо согласованы в своей совместной работе. « Сбои в работе ИИ происходят потому, что люди и машины не понимают друг друга в том, как они распределяют задачи, роли и обязанности».
Почему фиксированное разделение задач неэффективно
Как отмечает Ян, при внедрении ИИ на рабочем месте компании, как правило, заблаговременно распределяют задачи между людьми и ИИ. Это работает только в том случае, если задачи стабильны и предсказуемы и не меняются со временем. Но это не относится к большинству рабочих ситуаций.
Ян приводит в качестве примера алгоритмы высокочастотной торговли, где ИИ используется для быстрого мониторинга рынка, выявления тенденций и возможностей. Однако некоторые неожиданные события, такие как внезапное падение рынка, серьезные изменения в политике или публикация данных об инфляции, могут исказить понимание рынка ИИ.
« Алгоритмы обучаются на основе заранее заданных правил , поэтому ИИ на самом деле не предназначен для понимания подобных событий, и это может изменить весь рынок и даже привести к обвалам », — говорит она.
Новая модель совместной работы
В своей новой статье под названием «Синхронизация разума и машины: гибридное когнитивное согласование как возникающий механизм координации в сотрудничестве человека и ИИ», опубликованной в журнале Academy of Management, Ян утверждает, что эффективное партнерство человека и ИИ должно быть структурировано по-другому.
Им следует опираться на процесс, называемый « гибридным когнитивным согласованием » — постепенное формирование общих ожиданий относительно того, для чего предназначен ИИ, как его следует использовать и когда человеческое суждение должно иметь приоритет.
«Такое согласование не происходит автоматически при развертывании системы, — говорит Ян. — Вместо этого оно формируется со временем, по мере того как люди узнают, как ведет себя ИИ, адаптируют способы взаимодействия с ним и перестраивают свое доверие на основе опыта».
Например, искусственный интеллект сейчас используется в медицине для анализа рентгеновских снимков или компьютерной томографии. Обученный на миллионах изображений, он часто лучше выявляет рак или другие проблемы, чем может упустить из виду врач. Однако он плохо знает историю болезни конкретного пациента или его реакцию на лекарства, поэтому без участия и контроля человека анализ будет не таким эффективным.
Аналогично, в сфере обслуживания клиентов ИИ обучается на тысячах предыдущих взаимодействий и может с рекордной скоростью искать информацию о внутренних документах компании, касающихся ее политики, но при этом может не понимать проблему или потребности конкретного клиента. Без обучения персонала правильному использованию ИИ многие подобные инициативы могут не принести желаемых результатов.
Что это значит для компаний и строителей?
Итак, что же должны делать компании при внедрении ИИ? «Им следует больше сосредоточиться на том, как распределяются задачи и роли между людьми и машинами, и как это может меняться со временем», — говорит Ян.
«Обучение, акцентирующее внимание на правильном использовании ИИ, и время, предоставленное командам для адаптации, имеют решающее значение», — подчеркивает она. «Рассматривать ИИ как готовое решение часто приводит к обратным результатам; подход, при котором он рассматривается как новый сотрудник, дает лучшие результаты. Для менеджеров эти последствия очевидны», — отмечает она.
Разработчики ИИ тоже могут извлечь пользу из этой статьи. Результаты исследования подчеркивают важность проектирования не только производительности, но и возможностей для сотрудничества. «Системы должны четко сообщать о своих возможностях и ограничениях , поддерживать обучение пользователей с течением времени и помогать им формировать прочные партнерские отношения», — говорит она.
«В конечном счете, потенциал ИИ заключается не в том, чтобы сделать машины умнее сами по себе, а в том, чтобы улучшить взаимодействие человека и ИИ. Именно согласованность, а не чистый интеллект, превращает ИИ из источника разочарования в источник ценности».
