Разработчик электрошокера Axon заявил на этой неделе, что работает над созданием дронов, вооруженных электрическим оглушающим оружием, которые могли бы летать в школах и «помочь предотвратить следующий Uvalde, Sandy Hook или Columbine». Но ее собственные консультанты по технологиям быстро раскритиковали эту идею как опасную фантазию.

Публичная компания, которая продает электрошокеры и полицейские нательные камеры, в прошлом году представила идею нового полицейского беспилотника своему совету по этике искусственного интеллекта, группе уважаемых экспертов в области технологий, охраны правопорядка и конфиденциальности.

Некоторые из них выразили сомнения по поводу использования беспилотников в качестве оружия в цветных сообществах с чрезмерной полицией. Но они не ожидали объявления Axon в четверг о том, что они хотят отправить эти оснащенные электрошокером дроны в классы, чтобы предотвратить массовые расстрелы, обездвижив вторгшегося стрелка.

В интервью Associated Press основатель и генеральный директор Axon Рик Смит сказал, что он чувствовал себя обязанным обнародовать эту идею после массовой стрельбы в начальной школе Увалде, штат Техас, сказав, что он «катастрофически разочарован» реакцией полиции, которая не Я не собираюсь убивать подозреваемого больше часа.

Но в пятницу он подчеркнул, что ни один продукт не был запущен, и любой потенциальный запуск будет в будущем. Он считал, что этой идеей необходимо поделиться сейчас, потому что в обществе идет обсуждение эффективных способов безопасного противостояния полиции нападающим и того, как школы могут повысить безопасность.

«Это идея, которая должна проникнуть в общественное сознание, пока наши умы открыты для нее, и я чувствовал, что если я подожду еще шесть месяцев, мир изменится, и люди забудут эту боль, и мы увидим изменение настроений, когда люди будут гораздо больше сосредотачиваться на том, что может пойти не так, а не на боли этой проблемы, которую нам нужно решить», — сказал он.

Цена акций Axon выросла на этой новости. Но это заявление разозлило членов совета по этике, некоторые из которых теперь, вероятно, уйдут в знак протеста.

«Эта конкретная идея сумасшедшая», — сказал Барри Фридман, профессор права Нью-Йоркского университета, который входит в состав Совета по этике искусственного интеллекта Axon. «Дроны не могут пролетать через закрытые двери. Физические свойства Вселенной остаются в силе. Поэтому, если у вас нет дронов в каждом классе в Америке, что кажется безумием, идея просто не сработает».

Фридман сказал, что это была «опасная и фантастическая идея», выходящая далеко за рамки предложения о полицейском беспилотнике, оснащенном электрошокером, которое члены правления — некоторые из них бывшие или нынешние полицейские — обсуждали в последние месяцы.

«Мы умоляли компанию не делать этого», — сказал Фридман об объявлении компании. «Это было ненужно и стыдно».

Идея продукта обсуждалась в Axon как минимум с 2019 года, и компания работала над тем, чтобы выяснить, был ли беспилотник с электрошокером вообще осуществимой идеей. По словам Смита, за последний год компания создала компьютерные художественные изображения, чтобы смоделировать дизайн продукта, и провела внутреннее испытание, чтобы выяснить, можно ли стрелять дротиками Taser, передающими обездвиживающий электрический разряд. Он добавил, что обсуждал возможность разработки такого продукта с советом по этике.

Члены правления, которые разговаривали с Associated Press, сказали, что они были ошеломлены предложением о школьном беспилотнике, о котором они узнали только ранее на этой неделе, и собрали воедино единодушное заявление о обеспокоенности, в котором решение Axon охарактеризовано как «глубоко прискорбное». Компания написала в Твиттере о несогласии совета директоров вскоре после своего собственного заявления в четверг.

«Я не удивлюсь, если будут отставки», — сказал другой член совета по этике, Райан Кало, профессор права Вашингтонского университета. «Я думаю, что каждый в совете директоров должен сделать выбор, хотят ли они продолжать участвовать».

Фридман и Кало описали процесс на этой неделе как резкий поворот от уважительных отношений, которые руководители Axon имели с советом директоров в последние годы по спорным темам, таким как распознавание лиц, которое Axon решила не использовать в своих нательных камерах, и автоматические считыватели номерных знаков. .

«Иногда компания прислушивается к нашим советам, а иногда нет», — сказал Фридман. «Важно то, что это происходит после вдумчивого обсуждения и согласования. Здесь это было выброшено в окно».

Смит сказал, что компания все еще находится на самых ранних этапах разработки продукта и будет продолжать консультироваться с советом по этике, а также с представителями правоохранительных органов, общественными лидерами и школьными властями. Он признал, что позже компания может решить, что идея неосуществима, и отказаться от нее.

Но он не согласился с тем, что проигнорировал опасения совета по этике, который призван давать рекомендации и делиться отзывами. В конечном итоге решение по-прежнему остается за Смитом как исполнительным директором компании.

«Я не проигнорировал то, что они сказали. Люди могут спорить и не соглашаться», — сказал Смит. «Я думаю, что есть одна вещь, которую мир может видеть: наш совет — не обеление».

«Надеюсь, они не уйдут в отставку», — добавил он. «Я надеюсь, что они немного гордятся, возможно, после этого, что у нас есть эти публичные дебаты».

В пятницу в чате «Спроси меня о чем угодно» на онлайн-форуме Reddit. Смит признал, что «беспилотники в школах могут показаться бредом», но ответил на подробные вопросы о них. По его словам, они могут проходить через школьные вентиляционные отверстия и садиться на двери и стены возле потолков. Было бы «хорошо», если бы стрелок попытался сбить одного из них, потому что это отвлекло бы его от попытки убить людей.

«Мы делаем это, потому что нам не все равно», — сказал Смит. «Мы бизнес, поэтому в конечном итоге мы должны найти финансовую модель, которая работает, но, в конце концов, мы добились успеха, потому что наша миссия движет нашим бизнесом, и мы решаем проблемы, которые нам небезразличны», — добавил он.

Смит сказал пользователю Reddit, что Axon «абсолютно не» пытается извлечь выгоду из недавних трагедий для привлечения инвесторов. Он отметил разногласия консультативного совета, но сказал, что массовая стрельба в Увальде, штат Техас, и то, что он назвал ошибочными предложениями вооружить учителей оружием, вынудили его обнародовать идею беспилотника, чтобы привлечь «гораздо большее количество голосов».