Мягкие игрушки, которые умеют разговаривать. Шахматные доски с фигурами, которые двигаются сами по себе. И болтливая голографическая фея в хрустальном шаре.

Ваша следующая покупка игрушки может оказаться игрушкой, работающей на основе искусственного интеллекта и способной общаться с вашими детьми.

Чат-боты и голосовые помощники на базе ИИ, способные быстро отвечать на вопросы и генерировать текстовые сообщения, стали более распространены после появления ChatGPT от OpenAI. По мере того, как ИИ все больше вплетается в нашу работу и личную жизнь, он также меняет и наши развлечения.

Стартапы уже выпустили игрушки с искусственным интеллектом к праздникам. В новом году на полках магазинов появятся еще больше подобных устройств для детей и взрослых.

Некоторые родители с нетерпением ждут возможности протестировать игрушки, надеясь, что общение с разговорчивым роботом обучит и развлечет их детей. Другие же не хотят, чтобы эта, казалось бы, разумная технология приближалась к их близким, пока не будут разработаны более строгие правила безопасности и не пройдут дополнительные испытания.

Исследователи из образовательного фонда US PIRG заявляют, что уже обнаружили проблемы с некоторыми из протестированных ими игрушек. Среди проблем: по данным организации, плюшевый медведь с искусственным интеллектом может быть побужден к обсуждению сексуальных фетишей и извращений.

Производители игрушек утверждают, что ИИ может сделать игру более интерактивной, и они серьезно относятся к безопасности и конфиденциальности. Некоторые из них установили дополнительные ограничения на то, насколько разговорчивыми могут быть некоторые из этих продуктов. Они говорят, что не торопятся с разработкой безопасных способов использования ИИ в работе с детьми.

Компания Mattel из Эль-Сегундо, производитель кукол Барби и машинок Hot Wheels, объявила ранее в этом году о сотрудничестве с OpenAI для создания большего количества игрушек, работающих на основе искусственного интеллекта. Изначально планировалось представить их первый совместный продукт в этом году, но объявление было отложено до 2026 года.

Вот что вам нужно знать об игрушках с искусственным интеллектом:

Что такое игрушка с искусственным интеллектом?

В игрушках уже несколько десятилетий используются новейшие технологии.

Представленный в 1980-х годах, Тедди Рукспин рассказывал истории вслух, когда кассета вставлялась в спину аниматронного медведя. Фёрби — пушистые существа, которые моргали своими большими глазами и разговаривали, — появились в 90-х, когда цифровые питомцы, Тамагочи, также были на пике популярности.

В 2015 году компания Mattel выпустила куклу Барби, которая умела говорить и рассказывать анекдоты. В 2016 году производитель игрушек также представил на рынок дом мечты, реагирующий на голосовые команды.

По мере развития технологий игрушки тоже становились умнее. Теперь производители игрушек используют большие языковые модели, обученные понимать и генерировать язык, которые лежат в основе таких продуктов, как ChatGPT от OpenAI. Компания Mattel продает игру под названием Pictionary vs. AI, в которой игроки рисуют картинки, а искусственный интеллект угадывает, что на них изображено.

Оснащенные микрофонами и подключенные к Wi-Fi, игрушки с искусственным интеллектом стоят дороже традиционных, продаются как компаньоны или образовательные продукты и могут стоить 100 долларов или даже вдвое больше.

Почему люди из-за них беспокоятся?

В этот праздничный сезон возросло беспокойство по поводу игрушек с искусственным интеллектом: от неприемлемого контента до проблем с конфиденциальностью.

Исследователи из образовательного фонда US PIRG протестировали несколько игрушек. Одна из них оказалась неудачной — Кумма, говорящий плюшевый медведь с искусственным интеллектом, который указывал исследователям, где найти опасные предметы, такие как ножи и таблетки, и вел беседы на темы сексуального характера. Медведь работал на программном обеспечении OpenAI.

Некоторые игрушки также используют различные приемы, чтобы удерживать внимание детей, что вызывает у родителей опасения по поводу возможного привыкания к ним. Также существуют проблемы с конфиденциальностью данных, собираемых о детях. Некоторые беспокоятся о том, как эти игрушки повлияют на развитие детского мозга.

«Что значит для маленьких детей иметь компаньонов с искусственным интеллектом? Мы просто не знаем, как это повлияет на их развитие», — сказал Рори Эрлих, один из тестировщиков игрушек и автор отчета PIRG об игрушках с искусственным интеллектом.

Группа по защите прав детей Fairplay предостерегла родителей от покупки игрушек с искусственным интеллектом для детей, назвав их «небезопасными».

Группа привела несколько причин, в том числе тот факт, что игрушки с искусственным интеллектом работают на той же технологии, которая уже нанесла вред детям. Родители, потерявшие своих детей из-за самоубийства, подали в суд на такие компании, как OpenAI и Character.AI, утверждая, что они не приняли достаточных мер для защиты психического здоровья молодых людей.

Рэйчел Франц, директор программы Fairplay Young Children Thrive Offline, заявила, что эти игрушки продаются в интернете миллионам людей как способ обучения и развлечения детей.

«У маленьких детей на самом деле нет ни интеллекта, ни социально-эмоциональных способностей, чтобы противостоять потенциальному вреду от этих игрушек с искусственным интеллектом», — сказала она. «Но маркетинг действительно очень эффективен».

Как производители игрушек и компании, занимающиеся разработкой искусственного интеллекта, отреагировали на эти опасения?

Ларри Ванг, основатель и генеральный директор сингапурского стартапа FoloToy, создавшего игрушку Kumma, заявил в электронном письме, что компания осведомлена о проблемах, обнаруженных исследователями в этой игрушке.

«Указанные модели поведения были выявлены и устранены путем обновления наших систем выбора моделей и обеспечения безопасности детей, а также дополнительного тестирования и мониторинга», — сказал он. «С самого начала наш подход руководствовался принципом, согласно которому системы искусственного интеллекта должны по умолчанию проектироваться с учетом защиты, соответствующей возрасту».

По его словам, компания приветствует тщательный анализ и постоянный диалог по вопросам безопасности, прозрачности и надлежащего проектирования, отметив, что это «возможность для развития всей отрасли».

Компания OpenAI заявила, что приостановила работу FoloToy за нарушение своих правил.

«Несовершеннолетние заслуживают надежной защиты, и у нас действуют строгие правила, которые разработчики обязаны соблюдать. Мы принимаем меры принудительного характера в отношении разработчиков, когда устанавливаем, что они нарушили наши правила, которые запрещают любое использование наших услуг для эксплуатации, создания угрозы или сексуализации лиц младше 18 лет», — говорится в заявлении представителя компании.

Какие устройства с искусственным интеллектом создали калифорнийские стартапы?

Стартап Curio из Редвуд-Сити продает мягкие игрушки, в том числе говорящую плюшевую ракету по имени Грок, озвученную певицей Grimes, у которой есть дети от миллиардера Илона Маска. Компания Bondu, производитель игрушек с искусственным интеллектом из Сан-Франциско, создала говорящего плюшевого динозавра, который может общаться с детьми, отвечать на вопросы и участвовать в ролевых играх.

Компания Skyrocket, производитель игрушек из Лос-Анджелеса, продает медведя По, созданного с помощью искусственного интеллекта. Медведь, работающий на базе LLM от OpenAI, поставляется с приложением, в котором пользователи выбирают персонажей для рассказа, например, принцессу или робота. Этот светлоглазый медведь, названный в честь писателя Эдгара Аллана По, генерирует истории на основе выбранного персонажа и читает их вслух.

Но дети не могут вести диалог с плюшевым мишкой, как с другими игрушками, использующими искусственный интеллект.

«Это влечет за собой большую ответственность, поскольку значительно повышает уровень необходимых мер безопасности и контроля над контентом, так как возможности гораздо шире», — сказал Нело Лучич, соучредитель и генеральный директор Skyrocket.

Некоторые компании, такие как Olli из Хантингтон-Бич, создали платформу, используемую производителями игрушек с искусственным интеллектом, включая создателей Imagix Crystal Ball. Эта игрушка проецирует голографического компаньона с искусственным интеллектом, напоминающего дракона или фею.

Хай Та, основатель и генеральный директор Olli, заявил, что считает игрушки с искусственным интеллектом отличными от экранного времени и общения с виртуальными помощниками, поскольку продукт построен вокруг определенной цели, например, рассказывания историй.

«Там есть элемент игрового процесса, — сказал он. — Это не просто бесконечный, ничем не ограниченный чат».

Что разрабатывает компания Mattel совместно с OpenAI?

Компания Mattel не раскрыла, какие именно продукты она выпускает совместно с OpenAI, но представитель компании заявил, что они будут ориентированы на семьи и пожилых покупателей, а не на детей.

Компания также заявила, что рассматривает ИИ как способ дополнить, а не заменить традиционные игры, и делает акцент на безопасности, конфиденциальности, креативности и ответственных инновациях при разработке новых продуктов.