Стартап Perplexity AI, занимающийся искусственным интеллектом, привлек десятки миллионов долларов от таких людей, как Джефф Безос и других известных технологических инвесторов, для своей миссии — конкурировать с Google в бизнесе поиска информации.

Но его поисковый чат-бот, управляемый искусственным интеллектом, уже сталкивается с проблемами, поскольку некоторые новостные медиа-компании возражают против его деловой практики. Он также конкурирует с технологическими гигантами Google, а теперь и с Apple , которые все чаще внедряют аналогичные функции искусственного интеллекта в свои основные продукты.

Генеральный директор Perplexity Аравинд Сринивас провел большую часть прошлой недели, защищая компанию после того, как она опубликовала краткую новость с информацией и формулировками, аналогичными расследованию Forbes, но не цитируя СМИ и не спрашивая их разрешения. Forbes заявил, что позже обнаружил подобные «подделки» из других публикаций.

Associated Press отдельно обнаружило еще одну особенность продукта Perplexity, в которой придумываются фальшивые цитаты реальных людей, в том числе бывшего избранного городского чиновника из Мартас-Винъярд, которого ложно цитировали, заявив, что он не хочет, чтобы остров Массачусетс стал местом назначения для марихуаны.

«Я никогда этого не говорил», — сказал Билл Росси, бывший член избирательного совета островного города Чилмарк.

Сринивас рассказал Associated Press, что его компания пытается построить позитивные отношения с издателями новостей, чтобы их новостной контент «охватывал больше людей».

«Мы определенно можем сосуществовать и помогать друг другу», — сказал он.

Отвечая на вопрос о Forbes, он сказал, что его продукт «никогда ни у кого не копировал контент. Наш движок не обучается на чужом контенте», отчасти потому, что компания просто агрегирует то, что генерируют системы искусственного интеллекта других компаний.

«На самом деле мы скорее агрегатор информации и предоставляем ее людям с правильным указанием авторства», — сказал Сринивас. Но он добавил: «Forbes точно отметил, что они предпочитают более заметное выделение источника. Мы немедленно учли эту обратную связь и обновили изменения в тот же день. И теперь источники выделены более заметно».

На этой неделе Perplexity также сообщила, что ищет партнерства по распределению доходов, которые будут выплачивать издателям новостей часть доходов от рекламы Perplexity каждый раз, когда новостной контент того или иного СМИ упоминается в качестве источника.

Рэндалл Лейн, директор по контенту Forbes Media, назвал спор «переломным моментом» в разговоре об ИИ.

«Это пример того, куда мы движемся», — сказал Лейн агентству AP. «Если люди, которые возглавляют эту задачу, не испытывают фундаментального уважения к тяжелой работе по созданию собственных отчетов и информированию людей с помощью полезного контента, у нас возникает большая проблема».

Лейн, назвавший себя «быком искусственного интеллекта», который считает, что эта технология может помочь сделать многие новостные организации более эффективными, сказал, что спор между Perplexity и Forbes важен, потому что это «метафора того, что может произойти, если люди, контролирующие искусственный интеллект, не сделают этого». Я уважаю людей, выполняющих работу».

По словам Лейна, Perplexity позиционирует себя как поисковую систему, «действуя как медиакомпания и публикуя историю», о которой сообщил только Forbes.

«Все это было очень неискренне. И мы не услышали: «Ой, да, мы все испортили, и нам нужно добиться большего», — сказал он. «Вместо этого компания просто выпускала больше контента, вносила небольшие изменения в модель и относилась к журналистике так, как будто это просто товар, который нужно производить».

Шринивас, ученый-компьютерщик и бывший исследователь искусственного интеллекта в OpenAI и Google, стал соучредителем Perplexity летом 2022 года, незадолго до того, как генератор изображений AI Stable Diffusion и ChatGPT OpenAI начали вызывать у общественности интерес к возможностям генеративного искусственного интеллекта.

Частично вдохновленный своей детской любовью к Википедии, он описал Perplexity AP как «похожий союз Википедии и ChatGPT», который может мгновенно отвечать на вопросы человека без «огромного беспорядка», как в обычных результатах поиска Google.

«Вы задаете вопрос, получаете ответ из чистых источников, и есть примерно три или четыре предложенных (последующих) вопроса, и все», — сказал он о Perplexity. «Таким образом, умы людей могут быть свободны от отвлекающих факторов, и они могут просто сосредоточиться на обучении и копании глубже».

Компания продает подписку на премиум-функции и планирует запустить рекламный сервис по мере роста базы пользователей.

«Сегодня мы не прибыльны как компания, но мы также управляем более устойчиво, чем компании, занимающиеся базовыми моделями, потому что мы не обучаем наши собственные фундаментальные модели», — сказал он.

Perplexity опирается на существующие большие языковые модели искусственного интеллекта, например, созданные OpenAI, Anthropic а затем «посттренирует» их.

«Мы формируем из них действительно хороших сумматоров», — сказал он.

Не всегда понятно, откуда берется обобщенная информация. Одна из функций Perplexity под названием «Письмо», которая позволяет пользователю «генерировать текст или общаться в чате без поиска в Интернете», создает длинные комментарии без источника, часто в стиле новостной статьи. Тестирование этой функции, проведенное репортером AP с просьбой написать об отсутствии марихуаны на винограднике Марты, привело к созданию документа из 465 слов, который напоминал новостную статью и включал сфабрикованные цитаты бывшего городского чиновника и другого реального человека.

AP не повторяет ложные цитаты, чтобы избежать распространения дезинформации. Сринивас сказал, что функция «Письмо» в Perplexity — это «второстепенный вариант использования», предназначенный для помощи в написании эссе или исправлении грамматики, когда информация из первоисточника не требуется. Он сказал, что он «более склонен к галлюцинациям» — распространенная проблема с моделями большого языка ИИ — поскольку он не привязан к возможностям веб-поиска основного продукта Perplexity.

«Нет сомнений в том, что генеративный ИИ переворачивает с ног на голову журналистику, создание контента и поиск», — сказала Сара Крепс, директор Института технической политики Корнеллского университета.

В качестве примера она указала на новый подход Google, похожий на Perplexity, который обобщает ответы на основе информации, полученной в результате сканирования Интернета. Это тоже привело к появлению ложной информации и заставило Google внести коррективы в продукт после его публичного релиза.

«Но вся их модель рекламы основана на отправке людей на веб-сайты», — сказала она в электронном письме. «Почему люди будут заходить на веб-сайты, если они могут получить универсальный ответ в результатах искусственного интеллекта?»

Шринивас заявил AP, что «многие люди получают рекомендации от Perplexity, и я рад, что они получают рекомендации от нового игрока в Интернете».

На данный момент большая часть этой выгоды может быть амбициозной. Всемирная база пользователей Perplexity в этом году быстро выросла до более чем 85 миллионов веб-посещений в мае, но это едва заметно по сравнению с миллиардами пользователей ChatGPT и других популярных платформ от Microsoft и Google, согласно данным Likeweb .

Дебаты демонстрируют «неопределенные и трудные времена» для создателей онлайн-контента в целом и журналистики в частности, поскольку агрегаторы работают только в том случае, если существуют такие издания, как Forbes, сказал Стивен Линд, доцент Школы бизнеса Маршалла Университета Южной Калифорнии.

Использование ИИ в качестве инструмента синтеза способствует широкому распространению информации до тех пор, пока «у вас не закончатся оригиналы », сказал он.

«Есть целые компании или целые приложения, которые также делают это, развертывая новые услуги, не продумывая до конца последствия, передовые методы или меры безопасности, потому что они развертывают приложения для отраслей, для которых они, возможно, не являются родными. »

Линд сказал, что хорошо, что такие компании, как Perplexity, «предпринимают хотя бы некоторые шаги, чтобы скорректировать курс, когда отрасль или пользователь сопротивляются». Но некоторые изменения должны были быть заложены с самого начала, добавил он.