Илья Суцкевер, один из основателей OpenAI, который участвовал в неудачной попытке свергнуть генерального директора Сэма Альтмана, заявил, что создает компанию по искусственному интеллекту, ориентированную на безопасность.
Суцкевер, уважаемый исследователь искусственного интеллекта, покинувший производителя ChatGPT в прошлом месяце, заявил в среду в социальной сети, что он создал Safe Superintelligence Inc. с двумя соучредителями. Единственная цель и фокус компании — безопасная разработка «суперинтеллекта» — системы искусственного интеллекта, которые умнее людей.
Компания поклялась не отвлекаться на «управленческие накладные расходы или циклы продукта», и в соответствии с ее бизнес-моделью работа над безопасностью и защищенностью будет «изолирована от краткосрочного коммерческого давления», — заявили Суцкевер и его соучредители Дэниел Гросс и Дэниел Леви. Об этом говорится в подготовленном заявлении.
Все трое заявили, что Safe Superintelligence — американская компания с корнями в Пало-Альто, Калифорния, и Тель-Авиве, «где у нас глубокие корни и возможность нанимать лучших технических специалистов».
Суцкевер входил в группу, которая в прошлом году предприняла неудачную попытку свергнуть Альтмана. Перестановки в совете директоров, о которых Суцкевер позже сказал, что он сожалел, также привели к периоду внутренних беспорядков, связанных с тем, отдают ли лидеры OpenAI приоритет бизнес-возможностям над безопасностью ИИ.
В OpenAI Суцкевер совместно возглавлял команду, занимающуюся безопасной разработкой искусственного интеллекта, превосходящего человеческий, известного как общий искусственный интеллект, или AGI . Когда он покинул OpenAI , он сказал, что у него есть планы на «очень личный» проект, но не сообщил никаких подробностей.
Суцкевер заявил, что это был его выбор — покинуть OpenAI.
Через несколько дней после его ухода соруководитель его команды Ян Лейке также подал в отставку и раскритиковал OpenAI за то, что она позволила безопасности «отойти на второй план перед блестящими продуктами». Позже OpenAI объявила о создании комитета по безопасности , но в него вошли в основном инсайдеры компании.
