Добавьте серверы искусственного интеллекта в список iDevices

Прочитано: 84 раз(а)


Мы можем добавить Apple в список технологических титанов, разрабатывающих собственные ускорители искусственного интеллекта – по крайней мере, так говорят неназванные источники Wall Street Journal.

На этой неделе машина Мердока сообщила, что Купертино незаметно разрабатывает серверный чип под кодовым названием ACDC, или Apple Chips in Data Center, который предназначен для запуска моделей искусственного интеллекта — процесс, называемый логическим выводом.

Apple имеет значительный опыт в разработке чипов: она приложила руку к созданию собственных процессоров, начиная с Apple A4 в 2010 году. С тех пор производитель iDevice полностью перешел на собственный Arm-совместимый чип, официально отказавшись от своих последних связей. в Intel с выпуском Mac Pro в 2023 году.

В последний раз компания Fruit Cart ушла из серверного бизнеса еще в 2011 году, когда она навсегда закрыла линию Xserve. В 1990-е годы компания также занималась серверным оборудованием, но с меньшим успехом. Но хотя Apple не продавала серверное оборудование уже более десяти лет, это не означает, что чип Apple, настроенный под требования сервера, не может использоваться для обслуживания внутренних рабочих нагрузок.

(И кто мог забыть Nuvia, стартап, созданный инженерами процессоров Apple, которые хотели производить серверные чипы, но не смогли, находясь в Купертино. Теперь это предприятие является частью Qualcomm.)

В дополнение к процессорным ядрам общего назначения нынешние Arm-совместимые чипы Apple могут похвастаться довольно мощным интегрированным графическим процессором, а также специальным нейронным процессором (NPU), предназначенным для ускорения операций машинного обучения.

Новейшие микросхемы серии M уже доказали свою вполне компетентность — они способны запускать довольно существенные модели больших языков (LLM) с достаточно высокой производительностью.

Во многом эти возможности зависят от того, как спроектированы собственные чипы Apple. До восьми модулей памяти LPDDR5x устанавливаются вместе с вычислительными кристаллами флагманских компонентов iGiant Ultra, обеспечивая центральному и графическому процессору пропускную способность памяти до 800 ГБ/с.

Пропускная способность памяти является ключевым фактором, когда речь идет о производительности вывода, и это одна из причин, по которой мы видим, как производители графических процессоров, такие как AMD и Nvidia, переходят на более быструю память с высокой пропускной способностью, чтобы избежать узких мест, а потребители-организации могут позволить купить сервер необходимой мощности.

В то время как большинство LLM, которые мы видели, работающими на этих чипах, используют графический процессор через Metal API, Apple на этой неделе представила M4 вместе с обновленными iPad, которые увеличили производительность его NPU до 38 TOPS, что дает ему значительное преимущество над нынешними Intel и AMD. -ген части.

Будут ли серверные чипы Apple, по слухам, иметь какое-либо сходство с уже известными нам сериями A и M, еще неизвестно. Но неудивительно, если Купертино пойдет по этому пути.

По состоянию на 2024 год почти каждый крупный технологический игрок развернул или находится в процессе разработки специальный чип для формирования выводов или обучения ИИ. Meta стала последним гиперскалером, развернувшим в прошлом месяце специализированную микросхему, благодаря широкому внедрению своего Meta Training and Inference Accelerator v2 (MTIA v2).

Хотя в наши дни большое внимание ИИ сосредоточено на LLM, стоящих за популярными чат-ботами и сервисами, такими как ChatGPT от OpenAI, Gemini от Google или Copilot на базе OpenAI от Microsoft, MTIA на самом деле предназначена для запуска моделей внутренних рекомендаций Meta — для таких вещей, как выбор и размещение рекламы.

Аналогичная история с Tensor Processing Unit от Google и комплектом Trainium и Inferenia от Amazon, которые изначально были разработаны для выполнения соответствующих внутренних рабочих нагрузок. Но, как и в случае с большей частью облачной инфраструктуры, избыточные мощности в конечном итоге стали доступны публике. Остается Microsoft, которая представила свои собственные процессоры и чипы искусственного интеллекта только прошлой осенью.

Учитывая масштабы деятельности Apple, вполне разумно полагать, что она видит возможность сократить расходы за счет переноса устоявшихся рабочих нагрузок машинного обучения – особенно тех, которые слишком велики для практического запуска на устройстве – на высокооптимизированные микросхемы, созданные и контролируемые собственными силами.

Однако не все в этом убеждены. Известный обозреватель Apple Марк Гурман выразил свои сомнения в программе Xitter Monday, сообщив , что, хотя примерно в 2018 году Apple начала проект по разработке серверных чипов, от программы отказались. Он добавил, что отсутствие дифференциации, высокая стоимость и ориентация на искусственный интеллект на устройствах делают эту перспективу еще более маловероятной.

Несмотря на это, Тим Кук столкнулся с сильным давлением со стороны инвесторов на фоне бума искусственного интеллекта, требующего более открытого обсуждения стратегии Apple. Несколько месяцев назад Microsoft заняла первое место в списке самых ценных компаний, по крайней мере, частично благодаря признанному лидерству Редмонда в области искусственного интеллекта. Более подробно мы обсудили, как могла бы выглядеть стратегия Apple в области искусственного интеллекта, здесь .

Вплоть до этой весны Apple в основном избегала использования «ИИ» в своем маркетинге, предпочитая использовать термин «машинное обучение» — и то весьма умеренно. Все изменилось с выпуском в марте MacBook Air M3, когда его рекламировали как «лучший в мире потребительский ноутбук для искусственного интеллекта».

Таким образом, даже если серверный чип Apple не обсуждается, как предполагает Гурман, ясно, что Кук стремится изменить представление о том, что он отстает в гонке ИИ.

Incooling — это создание серверов, использующих фазовый переход для охлаждения



Новости партнеров