Видя силу в цифрах, Apple сделала стратегический шаг на конкурентном рынке искусственного интеллекта, выпустив восемь небольших моделей искусственного интеллекта. Компактные инструменты, получившие общее название OpenELM, предназначены для работы на устройствах и в автономном режиме и идеально подходят для смартфонов.
Опубликованные в сообществе искусственного интеллекта с открытым исходным кодом Hugging Face, модели предлагаются в версиях с 270 миллионами, 450 миллионами, 1,1 миллиардами и 3 миллиардами параметров. Пользователи также могут загрузить Apple OpenELM либо в предварительно обученной, либо в версии с настроенными инструкциями.
Предварительно обученные модели представляют собой основу, на основе которой пользователи могут точно настраивать и развивать. Модели, настроенные на инструкции, уже запрограммированы на реагирование на инструкции, что делает их более подходящими для общения и взаимодействия с конечными пользователями.
Хотя Apple не предложила конкретных вариантов использования этих моделей, их можно применять для запуска помощников, которые могут анализировать электронные письма и текстовые сообщения или предоставлять интеллектуальные предложения на основе данных. Этот подход аналогичен подходу Google, который применил свою модель Gemini AI в линейке смартфонов Pixel.
Модели были обучены на общедоступных наборах данных, и Apple делится как кодом для CoreNet (библиотека, используемая для обучения OpenELM), так и «рецептами» для своих моделей. Другими словами, пользователи могут проверить, как Apple их создала.
Релиз Apple состоялся вскоре после того, как Microsoft анонсировала Phi-3, семейство небольших языковых моделей, способных работать локально. Phi-3 Mini, модель с 3,8 миллиардами параметров, обученная на 3,3 триллионах токенов, по-прежнему способна обрабатывать 128 тысяч токенов контекста, что делает ее сопоставимой с GPT-4 и превосходит Llama-3 и Mistral Large по емкости токенов.
Будучи открытым исходным кодом и легким, Phi-3 Mini потенциально может заменить традиционных помощников, таких как Apple Siri или Google Gemini, для некоторых задач, а Microsoft уже протестировала Phi-3 на iPhone и сообщила об удовлетворительных результатах и быстрой генерации токенов.
Хотя Apple еще не интегрировала эти новые возможности языковой модели искусственного интеллекта в свои потребительские устройства, по слухам, предстоящее обновление iOS 18 будет включать в себя новые функции искусственного интеллекта, которые используют обработку на устройстве для обеспечения конфиденциальности пользователей.
Аппаратное обеспечение Apple имеет преимущество при локальном использовании искусственного интеллекта, поскольку оно объединяет оперативную память устройства с видеопамятью графического процессора (или VRAM). Это означает, что Mac с 32 ГБ ОЗУ (обычная конфигурация ПК) может использовать эту ОЗУ так же, как видеопамять графического процессора для запуска моделей искусственного интеллекта. Для сравнения, устройства Windows ограничены отдельной оперативной памятью устройства и видеопамятью графического процессора. Пользователям часто необходимо приобрести мощный графический процессор емкостью 32 ГБ, чтобы увеличить оперативную память для запуска моделей искусственного интеллекта.
Однако Apple отстает от Windows/Linux в области разработки ИИ. Большинство приложений искусственного интеллекта основаны на оборудовании, разработанном и изготовленном Nvidia, от которого Apple отказалась в пользу поддержки своих собственных чипов. Это означает, что в Apple относительно мало разработок искусственного интеллекта, и в результате использование искусственного интеллекта в продуктах Apple требует слоев перевода или других сложных процедур.