Некоторое время назад компания Apple представила чипсет A20 Pro для iPhone 18 Pro, который получил двухъядерный 16-ядерный нейронный процессор. Основной акцент сделан на задачах искусственного интеллекта. По данным издания WCCF Tech, смартфон способен запускать модель Bonsai 27B с 27 млрд параметров примерно вдвое быстрее, чем iPhone 17 Pro.
Одной из причин такого прироста стала более быстрая память. iPhone 18 Pro и iPhone 18 Pro Max получили 12 ГБ оперативной памяти стандарта LPDDR5X с 96-битной шиной, а её пропускная способность достигает 115,2 ГБ/с. В задачах, рассчитанных на NPU, производительность нового нейронного процессора также выше, чем у графического ускорителя чипа.
При этом возможности смартфона ограничены объёмом оперативной памяти. Более новая модель Bonsai 2 использует 2-битное квантование и слишком велика для полноценной работы на iPhone 18 Pro. Поэтому в демонстрации используется оригинальная Bonsai с 1-битным квантованием. Такая версия требует меньше памяти и может запускаться даже на устройствах с 4 ГБ ОЗУ.
На практике Bonsai 27B должна работать на iPhone 18 Pro без заметного снижения скорости генерации токенов. Это делает смартфон заметно более подходящим для локального запуска крупных ИИ-моделей без подключения к интернету.
При этом для дальнейшего роста производительности Apple потребуется увеличивать объём оперативной памяти. Пока именно этот параметр остаётся одним из главных ограничений для запуска более крупных моделей непосредственно на смартфоне.
