Сегодня, 4 июня, компания Raspberry Pi Foundation, крупнейший в мире производитель одноплатных компьютеров для массового потребителя, официально представила новый модуль (это первое решение компании, выпущенное специально для работы с ИИ), который предоставляет энтузиастам возможность работать с технологиями на базе искусственного интеллекта. Комплект получил название AI Kit и состоит из двух компонентов — платы расширения M.2 Hat (Hardware Attached on Top) и модуля М.2, на котором распаян ускоритель Hailo-8L. Стоит отметить, что данный ускоритель представляет собой урезанную версию чипа Hailo-8, который был анонсирован в этом году.
Соответственно, если оригинальный ускоритель Hailo-8 выдаёт 26 TOPS при INT8, то Hailo-8L демонстрирует производительность на уровне 13 TOPS. Естественно, это гораздо меньше, чем те возможности, которые предоставляют компании Qualcomm, AMD и Intel, у которых собственные системы на кристалле оборудованы модулями NPU мощностью 45, 50 и 48 TOPS соответственно. С другой стороны, новинка позволяет получить доступ к работе с искусственным интеллектом за более или менее демократичную цену. Дело в том, что комплект AI Kit стоит 70 долларов, плюс примерно 80 долларов придётся отдать за сам одноплатный компьютер Raspberry Pi 5. Выходит, что всего за 150 долларов можно смело начинать работу с ИИ, что куда дешевле систем на кристалле с предустановленным модулем NPU.
Кроме того, технический директор Raspberry Pi Foundation заявил, что у модуля Hailo-8L крайне низкое энергопотребление, что тоже является огромным преимуществом. Например, по данным специалиста, данный ускоритель потребляет примерно 1 Вт энергии на каждые 3 TOPS производительности, то есть в общей сложности для работы этого модуля нужно всего 5 Вт энергии. Более того, в режиме типичных рабочих нагрузок (вроде обработки видео при скорости в 60 кадров в секунду в режиме реального времени) модуль потребляет всего 1-2 Вт. При этом интегрировать ускоритель для ИИ непосредственно в материнскую плату Raspberry Pi 5 компания не планирует.
Дело в том, что даже интеграция столь доступного по современным меркам модуля на базе Hailo-8L (или любого другого ускорителя для ИИ) в материнскую плату привела бы к существенному повышению стоимости Raspberry Pi 5. Разработчики проекта не желают повышать цену базового одноплатного компьютера, так что AI Kit является простой альтернативной — те, кому нужен только компьютер и ничего более, всё ещё получат модель за 80 долларов, а те, кто хочет работать с ИИ, могут докупить плату отдельно и работать с технологиями на базе ИИ локально, а не в облаке на мощностях огромных корпораций.
