Вчера, 16 апреля, представители компании Cloudflare в своём официальном блоге сообщили о довольно крупном обновлении фирменной платформы AI Platform — теперь это единый слой для инференса (вывода) данных искусственного интеллекта, который существенно упростит процесс взаимодействия с передовыми LLM и ИИ-агентами. Суть нововведения в том, что теперь пользователи посредством всего одного API получат доступ к любой модели искусственного интеллекта от любого провайдера (разработчика) буквально из одной панели управления.
«Мы рады сообщить, что теперь у вас будет доступ к более чем 70 моделям искусственного интеллекта от 12 провайдеров — всё это работает через один API и всего одной строкой кода можно между этими моделями переключаться», — заявили представители компании.
В Cloudflare объяснили, что пользователь может просмотреть каталог доступных моделей, чтобы найти лучший вариант для своей конкретной задачи — есть как модели с открытым исходным кодом, так и проприетарные модели от ведущих разработчиков на рынке. На данный момент на платформе представлены решения от Alibaba Cloud, AssemblyAI, Bytedance, Google, InWorld, MiniMax, OpenAI, Pixverse, Recraft, Runway и Vidu — включая модели для генерации изображений, видео и речи. То есть пользователи смогут создавать в том числе мультимодальные приложения, что существенно расширяет возможности платформы.
И, что немаловажно в современных условиях рынка, доступ ко всем моделям посредством единого API означает, что пользователю будет гораздо проще управлять своими расходами на искусственный интеллект.
«Добавляя кастомные метаданные к своим запросам, вы получите подробную разбивку затрат по наиболее важным для вас атрибутам — расходы на бесплатных и платных пользователей, расходы по отдельным клиентам или рабочим процессам в вашем приложении», — объяснили в Cloudflare.
Но это ещё не всё — AI Gateway, платформа Cloudflare, предоставляет в том числе возможность запустить модель, которую пользователь собственноручно доработал на собственных данных, либо модель, оптимизированную для выполнения определённой задачи. В каком-то смысле это ключевое преимущество обновлённой платформы, так как другие похожие сервисы работают с меньшим ассортиментом моделей и кастомные LLM загружать не позволяют.
