Cohere запускает платформу North 2: удар по издержкам на интеграцию ИИ-моделей
AI · Текст подготовлен с помощью искусственного интеллекта
Корпоративные расходы на искусственный интеллект упираются в стену операционной фрагментации по мере того, как компании отказываются от стратегий с единственным поставщиком. Организации теперь задействуют несколько больших языковых моделей одновременно, создавая дорогостоящий хаос из несовместимых API, разрозненного потребления токенов и противоречивых политик безопасности. Cohere пытается разрешить это трение, превращая свою корпоративную платформу в центр управления ИИ-агентами с выходом North 2, согласно пресс-релизу продукта.
Обновленная система оркестрации координирует агентов, которые используют общие библиотеки знаний и переиспользуемые навыки, одновременно подключаясь к таким инструментам, как Slack, SharePoint и Jira. North 2 также генерирует презентации, панели мониторинга и простые приложения прямо из текстовых запросов в чате. Эти агенты самостоятельно выполняют многошаговые рабочие процессы и сохраняют контекст между сеансами, что сокращает объем ручного связующего кода, традиционно требуемого ИТ-отделами для объединения разнородных LLM.
Контроль инфраструктуры и изоляция
Регулируемые организации отказываются передавать проприетарные операционные данные через общедоступные облачные API из-за требований комплаенса и рисков безопасности. Чтобы занять этот сегмент, Cohere заложила гибкость развертывания прямо в архитектуру. Компании могут запускать платформу локально, в облаке или в полностью изолированной среде без подключения к интернету.
North 2 не зависит от конкретных моделей. Наряду с собственными моделями Cohere, такими как Command A+, организации могут подключать свои собственные.
Такая модель без привязки к конкретному вендору предотвращает зависимость от поставщика, позволяя ИТ-руководству заменять базовые уровни интеллекта без переписывания рабочих процессов агентов. По заявлению Cohere, на железе Blackwell и Hopper от Nvidia ее модели требуют меньше токенов, снижая прямые вычислительные затраты на один запрос по сравнению с неоптимизированными архитектурами.
Администрирование операционных рисков
Развертывание автономных процедур в корпоративной инфраструктуре влечет за собой серьезную ответственность, если агенты выполняют несанкционированные транзакции или допускают утечку внутренних данных. Администраторы используют North Admin для управления потреблением токенов, пользовательскими квотами и правами доступа вплоть до отдельных агентов. Когда агенты предпринимают критически важные действия, они сначала запрашивают одобрение человека, внедряя обязательную операционную контрольную точку перед выполнением рискованных операций.
Коммерческие результаты уже заметны в корпоративной среде, где LG CNS и Bell Cyber уже запускают North в производственных средах.
Аудит журналов распределения внутренних токенов и уровней прав администратора по развертываниям активных агентов перед масштабированием текущих многомодельных сред песочницы в рабочие сети остается главным узким местом для ИТ-директоров, пытающихся сохранить контроль.
Источник: The Decoder