Description
Rubra est une collection de grands modèles de langage (LLMs) open-weight améliorés avec des capacités avancées d'appel d'outils externes, permettant l'exécution déterministe de fonctions complexes dans un cadre d'agent IA. Ces modèles sont post-entraînés pour enrichir leurs compétences tout en évitant l'oubli catastrophique, et ils sont compatibles avec des bibliothèques populaires d'inférence comme vLLM et llama.cpp pour une intégration facile. Rubra offre une interface de chat familière facilitant l'interaction avec les assistants et permet d'utiliser des outils tels que des navigateurs web, des interprètes de code, et l'accès à des fichiers, le tout en local ou via des modèles cloud comme OpenAI et Anthropic. Son objectif principal est d'offrir une solution complète et accessible pour le développement local d'assistants IA personnalisés.
Fonctionnalités
Appel d'outils externes (Tool Calling)
Permet aux modèles Rubra d'exécuter des appels à des APIs, fonctions ou outils externes de manière déterministe et structurée, évitant les erreurs liées au prompt engineering.
Chaînage d'appels de fonctions complexes
Capacité à gérer des appels multi-étapes et des fonctions en chaîne pour des tâches complexes, renforçant le potentiel agentique des modèles.
Compatibilité OpenAI-format
Intégration avec des bibliothèques populaires comme vLLM et llama.cpp pour un support fluide des appels d'outils au format OpenAI, facilitant le développement.
Exécution locale et cloud
Possibilité de faire tourner les modèles localement avec quantification optimisée ou d'utiliser des modèles cloud comme OpenAI et Anthropic pour comparer les performances.
Interface utilisateur de chat familière
Interface simplifiée rappelant ChatGPT, optimisée pour la création et l'interaction avec des assistants IA personnalisés.
Accès à des outils locaux
Agents capables d'accéder à des fichiers, navigateurs web, et interprètes de code sur la machine locale pour enrichir leurs capacités.
Tags
Rubra
tool calling LLM
open-weight language model
Outils à découvrir
Startilla
Startilla est un assistant de développement commercial AI qui aide à créer des documents essentiels pour les startups.
HeadshotPro
Créez des portraits professionnels grâce à l'IA sans photo physique.
Kalendar.AI
Kalendar.AI automatise la génération de leads et la prise de rendez-vous B2B grâce à l’IA.