Quatre choses séparent un plan de contrôle d’une passerelle, d’une stack IA cloud ou d’un développement interne : votre frontière réseau, les modèles que vous exploitez déjà, vos données, et l’endroit où les frais sont pris.
Où s’exécute FenxARC™, ce qu’il peut atteindre et comment FenxLabs est payé : chaque approche tranche autrement. Posez les quatre à votre propre liste courte.
Le traitement des requêtes par ARC s’exécute dans votre VPC, sur votre propre matériel, ou en isolement complet du réseau. Les routes internes peuvent rester à l’intérieur de votre réseau ; une route externe approuvée reçoit tout de même le contexte dont elle a besoin.
Self-hosted Licence. La Hosted Platform s’exécute sur l’infrastructure de FenxLabs.Détection de fraude, prévision de la demande, classification documentaire. Les modèles de machine learning et de deep learning que vous exploitez déjà deviennent des destinations de routage, aux côtés de vos modèles de langage.
Self-hosted Licence.Connectez le stockage vectoriel directement au routage. Il se place entre les modèles et les données, et un modèle n’atteint que ce qu’il a l’autorisation de voir.
Self-hosted Licence.L’inférence reste une relation directe entre vous et vos fournisseurs, à leurs tarifs. Nous ne prenons aucune marge dessus.
FenxLabs ne revend aucune inférence et n’entretient de relation commerciale avec aucun éditeur de modèles. Le routage n’a aucune raison commerciale de préférer une destination à une autre.Trois de ces quatre relèvent de la Self-hosted Licence. Le lieu d’exécution d’ARC est une décision, ce qu’il applique en est une autre.
ARC encadre la façon dont les utilisateurs, les applications et les agents accèdent aux modèles, aux outils et aux sources de données approuvées. Il n’encadre ni le raisonnement d’un agent, ni sa planification, ni la logique applicative, ni le runtime, ni la responsabilité métier.
Vos applications gardent leurs workflows. Vos fournisseurs continuent de servir l’inférence. ARC évalue chaque requête encadrée au regard de la liste active, applique vos règles d’éligibilité et de confidentialité, puis classe ce qui y survit.
Une liste regroupe les modèles, les outils et les règles approuvés pour une équipe ou un cas d’usage.
Voir comment une requête est traitéeCe qui les sépare, c’est l’endroit où vit la règle qui encadre, et qui répond de sa justesse.
L’éligibilité passe avant le classement, donc rien dans l’étape d’ordonnancement ne peut atteindre une destination que la politique a exclue.
Ces questions séparent une approche d’exploitation d’une liste de fonctions. Posez-les à chaque option de la liste courte, ARC compris.
Un fournisseur, un modèle et des contrôles au niveau applicatif couvrent peut-être tout ce que vous pouvez prévoir. Une deuxième couche de contrôle serait alors un coût sans retour.
ARC est bâti pour le cas où les catégories de charges, le choix des modèles, le traitement de confidentialité, la politique d’accès et les frontières de déploiement doivent varier d’une équipe à l’autre sans réécrire chaque charge de travail.
Apportez une charge de travail et une contrainte. Nous vous dirons si le routage change quelque chose pour vous.