FenxARC™ lägger en och samma styrda väg över begäranden från användare, applikationer och agenter. ARC tar fram den aktiva listan, tillämpar policyer för åtkomst och sekretess och rangordnar och kör sedan bara godkända modell- och verktygsrutter.
Konfigurerat på ett ställe. Upprätthållet vid varje enskild begäran.
01
Bekräfta vem som anropar och vilken lista som styr begäran.
02
Klassificera uppgift, komplexitet, känslighet, format och varje egen kategori.
03
Ta bort modeller och verktyg som inte klarar kraven på åtkomst, sekretess, kapacitet, gränser eller budget.
04
Bygg de tillåtna ruttalternativen och ordna dem efter den målsättning som är satt för den aktiva listan.
05
Kör den högst rangordnade godkända rutten. Om ingen kvalificerar sig stoppas begäran.
Policyn avgör vilka modeller, verktyg och ruttalternativ som är tillåtna. ARC rangordnar bara de tillåtna alternativen. Obehöriga begäranden blockeras innan några token förbrukas.
Du definierar resurserna, kategorierna, sekretessklasserna och gränserna. ARC tillämpar dem på varje begäran, och dina applikationer behåller samma anslutning.
ARC kan köra en godkänd modell eller sätta ihop en styrd rutt av modeller, verktyg och dataåtkomststeg.
ARC skickar hela begäran till en modell som täcker behovet och uppfyller varje regel som gäller.
En rutt är en ordnad följd av steg. Vissa steg är modeller, vissa är verktyg, och ett steg kan köra flera destinationer samtidigt.
Applikationer ansluter genom en enda OpenAI-kompatibel endpoint. ARC tillämpar dina aktuella modeller, leverantörer och regler bakom det stabila gränssnittet.
Dina applikationer behåller samma anslutning medan administratörer uppdaterar resurser och policy på ett ställe.
När en leverantör fallerar tar begäran nästa väg du har satt. En lokal regelbaserad väg bedömer begäranden utan att anropa något utanför, så routingen fungerar även när de system den skickar vidare till ligger nere.
Börja gratis med en OpenAI-kompatibel integration. Prata med en ingenjör om åtkomstpolicy, datagränser eller driftform behöver redas ut först.