Otoroshi with LLM

Simplifiez, sécurisez et faites évoluer vos interactions API et IA, grâce à l’innovation open source et à l’intégration Clever Cloud.

Otoroshi with LLM

Otoroshi est une API gateway open source, pensée pour répondre aux exigences des architectures de services complexes et hybrides. Elle centralise la gestion des APIs et du trafic, avec une observabilité intégrée, des règles d’accès fines et une sécurité avancée. Intégrée en tant qu’add-on à Clever Cloud, Otoroshi vous permet de déployer, superviser et faire évoluer vos services en toute simplicité, sans casse-tête d’infrastructure, sans dépendance à un fournisseur.
  1. 01

    01 Une gestion API puissante et flexible

    Otoroshi est une API gateway dynamique qui vous permet d’exposer, sécuriser et router tous vos services. Gérez le trafic, l’authentification, les quotas ou la répartition de charge via une interface graphique ou une API REST. Compatible avec REST, GraphQL, gRPC, etc., sans modification de vos services existants.

  2. 02

    02 Une sécurité renforcée et un WAF intégré

    Avec Coraza WAF intégré, Otoroshi protège vos APIs et applications grâce aux règles de sécurité OWASP. Il gère les accès via des API keys ou des tokens comme Biscuit, développés par Clever Cloud. Ces tokens permettent d’appliquer facilement des règles d’autorisation sur mesure, selon le contexte et les besoins de sécurité.

  3. 03

    03 Une observabilité complète et une traçabilité fine

    Chaque interaction est enregistrée en temps réel* afin de vous aider à surveiller l’usage des services, diagnostiquer les problèmes et répondre aux exigences de conformité. Vous pouvez exporter les métriques et les journaux vers Elastic, Datadog ou tout autre outil de monitoring pour atteindre vos objectifs de performance et de conformité.

    *Sous réserve de disposer d’une solution de stockage externe configurée (non incluse par défaut).

  4. 04

    04 Une plateforme pensée pour les développeurs, open source par nature

    Conçue pour les développeurs, Otoroshi dispose d’une interface d’administration React moderne et d’une API REST complète. Elle prend en charge les mises à jour à chaud, les extensions via plugins ou WebAssembly, et se déploie facilement sous forme de JAR ou d’image Docker.

Qu’est-ce qu’une API gateway ?

Une API gateway est le point unique par lequel transitent tous les appels à vos services. Elle permet le routage, l’authentification, la limitation de débit et la journalisation entre les services. Otoroshi gère cela par défaut pour les APIs, et pour les LLM si l’extension est activée.

Extension LLM pour Otoroshi

Transformez Otoroshi en gateway d’accès aux services d’IA.

L’extension LLM d’Otoroshi, développée par Cloud APIM, transforme votre API gateway en un point d’accès sécurisé et centralisé aux principaux fournisseurs d’IA comme OpenAI, Mistral ou Hugging Face. Vous pouvez y gérer les jetons d’API, les modèles de prompts et le routage des requêtes depuis une interface unique, en optimisant selon le coût ou la performance.

Des guardrails peuvent être activés pour filtrer automatiquement les prompts et les réponses, afin de faire respecter vos politiques de sécurité, de confidentialité ou d’éthique.

Cas d’usage:

  • Exposer et sécuriser vos APIs internes ou externes
  • Simplifier la communication entre vos services
  • Superviser, auditer et adapter les politiques en temps réel
  • Protéger vos applications web et services non-API
  • (Pour l’extension LLM) Centraliser l’accès aux fournisseurs de LLM avec filtrage des prompts et routage intelligent des requêtes

Pourquoi déployer Otoroshi with LLM sur Clever Cloud ?

  • Déploiement en une commande : depuis la Console, l’API ou la CLI
  • Stack préconfigurée : Java runtime et Redis fournis; les sauvegardes sont faites automatiquement
  • WAF intégré : pare-feu Coraza de niveau entreprise
  • Scalabilité native : redimensionnement facile via le Console Clever
  • Transparence open source : auditez et personnalisez votre instance
  • Gestion unifiée : cycle de vie; facturation; sécurité… tout est centralisé

Conçu par des experts, adopté par les développeurs

Créé par #OSSbyMAIF et développé en continu par Mathieu ANCELIN, expert de l’API Management chez Cloud APIM, avec les équipes de la MAIF, Otoroshi est une référence pour les équipes techniques à la recherche de contrôle et de fiabilité.

Désormais disponible en bêta avec intégration Clever Cloud, il est prêt à accompagner vos projets les plus exigeants — pendant que vous vous concentrez sur l’essentiel : votre produit.

En savoir plus sur Otoroshi ?

Découvrez toutes ses fonctionnalités sur le site officiel et voyez comment il peut vous aider à sécuriser vos APIs, gérer votre trafic, et structurer votre architecture de services.

Video

Démonstration de Otoroshi

Découvrez la présentation d’Otoroshi par son créateur Mathieu Ancelin, et Horacio Gonzalez de Clever Cloud.
otoroshi en direct scaled

Discover our news

Programme UP : Clever Cloud annonce la cinquième sélection de startups

Avec cette nouvelle promotion, Clever Cloud accueille quatre startups au sein du Programme UP : Sentibee, Pictaderm, Legaia et Cockpit Agriculture.
Entreprise

Sōzu 2.0 : du reverse proxy à l’edge programmable

Sōzu est le reverse proxy placé devant chaque application qui s’exécute sur Clever Cloud. Après dix-huit mois de travaux — d’abord le multiplexer HTTP/2, bâti sur kawa, notre format pivot déjà en place, puis la quasi-totalité des couches du proxy, et enfin une mise à l’épreuve en production sur les load balancers de cleverapps.io —, Sōzu 2.0 est disponible.
Engineering

K3s vs K8s : quelles différences et lequel choisir en 2026 ?

Kubernetes s’est imposé comme le standard de l’orchestration de conteneurs. Mais selon les contraintes de votre infrastructure (ressources limitées, edge computing, IoT ou clusters entreprise à grande échelle), la distribution que vous choisissez change radicalement la donne. K3s et K8s (le Kubernetes originel) répondent à des besoins distincts, même si les deux partagent la même base certifiée CNCF.
Engineering Fonctionnalités