Déployer une IA souveraine sur Kubernetes

58 % des employés utilisent déjà l'IA au travail (Stanford HAI, AI Index 2026), mais peu d'équipes savent l'héberger en gardant la main sur leurs données. Eden Kharoub, Data Scientist chez Agora Calycé, partage les choix d'architecture qui ont tenu pour déployer un LLM en interne : le gateway comme produit de contrôle, GPU, coûts (TCO, payback, stress test à 40 utilisateurs), latence, confidentialité et observabilité, de l'inférence jusqu'à l'infrastructure. Démo live à la clé, avec la possibilité de tester sur place.