Déployer un modèle d'IA local pour vos données sensibles
Faire tourner un modèle ouvert comme Gemma sur vos propres serveurs, pour profiter de l'IA sans qu'aucune donnée ne quitte l'entreprise.
- 1 à 2 jours (7 à 14 h)
- Avancé
- Présentiel ou à distance
Vertuoz propose des modèles locaux, comme Gemma, aux entreprises qui ne veulent pas confier leurs données à un service en ligne. En savoir plus sur l'offre IA & connecteurs métier.
Objectifs
- Choisir un modèle ouvert adapté à vos usages
- Dimensionner le matériel : processeur, carte graphique, mémoire
- Installer et exposer un modèle local derrière une API
- Le brancher sur vos outils et vos documents
- Comparer qualité, coût et confidentialité avec les offres en ligne
Pour qui ?
Administrateurs systèmes, DSI, développeurs et responsables sécurité.
Prérequis
- Administration de serveurs Linux
- Notions de conteneurs (Docker) appréciées
Programme
- Pourquoi un modèle localConfidentialité, coûts, dépendance aux éditeurs : quand le choix se justifie.
- Choisir le modèleFamilles de modèles ouverts, tailles, licences, quantification.
- DimensionnerCe qu'il faut comme matériel selon le modèle et le nombre d'utilisateurs.
- Installer et servirAtelier : installation d'un modèle, exposition par une API compatible avec les outils courants.
- Brancher sur vos donnéesInterroger vos documents, connecter vos applications.
- Exploiter dans la duréeSupervision, mises à jour, sécurité.
Ce que vous emportez
- Un modèle local installé sur un environnement de test
- Une fiche de dimensionnement
- Une procédure d'exploitation
Modalités
- Format : Intra-entreprise, dans vos locaux, à Avignon ou à distance.
- Durée : 1 à 2 jours (7 à 14 h), ajustée selon vos objectifs lors de l'analyse du besoin.
- Méthode : apports courts, démonstrations et exercices sur vos propres outils et vos données, pas sur une démo.
- Préparation : un échange en amont pour comprendre vos outils, vos processus et le niveau des participants ; le programme est validé avec vous avant la session.
- Suivi : supports remis aux participants, puis un point quelques semaines plus tard pour répondre aux questions apparues à l'usage.
- Délai d'accès : 2 semaines en moyenne en financement direct, 4 semaines avec une prise en charge par votre OPCO, le temps d'analyser le besoin, de valider le programme et de monter le dossier.
- Évaluation : quiz de validation des acquis en fin de formation et questionnaire de satisfaction.
- Tarif : à partir de 1 400 € HT par session intra-entreprise, jusqu'à 8 participants ; devis précis après l'analyse du besoin.
- Financement : formation réalisable en partenariat avec ONP Conseil et Formation, organisme certifié Qualiopi au titre des actions de formation ; prise en charge possible par votre OPCO.
- Accessibilité : les formations sont accessibles aux personnes en situation de handicap. Signalez-le lors de l'analyse du besoin : Vertuoz étudie les aménagements nécessaires avec la référente handicap de son organisme partenaire.
Questions fréquentes
Un modèle local vaut-il les modèles en ligne ?
Pas pour toutes les tâches. La formation aide à identifier celles où il suffit largement, et celles où un modèle en ligne reste préférable.
Cette formation peut-elle être financée par notre OPCO ?
Oui, lorsqu'elle est réalisée en partenariat avec ONP Conseil et Formation, organisme certifié Qualiopi au titre des actions de formation. Vertuoz vous aide à monter le dossier.