L'ensemble des politiques, des technologies et des pratiques qui protègent les données, la propriété intellectuelle et les utilisateurs d'une organisation lorsqu'elle déploie des systèmes d'IA en milieu de travail.
La sécurité de l'IA en entreprise répond aux risques particuliers liés à l'adoption de l'IA : empêcher les données sensibles de l'entreprise de se retrouver dans des modèles d'IA publics, mettre en place des contrôles d'accès basés sur les rôles pour que les employés ne voient que l'information à laquelle ils ont droit, se prémunir contre les attaques par injection de requête et conserver des journaux d'audit des interactions avec l'IA. Contrairement aux outils d'IA grand public, les plateformes d'IA de qualité entreprise doivent respecter les réglementations sectorielles (HIPAA, SOC 2, RGPD), prendre en charge les exigences de résidence des données et offrir aux administrateurs une visibilité sur la façon dont l'IA est utilisée dans l'organisation. Une sécurité solide, c'est ce qui distingue les outils que les employés ont le droit d'utiliser de l'IA fantôme qu'ils adoptent sans l'approbation des TI.