A mesure que son taux d’adoption par les acteurs économiques s’accélère, la gestion de l’IA devient de plus en plus une question traitée au niveau des organes de gouvernance des sociétés.
Les pays membres de l’Union européenne ont finalisé l’IA Act le 8 décembre 2023, texte visant à encadrer le recours à l’intelligence artificielle (IA). Si cet accord, premier du genre, est qualifié « d’historique », c’est parce que l’IA a transformé très rapidement de nombreuses industries en profondeur et le monde de l’entreprise ne fait pas exception.
Cela ne surprend guère, les IA offrant aux acteurs économiques un large éventail de nouvelles opportunités de nature à améliorer leur gouvernance, tant en termes de réduction des coûts et des risques que de génération de revenus (1).
Cependant, comme de nombreuses technologies, elles s’accompagnent de défis pressants tenant notamment à la nature des risques juridiques spécifiques liés à l’utilisation de ces technologies (2).
- Une technologie au service d’une meilleure gouvernance d’entreprise….
L’un des principaux avantages de l’IA réside dans sa capacité à analyser d’énormes quantités de données quasiment en temps réel. Cela peut conférer un avantage concurrentiel en permettant aux organes de gouvernance de prendre des décisions commerciales plus éclairées. L’IA peut également aider à signaler des menaces potentielles et à fournir des alertes précoces, permettant aux entreprises de prendre des mesures proactives pour atténuer les risques.
En surveillant en permanence les données, l’IA peut identifier des anomalies, détecter la fraude et améliorer les mesures de cybersécurité. De même, l’IA peut surveiller la conformité aux lois et réglementations existantes, réduisant potentiellement le risque de non-conformité et des amendes associées.
Les technologies d’IA peuvent aussi automatiser des tâches routinières, permettant aux employés de se concentrer sur des questions de niveau supérieur. En rationalisant les processus administratifs, l’IA peut optimiser l’allocation des ressources, améliorer l’efficacité opérationnelle et réduire les coûts, car les entreprises peuvent accomplir davantage avec moins de ressources, renforçant ainsi la gouvernance d’entreprise globale.
Outre les avantages mentionnés ci-dessus, l’IA peut offrir une plus grande transparence en examinant et en analysant des données sur la performance commerciale, les opérations et la conformité de l’entreprise.
2. …dont l’utilisation s’accompagne de défis pressants pour les entreprises.
Les nouveaux défis considérables posés par ces technologies, et notamment l’opacité des modèles d’IA générative, souvent qualifiés de « boites noires », nécessitent en amont une réflexion approfondie. La propagation rapide de l’IA étant alimentée en partie par l’émergence d’une gamme de nouveaux outils et services liés à l’IA proposés par des tiers, la forte dépendance des acteurs économiques à l’égard de ces tiers interroge. Ainsi, si une entreprise prévoit de compter sur des données fournies par des tiers et obtenues par le biais de systèmes d’IA, elle devrait s’efforcer de mettre en place des cadres contractuels lui permettant de s’assurer que les données répondent aux normes de qualité acceptables et qu’elle peut recourir contre le fournisseur tiers en cas de défauts. Le recours à l’IA pose aussi un risque de violation des droits d’auteurs lié à l’utilisation de données protégées et la reproduction de parties substantielles de ces œuvres protégées dans les sorties.Des questions difficiles se posent également sur la légalité de l’utilisation de données pour former les modèles d’IA et sur la compatibilité des “hallucinations” produites par les IA avec le principe de précision dans le RGPD.
De même, se conformer aux demandes des individus de bloquer ou d’effacer leurs données peut être techniquement et logistiquement difficile si ces données personnelles sont intégrées au sein du modèle. Notons également que si l’IA est souvent considérée comme un instrument devenant indispensable dans la lutte contre la fraude, il pose également de nouveaux risques de cybersécurité qui peuvent contourner les mesures de protection classiques contre les cyberattaques et faciliter les violations de données.
Au regard de ce qui précède, il est aujourd’hui devenu capital que les organes de gouvernance des sociétés s’intéressent à l’impact du recours à l’IA. D’abord pour garantir que l’IA est utilisée de manière responsable et éthique, en accord avec les objectifs stratégiques et les valeurs de l’entreprise, mais aussi pour mieux appréhender les opportunités et les risques qu’elle présente.
Arthur Rohmer
