Cette adoption généralisée par les employés et les organisations a introduit de nouveaux risques cyber, technologiques et opérationnels. Il s'agit notamment du potentiel d'ingénierie sociale, de failles de sécurité et de défaillances des systèmes. Pour évaluer et gérer correctement ces risques, vous devez identifier la technologie d'IA que vous allez examiner.
L'intelligence artificielle n'est pas une technologie unique et uniforme, mais une vaste catégorie englobant de nombreuses applications et techniques différentes. Pour commencer à comprendre les risques liés à l'IA, il est important de définir clairement nos termes avant d'analyser les risques liés à l'IA.
Qu'est-ce que l'IA ?
La première question que l'on nous pose souvent à propos des risques liés à l'IA est "Qu'entendez-vous par IA ?". L'IA, telle qu'elle est utilisée dans les médias et plus généralement, est un terme générique désignant de nombreux types d'applications et de systèmes d'intelligence artificielle. Ils sont souvent mélangés par des personnes ayant des compréhensions ou des cas d'utilisation différents en tête. Cela peut prêter à confusion quant aux risques réels auxquels ils sont confrontés, car les menaces potentielles ne sont pas les mêmes.
J'ai donc décidé de poser la question à certains des chatbots IA les plus courants :
« Dans un paragraphe, décrivez ce qu'est l'IA et quels en sont les différents types en fonction des capacités les plus couramment utilisées? »
Chat GPT
L'intelligence artificielle (IA) est le domaine de l'informatique qui permet aux machines d'imiter l'intelligence humaine, notamment en matière d'apprentissage, de raisonnement et de résolution de problèmes. Sur la base de ses capacités, l'IA est classée en trois types : IA étroite, IA générale et Super IA. L'IA étroite (IA faible) est conçue pour des tâches spécifiques, telles que les assistants virtuels, la reconnaissance faciale et les systèmes de recommandation. L'IA générale (IA forte) fait référence à des machines dotées d'une intelligence semblable à celle d'un humain qui peuvent effectuer toutes les tâches intellectuelles qu'un humain peut accomplir, même si cela reste théorique. La super IA surpasse l'intelligence humaine, faisant preuve de prise de décision avancée, de créativité et de conscience de soi, mais elle est purement hypothétique. Ces catégories permettent de définir les applications actuelles et les possibilités futures de l'IA.
Microsoft Copilot
L'intelligence artificielle (IA) fait référence au développement de systèmes informatiques capables d'effectuer des tâches nécessitant généralement l'intelligence humaine, telles que la perception visuelle, la reconnaissance vocale, la prise de décision et la traduction linguistique. Sur la base des capacités, l'IA peut être classée en trois types principaux : l'IA étroite, conçue pour des tâches spécifiques telles que les assistants virtuels (par exemple, Siri, Alexa) ; l'IA générale, qui vise à effectuer toutes les tâches intellectuelles qu'un humain peut accomplir, même si elle reste largement théorique à ce stade ; et l'IA super intelligente, qui surpasse l'intelligence et les capacités humaines, également un concept théorique.
Claude
L'intelligence artificielle (IA) fait référence aux systèmes informatiques conçus pour effectuer des tâches nécessitant généralement une intelligence humaine, englobant à la fois l'IA restreinte (conçue pour des tâches spécifiques) et l'IA générale (hypothétiquement capable d'une intelligence générale semblable à celle de l'homme). Les types les plus courants basés sur les capacités incluent les systèmes d'apprentissage automatique qui apprennent à partir de modèles de données, les modèles d'apprentissage en profondeur utilisant des réseaux neuronaux pour la reconnaissance de formes complexes, les systèmes de traitement du langage naturel pour générer et le langage humain, les systèmes de vision par ordinateur pour traiter et analyser les informations visuelles, les systèmes experts qui prennent des décisions en fonction de règles prédéfinies, l'IA robotique pour l'automatisation des tâches physiques et les systèmes d'apprentissage par renforcement qui apprennent par essais et erreurs pour optimiser les processus de prise de décision. Alors que l'IA restreinte excelle dans des domaines spécifiques tels que la reconnaissance d'images, la traduction linguistique ou les jeux vidéo, l'intelligence artificielle générale (AGI) qui correspond ou dépasse la cognition humaine dans tous les domaines reste un objectif théorique.
Gemini
L'intelligence artificielle (IA) est la capacité d'un ordinateur ou d'une machine à imiter l'intelligence humaine. Cela peut impliquer des choses comme l'apprentissage, la résolution de problèmes et la prise de décisions. L'IA est un vaste domaine, et il existe de nombreux types d'IA. Les types d'IA les plus courants sont l'IA étroite ou faible, l'IA générale ou l'IA forte et la super IA. L'IA étroite est conçue pour une tâche spécifique, comme jouer aux échecs ou recommander des produits. C'est le type d'IA le plus courant aujourd'hui. L'IA générale est un type d'IA théorique doté d'une intelligence de niveau humain, capable d'effectuer toutes les tâches intellectuelles qu'un humain peut accomplir. La super IA est également théorique et surpasserait l'intelligence humaine à tous égards. Alors que l'IA générale et la super intelligence relèvent encore largement du domaine de la science-fiction, l'IA restreinte a déjà un impact significatif sur notre monde.
Les réponses ci-dessus sont globalement similaires. Le type de technologie d'IA le plus couramment utilisé relève de l'IA restreinte, parfois appelée IA faible. Cela inclut :
- Modèles linguistiques étendus (LLM)
- IA générative (GenAI)
La différence entre les LLM et GenAI réside dans leur application. Les LLM sont un sous-ensemble de l'IA générative et les LLM ne génèrent que du texte. Les applications GenAI peuvent utiliser différents types d'entrées, telles que des images ou des sons ainsi que des mots, et les applications peuvent générer du contenu comprenant du texte, des images et des sons. Des applications telles que ChatGPT, Microsoft Copilot ou Anthropic's Claude sont désormais appelées GenAI multimodales car elles peuvent traiter et générer bien plus que du texte.
Une fois que vous aurez identifié les types d'IA que vous ou vos tiers utilisez et que vous devez évaluer, vous serez en mesure de mieux définir les scénarios de risques potentiels auxquels vous et votre entreprise pourriez être confrontés.
La triade de la CIA et les risques courants liés à l'IA
Pour les gestionnaires des risques et les décideurs politiques, la triade de la CIA (Confidentiality, Integrity, Availability en anglais) est utile pour identifier les risques courants liés à l'IA.
Confidentialité
- Employés utilisant des LLM open source et divulguant des informations sensibles sur l'entreprise
- Le LLM tiers dispose de contrôles médiocres, ce qui entraîne la fuite de vos données par injection rapide
- Les cybercriminels utilisent des outils d'IA pour renforcer les attaques, telles que le phishing, qui entraîne une violation
Intégrité
- L'empoisonnement des données du LLM entraîne des problèmes avec les sorties du modèle
- Les données de formation utilisées ne sont pas correctement sécurisées ou mises à jour, ce qui peut entraîner un biais dans leurs résultats
Disponibilité
- Les cybercriminels utilisent les LLM pour découvrir et exploiter les vulnérabilités Zero Day
- L'utilisation de LLM pour des cas d'utilisation spécifiques et, en cas d'indisponibilité, entraîne une panne du système
Comment analysons-nous les risques liés à l'IA ?
Pour vous aider à identifier les scénarios de risque liés à l'IA les plus pertinents, nous vous recommandons de suivre les étapes décrites dans le manuel d'approche FAIR-AIR. Cette approche aide les analystes des risques et les responsables des risques à parler le même langage que l'entreprise, afin que les décideurs et les dirigeants puissent comprendre le risque et les mesures à prendre pour le réduire.
5 étapes pour analyser les risques à l'aide de l'approche FAIR-AIR
1) Contextualiser
- Pourquoi analysez-vous ce risque et quelles en sont les raisons ?
- Quels sont les vecteurs du risque lié à l'IA ?
2) Champ d'application
- Identifier les scénarios de risque
- Identifier la surface d'attaque, l'acteur de la menace, la méthode d'attaque et l'impact de la menace sur votre actif
3) Quantifier
- Déterminer la probabilité et l'impact du risque
4) Prioriser/traiter
- Déterminer les options de traitement et prioriser celles qui ont le plus d'impact
5) Prise de décisions
- À l'aide des résultats et des options de traitement, décider du plan pour l'avenir
.png)