L’impact de l’IA (Intelligence Artificielle) dans un futur proche et comment s’adapter en tant que consultant IT – Partie 1/2
Article d’expert – Cybersécurité
23 octobre 2023
Introduction
Tout changement technologique important (révolutionnaire) tel que l’électricité, la roue, ou internet entraîne des changements radicaux au niveau professionnel avec pour conséquence des métiers qui disparaissent tandis que d’autres sont créés.
L’IA est une technologie incontournable qui changera le monde professionnel avec de nouveaux usages, d’où la nécessité de s’y adapter pour les entreprises mais aussi pour les consultants IT.
A titre de rappel, l’IA ou Intelligence Artificielle est un ensemble de théories et de techniques visant à réaliser des machines capables de simuler l’intelligence humaine (Source : Wikipédia).
Le développement du stockage et des puissances de calcul des ordinateurs a favorisé l’essor de l’Intelligence Artificielle et l’a rendu accessible aux entreprises qui par conséquent, s’y intéressent de plus en plus (alors que cette technologie existe depuis plus de 10 ans).
Avec plus de 2 Trillions d’octets de données générées chaque jour dans le monde, l’IA permet un traitement efficace et rapide de quantités gigantesques de données et le rend donc très prisé.
Cette popularité a gagné le monde professionnel avec 1/4 des cadres supérieurs qui utilisent des outils d’IA pour leur travail selon une étude de McKinsey.
On évolue ainsi vers une démocratisation de l’IA dans l’IT avec un impact à la fois sur les applications métiers mais aussi les outils collaboratifs (Bureautique) sur quasi tous les secteurs (Secteurs économiques les plus impactés par l’IA en France).
Des acteurs prépondérants tels que Microsoft ou Google intègrent d’ores et déjà l’IA générative à leurs suites collaboratives afin de les rendre plus intelligentes et créatives. Dans un futur proche, de plus en plus de logiciels et progiciels intègreront l’IA dans leur système.
Cette situation présente des menaces doublées d’opportunités (à condition de savoir l’utiliser).
En effet, plus de 300 millions de postes sont menacés dans le monde par l’IA d’après les estimations de Goldman Sachs, mais aussi 47% des postes existants pourraient être remplacés par des ordinateurs. (Pourra-t-on parler de drame social ?)
On commence à en apercevoir les prémices et ce même en France avec 217 personnes qui vont être licenciées et remplacées par une IA dans une entreprise française d’ici à juin 2024. La direction promet, avec cette restructuration, « un service plus rapide et plus fiable ».
Un autre exemple est celui de l’entreprise chinoise NetDragon Websoft, et l’entreprise polonaise Dictador qui ont choisi de nommer des IA comme Directeur Généraux.
Le monde du conseil IT, bien que parmi les moins affectés par les changements à venir dû à l’IA, ne sera pas néanmoins épargné.
Effectivement, les métiers ne réclamant pas de hautes études et avec des tâches répétitives, prescriptives et procédurales pouvant être automatisées, seront les plus touchés. Toutefois, avec la vitesse d’adoption et d’évolution des technologies à base d’IA (Exemple : évolution de ChatGPT en 4 ans), les consultants IT devront modifier leur approche mais aussi leur façon de travailler afin de rester pertinents et continuer à apporter une plus-value aux entreprises avec lesquelles ils collaborent.
Par ailleurs, nous sommes dans une phase de transition pleine d’opportunités pour les entreprises mais aussi pour les employés avec pour objectif d’aboutir à des solutions Hybrides (machine + humains) où l’IA sera utilisée en mode co-pilote ou coach.
A titre d’exemple, Adecco utilise ChatGPT pour préparer des CVs et aider les RH pour les recrutements (assistant vocal). De plus, le nombre de postes exigeant des compétences en IA a été multiplié par 20 selon Randstad.
Nous verrons dans la suite de cet article, l’impact de l’IA sur les entreprises mais aussi sur les consultants IT, et aborderons les risques et opportunités pour ceux-ci.
Impact de l’IA sur les entreprises
- Avantages et opportunité
Les avantages de l’IA pour les entreprises sont nombreux grâce notamment à une réduction des actions manuelles au profit de l’IA.
Le Machine Learning et le Deep Learning, dotés de capacités d’apprentissage automatique et capable d’analyser en quantité des données, sont de précieux outils d’aide à la décision. En effet, ces technologies, source de connaissances approfondies ; de statistiques ; et de suggestions, apportent un support efficace en matière de conseil en stratégie.
Des entreprises utilisent des logiciels à base d’IA dans le but d’augmenter la productivité et la performance, mais aussi réduire les coûts (sans nécessairement développer leurs propres solutions). L’IA est d’ailleurs idéal pour des tâches d’analyses simples (Audit, Inventaires, …).
Bien qu’une décision humaine sur les actions à entreprendre reste nécessaire, l’IA offre de nombreuses opportunités en comblant un éventail de défis techniques et de contraintes liés au manque de ressources techniques. En somme l’IA peut permettre aux entreprises d’améliorer la robustesse, la résilience et la réponse de leur système IT.
- Risques et limites
Les risques inhérents à l’IA peuvent être regroupés en 3 domaines :
- Juridique & conformité (Flou autour du cadre légale/réglementaire de l’IA)
Certaines entreprises ont commencé à intégrer des LLM (Large Language Models) dans leur flux de travail sans toutefois penser à la formation et les risques occurrents :
- Risque de Data Privacy (perte de l’anonymat et de la confidentialité)
- Risque de conformité (RGPD et traitement des Données à Caractère Personnel, Stockage des données)
Les LLM ont besoin d’une quantité significative de données pour optimiser leurs résultats. Cependant, ces immenses bases de données textuelles, utilisées pour générer des réponses similaires à celles d’un être humain, ne peuvent pas réapprendre ou désapprendre une fois qu’elles ont été chargées/alimentées en données. Dès lors, si les informations ou le code informatique utilisé pour l’apprentissage de l’IA est erroné/compromis, l’IA devient biaisée et porte en elle une faille qu’elle reproduira et pourra propager par la suite vers d’autres systèmes/outils.
Autre risque lié à la génération de code : Problème de propriété intellectuelle et risque de poursuite judiciaire si l’IA, qui s’alimente généralement sur des bibliothèques Open-Source, utilise des lignes de code propriétaires dans la génération d’un code informatique (sans autorisation/licenses). Exemple : Une plainte a été déposée en novembre dernier contre le LLM « Copilot » de GitHub, filiale de Microsoft. La plainte indique que le code proposé aux clients de Copilot « n’incluait pas, et en fait supprimait, les informations relatives aux droits d’auteur et à la notification requises par les différentes licences open source« .
- Ethique (Usages discriminatoires, utilisation de l’IA à des fins malveillantes)
Quelles sont les données fournies à l’IA ? A qui appartiennent-elles ? Qui définit les limites au niveau éthique à imposer à l’IA ?
- Sécurité (exploitation de vulnérabilité, phishing, risque de divulgation accidentelle de données)
L’effet boîte noire de l’IA est un risque non négligeable car malgré qu’elle aide à la réduction des erreurs humaines, il est souvent impossible de connaître le raisonnement et reconstruire les étapes derrière chaque suggestion/décision de l’IA, d’où des possibilités d’erreurs.
Nous constatons donc des limites à l’IA dans la prise de risque et de décision à partir de rien (car l’IA est limitée à son programme et à son mode de fonctionnement qui dépend de données sources au préalable). La machine ne fait pas confiance (c’est un principe humain !) et ne peut pas se substituer à la prise de décision humaine (l’IA ne peut pas justifier ses prises de décision).
Cela ne voudrait pas dire que l’IA devra être évitée par les entreprises, mais elle offre des opportunités en termes de rapidité d’exécution et de production. Les consultants IT, afin d’accompagner les entreprises dans une adoption sereine de l’IA, doivent alors les aider à répondre aux questions suivantes :
- Quelle est la confiance sur la donnée et les résultats que je peux accorder à l’IA ?
- Quel est son niveau de fiabilité quant à ses réponses en tenant compte des aspects réglementaires (Traitement de données, finalité, et consentement > RGPD) ?
- Quelle sont les problématiques et limites éthiques (Ce qu’on peut faire avec, influence, escroquerie…) ?
Roméo TATFO
Consultant Cybersécurité Senior
