Cybersécurité Intelligence Artificielle

La nécessité d’une gouvernance pour accompagner le développement de l’IA dans la cybersécurité

11 octobre 2017

author:

La nécessité d’une gouvernance pour accompagner le développement de l’IA dans la cybersécurité

L’Intelligence Artificielle va occuper une place toujours plus importante dans nos vies. En effet, même si elle échappe aujourd’hui à la vue du grand public, elle est déjà omniprésente, ne serait-ce que dans les discours, et se pressent déjà comme inévitable. Mais pour la mettre à profit et en maîtriser les dérives, encore faut-il s’en donner les moyens. 

La compréhension de l’IA dans les médias

L’Intelligence Artificielle, tout le monde en parle mais peu savent de quoi il ressort, ce qu’elle représente ; et personne n’est capable de prédire ses effets d’ici une vingtaine d’années. Certains donnent cependant leur opinion. D’un côté, le créateur de Facebook, Mark Zuckerberg, voit l’IA sous un angle optimiste : elle éliminera les accidents de voiture. Les bugs en IA existent et seront la cause directe d’accidents. On comprend qu’il se garde de le mentionner : pas un mois ne se passe sans que des nouvelles fonctions adossées à cette technologie ne voient le jour sur son réseau social.  A l’opposé de cette vision, Elon Musk, l’entrepreneur visionnaire à la tête de Tesla Motors et de SpaceX voit en l’Intelligence Artificielle un véritable danger, évoquant des robots descendant dans les rues pour tuer des gens. Ces deux entrepreneurs renommés voient cependant l’IA uniquement du point de vue de l’innovation, c’est-à-dire de ce qu’elle pourrait amener, sans nécessairement de réalisme.

Dans un monde toujours plus connecté, et de plus en plus intéressé par la question, le constat selon lequel les personnes manquent d’information vis-à-vis de l’Intelligence Artificielle est flagrant. Il existe cependant des personnes qui font figure d’autorité dans le domaine, dont le seul tort serait de parler peu. Ainsi de Rodney Brooks, ancien directeur du laboratoire d’IA du MIT, une référence en la matière pour avoir consacré sa vie au sujet et l’avoir vu évoluer. Si pour Musk Zuckerberg ne sait pas de quoi il parle, Brooks rappelle simplement que ni l’un ni l’autre ne travaille dans le domaine. Et que de son point de vue, le chemin est encore long avant que l’IA ne soit un investissement rentable : la technologie, prometteuse, manque de maturité pour être tout à fait déployée opérationnellement. Son impact réel reste donc difficile à évaluer.

L’Intelligence Artificielle dans la cybersécurité aujourd’hui et demain.

Aujourd’hui, l’Intelligence Artificielle se développe mais reste peu mature. Sa mise en place de manière opérationnelle reste bien loin des attentes des décideurs. Cela se vérifie dans le domaine de la cybersécurité : nos travaux en détection d’anomalies dans les logs émis par les équipements du SI sont prometteurs. Notre approche permet de détecter des anomalies non-connues, qui n’auraient été détectées par des moyens classiques. Elle reste cependant éloignée des niveaux de précision exigés par l’industrie : la détection produit trop de fausses alertes, qui finiraient par décourager l’opérateur. Cependant, nous pouvons savoir de quoi il retourne sur le terrain, et donc de conseiller sérieusement nos clients sur le sujet. Aujourd’hui, nous savons où aller et dans quelle direction travailler pour opérationnaliser l’IA.

Au niveau des solutions sur étagères, nous assistons au début d’une offre prometteuse et en développement. Il y a bien sûr le Watson d’IBM, qui permet d’assister les opérateurs des « Security Operations Centers » (SOC). Avec Watson, l’IA permet de développer un encyclopédiste : une entité qui aura lu, analysé et quelque part compris l’intégralité de la littérature en matière d’attaques cyber. Nous pensons également à Vectra qui, au niveau des échanges réseaux, représente un atout considérable dans la détection d’attaques grâce à son approche de Machine Learning. Les exemples de ce type sont nombreux et la liste ne cesse de s’agrandir jour après jour.

Comment va évoluer la CyberSécurité à l’aune de l’IA ? Il faut bien comprendre que la conception actuelle de la Cyber est celle d’une chaîne de composants liés ensemble pour verrouiller un périmètre, de l’infrastructure à la gouvernance, en passant par le contrôle d’accès et l’identification, etc. Or les machines sont devenus plus intelligentes sous l’effet de l’IA ; elles sont devenues capables d’apprendre, de s’adapter. Puisque les maillons de la chaîne sont, en grande partie, des machines, cette chaîne est donc appelée à devenir intelligente. De fait, nous pensons que l’on parlera à l’avenir d’une collectivité de composants analysant, s’adaptant aux conditions locales et communiquant les uns avec les autres.

Le besoin d’un encadrement, d’une gouvernance de l’Intelligence Artificielle.

L’IA est inévitable parce qu’elle est la réponse, technologique, à la surcharge d’informations dont nous sommes victimes. Elle va permettre d’intégrer toute la connaissance numérisée par l’humain, et de lui restituer contextuellement (cas de Watson). Selon nous, elle devrait amener à une collaboration entre humains et machines dans la gestion des problèmes, plutôt qu’au lien d’exploitation qui domine aujourd’hui : la machine ne fait après tout qu’exécuter les ordres qu’un humain lui a donnés. Elle pourra demain l’assister dans ses tâches, lui faciliter le travail. Donc oui, d’un point de vue social, l’IA va changer l’emploi, et probablement impacter l’organisation de la société elle-même. Des emplois seront détruits, mais des métiers évolueront : les machines auront toujours besoin d’humains pour les animer et les maintenir. Et de nouveaux métiers apparaîtront. L’ère des machines autonomes relève du fantasme.

Il convient donc de recentrer le débat et d’éviter de parler d’IA en termes de gentil ou de méchant, si on veut être sérieux et se mettre en position de prédire, donc de gouverner. L’IA, comme toutes les technologies avant elle, sera ce que l’on en fait. Le constat aujourd’hui est celle d’une méconnaissance de ce que représente l’IA, de ce qu’elle peut et pourra, tant au niveau des politiques, que des preneurs de décision, des entrepreneurs et du grand public. On ne peut donc que se réjouir de l’annonce récente par le gouvernement Philippe d’un Plan Stratégique National sur l’Intelligence Artificielle, pour en encadrer le développement selon l’orientation donnée par le politique, c’est-à-dire par le corps social en charge de gouverner. Parce que ce dont nous avons besoin, nous humains par rapport à l’IA, tant au niveau des Etats, des entreprises ou même individuel, avant des solutions techniques, c’est d’une éducation, d’une familiarisation, d’une véritable culture qui nous permette de prendre des décisions de manière avisée.

Computational Neurosciences PhD, Rudy Guyonneau joined Sopra Steria to lead the Data Science effort in cybersecurity and co-animate Sopra Steria’s innovation projects.
Leave a comment

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *