Données, machine learning et intelligence artificielle dans le secteur de la cyber sécurité
Face à des cyber menaces toujours plus nombreuses et diverses, la cyber sécurité doit recourir au traitement automatisé des données. Le machine learning et l’intelligence artificielle permettent désormais d’exploiter des informations à une vitesse dépassant de loin les capacités humaines. Ces technologies participent activement à la protection des utilisateurs. Sans elles, la cyber sécurité est dans l’impasse. Ce constat vaut pour aujourd'hui, et vaudra encore davantage à l’avenir.
En matière de détection des intrusions, les volumes de données deviennent tout simplement trop importants pour être traités par des êtres humains. Même si les systèmes reposant sur des règles s'avèrent très utiles dans certaines situations comme la détection des anomalies, il serait absurde de se passer du machine learning. Cette technologie permet, par exemple, de détecter des actions ou fichiers malveillants proches de ceux déjà connus, mais légèrement différents. L’être humain est également capable de réaliser ce type de tâche mais il s’agit d’un travail beaucoup plus difficile à coder en règles fixes et exigeant un temps considérable.
Le machine learning s'avère donc extrêmement utile pour détecter les menaces. Toutefois, comme tout système informatique, il présente aussi des faiblesses. Les modèles de machine learning présentent une surface d'attaque et il existe un large éventail de stratagèmes destinés à porter atteinte aux intelligences artificielles. Il peut s'agir de vol de modèle d’IA (et donc d'atteinte à la propriété intellectuelle) ou d'attaques d'intoxication incitant un classificateur à faire des choix inattendus. Malheureusement, les créateurs d'intelligence artificielle ne tiennent souvent pas compte de tous ces risques.
« Mauvaise » intelligence artificielle ?
L'intelligence artificielle actuelle, c'est-à-dire « restreinte », n'est pas si intelligente que cela. Les solutions de machine learning apprennent à faire exactement ce à quoi elles ont été formées. Si elles sont basées sur des données biaisées, elles répliqueront ces biais. Certains parlent alors de « mauvaise » intelligence artificielle mais, le plus souvent, il s'agit de machine learning basé sur des données de mauvaise qualité.
Le machine learning est donc un outil extrêmement puissant qui permet de concevoir des solutions de cyber sécurité performantes. Cette technologie est d’une aide inestimable aux experts en cyber sécurité lorsqu’ils doivent traiter d’importants volumes de données. Nous vivons à l'ère de l'intelligence augmentée et nous devons tirer profit de ces innovations pour protéger notre société. Mais nous devons toujours veiller à concevoir des solutions d'intelligence artificielle sûres et sécurisées.