Les ensembles de données sont la base de l’IA. Les données permettent à l’IA de prendre des décisions et d’analyser les tendances car elles disposent de nombreux points de données auxquels se référer pour le raisonnement déductif.
Cependant, l’empoisonnement des données est une tendance qui a récemment fait son entrée sur la scène de la cybersécurité pour ruiner les algorithmes de l’IA dans le but de saboter le travail que les humains ont accompli pour parfaire leur précision.
L’empoisonnement des données (ou data poisoning en anglais) étant un phénomène relativement nouveau, quelqu’un a-t-il déjà inventé une solution pour le combattre ? Les méthodes traditionnelles de cybersécurité peuvent-elles être utilisées pour créer des défenses pendant que les analystes s’adaptent ?
Qu’est-ce que l’empoisonnement des données ?
On parle d’empoisonnement des données lorsque des pirates informatiques réussissent à alimenter l’IA en données pour créer des vulnérabilités.
L’IA ne peut pas prédire avec précision si les ensembles de données sont corrompus – le principe est le même lorsque des courriels de spam sont marqués comme valant la peine d’être lus et que votre flux de recommandations Netflix s’embrouille après que vous ayez autorisé des amis à utiliser votre compte par exemple.
Parfois, cela est dû au fait que l’IA et l’apprentissage automatique n’ont pas eu suffisamment de temps pour se développer. Parfois, dans le cas de l’empoisonnement des données, c’est parce que des pirates informatiques alimentent les modèles d’IA avec des informations sélectionnées qui servent leur cause et faussent la logique de votre IA.
Les modèles d’IA pour les entreprises peuvent tout faire, de l’analyse des rapports à la réponse automatique aux clients en direct. La plupart des IA s’engagent dans un apprentissage actif pour obtenir plus de données pendant que les travailleurs humains effectuent des tâches régulières.
À ce stade, il ne serait pas difficile de tirer profit des systèmes fraîchement développés alors qu’ils manquent encore cruellement d’informations !
Quelle est l’efficacité des attaques par empoisonnement des données ?
Si des e-mails dangereux contenant des escroqueries par hameçonnage apparaissent dans votre boîte de réception avec un langage fiable et une signature convaincante, il est facile de donner accidentellement vos informations.
Certains suggèrent que l’empoisonnement des données pourrait s’inspirer de la façon dont les pirates profitent traditionnellement d’un manque de formation des employés aux pratiques de cybersécurité. Si l’IA d’une entreprise en est à ses débuts ou n’est pas formée, il est alors tout aussi facile de l’exploiter que s’il s’agissait d’un employé répondant sans le savoir à un e-mail de phishing.
La raison pour laquelle l’empoisonnement des données est efficace est qu’il profite de ce manque de sensibilisation. Il devient polyvalent en apparence et en exécution en :
- Réécrivant les tendances linguistiques d’un chatbot pour qu’il parle différemment ou utilise un langage offensant
- Convainquant les algorithmes de croire que certaines entreprises sont peu performantes
- Échantillonnant les virus contre les logiciels malveillants et les défenses antivirales pour le convaincre que les fichiers sûrs sont malveillants
Ce ne sont là que quelques exemples d’utilisations de l’IA et de la façon dont l’empoisonnement peut perturber les opérations.
Comme les modèles d’IA apprennent divers ensembles de compétences pour différents types d’implémentations, les façons dont l’IA pirate peut les empoisonner sont aussi vastes que leurs utilisations. Cela signifie que les solutions pour les guérir pourraient être tout aussi étendues.
Quelle est l’ampleur de la menace ?
Des entreprises, de Fortnite à WhatsApp, ont vu les informations de leurs utilisateurs compromises en raison de systèmes de sécurité peu performants.
L’IA pourrait être l’ingrédient manquant nécessaire pour renforcer la sécurité, mais elle pourrait aussi inviter les pirates à empoisonner les données pendant qu’elle apprend, ce qui entraînerait d’autres violations plus graves. Les conséquences d’une IA empoisonnée sont graves. Imaginez que vous puissiez contourner les mesures de sécurité d’un réseau en l’infectant avec une simple entrée.
Une IA empoisonnée subvertit la défense de l’IA d’une entreprise, laissant aux pirates la possibilité de frapper. Une fois que l’IA du pirate contrôle suffisamment les défenses, effectuer une attaque est aussi facile que de passer par la porte d’entrée.
Comme il s’agit d’une menace relativement nouvelle dans le monde de la cybersécurité, les analystes créent davantage de solutions à mesure que la menace se renforce. Le bouclier le plus crucial contre l’empoisonnement des données est une solide infrastructure de cybersécurité.
S’éduquer, que l’on soit employé d’une entreprise ou que l’on dirige sa propre affaire en tant qu’entrepreneur, est notre meilleure défense. Il existe plusieurs options pour protéger votre IA contre les attaques par empoisonnement, tandis que de nouvelles solutions continuent d’arriver :
- Assurez une maintenance régulière Effectuez des contrôles sur les données des modèles que vous utilisez. Assurez-vous que les informations intentionnellement fournies à l’IA sont toujours là, sans être interrompues par des insertions aléatoires qui pourraient autrement l’empoisonner.
- Choisissez les données avec soin Soyez prudent dès le moment où vous créez votre modèle d’IA. Assurez-vous que tout ce qui y est stocké est pertinent et n’est pas si compromettant qu’il faciliterait la tâche du pirate pour déraciner vos fichiers.
- Effectuez des tests agressifs Les tests de pénétration sur les modèles d’IA – effectuant des cyberattaques simulées – pourraient permettre de déceler des failles dans vos cyberdéfenses.
Malgré l’apparition de nouvelles menaces apparemment chaque semaine, il est essentiel de ne pas oublier les mesures de sécurité – telles qu’un bon cryptage et des cadres de confiance zéro – qui ont précédé pour protéger les actifs face aux menaces nouvelles et émergentes.
La mise en œuvre de ces stratégies s’avérera toujours utile, même si une nouvelle menace s’introduit dans un réseau.
Existe-t-il une solution pour l’empoisonnement des données ?
Chaque nouvelle souche d’activité cybercriminelle donne l’occasion aux analystes, aux employeurs et aux passionnés de spéculer sur les tendances.
Bien qu’il n’y ait peut-être pas de solution unique à la menace croissante de l’empoisonnement des données à l’heure actuelle, chaque attaque récente donne un aperçu des tactiques des cybercriminels, ce qui donne un avantage aux défenseurs.
Utiliser ces moments pour se préparer au lieu de s’inquiéter nous permettra de créer des solutions plus efficaces et d’utiliser les ressources de manière productive pour sécuriser autant de données que possible.
