L'intelligence artificielle et le big data sont aujourd'hui les nouvelles armes de l'armée américaine. Mais à cause de l'empoisonnement des données, il est tout à fait possible que les données qui servent à l'entraînement des modèles puissent être compromises.
« Jusqu'à aujourd'hui, aucune de nos données n'a été empoisonnée », a déclaré Jennifer Swanson, secrétaire adjointe de l'armée pour les données.
« En tout cas, nous avons comme objectif d'identifier les risques qui pourrait nuire à nos données », a-t-elle ajouté.
En réalité, le Pentagone former ses algorithmes sur un très grand volume de données. Chaque équipe se doit alors de les analyseur pour supprimer les données erronées.
récemment, ChatGPT a déraillé et a commencé à fournir de fausses réponses. Pour le cas des algorithmes de l'armée, ils peuvent bel et bien faire l'objet d'une attaque.
C'est ce que l'on appelle empoisonnement de donnéesune situation qui pourrait détruire les IA en temps de guerre.
Les LLM altèrent la sécurité militaire, déclare Swanson
Swanson a fait une déclaration sans ambiguïté que tout LLM commercial actuellement en existence, qui se nourrit de données sur Internet, est désormais altéré.
« Pour être honnête, je suis davantage inquiet de ce que vous pourriez appeler l'IA classique. Ce sont ces algorithmes qui seront effectivement utilisés par nos soldats pour prendre des décisions sur le terrain de combat », ajoute-t-elle.
Toutefois, Swanson affirme que malgré l'empoisonnement de données, le Pentagone peut facilement créer de nouveaux chatbots.
Il ne s'agit donc pas de former ses LLM sur des données publiques. Mais plutôt d'effectuer la formation dans un environnement sécuriséavec des données militaires vérifiées.
Le vrai défi du Pentagone, c'est de trouver des données propres à l'armée. Sans quoi, il ne serait pas possible de prendre des décisions en temps réel sur le champ de bataille et coordonner les opérations militaires.
Elle affirme néanmoins que les prochaines IA permettrontient de planifier les frappess grâce aux services ABMS, du Projet Convergence et Overmatch.
L'armée américaine avance aveuglement face à l'empoisonnement de données
Le projet Convergence de l'armée, en retour, exploite la technologie avancé par le nouveau projet Pivot.
Swanson identifie celui-ci comme le principal programme d'intelligence artificielle du département. Autrement dit un programme qui servira de canal opérationnel ML fiable et sécurisé pour leurs initiatives.
En résumé, l'armée cherche à appliquer à l'apprentissage automatique la méthode agile de rétroaction entre la fabrication, la sécurité informatique et les activités en cours (ManufactureSecOps).
Elle adoptera cependant la même approche qu'utilisent les principaux concepteurs de logiciels pour lancer rapidement de nouvelles technologies et les mettre régulièrement à jour.
« À l'heure actuelle, nous n'avons aucune connaissance de la façon de procéder ». En réalité, elle soutient que personne ne le sait vraiment.
« Je m'inquiète de notre engagement profond dans l'IA alors que presque personne n'a des réponses claires. Jusqu'à aujourd'hui, aucune société n'a pu nous donner des réponses claires sur la façon de faire les choses », at-elle déclaré.
- Partager l'article :
Notre blog est alimenté par les lecteurs. Lorsque vous achetez via des liens sur notre site, nous pouvons percevoir une commission d'affiliation.