Les robots intelligents présentent des vulnérabilités majeures, dévoilent des experts de Penn Engineering. Ces lacunes menacent leur sécurité dans le monde réel et soulèvent des préoccupations majeures.
La cybersécurité des robots au cœur des préoccupations
Les chercheurs de l'Université de Pennsylvanie ont dévoilé des failles critiques dans les systèmes robotiques. D'ailleurs, leurs travaux, soutenus par la National Science Foundation et l'Army Research Laboratory, ont exploré l'intégration des grands modèles de langage dans la robotique.
Les résultats montrent que ces robots peuvent être facilement manipulés ou piratés. Ce qui présente d'ailleurs des risques considérables. George Pappas, professeur à Penn Engineering, affirme ainsi que les modèles de langage actuels ne sont pas encore prêts pour des applications physiques complexes et autonomes.
RoboPAIR : l'algorithme qui expose les faiblesses
L'équipe a conçu un outil nommé RoboPAIR, capable de contourner les sécurités de robots complexes. En quelques jours, cet algorithme a réalisé un taux de jailbreak de 100 %, ce qui est inquiétant.
Ainsi, RoboPAIR a réussi à pirater trois systèmes différents : le quadrupède Unitree Go2, le véhicule à roues Jackal, et le simulateur Dolphin LLM. De plus, les failles découvertes dans le ChatGPTd'OpenAI amplifient ces risques pour les systèmes intégrés.
Des conséquences inquiétantes pour la sécurité publique
Les chercheurs ont prouvé qu'en exploitant ces failles, un système de conduite autonome pouvait être détourné. Par exemple, ils ont démontré qu'un robot pouvait ignorer les protocoles de sécurité routière en accélérant au lieu de s'arrêter à un passage piéton.
Alexander Robey, co-auteur principal de l'étude, insiste sur l'importance d'identifier ces vulnérabilités. Selon lui, comprendre ces faiblesses est essentiel pour renforcer la sécurité, tant en cybersécurité que dans les systèmes d'intelligence artificielle.
Repenser l'intégration de l'IA dans le monde réel
L'équipe de recherche affirme qu'un simple correctif logiciel ne suffira pas à résoudre le problème. Ils préconisent une révision complète des normes réglementant les robots IA dans les systèmes physiques.
Vijay Kumar, doyen de Penn Engineering, souligne la nécessité de vérifier et valider les actions des robots. Ainsi, ces systèmes doivent respecter les normes sociales et éthiques avant d'être déployés dans le monde réel.
Une course contre la montre pour sécuriser les robots
Les résultats de cette étude appellent à une vigilance accrue dans le développement de robots intelligents. De plus, une collaboration étroite entre ingénieurs et régulateurs est essentielle pour éviter des dérapages. À terme, seule une gestion rigoureuse de ces vulnérabilités garantira une utilisation responsable et sécurisée des robots IA.
- Partager l'article :
