Fuites, usurpation, boucles infinies: le chaos des agents IA
Des chercheurs de la Northeastern University ont analysé plusieurs cas de défaillance observés sur des agents IA autonomes, notamment des fuites de données, des usurpations d’identité et des injections de prompts. Selon eux, ces problèmes ne proviennent pas uniquement des limites des LLM, mais aussi des architectures agentiques combinant mémoire persistante, autonomie et accès à des outils externes.
Quelle: ICTjournal – Technologie
📰 Quelle: ICTjournal – Technologie
Leave your comment