La surveillance réseau peut-elle détecter un agent d'IA qui dérape ?

En partie aujourd'hui, et NetSenX dit clairement quelle partie. Ce qui fonctionne : dès l'offre Pro, le trafic d'un hôte vers des services d'IA externes et vers des environnements de modèles de langage exécutés localement, avec horaires et volumes ; et dans chaque offre, les comportements qu'un agent détourné partagerait avec tout hôte compromis, comme joindre de nombreux systèmes internes jamais utilisés, balayer le réseau, contacter régulièrement un serveur inconnu ou envoyer un volume de données inhabituel. Ce qui n'est pas actif : les signaux visant spécifiquement les agents, comme des actions à cadence de machine juste après un appel à un modèle de langage, ou une première connexion vers une nouvelle destination qui suit une réponse du modèle. NetSenX les mesure en mode fantôme, sans lever d'alerte, tant qu'ils ne sont pas assez fiables pour être utiles ; il ne faut ni les présenter ni s'y fier comme à des détections. Les contrôles les plus forts sont ailleurs : permissions étroites, validation humaine des actions lourdes de conséquences et journaux d'actions de l'agent lui-même. Un capteur réseau ne voit jamais non plus quelle instruction a fait agir l'agent.

← Les 45 questions sur Usage et sécurité de l'IATous les thèmes