Comment trouver les serveurs de modèles d'IA locaux sur notre réseau ?

Cherchez les services qu'exposent les environnements de modèles locaux et le trafic qui les entoure. Les outils qui exécutent des modèles de langage en local ouvrent en général une API HTTP sur un port par défaut connu, proposent une interface web et téléchargent de gros fichiers de modèles depuis des plateformes publiques lors de leur installation. Trois vérifications aident donc : un balayage autorisé des plages internes à la recherche des ports par défaut des environnements courants et d'interfaces web inattendues ; un examen des machines qui ont téléchargé des fichiers de plusieurs gigaoctets depuis des dépôts de modèles ; et la liste des hôtes dotés de GPU puissants, que l'informatique connaît souvent déjà. Demandez ensuite aux responsables à quoi sert chaque serveur, qui peut l'atteindre et quelles données y entrent. Beaucoup sont des expériences inoffensives ; certains restent ouverts à tout le réseau sans authentification. NetSenX montre dès l'offre Pro le trafic vers les environnements de modèles de langage exécutés localement : quel hôte en exécute ou en appelle un et combien de données circulent, aux côtés des services d'IA externes. Il ne voit ni les prompts ni les réponses du modèle.

← Les 45 questions sur Usage et sécurité de l'IATous les thèmes