Come trovo i server di modelli di IA locali sulla nostra rete?

Cerchi i servizi che gli ambienti di modelli locali espongono e il traffico intorno a essi. Gli strumenti che eseguono modelli linguistici in locale di solito aprono un'API HTTP su una porta predefinita nota, offrono un'interfaccia web e alla prima configurazione scaricano grandi file di modelli da archivi pubblici. Aiutano quindi tre controlli: una scansione autorizzata degli intervalli interni alla ricerca delle porte predefinite degli ambienti più diffusi e di interfacce web inattese; un'analisi di quali macchine hanno scaricato file di diversi gigabyte da archivi di modelli; e un elenco degli host con GPU potenti, che l'IT spesso conosce già. Poi chieda ai responsabili a che cosa serve ogni server, chi può raggiungerlo e quali dati vi entrano. Molti sono esperimenti innocui; alcuni restano aperti a tutta la rete senza autenticazione. NetSenX mostra dal piano Pro il traffico verso ambienti di modelli linguistici eseguiti in locale: quale host ne esegue o ne chiama uno e quanti dati passano, accanto ai servizi di IA esterni. Non vede i prompt né le risposte del modello.

← Tutte le 45 domande su Uso e sicurezza dell'IATutti i temi