¿Cómo encuentro servidores de modelos de IA locales en nuestra red?

Busque los servicios que exponen los entornos de modelos locales y el tráfico que los rodea. Las herramientas que ejecutan modelos de lenguaje en local suelen abrir una API HTTP en un puerto predeterminado conocido, ofrecen una interfaz web y, al configurarse, descargan grandes ficheros de modelos desde repositorios públicos. Ayudan tres comprobaciones: un escaneo autorizado de los rangos internos en busca de los puertos predeterminados de los entornos habituales y de interfaces web inesperadas; ver qué máquinas descargaron ficheros de varios gigabytes desde repositorios de modelos; y una lista de equipos con GPU potentes, que TI suele conocer. Después pregunte a los responsables para qué sirve cada servidor, quién puede acceder y qué datos entran en él. Muchos son experimentos inofensivos; algunos quedan abiertos a toda la red sin autenticación. NetSenX muestra desde el plan Pro el tráfico hacia entornos de modelos de lenguaje ejecutados en local: qué equipo ejecuta o llama a uno y cuántos datos se mueven, junto a los servicios de IA externos. No ve los prompts ni las respuestas del modelo.

Siga leyendo

← Las 45 preguntas sobre Uso y seguridad de la IATodos los temas