Hoe vind ik lokale AI-modelservers in ons netwerk?

Zoek naar de diensten die lokale modelomgevingen openzetten en naar het verkeer eromheen. Tools die taalmodellen lokaal draaien, starten meestal een HTTP-API op een bekende standaardpoort, bieden een webinterface en downloaden bij de installatie grote modelbestanden van publieke modelplatforms. Drie controles helpen dus: een geautoriseerde scan van interne bereiken op de standaardpoorten van gangbare omgevingen en op onverwachte webinterfaces; kijken welke machines bestanden van meerdere gigabytes uit modelrepository's hebben gedownload; en een lijst van hosts met krachtige GPU's, die IT vaak al kent. Vraag daarna de eigenaren waarvoor elke server dient, wie hem kan bereiken en welke gegevens erin gaan. Veel zijn onschuldige experimenten; sommige staan zonder authenticatie open voor het hele netwerk. NetSenX toont vanaf het Pro-abonnement verkeer naar lokaal draaiende omgevingen voor taalmodellen: welke host er een draait of aanroept en hoeveel data er stroomt, naast externe AI-diensten. Prompts en antwoorden van het model ziet het niet.

← Alle 45 vragen over AI-gebruik en AI-beveiligingAlle onderwerpen