Die französische Datenschutzbehörde CNIL hat ein Werkzeug namens Genmod entwickelt, um die komplexe Landschaft offener generativer KI-Modelle auf Plattformen wie Hugging Face zu navigieren. Hugging Face beherbergt über zwei Millionen veröffentlichte Modelle, was die Identifizierung von Originalmodellen und ihren Ableitungen erschwert. Genmod wurde von Forschern der CNIL entwickelt, um die Nachvollziehbarkeit zu verbessern.
Untersuchung von Modellableitungen
Genmod ermöglicht die Untersuchung von Nachkommen (Ableitungen) von KI-Modellen. Nutzer können beispielsweise die Ableitungen des Kimi K3-Modells von Moonshot AI nachverfolgen, indem sie den Namen des Herausgeber-Repositorys gefolgt von den Modellinitialen eingeben (z. B. moonshotai/ für Kimi K3). Nach dem Klicken auf „Stammbaum anzeigen“ wird eine Liste aller abgeleiteten Modelle mit Details zur Ableitungsmethode angezeigt. Ein Beispiel ist das Modell „unsloth/Kimi-K3-GGUF“, das als Weiterentwicklung von Kimi-K3 identifiziert wurde und durch Quantisierung für die Bild-Text-zu-Text-Konvertierung zur Reduzierung des Speicherbedarfs spezialisiert ist.
Suche und Kriterien
Das Tool bietet eine „Expertensuche“, mit der Nutzer relevante Kriterien auswählen können, um Modelle zu filtern.
Nachvollziehbarkeit von Datensätzen
Genmod erleichtert auch die Nachvollziehbarkeit der Nutzungshistorie von Datensätzen. Forscher der CNIL entwickelten Genmod primär für die Nachvollziehbarkeit. Dies ist nützlich, um alle Modelle zu finden, die einen bestimmten Datensatz verwenden (z. B. den Cauldron-Datensatz, wobei der Name des Stammverzeichnisses wie HuggingFaceM4/ bekannt sein sollte).
Datenschutz und Urheberrecht
Ein Hauptziel von Genmod ist die Identifizierung von Modellen, die möglicherweise dieselben Trainingsdaten wiederverwenden, insbesondere wenn personenbezogene Daten einer Person von einem Modell gespeichert werden. Generative KI-Modelle unterliegen der DSGVO. Diese Funktion kann auch bei Vorwürfen der unerlaubten Wiedergabe urheberrechtlich geschützter Inhalte nützlich sein, wie im Rechtsstreit zwischen der New York Times und OpenAI.
Sources:
KI-gestützt gefunden, übersetzt und zusammengefasst – anschließend von einem Menschen geprüft und bewertet. Zur Verfügung gestellt von news@genealogy.net - den Machern des Blog