KELA AI-Bericht zur Cyberkriminalität, 4. Quartal 2026: Ein Blick hinter die Kulissen des kriminellen Marktes für adversarische KI

Es gibt einen Markt für KI-Lösungen, die speziell für Cyberkriminalität entwickelt wurden, und die Kunden selbst sind davon nicht begeistert.

Kommerzielle KI-Plattformen veröffentlichen Nutzungsbeschränkungen, überwachen die Nutzung auf Missbrauch und unterliegen zunehmend verbindlichen gesetzlichen Vorschriften. Angreifer wissen, dass all dies außer Reichweite ist, wenn sie ein offenes Modell herunterladen, es modifizieren und auf ihrer eigenen Hardware ausführen.

Das ist die Lücke bei der adversarialen KI. KELA CIC hat diesen Zyklus damit verbracht, sich damit auseinanderzusetzen und zu prüfen, was auf dem Markt angeboten wird und was die Käufer als Leistung versprechen.

Wichtigste Ergebnisse:

• Akteure, die Leistungsfähigkeit anstreben, greifen kommerzielle Modelle durch Betrug an; Akteure, die Unsichtbarkeit anstreben, nehmen eine verminderte Leistung in Kauf.
• Das Besondere daran: Verkäufer bieten sowohl kommerzielle Modelle mit Jailbreak als auch modifizierte lokale Modelle an.
• Die Käufer sind skeptisch: Fachleute bezeichnen unzensierte Modelle als überbewertet und sagen, modifizierte Modelle seien nicht zuverlässig.
• Ein Markt, der dem kommerziellen Markt nachempfunden ist: Zugang, der pro Token in Kryptowährung abgerechnet wird, vorkonfigurierte Bots und Beratung für Kriminelle.
• Von der Beratung bis zur Umsetzung: Modelle, die in agentische Frameworks eingebunden sind, welche Scanner und Befehlszeilentools ansteuern und Abläufe mit geringem menschlichem Eingriff ausführen.