Der KI-Bedrohungsbericht 2025 von KELA stellt einen Anstieg der Erwähnungen bösartiger KI-Tools um 200 % sowie einen Anstieg der Diskussionen zum Thema „Jailbreaking“ in Cyberkriminalitätsforen um 52 % fest.
TEL AVIV, Israel, 25. März 2025 /PRNewswire/ —KELA, ein weltweit führender Anbieter von Lösungen für Cyber-Bedrohungs- und Risikoanalysen, hat heute seinen „AI Threat Report 2025: How Cybercriminals are Weaponizing AI Technology“ (LINK) veröffentlicht, aus dem hervorgeht, dass die Erwähnungen bösartiger KI-Tools in Cyberkriminalitätsforen im Jahr 2024 um 200 % zugenommen haben. Die Ergebnisse unterstreichen den wachsenden Trend, dass Cyberkriminelle ihre KI-Taktiken rasch weiterentwickeln.
In den letzten 12 Monaten haben Angreifer zunehmend große Sprachmodelle (LLMs) wie ChatGPT, Gemini, DeepSeek, Claude und andere öffentlich zugängliche GenAI-Anwendungen genutzt, um mithilfe von „Dark-AI“-Tools ihre Geschäftsabläufe zu optimieren und mithilfe von „Jailbreak“-Techniken öffentliche KI-Systeme zu umgehen, um böswillige Aktivitäten durchzuführen. Dieser Wandel in der Taktik erfordert eine neue Denkweise, bei der Unternehmen ebenso schnell reagieren müssen, um einen Schritt voraus zu bleiben.
Wichtigste Erkenntnisse aus dem KELA-Bericht über KI-Bedrohungen 2025:
- Die Methoden zum Jailbreaking entwickeln sich rasant weiter:
Angreifer verfeinern kontinuierlich ihre Jailbreaking-Techniken für KI, um Sicherheitsbeschränkungen in öffentlichen KI-Systemen zu umgehen. KELA verzeichnete im Jahr 2024 im Vergleich zum Vorjahr einen Anstieg der Diskussionen über Jailbreaking-Methoden in Cyberkriminalitätsforen um 52 %. - Cyberkriminelle setzen in Foren zur Cyberkriminalität zunehmend KI ein:
Die Plattform von KELA verzeichnete im Jahr 2024 einen Anstieg der Erwähnungen bösartiger KI-Tools und -Taktiken um 200 %, was auf einen wachsenden Schwarzmarkt für KI-gestützte Cyberkriminalität hindeutet. - „Dark-AI“-Tools breiten sich immer weiter aus:
Cyberkriminelle verbreiten und verkaufen „jailbroken“ KI-Modelle sowie maßgeschneiderte bösartige KI-Tools wie WormGPT und FraudGPT, um Phishing, die Erstellung von Malware und Betrugsoperationen zu automatisieren. - KI-gestützte Phishing-Kampagnen werden immer ausgefeilter:
KI-generierte Phishing- und Social-Engineering-Taktiken haben an Wirksamkeit gewonnen, wobei Deepfake-Technologien eingesetzt werden, um sich als Führungskräfte auszugeben und Mitarbeiter dazu zu verleiten, betrügerische Transaktionen durchzuführen. - Die Entwicklung von Malware wird durch den Einsatz von KI immer effizienter:
Angreifer nutzen KI-Tools, um in großem Umfang ausgeklügelte, schwer zu erkennende Malware zu generieren, darunter Ransomware und Infostealer, was die Erkennung und Abwehr für Sicherheitsteams erschwert.
„Wir erleben derzeit einen grundlegenden Wandel in der Landschaft der Cyberbedrohungen“, sagte Yael Kishon, Leiterin für KI-Produkte und -Forschung bei KELA. „Cyberkriminelle nutzen KI nicht nur – sie bauen im Untergrund-Ökosystem ganze Bereiche auf, die sich ausschließlich der KI-gestützten Cyberkriminalität widmen. Unternehmen müssen KI-gestützte Abwehrmaßnahmen einführen, um dieser wachsenden Bedrohung entgegenzuwirken.“
Um den zunehmenden KI-gestützten Cyberbedrohungen entgegenzuwirken, fordert KELA Unternehmen nachdrücklich auf, in Mitarbeiterschulungen zu investieren, sich weiterentwickelnde KI-Bedrohungen und -Taktiken zu beobachten und KI-gestützte Sicherheitsmaßnahmen umzusetzen, darunter automatisierte, auf Erkenntnissen basierende Red-Teaming-Maßnahmen sowie Angreifer-Emulationen für generative KI-Modelle.
Der „AI Threat Report 2025: Wie Cyberkriminelle KI-Technologie als Waffe einsetzen“ ist verfügbar hier.
Über KELA Cyber
KELA ist ein auf Intelligence basierendes Unternehmen für das Management von Sicherheitsrisiken. Wir definieren neu, wie Unternehmen Risiken durch externe Bedrohungen – ob bekannt oder unbekannt, kontrolliert oder unkontrolliert – erkennen, überwachen und mindern. Unsere einzigartige Technologie ermöglicht den automatischen Echtzeit-Zugriff auf genau die Orte, an denen Angreifer kommunizieren, zusammenarbeiten und gestohlene Informationen zu Geld machen, sodass Unternehmen proaktiv Maßnahmen ergreifen können. Durch die Kombination unserer firmeneigenen CTI-Plattform mit External Attack Surface Management und Third-Party Risk Management sowie dem direkten Zugang zu den verborgenen Ecken der Cyberkriminalität im Deep und Dark Web versetzen unsere Lösungen Unternehmen in die Lage, ihre Anfälligkeit gegenüber externen Bedrohungen kontinuierlich und proaktiv zu reduzieren – in jeder Größenordnung, vom einzelnen Unternehmen bis hin zur nationalen Ebene. Erfahren Sie mehr unter www.kelacyber.com.
Pressekontakt:
