GenAI-Infrastruktur anfällig für Cyberattacken
News-Analyse
26. Sept. 2025 · 2 Minuten · Generative AI
Eine aktuelle Studie zeigt: GenAI-Anwendungen in Unternehmen werden zunehmend von Hackern attackiert.
Chatbot-Assistenten in Unternehmen sind besonders verwundbar, da sie durch Prompt-Injection-Angriffe manipuliert werden können.
In einer Umfrage der Marktanalysten von Gartner berichten 29 Prozent der Cybersicherheitsverantwortlichen, dass die in ihrer Organisation verwendeten generativen KI-Anwendungen in den vergangenen zwölf Monaten Ziel eines Cyberangriffs war.
Bei 32 Prozent der Unternehmen wurden gezielt Schwachstellen in der Prompt-Struktur ausgenutzt. „Insbesondere Chatbot-Assistenten gelten hier als verwundbar, da sie durch feindselige Prompting-Techniken manipuliert werden können – etwa indem Angreifer Eingaben so gestalten, dass große Sprachmodelle (LLMs) oder multimodale Modelle voreingenommene oder sogar schädliche Antworten erzeugen“, erklären die Gartner-Analysten.
Zudem gaben 62 Prozent der Unternehmen zu, dass sie bereits Opfer von Deepfake-Attacken waren – meist in Kombination mit Social Engineering oder automatisierten Angriffstechniken.
Schutzmaßnahmen erforderlich
Während 67 Prozent der befragten Sicherheitsentscheider der Meinung sind, dass diese neuen Risiken umfassende Veränderungen ihrer Cybersecurity-Strategien erfordern, empfiehlt Gartner ein differenzierteres Vorgehen.
„Anstatt radikale Umbauten oder isolierte Investitionen vorzunehmen, sollten Unternehmen ihre Kernkontrollen konsequent stärken und für jede neue Risikokategorie gezielt Maßnahmen ergreifen“, rät Akif Khan VP Analyst bei Gartner.
Die Befragung fand zwischen März und Mai 2025 statt. Sie umfasste 302 Sicherheitsleiter aus Nordamerika, der EMEA- sowie der Asien-Pazifik-Region.
更多精彩内容 请关注我的个人公众号 公众号（办公AI智能小助手）
对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号（网络安全技术点滴分享）
公众号二维码
公众号二维码
