Bedrohungsakteure missbrauchen zunehmend generative KI-Tools für Phishing!

Cyberkriminelle nutzen immer häufiger KI-gestützte Website-Generatoren, um schnell überzeugende Phishing-Seiten zu erstellen, wie Forschende von Palo Alto Networks’ Unit 42 berichten.

In vielen Fällen gelingt es Kriminellen, die Sicherheitsmechanismen solcher Dienste zu umgehen und so Phishing-Seiten zu generieren. Unit 42 testete einen gängigen Website-Generator, um herauszufinden, wie einfach es ist, eine gefälschte Website zu erstellen.

Der Website-Builder verlangte lediglich eine gültige E-Mail-Adresse, um ein Testkonto zu erstellen und eine Seite zu veröffentlichen, die unser Unternehmen nachahmt, so Unit 42.

Weiterhin fanden die Forschenden heraus, dass etwa 40 % des KI-Missbrauchs durch Bedrohungsakteure auf Schreibassistenten oder Chatbots entfällt. Diese Tools helfen Angreifern, massgeschneiderte Phishing-Nachrichten zu verfassen, die frei von Tipp- oder Grammatikfehlern sind.

Textgenerierungstools – wie Konversations-, Schreib- und Meeting-Assistent – können die Produktivität, Content-Erstellung und Kunden verbessern, so Unit 42. Doch Angreifer können sie manipulieren, um überzeugende Phishing-Inhalte zu generieren, Desinformation zu verbreiten oder vertrauliche Daten preiszugeben.

KI-Tools werden immer ausgefeilter, und Unit 42 prognostiziert, dass der Missbrauch dieser Tools Schritt halten wird. Die Forschenden erklären: Unsere Telemetrie spiegelt die wachsende Nutzung von GenAI-Anwendungen und -Services wider. Wir erwarten, dass die Zahl der Angriffe, die GenAI ausnutzen, ebenfalls weiter steigen wird.

Das CSF Computer Solutions Facility AG Sicherheitsteam : IT Sicherheit dank CSF ISO Zertifizierung