Was ist Agentische KI?

Zunächst einmal ist es hilfreich zu definieren, was agentische KI ist. Dafür müssen wir damit beginnen, zu definieren, was künstliche Intelligenz (KI) ist.

KI ist ein System oder Dienst, das Aufgaben ausführen kann, die "menschliche Intelligenz" beim Lernen, Denken und Entscheiden simulieren.

Im Gegensatz dazu stehen klassische IF-DANN-Anweisungen, die „hard-coden“, was ein Programm tun kann. KI-Grosssprachmodelle (LLMs) „verbrauchen“ grosse Mengen an Daten und nutzen Algorithmen und Ziele, um Ausgaben zu erzeugen. Die Ausgaben können durch den Verzehr von mehr oder anderen Informationen verändert werden. Traditionelle Programme haben alle Informationen, die sie jemals „verbrauchen“ werden, und vordefinierte Entscheidungen im Moment der Codierung und Veröffentlichung. KI kann ihre Entscheidungen und Ergebnisse basierend auf neuen Eingaben ändern. KI kann zuvor undefinierte Entscheidungen treffen.

Agentisch bedeutet eine Software/einen Dienst, der separate, eigenständige, aber kooperierende „Module“ verwendet, um ein gemeinsames Ziel zu erreichen. Es gibt normalerweise einen „Orchestrator-Agenten“, der die anderen Agenten anweist, auf ein gemeinsames Ziel hinzuarbeiten.

KI-gestützte Angriffe finden bereits statt. Wir haben bereits eine Menge Social Engineering und Hacking, die mit KI durchgeführt werden. 75 % oder mehr der heutigen Phishing-Kits enthalten bereits KI als Funktion. KI kann bereits Social Engineering-Angriffe besser als ein Mensch ausführen.

Agentische KI Ransomware kommt

Agentische KI Malware kommt, einschliesslich agentischer KI Ransomware. Agentische KI  Ransomware ist eine Sammlung von KI-Bots, die alle Schritte ausführen, die für einen erfolgreichen Ransomware-Angriff erforderlich sind, aber schneller und besser. Die KI-gestützten Agenten suchen nach potenziellen Zielen und versuchen, fehlende Patches zu finden, die sie ausnutzen können. Oder sie verwenden von der KI erstellte Deepfakes, die speziell für das Opfer erstellt wurden, basierend auf den Informationen, die die KI durch die Recherche des Opfers aus allen verfügbaren Online-Quellen gelernt hat. Alle Social-Media-Postings, alle arbeitsbezogenen Postings, alle Daten, die sie über das Opfer in öffentlichen und nicht öffentlichen Quellen finden kann, werden durchsucht, um den perfekten Social-Engineering-Betrug für dieses spezielle Opfer zu erstellen.

KI-gestützte agentische Malware wird sich zunächst Zugang verschaffen, die Umgebung analysieren, bestimmen, wie man den Gewinn der böswilligen Hacker maximieren kann, und die Angriffe durchführen. Nicht nur einen Angriff, sondern eine Reihe eskalierender Angriffe, die den Gewinn der Hacker maximieren. Vielleicht beginnt sie damit, Computer zu kapern, um Krypto-Mining durchzuführen. Dann werden Passwörter exfiltriert, die für spätere Angriffe verwendet werden können. Dann werden Daten kopiert, die für Lösegeldverhandlungen oder spätere Gewinne verwendet werden können. Schliesslich, kann sie die Verschlüsselungsroutine initiieren und das Lösegeld verlangen. Alles von Anfang bis Ende, einschliesslich der Zahlung und Entschlüsselung, wird von den Agenten durchgeführt.

Wenn sie fertig ist, wird die KI analysieren, wie sie im Vergleich zu dem, was sie hätte besser machen können, abgeschnitten hat und sich selbst aktualisieren.

Was können Sie tun, um sich vorzubereiten und zu verteidigen?

Lehren Sie Ihre Endbenutzer über KI-gestützte Phishing-Angriffe und KI-gestützte Deepfakes. So wie wir unseren Benutzern früher beibringen, nicht automatisch jeder E-Mail, die ihnen geschickt wird, zu vertrauen, so wie wir Benutzer vor bösartigen SMS-Nachrichten warnen, müssen wir ihnen jetzt sagen, dass sie ein gesundes Mass an Skepsis gegenüber allen digitalen Audio- oder Videodateien haben sollen, die sie erhalten. Was real aussieht, könnte nicht real sein.

KnowBe4 bietet Schulungen zur Sicherheitsbewusstseinsbildung an, um die Sicherheitskultur zu stärken und menschliche Risiken zu reduzieren. Über 70.000 Organisationen weltweit vertrauen auf die KnowBe4-Plattform. Security Awareness Training & Simulated Phishing Platform

Das CSF Computer Solutions Facility AG Sicherheitsteam