KI und Bedrohungen durch Deepfake

Ein Mitarbeiter der Finanzabteilung eines multinationalen Hongkonger Unternehmens fiel Betrügern zum Opfer, die mit Deep-Fake-Technologie den Finanzvorstand des Unternehmens in einer Videokonferenz nachgeahmt hatten und auf diese Weise USD 25 Millionen ergaunerten, wie die Hongkonger Polizei verlauten liess.

Bei dem ausgeklügelten Betrugsfall war ein Mitarbeiter bei einem Videoanruf in den Glauben, dass dieser mit mehreren anderen Beschäftigten des Unternehmens stattfand, bei denen es sich in Wirklichkeit aber um Deepfake-Repliken handelte, erklärte der leitende Superintendent Baron Chan Shun-ching am Freitag in einem Briefing.

Der Mitarbeiter erhielt eine Nachricht, die offenbar vom Finanzvorstand des Unternehmens in Grossbritannien kam und ihn aufforderte, eine geheime Transaktion durchzuführen. Zunächst dachte der Mitarbeiter, es sei eine Phishing-E-Mail. Nach dem Videoanruf war er jedoch überzeugt, dass alle Anwesenden echt waren, da sie wie seine Kollegen aussahen und klangen, obwohl es sich um Deepfake-Repliken handelte.

Der Mitarbeiter war sich keines Betrugs bewusst und überwies HKD 200 Millionen (USD 25.6 Millionen), so der Polizeibeamte.

Dieser Fall ist einer von mehreren Vorfällen in letzter Zeit, bei denen Betrüger Deepfake-Technologie eingesetzt haben, um öffentlich zugängliche Videos und anderes Material mit dem Ziel zu manipulieren, Menschen zu täuschen und ihr Geld zu stehlen. Mit KI und Deepfakes haben betrügerische Praktiken eine neue Dimension angenommen.

CEO Fraud ist ein grosses Thema für Unternehmensleiter. Bei dieser Art von Betrug verkörpern Kriminelle Spitzenmanager, um ahnungslose Mitarbeiter, insbesondere solche mit finanziellen Aufgaben, durch Manipulation dazu zu bringen, nicht erlaubte Banküberweisungen durchzuführen. Oftmals schaffen sie ein Gefühl der Dringlichkeit oder Vertraulichkeit und üben erheblichen Druck auf den für die Überweisungen zuständigen Mitarbeiter aus.

Im Zeitalter der KI könnte CEO Fraud aufgrund der weit verbreiteten Verwendung von Deepfakes noch häufiger werden. Dabei werden Video- oder Tonaufnahmen mit KI-Technologie manipuliert, was Bedenken über Fehlinformationen und Missbrauch aufwirft, einschliesslich Deepfake-Inhalte mit Personen, die Dinge sagen, die sie nie wirklich gesagt haben.

Da wir bei verschiedenen Anwendungen zunehmend auf KI angewiesen sind, sind die Kehrseite dieses technologischen Fortschritts die eskalierenden Bedrohungen im Bereich der Cybersicherheit. Einer aktuellen Umfrage zufolge rechnen die meisten Chief Information Security Officers (CISOs) mit einer Veränderung der Bedrohungslandschaft, wobei 46% angaben, dass KI und maschinelles Lernen die wichtigsten Cyber-Risiken darstellen. Experten rechnen mit höheren Cyber-Risiken, da sich die KI-Technologie weiterentwickelt und Hackern ermöglicht, ihre Taktik, Schnelligkeit und Reichweite zu verbessern. Hacker nutzen zudem generative KI, um raffiniertere Malware und überzeugende Phishing-E-Mails zu erstellen, die zunehmend schwieriger zu erkennen sind. Um mit der Entwicklung dieser Bedrohungen Schritt zu halten, sind innovative Cybersicherheitsmassnahmen erforderlich, um einen Schritt voraus zu sein.

Investitionen in Cybersicherheit
Angesichts mehrerer Faktoren, welche die immer grössere Bedeutung des Schutzes von Daten und digitaler Infrastruktur hervorheben, dürfte der Sektor der Cybersicherheit nächstes Jahr ein wichtiger Bestandteil der US-Wirtschaft sein. Dies ist auf verschiedene Ursachen zurückzuführen, darunter:

1. Die zunehmende Zahl der Cyberkriminellen, die immer geschickter Schwachstellen ausnutzen und neue Angriffsmethoden entwickeln. Infolgedessen müssen Unternehmen und Organisationen immer einen Schritt voraus sein und wirksame Cybersicherheitsmassnahmen anwenden. Dies treibt die Nachfrage nach fortschrittlichen Cybersicherheitslösungen wie Systeme zur Erkennung und Verhinderung von Bedrohungen, Datenverschlüsselungstools und Schulungen zum Sicherheitsbewusstsein an.

2. Immer mehr Unternehmen und Organisationen nutzen Online-Plattformen und Cloud-basierte Technologien. Dies bedeutet, dass die Zahl der potenziellen Cyberangriffsziele zunimmt, was umfassende Cybersicherheitsstrategien erfordert, die Netzwerk-, Endpunkt- und Cloud-Sicherheit umfassen.

3. Cyberangriffe können katastrophale finanzielle Folgen für Unternehmen haben, was zu Datensicherheitsverletzungen, Betriebsausfällen und Rufschädigungen führen kann. Dies zwingt Unternehmen, umfassend in Cybersicherheit zu investieren, um ihre Vermögenswerte zu schützen und das Risiko kostspieliger Cyberangriffe zu reduzieren.

Berichten zufolge nehmen Unternehmen Cybersicherheit ernst, da mehr als zwei Drittel der Entscheidungsträger für IT-Sicherheit hierfür höhere Budgets für 2024 bezeugen konnten. Laut einer neuen Prognose von Gartner, Inc. werden die weltweiten Ausgaben der Endbenutzer für Sicherheit und Risikomanagement 2024 voraussichtlich USD 215 Mrd. erreichen, was einem Anstieg um 14.3% gegenüber 2023 entspricht. Darüber hinaus wird geschätzt, dass die globalen Ausgaben für Sicherheit und Risikomanagement der Endbenutzer im Jahr 2023 über USD 188.1 Milliarden betrugen.