3.1 C
München
Freitag, 19. Juli 2024

Tatwerkzeug ChatGPT – IT-Experte verrät, wie sich jeder gegen KI-gestützte Cyberangriffe schützen kann

Top Neuigkeiten

München (ots) –

ChatGPT und andere KI-Anwendungen eröffnen nicht nur der Wirtschaft immer neue Möglichkeiten. Auch Cyberkriminelle haben es mithilfe der neuen Technologie wesentlich einfacher, in digitale Systeme einzudringen und dort Schaden zu verursachen. „Hacker können mithilfe von ChatGPT alle Werkzeuge generieren, die sie für die heute gängigen Angriffe benötigen“, warnt Florian Dalwigk.

Er rät deshalb nachdrücklich dazu, schnellstmöglich vorzusorgen. „Wer sich wirksam gegen neuartige Cyberangriffe schützen will, muss zunächst verstehen, mit welchen Mitteln die Kriminellen arbeiten“, erklärt Dalwigk, Leiter der IT-Security in der Developer Akademie. Das Unternehmen bildet jährlich hunderte IT-Spezialisten aus. Nachfolgend erörtert er, wie ChatGPT Cyberangriffe verändert und was zu tun ist, um sich selbst und andere vor Schäden zu schützen.

Steigende Gefahr durch realistische Phishing-Mails

Eine der häufigsten Betrugsmaschen nennt sich Phishing. Um Passwörter, Bankdaten und andere sensible Daten zu erbeuten, geben sich die Angreifer dabei in E-Mails zum Beispiel als Mitarbeiter einer Bank oder eines Onlineshops aus. Vor ChatGPT waren derartige Angriffe oft leicht zu erkennen, da sich die Verantwortlichen durch Fehler im Design der E-Mails oder schlechtes Deutsch verrieten.

Das ist nun anders: Mithilfe von KI können Angreifer mit nur einer Handvoll Prompts psychologisch ausgefeilte und glaubhafte Phishing-Mails in jeder beliebigen Sprache erstellen. Dadurch fällt es Hackern aus dem Ausland leichter, deutschen Bank- und Onlineshopping-Kunden Daten zu entlocken und mit diesen wirtschaftlichen Schaden anzurichten.

Typo Squatting und gefälschte Websites – wie Hacker durch KI Login-Daten stehlen

Auch das Typo Squatting, eine Art Cyberangriff über gefälschte Websites, wird durch KI erleichtert. Dabei wird ein Klon einer bekannten Website unter einer ähnlichen Domain platziert, um Nutzer zu täuschen, die sich beim Surfen vertippen. So kann ein User beispielsweise schnell auf „Amazom“ landen. Loggt sich das Opfer auf der falschen Seite ein, erhält der Hacker somit Zugang zu den Login-Daten, um damit Missbrauch zu treiben.

Die KI erstellt auf Befehl eine Liste mit potenziellen Domains, die ähnlich klingen wie ein bekanntes Original. Dazu lässt sich mit Hilfe von ChatGPT auch von Laien eine solche Seite vom Aussehen her leichter nachbauen und eröffnet hier ein weiteres Gefahrenpotential.

Passwörter knacken wurde mit ChatGPT einfacher

Neben dem Phishing über E-Mails oder gefälschte Websites steigt durch ChatGPT auch das Schadenspotenzial anderer Angriffsmethoden wie des Knackens von Passwörtern und des Enkeltricks am Telefon. So kann man über ChatGPT an Informationen einer Person gelangen, die diese zum Beispiel auf Social Media preisgibt. Andreas Schneider teilt auf Facebook mit, dass er Herr-der-Ringe-Fan ist, eine Katze namens Lila besitzt und gerne Fahrrad fährt. Aus all diesen Informationen kann die KI dann eine Liste mit tausenden möglichen Passwörtern generieren, etwa „LilaGandalf!“. Kombiniert mit klassischen Attacken, wie einer Dictionary Attacke, können Passwörter aufgrund von öffentlichen Informationen leichter erraten werden. Für gezielte Hackerangriffe auf Passwörter kann ChatGPT deshalb auch verwendet werden.

Prompt Injection – wenn KI-Anwendungen angegriffen werden

Doch es geht noch weiter: Denn Angreifer können mittlerweile nicht nur mit KI-Programmen wie ChatGPT hacken – sie können sogar die KI-Anwendungen selbst hacken. Möglich wird ein solcher Angriff durch den Vektor namens „Prompt Injection“. Ziel ist, mithilfe eines geeigneten Prompts ein Fehlverhalten der KI zu erreichen. Die Konsequenzen sind hierbei fatal. Gelingt der Hacking-Angriff, können sogar hochgeheime Informationen herausgegeben werden. Würde ein Angreifer beispielsweise Tesla hacken wollen, könnte er sich gegenüber ChatGPT als Elon Musk ausgeben und die KI so manipulieren, dass sie ihm Informationen zur Tesla-Software gibt. Ein guter Schutz vor Prompt-Injection ist fast unmöglich, da der Angreifer auf semantischer und nicht auf syntaktischer Ebene agiert. Mit genügend Fantasie findet man Wege an den vermeintlich sicheren Filtermechanismen vorbei. Für Unternehmen bedeutet das im Umkehrschluss: Sie sollten sich haargenau überlegen, auf welche Informationen die KI zugreifen kann und Mitarbeitern klare Regeln machen, welche Informationen mit ChatGPT geteilt werden dürfen.

Schutz vor Cyberattacken mit Hilfe von ChatGPT

Umgekehrt kann KI jedoch ebenso genutzt werden, um sich zu schützen. IT-Fachleute können Quellcode von ChatGPT auf Schwachstellen überprüfen lassen und so Sicherheitslücken in ihrem eigenen Code mit Hilfe von ChatGPT erkennen und ausmerzen. Auch könnte man eine Mail von ChatGPT darauf untersuchen lassen, ob es sich hier eventuell um eine Phishing-Mail handelt oder die Mail authentisch ist.

Hundertprozentige Sicherheit erreicht jedoch nicht, wer sich nur auf technische Hilfsmittel verlässt. Sämtliche Phishing-Angriffe zielen auf das Unwissen und die Unachtsamkeit des Opfers ab, während der Enkeltrick nur funktioniert, wenn dem Angreifer detaillierte Informationen vorliegen. Somit ist es möglich, sich vor KI-gestützten Attacken zu schützen, indem sparsam mit privaten Informationen umgegangen und jede auffällige E-Mail kritisch überprüft wird.

Da nun mit generativen KI-Tools mögliche Cyberangriffe sowohl in Quantität als auch in Qualität zunehmen können, sollten nach Möglichkeit Menschen möglichst gut darüber aufgeklärt werden. Zum Beispiel könnten Unternehmen Seminare für Mitarbeiter veranstalten, während jeder selbst ältere oder wenig digitalaffine Menschen im Familien- und Bekanntschaftskreis warnen sollte.

Über Florian Dalwigk:

Florian Dalwigk ist ein erfahrener Hacker und Leiter für die IT Security Schulungen in der Developer Akademie. Die Developer Akademie bildet Quereinsteiger zu Software Entwicklern innerhalb von wenigen Monaten weiter. Außerdem gibt es für IT-Affine spezialisierte Schulungen zu IT-Sicherheitsexperten. An der Developer Akademie bilden die IT-Experten Menschen aus allen Branchen aus, die sich für die IT begeistern, sich einen Job mit Zukunftsperspektive wünschen und ihr berufliches Potenzial voll entfalten möchten. Auf dem Arbeitsmarkt sind gut ausgebildete Software Entwickler und IT-Sicherheitsexperten überall gesucht. Die Quereinsteiger sind im Schnitt bereits nach sechs bis neun Monaten Weiterbildung bei den IT-Experten bereit für den Arbeitsmarkt. Weitere Informationen dazu unter: https://developerakademie.com.

Pressekontakt:
Developer Akademie GmbH
https://developerakademie.com/
E-Mail: [email protected]

- Advertisement -spot_img
- Advertisement -spot_img

Neueste Artikel