Cyber-Betrugsversuche mit KI erkennen

Der Erfolg von ChatGPT hat zu einer Fülle neuer Chatbots geführt. Eines der bekanntesten Beispiele im Bereich IT-Sicherheit dürfte der Security Copilot von Microsoft sein, der Unternehmen in Zukunft bei der schnelleren Einschätzung und Bewertung von Cyberbedrohungen unterstützen soll.

Während sich der Security Copilot derzeit aber noch in einer eingeschränkten Betaphase befindet, hat die IT-Sicherheitsfirma Bitdefender bereits ihren eigenen Security-Chatbot für die Allgemeinheit freigegeben. Er trägt den Namen Scamio und soll Anwendern helfen, Betrugsversuche im Internet leichter zu erkennen. Ich habe Scamio getestet und mit mehreren Scams sowie seriösen Mails gefüttert, die ich in den vergangenen Wochen gesammelt habe.

Security-Chatbot Scamio

Wer schon Erfahrungen mit ChatGPT gesammelt hat, wird sich bei Scamio schnell Zuhause fühlen. Der Dienst ist kostenlos sowohl für Privatanwender als auch Business-Kunden, erfordert allerdings eine Registrierung. Anschließend präsentiert sich die Oberfläche des Chatbots.

Scamio kann:

• per Copy & Paste eingefügte Texte analysieren,
• hochgeladene Screenshots auf verdächtige Merkmale prüfen sowie
• verlinkte Webseiten besuchen und kommentieren.

Nach einem Klick auf „Analyze a text“ lässt sich zum Beispiel der Text einer verdächtigen Mail einfügen. Das klappte auch sofort. Die erste Spam-Mail wurde von Scamio korrekt als Betrugsversuch eingestuft:

Lieber Andreas, der Text, den Sie uns mitgeteilt haben, scheint eine Art von Support-Betrug zu sein. Diese Betrügereien erwecken oft den Eindruck von Dringlichkeit und fordern den Empfänger auf, einem Link zu folgen - beides ist in dem von Ihnen übermittelten Text vorhanden. Es handelt sich um eine Benachrichtigung über die Sperrung des Kontos aufgrund des Ablaufs der Domain. Ich würde Ihnen raten, keinen Fernzugriff auf Ihr Gerät zu gewähren, wenn Sie nicht sicher sind, dass der Support legitim ist. Vergewissern Sie sich immer über die offiziellen Kanäle. Bitte bleiben Sie sicher!

Die Antwort ist etwas langatmig, aber das ist eines der bekannten Merkmale vieler KI-erzeugter Texte. Scamio antwortet übrigens in englischer Sprache, hat aber keine Probleme damit, deutschsprachige Texte zu analysieren. Bei der Benutzung fällt zudem auf, dass KI einiges an Rechenkraft erfordert, die nicht immer zur Verfügung steht. Scamio benötigte bei den Tests jeweils mehrere Sekunden, um selbst auf einfache Eingaben zu reagieren.

Beim nächsten Versuch probierte ich es mit einem Abschnitt aus einer legitimen E-Mail von Microsoft. Scamio schätzte ihn korrekt als vermutlich legitim ein:

Andreas, der zweite Text, den Sie geteilt haben, scheint eine rechtmäßige Mitteilung von Microsoft zu sein, die einen einmaligen Code für Ihr Konto enthält. Generell gilt: Wenn Sie keinen Code angefordert haben, können Sie die E-Mail getrost ignorieren.

Anschließend habe ich den Screenshot einer Spam-Mail hochgeladen, in der für ein „Adaptogenes Getränk zur Kontrolle des Körpergewichts“ geworben wird, was immer das auch ist. Scamio hat das Bild analysiert und wieder zutreffend als verdächtig eingestuft:

Lieber Andreas, der Screenshot, den Sie uns zur Verfügung gestellt haben, zeigt eine E-Mail, in der ein Getränk zur Gewichtskontrolle ohne vorherige Aufforderung beworben wird. Dies könnte eine mögliche Betrugstaktik sein. Sorgen Sie immer für einen sicheren Online-Einkauf, indem Sie Händler überprüfen, sichere Zahlungsmethoden verwenden, unerwünschte Links meiden und Cybersicherheitssoftware einsetzen. Melden Sie außerdem verdächtige oder betrügerische Aktivitäten umgehend. Bleiben Sie sicher!

Zuletzt habe ich eine URL zu einer per Spam-Mail beworbenen Online-Apotheke in das Eingabefeld eingefügt und von Scamio prüfen lassen. Die Antwort war vorsichtig und wieder sehr allgemein gehalten:

Lieber Andreas, die Analyse der von Ihnen angegebenen URL deutet darauf hin, dass es sich möglicherweise um einen Betrug handelt, der bösartige Software oder Phishing enthält. Bitte überprüfen Sie die Legitimität unaufgeforderter Mitteilungen, indem Sie sich über einen bekannten, separaten Kommunikationsweg direkt mit dem Unternehmen in Verbindung setzen, bevor Sie auf einen Link klicken oder Informationen weitergeben. Seien Sie vorsichtig und bleiben Sie sicher!

Ein weiterer Link zu einer Malware-Seite wurde ebenfalls korrekt erkannt:

Hallo Andreas, unsere Analyse der von Ihnen angegebenen URL zeigt, dass es sich offenbar um einen Betrug handelt, der bösartige Software oder Phishing-Aktivitäten enthält. Wir raten Ihnen, die Legitimität unaufgeforderter Mitteilungen zu überprüfen, indem Sie sich über einen bekannten, separaten Kommunikationsweg direkt mit dem Unternehmen in Verbindung setzen, bevor Sie auf einen Link klicken oder Informationen weitergeben. Bleiben Sie sicher!

Fazit zu Scamio

Insgesamt finde ich den Dienst gut. Scamio hat die analysierten Inhalte richtig entweder als Betrugsversuche oder als legitime E-Mail eingestuft. Die Antworten waren allerdings für meinen Geschmack zu ausschweifend. Andere Anwender stört das eventuell nicht. Aber zumindest begründete Scamio die getroffenen Einschätzungen. Das ist durchaus hilfreich.

Für manche Nutzer mag ein Problem sein, dass Scamio bislang nur in englischer Sprache antwortet. Das bestätigte der Chatbot auch auf Nachfrage. Die oben eingefügten Antworten habe ich daher von DeepL übersetzen lassen.

Auf Wunsch erteilt Scamio allgemeine Tipps, wie man sich vor Betrugsversuchen im Internet schützen kann. Allerdings antwortete der Bot auf meine diesbezügliche Frage mit einem einzigen langen Paragraphen, einer sprichwörtlichen Wall-of-Text, die nur schwer zu lesen ist. Außerdem enthielt die Antwort wiederholte Verweise auf Schutzprogramme von Bitdefender.

Aber gut, dafür ist der Dienst ja auch kostenlos. Leider zeigt sich das auch an den Antwortgeschwindigkeiten. Wer Scamio derzeit nutzen will, muss etwas Geduld mitbringen.