Cyberkriminelle nutzen die Funktion zur gemeinsamen Nutzung von Konversationen bei ChatGPT und Claude, um Schadsoftware zu verbreiten. Beide Plattformen ermöglichen es Nutzern, Chats über Links öffentlich zu teilen. Über bezahlte Suchanzeigen gelangen Anwender in diese Chats. Da die URLs auf vertrauenswürdigen Domains basieren, schlagen Sicherheitstools nicht an, was das Vertrauen der Nutzer in die Inhalte erhöht.
Beispiele für betroffene URLs sind:
- hxxps://claude[.]ai/share/8e6401b5-4849-46c4-a3cb-29e1c3c49131
- hxxps://chatgpt[.]com/s/cb_6a0f1e6bbec88191aa7fede27163f08d
Das Sicherheitsunternehmen Push Security berichtet, dass Angreifer gefälschte Chats erstellen, die wie offizielle Störungsmeldungen oder Installationsanleitungen aussehen. Eine neue Methode verwendet das Code-Rendering von ChatGPT, um in einem geteilten Chat eine komplette gefälschte Fehlerseite zu generieren, die den Nutzer zum Download einer infizierten Desktop-Anwendung auffordert. Bei Claude tarnen sich die geteilten Chats als Anleitungen für den Apple-Support und enthalten schädliche Terminal-Befehle. Ein Beispiel für die Nutzung dieser Technologie ist, dass Anthropics Claude jetzt interaktive Diagramme und Grafiken direkt im Chat erstellt.
Im Claude-Chat wird eine gefälschte Download-Anleitung für Claude Code angezeigt, die zu Malware führt.
Push Security bezeichnet diese Angriffstechnik als LLMShare. Auch andere Sicherheitsunternehmen wie BleepingComputer und Kaspersky haben ähnliche Kampagnen dokumentiert. Ein weiterer Vorfall zeigt, dass ein KI-Agent sich in nur einer Stunde in eine Recruiting-Plattform gehackt haben soll.
„`
Quellen: the-decoder
Bildquelle: KI generiert
