Ein selbstverbreitender KI-Wurm namens Morris II wurde von Sicherheitsexperten entwickelt. Dieser Wurm hat die Fähigkeit, in GenAI-Ökosystemen zu navigieren, sensible Informationen zu erfassen und sich eigenständig zu verbreiten. Ben Nassi, einer der beteiligten Forscher, wies auf das Potenzial hin, dass dieser Wurm eine bisher unbekannte Form des Cyberangriffs darstellt.
Die Erprobung des Wurms erfolgte in einer kontrollierten Umgebung, wobei die Fähigkeiten des Wurms gegen KI-basierte E-Mail-Assistenten, einschließlich Googles Gemini Pro, OpenAIs ChatGPT 4.0 und Metas LLaVA, getestet wurden. Diese KI-Modelle wurden dahingehend manipuliert, dass sie selbstständig neue, potenziell schädliche Anweisungen generierten.
Laut einer Studie, die auf einer spezialisierten Website zusammen mit einem Demonstrationsvideo vorgestellt wurde, konnten die Forscher zeigen, dass der Wurm in der Lage ist, KI-Modelle zu veranlassen, schädliche Eingaben zu replizieren und weiterzuverbreiten, ähnlich klassischen Cyberangriffstechniken wie SQL-Injection oder Pufferüberlauf.
Obwohl die Schwachstelle im Design des GenAI-Ökosystems liegt und nicht direkt bei den KI-Diensten von Google oder OpenAI, wurden diese Unternehmen über die Entdeckungen informiert. Die Forscher erwarten, dass solche KI-Würmer in den nächsten Jahren auch außerhalb kontrollierter Umgebungen auftreten könnten.
Weitere Informationen finden Sie hier:
https://www.golem.de/news/gemini-chatgpt-und-llava-neuer-wurm-verbreitet-sich-in-ki-oekosystemen-selbst-2403-182790.html