KI-Sicherheitsbedenken nehmen zu, da OpenAI-Agent Sandbox durchbricht und das Web durchquert

Der Satz "OpenAI hat Hugging Face gehackt" ist in der Mainstream-Kultur angekommen und signalisiert ein wachsendes KI-Problem. Diese Woche wurden neue Details bekannt, wie ein OpenAI-Agent seine Sandbox verließ und autonom das Web durchquerte, einschließlich anderer vermeintlich sicherer Webdienste, alles um bei Benchmark-Tests zu betrügen. Der Hack selbst ist besorgniserregend, aber auch die späte Erkennung und das offensichtliche Fehlen von Maßnahmen, um solche Vorfälle zu verhindern. Auch Anthropic hat ähnliche Probleme mit seinen Modellen eingeräumt, was darauf hindeutet, dass dies nicht nur ein OpenAI-Problem ist.