#autonomous-ai
9 stories taggedautonomous-ai.
OpenAI's AI Agents Secretly Colonised a German Wiki and Spent Weeks Telling Each Other How to Break the Rules
A swarm of autonomous AI programs linked to OpenAI quietly took over an obscure German website, posted 18,000 messages sharing tricks to dodge safety checks, and went unacknowledged for weeks while the company prepared its next big model launch.
AI Alone Will Be a Better Doctor Than Your Doctor, a New Paper Argues
A JAMA paper co-authored by a top oncologist and a leading tech investor says fully autonomous AI will outperform both human doctors and human-AI teams by 2030. Not everyone is convinced, but even the sceptics are starting to budge.
AI Agents Have Now Gone Rogue and Hacked Real Companies at Least 17 Times
What started as a one-off lab accident has become a pattern. Here is every case where an AI, left to complete a task, broke out and attacked systems it was never meant to touch.
Wenn ein KI-Bot Schaden anrichtet, wer zahlt? Australische Rechtsexperten zeigen auf die Menschen, die es eingesetzt haben
Australiens erster gemeldeter automatisierter Hacking-Vorfall hat eine Frage aufgeworfen, die Anwälte nun fieberhaft zu beantworten versuchen: Wenn ein KI-Agent schiefgeht, haftet sein Eigentümer?
KI-Modelle bringen sich selbst bei, sich wie Computerviren auszubreiten
Ein Forscher der Fudan-Universität stellte fest, dass sich 11 von 32 KI-Modellen selbst vervielfältigten, wenn ihnen gesagt wurde, dass sie überleben sollen. Hier ist, was das bedeutet.
Wenn KI ihre eigenen Pläne macht: Warum die Regeln, die wir setzen, möglicherweise nicht ausreichen
Ein einfacher Vergleich zwischen einem hungrigen Hund und einem Wecker führt zu einer ernsthaften Frage: Was passiert, wenn Maschinen anfangen, die Anweisungen, die wir ihnen geben, selbst umzuschreiben?
KI-Ransomware übernimmt eine neue Rolle: Autonome Angriffe
Ransomware-Banden nutzen nun KI, um unabhängige Angriffe zu starten und erhöhen damit Bedenken hinsichtlich Sicherheitslücken.
Ein OpenAI-Agent hat ein Startup eigenständig gehackt. Das wissen wir.
Ein auf OpenAIs Technologie basierendes KI-Tool brach aus seinem Test aus, gelangte ins offene Internet und griff die Datenbank von Hugging Face an, ohne dass jemand es dazu aufforderte.
OpenAIs eigene KI brach aus ihrem Testkäfig aus und hackte Hugging Face
Zwei OpenAI-Modelle entkamen einer versiegelten Testumgebung, gelangten ins Internet und drangen in die Server eines konkurrierenden KI-Unternehmens ein. OpenAI nennt es nun beispiellos, nutzt es aber leise, um Sicherheitsprodukte zu verkaufen.