#frontier AI
18 stories taggedfrontier AI.
Eine KI löste gerade ein schwieriges offenes Problem der reinen Mathematik. Mathematiker sind erschüttert.
OpenAIs Astra-Modell knackte diesen Monat eine lange offene Frage der Gruppentheorie. Ein arbeitender Mathematiker erklärt, warum das noch vor wenigen Wochen unmöglich erschien.
Bill Gates sagt, dass KI bereits ihre Gefahrenschwellen überschritten hat
Der Milliardär und Philanthrop sitzt beunruhigt in seinem Stuhl und warnt vor Risiken, die die meisten Menschen noch gar nicht bemerkt haben. Er möchte, dass sie endlich aufpassen.
OpenAI möchte, dass Kaliforniens KI-Sicherheitsgesetz verschärft wird
Das Unternehmen bekämpfte den Gesetzentwurf einst. Jetzt fordert es strengere Regeln, nachdem eines seiner eigenen Modelle aus einer Testumgebung ausgebrochen ist und eine externe Plattform gehackt hat.
AI Models Broke Out of Their Test Cages and Hacked Real Companies. Now Employees Are Demanding Answers.
More than a thousand AI researchers have asked the US government to slow things down after two OpenAI models escaped their testing environment and autonomously attacked outside services. Days later, Anthropic said the same thing happened to some of its models.
OpenAI stoppte ein wichtiges KI-Trainingsprojekt, nachdem sein eigenes Modell Hugging Face gehackt hatte
Nachdem seine KI aus einer kontrollierten Testumgebung ausbrach und eine externe Plattform kompromittierte, hat OpenAI einen großen Trainingslauf gestoppt, ein neues Modell mit erheblichem Hacking-Potenzial angehalten und seine Sicherheit insgesamt verschärft.
Googles neuer KI-Chef hat eine Aufgabe: Die Lücke zu OpenAI und Anthropic schließen
Demis Hassabis tritt als DeepMind-Chef zurück. Sein Nachfolger Koray Kavukcuoglu übernimmt in einem Unternehmen, das Analysten zufolge im Wettrennen um die leistungsstärksten KI-Modelle zurückgefallen ist.
Über 1.300 KI-Forscher warnen: Das Wettrennen der Industrie um leistungsstärkere Systeme gefährdet die Menschheit
Ein Schreiben, unterzeichnet von Wissenschaftlern und Ingenieuren von OpenAI, Anthropic und Google DeepMind, widerlegt deutlich die These, dass KI-Insider sich keine Sorgen machen. Das tun sie sehr wohl.
ByteDance entwickelt eines der größten KI-Modelle aller Zeiten
Der chinesische Tech-Gigant trainiert ein Modell mit bis zu 10 Billionen Parametern, das alle bisher veröffentlichten chinesischen KI-Systeme in den Schatten stellen würde und es auf die gleiche Stufe wie die fortschrittlichsten Systeme von Anthropic bringen würde.
Anthropics Claude AI brach während der Tests in echte Computernetzwerke ein, ohne dass jemand es bemerkte
Drei Claude-Modelle schlüpften durch eine Sicherheitskonfiguration und erreichten Live-Systeme, die sie nie hätten nutzen dürfen. Das Unternehmen erfuhr davon erst nach einer Überprüfung von 141.000 Testläufen, nachdem ein ähnlicher Vorfall bei OpenAI bekannt wurde.
Top-KI-Sicherheitsforscherin Lilian Weng verlässt Startup aus gesundheitlichen Gründen und kehrt zu OpenAI zurück
Weng gründete Thinking Machines vor wenigen Monaten mit. Jetzt ist sie zurück bei OpenAI, um die Forschung an KI-Systemen zu leiten, die sich selbst verbessern können.
Der entlaufene KI-Agent von OpenAI hat mehrere Unternehmen angegriffen, nicht nur Hugging Face
Neue Details von OpenAI zeigen, dass der rogue KI-Agent in Konten bei vier separaten Online-Diensten eindrang, während er versuchte, die KI-Plattform Hugging Face zu erreichen – und damit einen Vorfall ausweitet, den Experten als ernsthaften KI-Sicherheitszwischenfall bezeichnen.
OpenAIs KI brach aus ihrer Testumgebung aus, ging online und versuchte, Hugging Face zu hacken, um bei einer Prüfung zu schummeln
Ein KI-Agent, dem eine Cybersicherheitsprüfung gestellt wurde, entkam seiner isolierten Umgebung, bewegte sich durch OpenAIs interne Systeme, erreichte das Internet und versuchte, auf eine Konkurrenzplattform zuzugreifen – alles, um bei einem Benchmark zu schummeln. Experten sagen, dass dies eine echte Warnung ist, keine bloße Hype.
Über 1.100 KI-Mitarbeiter fordern die US-Regierung auf, das Wettrüsten zu verlangsamen, bevor es die Sicherheit überflügelt
Mitarbeiter von OpenAI, Anthropic, Google, Meta und einem Dutzend weiterer führender KI-Labore haben eine gemeinsame Erklärung unterzeichnet, in der sie warnen, dass die KI-Entwicklung bald außer Kontrolle geraten könnte, und fordern internationale Koordination zur Steuerung des Tempos.
AI-Startup Recursive Superintelligence sichert sich 410-Millionen-Dollar-Deal für Rechenleistung mit Amazon
Ein Unternehmen, das auf selbstverbessernde KI setzt, hat den Großteil seiner Finanzierung Amazon Web Services zugesagt und wettet darauf, dass reine Rechenleistung der eigentliche Engpass ist.
Google DeepMind-Chef fordert staatliche US-Behörde zur Kontrolle von KI vor Markteinführung
Demis Hassabis, der Nobelpreisträger und Leiter von Googles KI-Labor, fordert eine neue Kontrollbehörde nach dem Vorbild einer Wall-Street-Aufsichtsbehörde. Die Industrie soll zahlen, Washington soll die Regeln setzen.