#Anthropic
190 stories taggedAnthropic · page 5 of 13.
OpenAI stellt sein Astra-Modell nach Tests ein, die zeigen, dass es reale Systeme angreifen könnte
Interne Bewertungen haben ergeben, dass Astra, ein noch in Entwicklung befindliches KI-Modell, möglicherweise Sicherheitslücken in kritischen Systemen ohne menschliche Hilfe finden und ausnutzen könnte. OpenAI hat die Arbeiten daran nun unterbrochen, bis stärkere Sicherheitskontrollen vorhanden sind.
Eine Historikerin sagt, Silicon Valley schreibe gefälschte Verfassungen. Ihr Buch beweist es.
Jill Lepores bald erscheinendes Werk argumentiert, dass Technologieunternehmen die Sprache von Gründungsdokumenten der Regierung nutzen, um Produkteinführungen aufzuwerten – und sie meint, das sagt uns etwas Unbequemes über die tatsächliche Machtverteilung.
Googles KI-Führungswechsel: Was die Umstrukturierung wirklich bedeutet
Mehrere prominente KI-Forscher von Google sind weitergezogen, darunter der Informatik-Legende Jeff Dean. Ist dies ein Zeichen von Problemen oder etwas Komplexeres?
ByteDance entwickelt eines der größten KI-Modelle aller Zeiten
Der chinesische Tech-Gigant trainiert ein Modell mit bis zu 10 Billionen Parametern, das alle bisher veröffentlichten chinesischen KI-Systeme in den Schatten stellen würde und es auf die gleiche Stufe wie die fortschrittlichsten Systeme von Anthropic bringen würde.
Asimov schrieb das Regelwerk für Roboter. Können seine Ideen KI retten?
Regierungen beginnen, künstliche Intelligenz zu regulieren, doch Kritiker sagen, dass die Regeln bei weitem nicht weit genug gehen. Ein neuer Vorschlag belebt die berühmten Gesetze einer Science-Fiction-Legende wieder, um zu fragen, was KI wirklich wollen sollte.
Australiens Regierung schreibt die Regeln für KI-Rechenzentren. Kann das funktionieren?
Ein hochrangiger Minister spricht über Copyright-Scraping, mangelndes öffentliches Vertrauen und nationale Standards für Rechenzentren. Hier ist, was die politische Initiative für gewöhnliche Australier bedeutet.
Ein KI-System griff ein großes Technologieunternehmen an. Die Sicherheitsrichtlinien, die es hätten stoppen sollen, halfen ihm stattdessen zu gewinnen.
Ein OpenAI-Modell unter Tests brach in die Server von Hugging Face ein, um bei einer Prüfung zu betrügen. Die KI-Sicherheitsvorkehrungen, die Cyberangriffe verhindern sollten, weigerten sich, Verteidigern bei der Analyse des Verstoßes zu helfen, und zwangen ein US-Sicherheitsteam, sich an ein chinesisches Modell zu wenden.
Chinesisches KI-Modell Kimi K3 brach aus seinem Testkäfig aus und surfte eigenständig im Internet
Eine US-amerikanische Cybersicherheitsfirma berichtet, dass Kimi K3 eine Sicherheitsbarriere überwunden hat und eigenständig im Internet nach Antworten suchte – was neue Fragen darüber aufwirft, wie gut fortgeschrittene KI kontrolliert werden kann.
KI-Agenten sind Silikon Valleys größtes Risiko. Fast niemand außerhalb der Tech-Branche nutzt sie.
Zehn Millionen Wochennutzer klingen beeindruckend, bis man sie mit der Milliarde Menschen vergleicht, die einfache KI-Chats nutzen. Ein viraler Post eines etablierten Tech-Gründers hat ein unbequemes Gespräch darüber ausgelöst, warum KI-Agenten es nicht zu normalen Menschen geschafft haben.
Jeder dritte gefährliche KI-Programmierbefehle entgehen menschlichen Prüfern, Spieldaten zeigen
Ein Browser-Spiel, das echte KI-Coding-Agent-Anfragen simuliert, ergab, dass Spieler etwa ein Drittel der bösartigen Befehle genehmigten – über mehr als 40.000 Durchläufe hinweg. Die Daten deuten auf ein Problem hin, das weit über das Spiel hinausgeht.
Mirendil unterzeichnet Google-Cloud-Deal im Wert von über 100 Millionen Dollar für selbstverbessernde KI
Das KI-Startup, gegründet von ehemaligen Anthropic-Forschern, wird Googles Chips und Cloud-Infrastruktur nutzen, um Systeme zu entwickeln, die sich im Laufe der Zeit selbst immer intelligenter machen.
Metas KI hat ein Unternehmen während eines Sicherheitstests gehackt. Es ist das dritte große Labor, das dies meldet.
Ein Fehler von Metas Testpartner gab einem KI-Modell unerwarteten Internetzugang. Was danach geschah, wird zu einem besorgniserregenden Muster in der Branche.
Asana entwickelt KI-Agenten, die Speicher über das gesamte Unternehmen hinweg teilen – mit einer Mauer um die Geheimnisse
Das neue System des Projektmanagement-Unternehmens ermöglicht es KI-Teamkollegen, von jeder Aufgabe zu lernen, blockiert aber die Weitergabe vertraulicher Informationen an Personen, die diese nicht sehen sollten.
Die AI-Wetten der Tech-Riesen machen Unternehmensgewinne viel größer aussehen, als sie sind
Microsoft, Amazon und Alphabet verbuchten Milliarden an Papiergewinnen aus ihren Anteilen an Anthropic, OpenAI und SpaceX. Ohne diese sieht das Gewinnwachstum viel gewöhnlicher aus.
Eine 60-Tage-Frist für KI-Regeln läuft heute ab. Das bedeutet es für Patienten und alle anderen.
Das Weiße Haus setzte sich selbst eine Frist bis zum 1. August, um einen Rahmen zur Überprüfung leistungsstarker KI-Modelle vor ihrer öffentlichen Freigabe fertigzustellen. Die Zeit ist abgelaufen, und die Regeln werden bestimmen, welche KI-Tools Ärzten, Unternehmen und normalen Nutzern zuerst zur Verfügung stehen.