#Anthropic
195 stories taggedAnthropic · page 5 of 13.
Il fondo hedge AI in difficoltà Situational Awareness scommette 400 milioni su Source Foundry
Nonostante abbia venduto metà dei suoi asset il mese scorso, il fondo fondato da un ex ricercatore di OpenAI ha investito un totale di 500 milioni in una startup nata a Stanford che mira a rendere la produzione di chip più veloce ed economica.
Anthropic mette Claude Code in pilota automatico come predefinito dal 14 agosto
Lo strumento di codifica AI agirà autonomamente e si interromperà solo per i passaggi veramente rischiosi. Nei test, questo approccio ha rilevato azioni dannose molto più affidabilmente di quanto facessero gli umani.
L'impero dell'IA di Google sta crescendo. I ricercatori che lo hanno costruito continuano a partire.
Jeff Dean se ne va dopo 27 anni. Demis Hassabis si ritira dalla gestione quotidiana. Ogni autore del documento del 2017 che ha avviato l'era dell'IA generativa ha ora lasciato Google. Ecco cosa sta effettivamente accadendo all'interno della più potente azienda di IA del mondo.
Interruttori di Emergenza per l'IA: Perché le Aziende Installano Pulsanti di Arresto per gli Agenti IA
Nel 2023 gli agenti IA incontrollati hanno causato violazioni della sicurezza e costi fuori controllo. Ora i team IT richiedono controlli di override manuale, e il Congresso sta prestando attenzione.
Rippling stava bruciando milioni in IA. Così ha creato uno strumento per fermarlo.
L'azienda di software HR ha scoperto che un ingegnere stava spendendo $50.000 al mese in token IA. La sua nuova AI Spend Console è progettata per assicurarsi che non accada mai più.
OpenAI sospende il modello Astra dopo i test che mostrano potrebbe attaccare sistemi reali
Le valutazioni interne hanno rilevato che Astra, un'intelligenza artificiale ancora in sviluppo, potrebbe essere in grado di trovare e sfruttare falle di sicurezza in sistemi critici senza l'aiuto umano. OpenAI ha ora interrotto i lavori correlati fino a quando non saranno pronti controlli di sicurezza più forti.
Una storica sostiene che Silicon Valley sta scrivendo false Costituzioni. Ha un libro per provarlo.
Il prossimo lavoro di Jill Lepore sostiene che le aziende tecnologiche prendono in prestito il linguaggio dei documenti fondamentali del governo per presentare i loro lanci di prodotti, e ritiene che questo ci dica qualcosa di scomodo su chi realmente detiene il potere.
La fuga di cervelli dell'IA di Google: cosa significano davvero i cambiamenti di leadership
Diversi tra i ricercatori più eminenti di Google nel settore dell'IA se ne sono andati, incluso il leggendario informatico Jeff Dean. È un segnale di crisi, oppure qualcosa di più complesso?
ByteDance sta costruendo uno dei più grandi modelli di intelligenza artificiale mai creati
Il gigante tecnologico cinese sta addestrando un modello con fino a 10 trilioni di parametri, che supererebbe di gran lunga qualsiasi intelligenza artificiale cinese rilasciata finora e lo porrebbe sullo stesso piano dei sistemi più avanzati di Anthropic.
Asimov ha scritto il manuale per i robot. Le sue idee possono risolvere i problemi dell'IA?
I governi hanno iniziato a regolamentare l'intelligenza artificiale, ma i critici sostengono che le norme non vanno affatto abbastanza lontano. Una nuova proposta riscopre le famose leggi di una leggenda della fantascienza per chiedersi cosa l'IA dovrebbe effettivamente volere.
Il governo australiano sta scrivendo le regole per i data centre IA. Può davvero funzionare?
Un ministro di alto livello parla di scraping del copyright, della diffidenza pubblica e degli standard nazionali per i data centre. Ecco cosa significa questa spinta politica per gli australiani comuni.
Un'IA ha attaccato una grande azienda tecnologica. Le regole di sicurezza che avrebbero dovuto fermarlo l'hanno aiutato a vincere.
Un modello OpenAI in fase di test ha violato i server di Hugging Face per imbrogliare un esame. I guardrail di sicurezza dell'IA pensati per prevenire i cyberattacchi hanno rifiutato di aiutare i difensori ad analizzare la violazione, costringendo un team di sicurezza americano a chiedere aiuto a un modello cinese.
Il modello di IA cinese Kimi K3 è scappato dalla sua gabbia di test e ha navigato su Internet in autonomia
Una società di sicurezza informatica americana sostiene che Kimi K3 ha superato una barriera di sicurezza e ha cercato autonomamente risposte online, sollevando nuove questioni su quanto bene sia possibile controllare l'IA avanzata.
Gli Agenti AI Sono la Più Grande Scommessa di Silicon Valley. Praticamente Nessuno Al Di Fuori Del Settore Tech Li Usa.
Dieci milioni di utenti settimanali sembrano impressionanti finché non li confronti con il miliardo di persone che usano semplici chatbot AI. Un post virale di un veterano fondatore tech ha suscitato una conversazione scomoda sul motivo per cui gli agenti AI hanno fallito nel raggiungere la gente comune.
Uno su tre comandi pericolosi degli agenti AI sfugge ai revisori umani, i dati del gioco mostrano
Un gioco browser che simula richieste reali di agenti di codifica AI ha trovato che i giocatori hanno approvato circa un terzo dei comandi malevoli, anche in più di 40.000 esecuzioni. I dati indicano un problema che va ben oltre il gioco.