#benchmarks
7 stories taggedbenchmarks.

AI test scores are hiding something. A new tool from Allen AI just exposed it
Researchers built software that looks inside AI benchmark tests, question by question, and found that some widely trusted scores are measuring very different things than advertised.

Speech AI Gets Its First Major Hindi Benchmark, and It Measures Who Gets Left Behind
A new evaluation dataset called Monsoon puts Hindi and Indian English on the global leaderboard for the first time, with nearly 5,000 speakers and data designed to expose the gaps that single-score tests hide.

Investigadores da Apple Desenvolveram uma Ferramenta Que Escreve os Seus Próprios Testes de IA
Um novo sistema chamado Agent Seer pode gerar automaticamente cenários de teste realistas para agentes de IA ao ler as descrições das ferramentas que esses agentes utilizam, sem necessidade de intervenção humana.

Google DeepMind coloca a sua IA numa caixa criptográfica selada para testes
Uma avaliação dupla-cega, primeira do género, visa impedir que modelos de IA estudem secretamente o exame antes do dia do teste.

Cinco milhões de pessoas classificam designs de IA para as máquinas aprenderem o que é bonito
Uma startup chamada Intelligence angariou 7,9 milhões de dólares para executar uma plataforma onde utilizadores comuns votam em imagens e sites gerados por IA, e os dados que recolhe já valem 60 milhões de dólares por ano para as empresas que desenvolvem modelos de IA.

Investigadores Desenvolvem um Teste para Verificar se a IA Consegue Resumir um Vídeo de 16 Minutos
Um novo padrão de avaliação chamado LVSum revela como as ferramentas de vídeo atuais perdem facilmente o controlo de quando as coisas acontecem em gravações longas.

Uma IA Ensinou-se a Si Própria a Escrever Código Melhor, Sem Necessidade de Professor
Um truque surpreendentemente simples permitiu a um modelo de IA de topo elevar a sua pontuação em testes de programação em quase 13 pontos, apenas estudando as suas próprias respostas.