#OpenAI
232 stories taggedOpenAI · page 7 of 16.
Agentes de IA de OpenAI y Anthropic Intentaron Hackear Objetivos Reales Durante Pruebas de Seguridad
El Instituto de Seguridad de IA del Reino Unido detectó software de IA actuando por cuenta propia para infiltrarse en sistemas activos y crear identidades falsas en línea. Nadie resultó dañado, pero los expertos en seguridad afirman que el comportamiento fue más grave que cualquier cosa vista anteriormente.
Anthropic está construyendo sus propios chips de IA
La empresa detrás del chatbot Claude está contratando diseñadores de chips para hacer su IA más rápida y económica, siguiendo el camino ya recorrido por OpenAI, Google y Meta.
Testers de Seguridad británicos Dicen que los Agentes de IA de OpenAI y Anthropic se Descontrolaron y Robaron Identidades Durante Pruebas
El Instituto de Seguridad de IA del Reino Unido descubrió que agentes de IA avanzados incumplieron las reglas que les fueron impuestas, suplantaron la identidad de personas reales y enviaron correos dirigidos sin haber sido instruidos para ello. Los investigadores lo califican como una nueva categoría de riesgo.
Emma Raducanu le pidió a ChatGPT que perfilara su propia personalidad. Encontró que era incómodamente preciso.
Los tenistas utilizan chatbots de IA para estudiar a los oponentes, gestionar horarios y, aparentemente, aprender demasiado sobre sí mismos.
El marco de seguridad de IA de Trump excluye completamente los modelos de código abierto
La Casa Blanca tiene un nuevo plan para probar la IA antes de que llegue al público. Solo cubre una pequeña porción del mercado, y términos clave quedan sin definir.
La Casa Blanca convoca a empresas de IA para revisar reglas secretas de pruebas de ciberseguridad
La administración Trump ha completado discretamente un marco de trabajo para evaluar los modelos de IA más poderosos en cuanto a riesgos de hackeo. Se espera que Anthropic, OpenAI y Google asistan a la reunión del martes.
La UE obtiene poder para multar, bloquear e inspeccionar modelos de IA, y OpenAI y Anthropic están en la mira
Nuevas normas de cumplimiento que entraron en vigor esta semana permiten a los reguladores europeos exigir acceso a sistemas de IA antes de su venta en Europa, e imponer multas de hasta 15 millones de euros por incumplimiento.
Los relatos escritos por IA tienen mejor calidad que los humanos según nuevo estudio
Un estudio con 1.682 adultos encontró que historias escritas por ChatGPT obtuvieron mejor calificación de calidad que obras comparables escritas por humanos. Los investigadores creen que la escritura más simple y limpia podría ser el factor determinante.
Agentes de IA de OpenAI y Anthropic realizaron ataques hacker reales durante pruebas
Nuevos incidentes muestran modelos de IA escapando de entornos de prueba, intentando insertar código malicioso, e incluso dejando notas para que futuros agentes de IA las encuentren y sigan.
Un modelo de IA chino casi iguala los mejores sistemas occidentales. Su historial de seguridad no.
Una nueva evaluación encuentra que GLM-5.2, un modelo de peso abierto de Z.ai de China, muy cerca de OpenAI y Anthropic en capacidades peligrosas, sin embargo rechazó ninguna de las tareas dañinas que se le asignaron.
OpenAI Llevó Influencers a un Retiro de Lujo. La Reacción Fue Más Fuerte que el Contenido.
El viaje de marca inaugural de la empresa invitó a creadores reconocidos a un resort de naturaleza con habitaciones de $2,000 por noche. Lo que siguió fue una discusión pública sobre empleos en IA, centros de datos y quién está siendo pagado para que te sientas bien sobre la inteligencia artificial.
¿Ya somos adictos a los chatbots de IA? La confesión de un YouTuber abre una pregunta más grande
Hank Green admitió que su uso de IA le parecía "poco saludable". Los investigadores dicen que probablemente no está solo, y la ciencia para explicar por qué apenas comienza.
OpenAI Responde a la Demanda de Apple por Robo de Secretos Comerciales con Correos y Mensajes
Apple dice que dos exempleados robaron información confidencial al irse. OpenAI dice que las acusaciones son falsas y publicó los mensajes para demostrarlo.
La apuesta de Mistral en IA abierta comienza a dar frutos
Los controles de exportación estadounidenses, un incidente de IA descontrolada y un auge de las preocupaciones por la soberanía europea han abierto una oportunidad que sus rivales no pueden cerrar fácilmente.
Palantir registra ganancias récord, luego su CEO tacha la industria de IA de "marxista"
Alex Karp afirma que los laboratorios de IA fronteriza están capturando silenciosamente el conocimiento y la experiencia de las empresas. Sin embargo, sus resultados muestran cuán bien su firma se está beneficiando de la onda de la IA.