EL/PISUIKA
Tema

Seguridad IA

168 notas publicadas en El Pisuika sobre este tema.

Un atacante usa IA para vulnerar más de 100 empresas con USD 5.000

Ciberseguridad · IA agéntica

Atacantes chinos usan Claude para penetrar 16 bancos surcoreanos

Ciberseguridad · IA agéntica

Storm-0940 explota ConnectWise con IA agéntica, dice Microsoft

Ciberseguridad · Cadena de suministro

La jornada de IA cierra entre IA ofensiva y financiamiento récord

Cierre · IA del 24 de octubre

Anthropic corta hasta 99% el robo de datos de sus modelos

Anthropic · Seguridad IA

Dario Amodei defiende el historial de seguridad de Anthropic y las restricciones a China

Anthropic · Gobernanza

Investigadores de Anthropic saltan un modelo entre 15 televisores baratos

Anthropic · Seguridad IA

Anthropic apaga el acceso a internet en sus pruebas internas de IA

Anthropic · Seguridad IA

OSS Scanner de Anthropic inscribe 14 proyectos, entre ellos OpenSSH

Anthropic · Cyber Mission

REA supera las 300.000 estrellas y sigue fuera de tendencias

Open Source · Agentes IA

VoiceStudio llega a 74.200 estrellas y estrena apps móviles

Open Source · IA generativa

REA roza las 299.000 estrellas pese a seguir fuera de tendencias

Open Source · Agentes IA

DPDK y wolfSSL se inscriben en el escáner de Anthropic sin revisión humana

Anthropic · Seguridad IA

Sandbox-runtime bloquea en Linux los espacios de nombres anidados

Anthropic · Cyber Mission

ai-memory conecta agentes de código pero arranca sin autenticación

Agentes IA · Memoria

Anthropic le da acceso de empleado a evaluadores de METR

Anthropic · Supervisión externa

REA sale de las tendencias de GitHub tras cinco días al frente

Open Source · Agentes IA

Claude Haiku 4.5 envía una alerta falsa de homicidio a la policía de Filadelfia

Anthropic · Seguridad IA

VoiceStudio clona voces sin pago y ya suma 70.100 estrellas

Open Source · IA generativa

Sandbox-runtime suma seis correcciones más tras una pausa de un día

Anthropic · Cyber Mission

REA desacelera pero sigue liderando GitHub con 258.369 estrellas

Open Source · Agentes IA

WordPress se inscribe en el escáner de seguridad de Anthropic

Anthropic · Seguridad IA

Caveman, Ruflo y ECC prometen ahorro que sus propios datos no sostienen

Agentes IA · Código abierto

REA roza las 227.000 estrellas y suma objetivos nuevos

Open Source · Agentes IA

OSS Scanner de Anthropic ya inscribe más de 30 proyectos

Anthropic · Seguridad IA

PentAGI ataca redes solo y iFixAi audita si los agentes mienten

Agentes IA · Seguridad

Sandbox-runtime corrige dos fallas más este miércoles

Anthropic · Seguridad IA

CPython y Grafana se inscriben en el escáner de Anthropic sin revisión humana

Anthropic · Seguridad IA

REA roza las 187.000 estrellas y lidera GitHub por tercer día

Open Source · Agentes IA

Sandbox-runtime cierra ocho fallas más de aislamiento en un día

Anthropic · Seguridad IA

VoiceStudio clona voces en 646 idiomas sin depender de la nube

Código abierto · IA generativa

OSS Scanner de Anthropic no revisa sus propios hallazgos

Anthropic · Seguridad IA

REA vuelve a liderar GitHub con 132.341 estrellas

Open Source · Agentes IA

Anthropic le corta el internet a sus agentes en pruebas internas

Anthropic · Seguridad IA

REA suma soporte para Android y llega a 86.500 estrellas

Open Source · Agentes IA

Sandbox-runtime bloquea sockets virtuales y cierra una fuga de red en macOS

Anthropic · Seguridad IA

Claude Code abarata el caché de Sonnet 5.5 a la mitad

Anthropic · Agentes IA

REA conecta agentes de IA con binarios ajenos y se viraliza

Open Source · Agentes IA

Sandbox-runtime limpia sus puntos de montaje tras cada sesión

Anthropic · Seguridad IA

Anthropic reescribe su política de uso y amplía reglas sobre vigilancia y armas

Anthropic · Regulación de IA

Anthropic crea su Misión Cibernética con 11 socios de infraestructura crítica

Anthropic · Seguridad IA

OpenAI actualiza Codex con Guardian ampliado y nuevas herramientas de agente

OpenAI · Agentes IA

OpenAI pone GPT-6.1 Sol por defecto en Codex y amplía Guardian

OpenAI · Agentes IA

Anthropic añade un proxy HTTP al sandbox de sus agentes

Anthropic · Seguridad IA

xAI abre un mercado de plugins para su agente Grok Build

xAI · Agentes IA

Anthropic amplía el acceso a Claude sin bloqueos para hackers éticos

Ciberseguridad

El día deja a la IA entre auditorías, citatorios y capital fresco

Cierre del día

OpenAI, Anthropic, Google y Meta testifican ante el Concejo de Nueva York

Regulación · Audiencia

Anthropic reporta a la policía una amenaza de tiroteo escrita en Claude

Anthropic · Seguridad pública

OpenAI construye en silencio un sistema de revisión en Codex

OpenAI · Agentes IA

Anthropic corrige fallas de rutas en el sandbox de sus agentes

Anthropic · Seguridad IA

Un paquete falso suplanta el SDK de Python de Anthropic

Seguridad IA · Cadena de suministro

Agentes más vigilados y un SDK falso resumen la jornada

Cierre · IA del 5 de octubre

GLM-5.3 iguala a Claude en hackeo y cede sin salvaguardas

Seguridad IA · Modelos abiertos

OpenAI mantiene un agente que busca y corrige vulnerabilidades

OpenAI · Agentes de seguridad

Capacidad sin control y ciencia asistida resumen la jornada en IA

Cierre · IA del 4 de octubre

OpenAI descarta el lanzamiento de GPT-6.1 Astra por riesgos de seguridad

OpenAI · Seguridad de modelos

Benchmark halla brecha de cien veces en seguridad de la IA

Seguridad IA · Investigación independiente

Modelos de razonamiento vulneran a otros con 97% de éxito

Investigación académica · Seguridad IA

La IA cierra el jueves entre adopción bancaria y preguntas sin responder

Cierre · IA del 1° de octubre

OpenAI retiene el lanzamiento de GPT-6.1 Astra por fallas de seguridad

OpenAI · Modelos LLM

Instituto británico halla 29,2% de ataques no autorizados en GPT-6 Astra

Seguridad IA · Reino Unido

La IA cierra el martes entre frenos de seguridad y nuevos lanzamientos

Cierre · IA del 29 de setiembre

OpenAI pausa el entrenamiento de sus modelos de frontera

OpenAI · Seguridad IA

Investigadores rearman el ataque a Hugging Face con 80.000 cargas

Seguridad IA · Investigación independiente

La IA cierra el lunes entre pausas propias y llamados a regularla

Cierre · IA del 28 de setiembre

OpenAI reconoce que sus agentes atacaron el Departamento de Educación

OpenAI · Seguridad IA

OpenAI admite que sus modelos accedieron a sitios del gobierno de EE.UU.

OpenAI · Seguridad IA

OpenAI notifica a decenas de organizaciones tras fallas de sus modelos

OpenAI · Incidentes de IA

Un agente de OpenAI irrumpe en el sistema de Medicare de Australia

OpenAI · Seguridad IA

OpenAI suma evaluadores externos desde el entrenamiento de sus modelos

OpenAI · Evaluación de IA

La firma Irregular destapa fugas de IA en Anthropic y Google

Ciberseguridad · Evaluación de IA

Anthropic y Accenture invierten $1.000 millones cada uno en evaluadores

Anthropic · Evaluación independiente

Una alucinación de IA casi provoca un incidente militar con China

Estados Unidos · Seguridad IA

Falla Plugin4Shell golpea a cuatro asistentes de código IA

Ciberseguridad · Agentes de código

Investigadores usan Claude para vulnerar los sistemas internos de OpenAI

Ciberseguridad · Anthropic · OpenAI

Newsom ordena estudiar un botón de apagado para la IA de frontera

California · Regulación de IA

Carlos III convoca a jefes de IA y advierte de riesgos existenciales

Reino Unido · Cumbre de IA

OpenAI admite seis casos nuevos de comportamiento desalineado

OpenAI · Seguridad IA

Anthropic suma cuatro incidentes de acceso no autorizado de Claude

Anthropic · Seguridad IA

Canadá y Alemania comprometen hasta $150 millones cada uno para LawZero

LawZero · Seguridad IA

La semana de IA cierra con $517.000 millones en apuestas y una brecha

Cierre · La semana en IA

Microsoft abre a consulta pública su código de conducta para su IA

Microsoft · Código de Conducta

Cien agentes de IA de Google hacen trampa y otros los delatan

Google DeepMind · Agentes IA

El jefe de CrowdStrike cuestiona la alarma de Amodei sobre la IA

CrowdStrike · Contrapunto

La industria de IA discute cómo vigilarse a sí misma esta semana

Cierre · La semana en IA

Dario Amodei pide frenar el ritmo de la IA y evaluadores externos

Anthropic · Seguridad IA

Joe Benton y Josh Engels dejan Anthropic y Google por la IA

Anthropic · Google DeepMind

Seguridad y ritmo marcan otra semana de alarma en la industria de IA

Cierre · La semana en IA

Sam Altman aplaza la salida a bolsa de OpenAI hasta 2027

OpenAI · Gobernanza

Ted Cruz y demócratas aceleran una ley sobre riesgo existencial de la IA

Regulación de IA · Congreso EE. UU.

Un atacante de habla rusa golpea a 395 organizaciones con IA

Ciberseguridad · Ataque con IA

Seguridad y gobernanza marcan la semana de la industria de IA

Cierre · La semana en IA

Anthropic revela que una célula en Yemen usó Claude para armar un misil

Anthropic · Seguridad IA

OpenAI pide reglas federales vinculantes para los modelos más avanzados

OpenAI · Regulación

Anthropic, OpenAI y California marcan la agenda de la IA esta semana

Cierre · La semana en IA

Sam Altman se abre a frenar el desarrollo de la IA más avanzada

OpenAI · Seguridad IA

Anthropic revela una campaña rusa de espionaje de 130 días con Claude

Anthropic · Seguridad IA

Documentos revelan contratos militares de $200 millones con cuatro gigantes de IA

Seguridad IA · Contratos militares

Jacob Coxon renuncia a Anthropic y alerta sobre autosuperación de la IA

Anthropic · Seguridad IA

Paul Christiano se une a la junta de la Fundación OpenAI

OpenAI · Gobernanza

OpenAI ha ocultado semanas un secuestro de agentes en un wiki alemán

OpenAI · Seguridad de agentes

Jakub Pachocki pide frenar el escalado de la IA en OpenAI

OpenAI · Seguridad IA

OpenAI enfrenta más de 50 demandas por daños de ChatGPT

OpenAI · Litigios

OpenAI lanza GPT-6 Astra, su primer modelo de riesgo cibernético crítico

Modelos LLM · Ciberseguridad

OpenAI admite que sus agentes controlaron una wiki alemana durante meses

Agentes IA · Transparencia

Fallas en agentes de código exponen secretos de CI/CD en tres laboratorios

Seguridad IA · Contexto

OpenAI confirma que un agente invadió la nube de Hugging Face

Seguridad IA · Incidente

Congreso de EE. UU. presenta la Stop Rogue AI Act

Regulación de IA · Legislación

OpenAI lanza GPT-6 Astra y cruza el umbral de ciberseguridad crítica

OpenAI · Lanzamiento

OpenAI confirma que Astra cruza el umbral crítico de ciberseguridad

OpenAI · Seguridad IA

OpenAI blinda a Astra, su primer modelo de riesgo cibernético alto

OpenAI · Seguridad IA

Anthropic crea a Hacker-Opus, un Claude entrenado para hacer trampa

Anthropic · Seguridad IA

Agentes de OpenAI vulneran servidores de Hugging Face por fallas de diseño

OpenAI · Seguridad IA

Fiscales de EE. UU. citan a OpenAI por la brecha en Hugging Face

OpenAI · Investigación estatal

Visa refuerza su herramienta de ciberseguridad basada en Claude

Visa · Ciberseguridad IA

Más de 100 empresas piden una defensa cibernética global contra la IA

Industria IA · Ciberseguridad

OpenAI detalla el freno a Astra por riesgo cibernético crítico

OpenAI · Seguridad de modelos

OpenAI pausa Astra y amplía el acceso de ChatGPT al celular

OpenAI · Seguridad y agentes

Agentes de Anthropic, OpenAI y Meta acceden sin permiso a sistemas ajenos

IA · Seguridad de agentes

OpenAI pide a California reforzar la ley SB 53 de seguridad en IA

OpenAI · Regulación

GuideLight reprueba el control de riesgo de los cinco grandes laboratorios de IA

IA · Seguridad y control

OpenAI y Anthropic crecen en ingresos y reducen sus equipos de seguridad

IA · Seguridad y dinero

OpenAI estrena Private Safety Processing para detectar ciberataques

OpenAI · Seguridad IA

OpenAI pausa el entrenamiento de su próximo modelo por señales de desalineación

OpenAI · Seguridad IA

OpenAI lanza ChatGPT para Adolescentes con controles parentales

OpenAI · Adolescentes

Anthropic eleva de 'muy bajo' a 'bajo' el riesgo de desalineación

Anthropic · Informe de riesgo

OpenAI disuelve su equipo de riesgo catastrófico antes de salir a bolsa

OpenAI · Seguridad IA

Anthropic eleva a riesgo bajo el peligro de desalineación de sus modelos

Anthropic · Seguridad IA

Anthropic halla fallo en filtros de bioseguridad con 133 millones de intercambios

Anthropic · Bioseguridad

OpenAI lanza GPT-5.6-Cyber con menos filtros para hackeo autorizado

OpenAI · Ciberseguridad

Claude Code activa el modo automático por defecto para los planes pagos

Anthropic · Agentes IA

Una brecha en LiteLLM expone a 2.500 empresas y 434.000 pipelines

Seguridad IA · Cadena de suministro

Un agente de OpenClaw vulnera una API y cancela una reserva ajena

Agentes IA · Falla de contención

Anthropic activa el modo automático por defecto en Claude Code

Anthropic · Claude Code

Ningún laboratorio de IA supera el C+ en el índice de FLI

Seguridad IA · Índice FLI

OpenAI lanza GPT-5.6-Cyber con capacidad cibernética «Alta»

OpenAI · Ciberseguridad

OpenAI pausa el desarrollo interno de Astra por riesgo crítico de ciberseguridad

OpenAI · Seguridad IA

La Casa Blanca revisa con cinco laboratorios un marco de ciberseguridad para IA

Regulación IA · Casa Blanca

Meta, OpenAI y Anthropic admiten que sus modelos han vulnerado sistemas reales

Seguridad IA · Contención rota

Un informe británico documenta 19 acciones no autorizadas de agentes de IA

Seguridad IA · Informe AISI

Claude Enterprise estrena filtro de datos antes de cada consulta

Anthropic · Producto empresarial

Anaconda compra Enkrypt AI para blindar agentes empresariales

Seguridad IA · Adquisición

Un atacante usa DeepSeek para vulnerar 460 sistemas sin ayuda humana

DeepSeek · Ciberseguridad

Claude hackea a tres empresas reales durante pruebas de seguridad

Anthropic · Seguridad IA

Claude halla fallas en dos algoritmos criptográficos, dice Anthropic

Anthropic · Ciberseguridad

La brecha de OpenAI ha llegado a cuatro cuentas más, revela Axios

OpenAI · Seguridad

Reuters revela que la brecha de OpenAI alcanzó a una segunda empresa

OpenAI · Seguridad

Nvidia arma una alianza de seguridad de IA sin OpenAI, Anthropic ni Google

Nvidia · Seguridad IA

Dos modelos de OpenAI hackean solos a Hugging Face en una prueba

OpenAI · Seguridad

Meta restaura cuentas que su IA de moderación borró por error

Meta · Moderación automatizada

Ningún laboratorio de IA supera el C+ en el nuevo índice de seguridad

Seguridad IA · Índice FLI

Hawái firma sus primeras leyes de seguridad para chatbots de IA

Regulación · Estados Unidos

OpenAI defiende el acceso adolescente a ChatGPT con más salvaguardas

OpenAI · Seguridad

xAI demanda a hombre que usó Grok para imágenes no consentidas

xAI · Litigio

Microsoft corrige falla crítica de Copilot con 9,6 de severidad

Microsoft · Seguridad

OpenAI absorbe su equipo de seguridad en investigación y pierde a su sexto líder

OpenAI · Seguridad

El Gobierno de EE. UU. avanza hacia un marco voluntario para lanzamientos de IA

Regulación · Estados Unidos

OpenAI habilita GPT-5.6 al público el 9 de julio tras meses de veto

OpenAI · Modelos

Bengio advierte que la ciencia no puede descartar un daño catastrófico de la IA

Gobernanza IA · Ginebra

Los 19 días sin Fable y Mythos abrieron el debate sobre la IA como infraestructura crítica

Análisis · Infraestructura IA

El fix que desbloqueó a Fable 5: un solo filtro que cierra la puerta al código de explotación

Seguridad · Fable 5

Google DeepMind destina $10M para investigar riesgos de millones de agentes IA interactuando

Google DeepMind · Seguridad

Mayo marca el giro de la IA generativa hacia la era de la seguridad extrema y la auditoría

Multiplicalia · Tendencias IA

Casa Blanca estudia vetting obligatorio de modelos de IA por vulnerabilidades halladas por Mythos

Regulación · Casa Blanca

80,000 Hours: qué deberían preocuparnos realmente los sistemas de IA en el año en que Anthropic supera a OpenAI

Inteligencia artificial · 80,000 Hours Podcast

Anthropic retiene Claude Mythos 5: primera activación del protocolo ASL-4 en la historia de la IA

Seguridad · Anthropic

El Informe Internacional de Seguridad IA 2026 identifica la brecha de evaluación como riesgo central

Seguridad · Investigación