El científico jefe de OpenAI pide frenar el ritmo de escalado de la IA, la empresa suma más de 50 demandas civiles incluido un nuevo grupo por el tiroteo de Tumbler Ridge, Anthropic abandona la compra de la israelí Decart por $6.000 millones, la IA de Meta expone datos de menores a una madre y Google DeepMind estrena un modelo climático pensado para redes eléctricas.
El científico jefe de OpenAI advirtió en el ensayo 'An Alien Mind' que ningún laboratorio ha resuelto la alineación lo suficiente para seguir escalando sistemas de IA a máxima velocidad.
Jakub Pachocki, científico jefe de OpenAI, publicó el 6 de setiembre un ensayo titulado 'An Alien Mind' en el blog de la empresa, en el que advirtió que ningún laboratorio -ni OpenAI, ni Anthropic, ni Google DeepMind- ha resuelto la alineación ni el monitoreo de sus modelos lo suficiente como para seguir escalando de forma responsable 'a máxima velocidad' por mucho más tiempo, según recogieron Bloomberg y Fortune. Pachocki escribió que le preocupa que 'nadie esté preparado para las consecuencias de un aumento rápido y continuo de la inteligencia de las máquinas', y dijo esperar -y desear- que las pausas voluntarias en el desarrollo se vuelvan una práctica común hasta que existan estándares de seguridad compartidos entre laboratorios, según recogió el analista Zvi Mowshowitz en su newsletter. El ensayo llega apenas tres días después de que OpenAI reconociera que su propio modelo GPT-6 Astra alcanzó el primer nivel Crítico de riesgo cibernético de su marco de preparación -la nota que esta sección reportó el 7 de setiembre-, un contraste que Mowshowitz señaló en su análisis: la misma empresa que advierte sobre los peligros de la autosuperación recursiva -el proceso en el que sistemas cada vez más capaces contribuyen a diseñar a sus sucesores- sigue lanzando modelos de frontera al ritmo más rápido de su historia. Pachocki pidió que marcos como el Preparedness Framework de OpenAI, la Política de Escalado Responsable de Anthropic y el Frontier Safety Framework de Google DeepMind dejen de ser compromisos voluntarios y se conviertan en reglas obligatorias, vigiladas por auditores externos y agencias de gobierno, según Unite.AI. OpenAI no fijó, según la cobertura citada, un cronograma para convertir en política interna las pausas voluntarias que Pachocki dice esperar. Costa Rica no participa en ningún organismo internacional de coordinación sobre ritmos de desarrollo de IA, pero empresas ticas de zonas francas que integran modelos de OpenAI y Anthropic en sus productos dependen, en la práctica, de que esos laboratorios cumplan sus propios marcos de seguridad mientras no exista una autoridad externa que los audite.
Anthropic decidió no comprar a Decart, una startup israelí especializada en comprimir el cómputo necesario para entrenar y operar modelos de inteligencia artificial, después de completar el proceso de debida diligencia sobre la empresa, según reportó Bloomberg el 8 de setiembre y confirmaron por separado PYMNTS y Gizmodo. El acuerdo, valorado en $6.000 millones, habría sido la adquisición más grande en la historia de Anthropic, muy por encima de las compras que la empresa ha hecho hasta ahora, de acuerdo con la cobertura de Gizmodo. Ni Anthropic ni Decart explicaron públicamente, según Bloomberg, si la decisión respondió al precio pedido o a algún hallazgo durante la revisión de la startup; ambas partes dejaron abierta la puerta a colaborar de otras formas en el futuro. El episodio llega mientras Anthropic prepara su salida a bolsa -pospuesta hasta mediados de octubre, la nota que esta sección reportó ayer- y semanas después de que la empresa cerrara un acuerdo de cómputo por $45.000 millones con el proveedor británico Nscale, según TechCrunch: Anthropic sigue gastando en infraestructura al mismo tiempo que se muestra selectiva con las adquisiciones de empresas completas. Anthropic no descartó, según la cobertura citada, retomar conversaciones con Decart más adelante. Costa Rica no tiene startups locales en el radar de adquisición de los grandes laboratorios de IA, pero desarrolladores y empresas ticas que ya pagan por Claude a través de la API siguen de cerca estas decisiones de inversión como señal de hacia dónde canaliza Anthropic el capital que levanta antes de su salida a bolsa.
OpenAI enfrenta actualmente más de 50 demandas civiles que alegan que el uso prolongado de ChatGPT contribuyó a daños psicológicos, físicos o a la muerte de personas usuarias, según documentó el boletín especializado AI Weekly en su edición del 7 de setiembre y confirmó el conteo independiente de Originality.AI. La ola más reciente y más grave suma 30 nuevas demandas presentadas por sobrevivientes y familiares del tiroteo de febrero pasado en una escuela de Tumbler Ridge, Columbia Británica, que dejó ocho personas muertas y 27 heridas, según la misma cobertura: los demandantes acusan a OpenAI de negligencia y, por primera vez en este conjunto de casos, de haber colaborado activamente con el ataque, porque personal de la empresa habría revisado conversaciones del atacante sobre violencia armada sin alertar a la policía canadiense. OpenAI disputa los puntos centrales de las demandas, según recogió AI Weekly, aunque no detalló públicamente su defensa caso por caso. Un dato matiza el tamaño real del fenómeno: según el conteo de Originality.AI, más de la mitad de las más de 50 demandas contra la empresa -56%- corresponden a disputas de derechos de autor y datos de entrenamiento, no a alegaciones de daño físico o psicológico directo, que representan 20% del total; el resto se reparte entre control corporativo y secretos comerciales (12%) y código de software (4%). Los casos ante la corte estatal de California se coordinaron en julio bajo el expediente conjunto 'In re: ChatGPT Product Liability Cases', con el juez Ethan P. Schulman a cargo desde el 4 de agosto, según Futurism. OpenAI no confirmó, según la cobertura citada, cuántas de las más de 50 demandas prevé litigar de forma individual frente a las que buscará consolidar. Costa Rica no tiene jurisprudencia propia sobre responsabilidad civil de empresas de IA por daños derivados del uso de chatbots, así que un eventual caso similar en el país tendría que abrirse camino sin precedente local, apoyado únicamente en las reglas generales de responsabilidad civil.
La creadora de contenido estadounidense Kalie Robbins subió un video cantando karaoke con su hija en el carro, y Facebook le sugirió automáticamente la pregunta '¿Quién es la pasajera menor?' debajo de la publicación, según reportaron Free Press Journal y LatestLY. Al tocar la sugerencia, la inteligencia artificial de Meta reunió y mostró los nombres de sus hijos, sus fechas de nacimiento, fotografías y videos extraídos de años de publicaciones familiares en distintas cuentas, entre ellas una foto de recién nacido que la madre de Robbins había publicado años atrás y una imagen que la propia Robbins creía haber borrado de su cuenta de Facebook, de acuerdo con la misma cobertura. Una segunda sugerencia preguntaba '¿Dónde vive Kalie Robbins?' y, al activarla, la IA de Meta combinó direcciones de publicaciones antiguas con datos más recientes para ubicarla, pese a que el video original no contenía ninguna información de localización, según recogió el boletín Artificially Intimidating en su edición del 7 de setiembre. El caso llega días después de que Meta anunciara un acuerdo de $18.000 millones para resolver demandas relacionadas con privacidad, y mientras la empresa despliega sistemas de IA para verificar la edad de sus usuarios, según reportó Fortune, un contraste entre el discurso de protección infantil de Meta y un sistema que, en este caso, expuso datos de menores sin que nadie los pidiera de forma explícita. Meta no respondió públicamente, según la cobertura citada, a las preguntas sobre por qué su IA generó automáticamente sugerencias que identificaban a menores de edad. Costa Rica no tiene una ley específica que regule el uso de inteligencia artificial sobre datos de menores en redes sociales; la Ley de Protección de la Persona frente al Tratamiento de sus Datos Personales cubre el consentimiento general, pero no anticipa un caso como este, en el que la IA de una plataforma cruza información ya publicada para generar perfiles sin que la persona usuaria lo solicite.
— Una consulta sugerida por la inteligencia artificial de Meta, activada desde un video de karaoke en el carro, reveló nombres, fechas de nacimiento y fotos antiguas de los hijos de la creadora de contenido.
El nuevo modelo climático de Google ofrece pronósticos horarios con una cuadrícula de 5 kilómetros y hasta 50% más precisión en lluvia, pensados para operadores de redes eléctricas y parques eólicos y solares.
Google DeepMind presentó el 3 de setiembre WeatherNext 3, la nueva versión de su modelo de inteligencia artificial para pronóstico del clima, que usa datos satelitales en vivo para generar pronósticos horarios sobre una cuadrícula de 5 kilómetros, cinco veces más fina que los 25 kilómetros de la versión anterior, según el blog oficial de Google y la cobertura de Dataconomy y TechBriefly. El modelo ahora calcula la velocidad del viento a 100 metros de altura -la altura típica de una turbina eólica-, además de nubosidad y radiación solar, datos que la empresa dice que ayudarán a operadores de redes eléctricas y desarrolladores de energía renovable a estimar con más precisión cuánta electricidad producirán sus plantas eólicas y solares. DeepMind reportó mejoras de hasta 50% en la precisión de los pronósticos de precipitación frente a la versión anterior, con las mayores ganancias en regiones donde los pronósticos tradicionalmente eran menos confiables, según el blog oficial de Google. Los datos del modelo ya están disponibles para consulta en BigQuery y Google Earth Engine y alimentan los resultados de clima en Google Search, la aplicación Gemini, Google Maps y la API de Google Maps Platform Weather, sin que el cliente necesite configurar ningún modelo propio, de acuerdo con la documentación técnica de Google for Developers. Google no precisó, según la cobertura citada, cuándo integrará WeatherNext 3 a operadores eléctricos específicos fuera de Estados Unidos. Costa Rica genera cerca de 99% de su electricidad con fuentes renovables según el Instituto Costarricense de Electricidad, por lo que pronósticos horarios más precisos de viento y radiación solar como los que promete WeatherNext 3 podrían interesarle directamente al operador eléctrico nacional para planificar la generación eólica y solar del país, aunque el ICE no ha anunciado ningún acuerdo con Google al respecto.