El físico Christopher Stubbs se une al fondo fiduciario de Anthropic, la empresa prueba su nuevo agente proactivo Claude Duet y detalla cómo redujo hasta 99% el robo de datos de sus modelos -incluido un caso con la firma china Zhipu-, mientras OpenAI amplía los anuncios de ChatGPT a 26 países más y Anthropic da a evaluadores externos de METR un acceso equivalente al de sus propios equipos de riesgo.
OpenAI anunció el miércoles 21 de octubre que ampliará los anuncios de ChatGPT a 26 países adicionales, con lo que el total de mercados donde la aplicación muestra publicidad llega a 89, según reportó CNBC. Los anuncios solo aparecen para los usuarios de los planes gratuito y Go, nunca para quienes pagan por Plus, Pro, Business o Enterprise, y la empresa insiste en que son independientes de las respuestas del chatbot: no influyen en lo que contesta y aparecen etiquetados con claridad. La ampliación llega dos meses después de que OpenAI llevara los anuncios a 31 países europeos, una ronda que, según reportó Campaign, ayudó a que el negocio publicitario de la empresa alcanzara una tasa anualizada de ingresos de USD 1.000 millones. El movimiento confirma que OpenAI apuesta por la publicidad como una tercera vía de ingresos, junto a las suscripciones y las licencias empresariales, mientras la compañía también busca levantar una ronda de financiamiento de USD 30.000 millones a una valoración de más de USD 1,4 billones, como reportó esta sección el martes 20 de octubre. OpenAI no detalló públicamente la lista completa de los 26 países que se suman a esta fase, por lo que no hay confirmación de si Costa Rica está entre ellos; de estarlo, el cambio afectaría únicamente a quienes usan la versión gratuita o el plan Go desde el país, no a las cuentas Plus o empresariales que predominan entre las empresas costarricenses que ya facturan sus herramientas de IA en dólares.
Anthropic presentó el miércoles 21 de octubre una vista previa de investigación de Claude Duet, un agente de inteligencia artificial diseñado para actuar de forma proactiva -mensajear primero, no solo responder- en tareas de trabajo cotidianas, según reportó CNBC. El acceso, por ahora limitado a suscriptores de los planes Pro y Max en Estados Unidos, funciona mediante lista de espera y apunta a profesionales independientes y pequeños negocios. El diseño del agente incluye un mecanismo de aprobación obligatoria antes de ejecutar acciones sensibles, como enviar pagos, y la propia empresa advierte que esta primera versión todavía puede leer mal un hilo de conversación o calcular incorrectamente qué tan urgente es un mensaje, según la cobertura de CNBC. El lanzamiento ubica a Anthropic en una competencia creciente por los agentes proactivos -asistentes que actúan sin que el usuario inicie cada paso- frente a herramientas similares de otras compañías, un terreno que las grandes empresas de IA consideran central para justificar las valoraciones de cientos de miles de millones de dólares que manejan. Anthropic no publicó todavía un comunicado propio sobre Claude Duet en su blog oficial de noticias, por lo que la información de este caso proviene principalmente de CNBC y de la cobertura que otros medios retomaron a partir de esa nota, sin que la empresa haya confirmado precios ni fecha de disponibilidad general. El acceso inicial, limitado a Estados Unidos, deja fuera por ahora a los suscriptores costarricenses de Claude Pro y Max.
— La compañía abrió una lista de espera para un agente personal que monitorea bandejas de entrada y chats de trabajo y pide autorización antes de ejecutar acciones sensibles como pagos.
Anthropic anunció el miércoles 21 de octubre que el físico experimental Christopher Stubbs, profesor de Harvard y exdecano de Ciencias de esa universidad entre 2018 y 2024, se incorpora como fideicomisario de su Long-Term Benefit Trust, según el comunicado publicado en el sitio oficial de la empresa. Stubbs fue miembro del equipo High-Z Supernova Search que en 1998 ayudó a descubrir la expansión acelerada del universo -un hallazgo que más tarde recibió el Breakthrough Prize en Física Fundamental- y se desempeñó como científico de proyecto inaugural del observatorio Vera C. Rubin. El Long-Term Benefit Trust es un cuerpo independiente de la administración y de los inversionistas de Anthropic, con la facultad de nombrar a la mayoría de la junta directiva y de asesorar a la empresa en decisiones críticas sobre los riesgos de la inteligencia artificial, de acuerdo con el propio comunicado. Daniela Amodei, cofundadora y presidenta de Anthropic, dijo que valora en Stubbs su honestidad intelectual, su rigor y su compromiso con la verdad. La incorporación llega la misma semana en que Anthropic publicó su primer Reporte de Beneficio Público y días después de anunciar que destinará un 5% de sus acciones a un fondo de beneficio público, sujeto a aprobación de sus accionistas, como reportó esta sección el martes 20 de octubre. El Trust ya cuenta con Neil Buddy Shah como presidente, además de Richard Fontaine y el expresidente de la Reserva Federal Ben Bernanke; Stubbs es, según Anthropic, el primer físico en integrarlo. La empresa no detalló si sumará más miembros con perfil científico ni cuándo los accionistas votarán sobre el fondo de beneficio público. La información de este nombramiento proviene del propio comunicado de Anthropic, sin cobertura cruzada de otros medios al cierre de esta edición. Costa Rica no tiene representación en este tipo de órganos de gobernanza corporativa de las grandes empresas de IA que sus desarrolladores y empresas usan a diario; el país sigue, por ahora, las políticas de seguridad de estas compañías desde afuera, sin mecanismo local de supervisión equivalente.
Un reporte de la empresa detalla cómo bloqueó campañas que copiaban las respuestas de Claude para entrenar modelos rivales, incluido un caso con una firma china y un usuario que buscaba vigilancia de una persona.
Anthropic publicó el 12 de octubre un reporte técnico en el que detalla cómo redujo entre un 90% y un 99% los datos que distintos grupos extraían de Claude para "destilar" -copiar a bajo costo- sus capacidades hacia otros modelos, según el comunicado de la propia empresa. La compañía describe estas campañas como operaciones encubiertas a escala industrial que usan redes de cuentas fraudulentas: una sola red identificada en febrero llegó a manejar más de 20.000 cuentas de forma simultánea. El caso más citado en el reporte involucra a la firma china Zhipu: según Anthropic, Zhipu destiló capacidades de ciberseguridad de modelos estadounidenses mientras desarrollaba su modelo GLM-5.3, y cambió a un modelo de Claude más antiguo y a uno de otro laboratorio después de que las defensas de Anthropic degradaran sus ataques. Pese a ese bloqueo, el Centro de Estándares y Seguridad en IA de Estados Unidos (CAISI) evaluó después a GLM-5.3 como el modelo abierto más capaz en ciberseguridad lanzado hasta ahora, según cita el propio reporte de Anthropic -una señal de que frenar la copia de un modelo puntual no frena la carrera más amplia entre laboratorios por igualar esas capacidades-. Anthropic también reportó un caso en el que un usuario, que la empresa cree vinculado al Ejército Popular de Liberación de China, reenviaba en secreto solicitudes desde los modelos Kimi de Moonshot hacia Claude para analizar grabaciones de videovigilancia de una persona específica. Anthropic reconoce que no ha visto todavía un intento sofisticado y persistente de evadir sus nuevas defensas y que espera que la destilación siga siendo un "juego del gato y el ratón"; la empresa dice además haber rechazado ingresos relevantes y billones de tokens de tráfico pagado proveniente de distribuidores. La información de este reporte proviene únicamente de Anthropic, sin verificación independiente de las cifras de reducción al cierre de esta edición. Costa Rica no participa en esta disputa entre laboratorios, pero el país aloja un sector relevante de centros de servicios y back office en zonas francas que dependen a diario de las API de Claude y ChatGPT, por lo que la robustez de estas defensas de seguridad incide, de forma indirecta, en la confiabilidad de herramientas que ya son parte del trabajo cotidiano de empresas instaladas en el país.
Anthropic actualizó el 15 de octubre los términos de su programa de evaluadores independientes para dar a seis empleados de la organización sin fines de lucro METR un acceso "de nivel empleado" a sus herramientas y sistemas internos, comparable al de sus propios equipos de evaluación de riesgo, según el comunicado publicado por la empresa. Ese personal de METR recibió equipo de la compañía y espacio de oficina, y puede revisar todo salvo datos de clientes, información protegida por secreto profesional y la arquitectura de los modelos. El esquema reconoce tres niveles de acceso: investigaciones acotadas donde Anthropic aprueba qué se publica, un segundo nivel donde el evaluador publica sin necesitar ese permiso, y el nivel otorgado a METR, con publicación igual de libre pero acceso más profundo. Anthropic no puede vetar lo que METR publique, aunque sí puede exigir que se omitan categorías ya definidas, como propiedad intelectual confidencial. La empresa compara el modelo con la supervisión bancaria, en la que los reguladores colocan examinadores dentro de los bancos más grandes, y dice estar en conversaciones iniciales con Hugging Face y otras organizaciones no identificadas para sumarlas a ese tercer nivel. Anthropic firmó en agosto el Acuerdo de la Casa Blanca sobre Superinteligencia, que compromete a la empresa a trabajar con auditores externos independientes; el esquema de niveles es, según la propia compañía, la forma en que intenta cumplir ese compromiso sin esperar a que exista una ley que lo exija. "Estamos integrando evaluadores de forma voluntaria, y creemos que toda empresa de IA de frontera debería hacer lo mismo", dice Anthropic en el comunicado -una posición que deja en evidencia que, en ausencia de regulación obligatoria en Estados Unidos, la supervisión depende todavía de que cada empresa decida abrir la puerta. Este reporte se basa únicamente en el comunicado de Anthropic, sin confirmación independiente de METR ni de las demás organizaciones mencionadas al cierre de esta edición. Costa Rica no exige a las empresas de IA que operan en el país ningún esquema equivalente de auditoría externa; la Estrategia Nacional de Inteligencia Artificial (ENIA) 2024-2027 no contempla, por ahora, un mecanismo similar.
Entre fideicomisarios nuevos, agentes que escriben primero y defensas que recortan la copia de modelos, Anthropic domina otra vez el día, mientras OpenAI suma mercados a su negocio publicitario.
La sección de inteligencia artificial cerró este jueves con Anthropic como protagonista casi excluyente: la empresa sumó al físico Christopher Stubbs a su Long-Term Benefit Trust, abrió una vista previa de su nuevo agente proactivo Claude Duet y detalló cómo sus defensas contra la destilación de datos -incluido un caso con la firma china Zhipu- cortaron hasta un 99% la fuga de información hacia modelos rivales. Del lado de OpenAI, la empresa amplió los anuncios de ChatGPT a 26 países más, hasta sumar 89 en total, en su apuesta por la publicidad como tercera fuente de ingresos. Ninguna de las cifras del día llegó sin matices: Anthropic admite que no ha visto todavía un intento sofisticado de evadir sus defensas contra la destilación, y el propio caso de Zhipu muestra que bloquear una copia no frena la carrera más amplia por igualar esas capacidades. Costa Rica queda, en los cinco casos, en un lugar indirecto -sin asiento en la gobernanza de Anthropic, sin confirmación de si sus usuarios gratuitos de ChatGPT verán los nuevos anuncios y con un sector de zonas francas que depende, todos los días, de que estas defensas de seguridad funcionen.