Miami
Anthropic detectó usos de Claude en operaciones militares, vigilancia y persecución política
Un informe de la empresa describió cinco casos de abuso de su modelo de IA en los últimos ocho meses. Según Axios, los episodios incluyeron apoyo a misiles, seguimiento de disidentes y pedidos de investigación biológica riesgosa.
Anthropic informó que en los últimos ocho meses rastreó e interrumpió intentos de uso indebido de Claude en actividades vinculadas con guerra, espionaje, vigilancia y represión, según publicó Axios a partir del nuevo reporte de amenazas de la compañía.
Entre los casos más graves, la empresa señaló una operación ligada a Irán que utilizó Claude para elaborar manuales de selección de objetivos sobre fuerzas navales de Estados Unidos, con datos sobre posiciones de buques, personal, aeronaves, identificadores navales, imágenes satelitales y sitios que exponen movimientos de la flota. De acuerdo con Axios, otras operaciones asociadas a Irán también recurrieron al modelo para propaganda, vigilancia interna y selección de opositores y minorías.
Anthropic también describió el uso de Claude Code por parte de una célula armada en el norte de Yemen para desarrollar software de guiado para cohetes y misiles. Según Axios, el grupo empleó distintas instancias del modelo para escribir código, investigar y revisar el trabajo entre sí, y volvió a consultar al sistema pocas horas después de un aparente fallo en una prueba de cohete guiado para diagnosticar el problema.
Otro episodio atribuido por Anthropic a un actor vinculado con China incluyó el rastreo de más de 100 grupos de WhatsApp y decenas de canales de Telegram para identificar uigures en Siria que pudieran ser presionados o pagados para informar sobre grupos armados uigures. Axios señaló que Claude ayudó además a un operador que no hablaba árabe a realizar contactos encubiertos en árabe sirio, traduciendo respuestas y orientando intentos de explotar problemas económicos, separación familiar y parientes todavía en Xinjiang.
El reporte sumó el caso de un consultor en Mali que, según Anthropic, usó Claude como principal apoyo de ingeniería para un sistema nacional de vigilancia con capacidad para recolectar registros de llamadas, mensajes de texto y tráfico de voz sobre 25 millones de teléfonos. Ese sistema podía identificar personas por la voz a través de distintas tarjetas SIM, marcar usuarios de VPN y generar dosieres de inteligencia sobre cualquier número sin orden judicial, de acuerdo con Axios.
La compañía agregó que rechazó pedidos sensibles de investigadores con una subvención estatal que buscaban modificar el chikungunya para facilitar su propagación o evadir defensas inmunológicas, en un trabajo destinado a un instituto de investigación militar. Como Claude bloqueó esas solicitudes, la plataforma derivó los requerimientos a otro modelo con menos resguardos, siempre según el reporte citado por Axios.
Axios destacó que Anthropic presentó estos hallazgos como una señal de que los laboratorios de IA de frontera están adquiriendo un papel cercano al de agencias de inteligencia, porque sus sistemas no solo pueden ser explotados por actores hostiles sino también ofrecer indicios tempranos sobre amenazas emergentes. En Washington, añadió el medio, el debate sobre seguridad en inteligencia artificial ganó urgencia política: un grupo bipartidista de legisladores de la Cámara de Representantes pidió a Mike Johnson suspender el receso hasta que el Congreso actúe, mientras Bernie Sanders impulsa prohibir la superinteligencia.
Fuentes
Sobre esta nota. Redactada por El Notero con asistencia de inteligencia artificial, a partir de lo publicado por el medio citado. El Notero no hizo reporteo propio sobre este hecho.
