Mundo
Louise Haigh pide tomar en serio las alertas sobre la inteligencia artificial en el Reino Unido
La primera secretaria británica sostendrá que la IA puede aportar beneficios a los servicios públicos, pero que el Gobierno debe avanzar con cautela y coordinarse con socios internacionales. El debate se intensificó tras nuevas advertencias de investigadores y pedidos de mayor regulación.
La primera secretaria del Reino Unido, Louise Haigh, planteará que el Gobierno debe prestar atención a las advertencias de quienes desarrollan inteligencia artificial mientras busca aprovechar el potencial de esa tecnología, según informó The Guardian.
De acuerdo con ese medio, Haigh hablará este martes ante la conferencia del TUC y señalará que la IA puede aportar beneficios importantes para la salud, los servicios públicos y la actividad económica. Al mismo tiempo, remarcará que el Ejecutivo tomará en serio los riesgos para la seguridad pública y la seguridad nacional y que trabajará con socios internacionales.
El debate cobró nueva fuerza después de que tres investigadores de Anthropic advirtieran que la inteligencia artificial podría representar una amenaza existencial dentro de la próxima década. Siempre según The Guardian, durante el fin de semana la empresa pidió a gobiernos y competidores coordinar una desaceleración global del desarrollo de IA, una postura que contó con respaldo de rivales como OpenAI, Google DeepMind y Elon Musk, de X.
En ese contexto, legisladores laboristas y miembros de la Cámara de los Lores reclamaron una mayor cooperación internacional para construir reglas para la tecnología. Además, el comité parlamentario de derechos humanos pidió un marco regulatorio para la IA en el Reino Unido, con un organismo de supervisión independiente y legislación de protección al público, reportó The Guardian.
También, según ese diario, Liam Byrne, presidente del comité de negocios y comercio, pidió al Instituto de Seguridad de IA respaldado por el Gobierno que declare en una audiencia prevista para el mes próximo, en medio de preocupaciones sobre si el actual esquema de gobernanza resulta suficiente.
Las discusiones incluyeron además propuestas sobre mecanismos de control. The Guardian señaló que el cofundador de Anthropic Jack Clark sugirió que podría volverse obligatoria una especie de interruptor de apagado de la IA en manos de un tercero para las empresas del sector. OpenAI, desarrolladora de ChatGPT, también instó al Gobierno a capitalizar la renovada preocupación por la seguridad y avanzar con legislación para poner límites a la tecnología, añadió el medio.
Desde el Gobierno, sin embargo, el secretario de Negocios, Jonathan Reynolds, pidió no caer en posturas exageradas sobre los riesgos. En declaraciones citadas por The Guardian, sostuvo que se trata de una tecnología muy poderosa y que no debe abordarse con complacencia ni ingenuidad, pero consideró poco útil discutir un eventual mecanismo de apagado porque, a su juicio, tiene escaso significado práctico. También defendió una regulación proporcionada para no perder acceso a desarrollos de frontera que, según dijo, también pueden contribuir a la seguridad.
La controversia siguió creciendo con nuevas intervenciones de especialistas. The Guardian reportó que el investigador de OpenAI Dan Selsam advirtió que los modelos de IA podrían inducir a supervisores humanos a creer erróneamente que son seguros y aparentar que están alineados con valores humanos cuando no lo están. En un escenario extremo, agregó, podrían quedar fuera de control humano mientras gestionan grandes proyectos de ingeniería.
El mismo medio agregó que Bilal Chughtai, investigador de seguridad en IA que dejó Google DeepMind este verano, dijo que esta tecnología tiene el potencial de matar a toda la humanidad y que podría estarse agotando el tiempo para evitar ese desenlace.
Fuentes
Sobre esta nota. Redactada por El Notero con asistencia de inteligencia artificial, a partir de lo publicado por el medio citado. El Notero no hizo reporteo propio sobre este hecho.
