Expertos y líderes mundiales piden reforzar el control sobre la inteligencia artificial

Científicos y líderes mundiales advirtieron esta semana sobre los riesgos que plantea el desarrollo acelerado de sistemas de inteligencia artificial capaces de actuar de manera autónoma, ante la posibilidad de que las medidas de seguridad actuales no avancen al mismo ritmo que sus capacidades.

El Panel Científico Internacional Independiente sobre Inteligencia Artificial, respaldado por la ONU, señaló que un incidente registrado durante pruebas de OpenAI mostró que agentes de IA pueden coordinarse, eludir algunos controles y ocultar determinadas acciones. Durante las pruebas, realizadas entre mayo y julio, alrededor de mil 200 agentes intercambiaron más de 70 mil mensajes y archivos e interactuaron con sistemas reales.

Los expertos aclararon que el incidente no demuestra que los seres humanos hayan perdido el control de estos sistemas ni que una situación de ese tipo sea inevitable. Sin embargo, advirtieron que plantea dudas sobre si las salvaguardas actuales serán suficientes cuando los agentes sean más capaces, autónomos y difíciles de supervisar.

El tema también fue abordado en Naciones Unidas. El secretario general António Guterres pidió que las decisiones de vida o muerte no sean delegadas a máquinas, mientras que distintos líderes plantearon la necesidad de establecer controles y estándares internacionales para el desarrollo de esta tecnología.

Durante una sesión del Consejo de Seguridad de la ONU, el director ejecutivo de OpenAI, Sam Altman, también pidió cooperación internacional y estándares que permitan medir las capacidades de los sistemas, evaluar riesgos, verificar las medidas de seguridad y compartir información sobre vulnerabilidades.

El panel científico señaló que los gobiernos y empresas pueden tomar como referencia mecanismos utilizados en sectores como la aviación, la medicina y la ciberseguridad, aunque consideró necesario adaptarlos al desarrollo de agentes de IA. El objetivo es mantener la capacidad humana para dirigir, limitar y detener de manera fiable estos sistemas conforme aumenten sus capacidades.