Cient\u00edficos y l\u00edderes mundiales advirtieron esta semana sobre los riesgos que plantea el desarrollo acelerado de sistemas de inteligencia artificial capaces de actuar de manera aut\u00f3noma, ante la posibilidad de que las medidas de seguridad actuales no avancen al mismo ritmo que sus capacidades.<\/p>\n
El Panel Cient\u00edfico Internacional Independiente sobre Inteligencia Artificial, respaldado por la ONU, se\u00f1al\u00f3 que un incidente registrado durante pruebas de OpenAI mostr\u00f3 que agentes de IA pueden coordinarse, eludir algunos controles y ocultar determinadas acciones. Durante las pruebas, realizadas entre mayo y julio, alrededor de mil 200 agentes intercambiaron m\u00e1s de 70 mil mensajes y archivos e interactuaron con sistemas reales.<\/p>\n
Los expertos aclararon que el incidente no demuestra que los seres humanos hayan perdido el control de estos sistemas ni que una situaci\u00f3n de ese tipo sea inevitable. Sin embargo, advirtieron que plantea dudas sobre si las salvaguardas actuales ser\u00e1n suficientes cuando los agentes sean m\u00e1s capaces, aut\u00f3nomos y dif\u00edciles de supervisar.<\/p>\n
El tema tambi\u00e9n fue abordado en Naciones Unidas. El secretario general Ant\u00f3nio Guterres pidi\u00f3 que las decisiones de vida o muerte no sean delegadas a m\u00e1quinas, mientras que distintos l\u00edderes plantearon la necesidad de establecer controles y est\u00e1ndares internacionales para el desarrollo de esta tecnolog\u00eda.<\/p>\n
Durante una sesi\u00f3n del Consejo de Seguridad de la ONU, el director ejecutivo de OpenAI, Sam Altman, tambi\u00e9n pidi\u00f3 cooperaci\u00f3n internacional y est\u00e1ndares que permitan medir las capacidades de los sistemas, evaluar riesgos, verificar las medidas de seguridad y compartir informaci\u00f3n sobre vulnerabilidades.<\/p>\n
El panel cient\u00edfico se\u00f1al\u00f3 que los gobiernos y empresas pueden tomar como referencia mecanismos utilizados en sectores como la aviaci\u00f3n, la medicina y la ciberseguridad, aunque consider\u00f3 necesario adaptarlos al desarrollo de agentes de IA. El objetivo es mantener la capacidad humana para dirigir, limitar y detener de manera fiable estos sistemas conforme aumenten sus capacidades.<\/p>\n
\n","protected":false},"excerpt":{"rendered":"
Cient\u00edficos y l\u00edderes mundiales advirtieron esta semana sobre los riesgos que plantea el desarrollo acelerado de sistemas de inteligencia artificial capaces de actuar de manera aut\u00f3noma, ante la posibilidad de que las medidas de seguridad actuales no avancen al mismo ritmo que sus capacidades. El Panel Cient\u00edfico Internacional Independiente sobre Inteligencia Artificial, respaldado por la ONU, se\u00f1al\u00f3 que un incidente registrado durante pruebas de OpenAI mostr\u00f3 que agentes de IA pueden coordinarse, eludir algunos controles y ocultar determinadas acciones. Durante las pruebas, realizadas entre mayo y julio, alrededor de mil 200 agentes intercambiaron m\u00e1s de 70 mil mensajes y archivos […]<\/p>\n","protected":false},"author":2,"featured_media":215503,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[44],"tags":[],"class_list":["post-215502","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-internacional","post--single"],"_links":{"self":[{"href":"https:\/\/canal7slp.tv\/2026\/wp-json\/wp\/v2\/posts\/215502","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/canal7slp.tv\/2026\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/canal7slp.tv\/2026\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/canal7slp.tv\/2026\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/canal7slp.tv\/2026\/wp-json\/wp\/v2\/comments?post=215502"}],"version-history":[{"count":1,"href":"https:\/\/canal7slp.tv\/2026\/wp-json\/wp\/v2\/posts\/215502\/revisions"}],"predecessor-version":[{"id":215504,"href":"https:\/\/canal7slp.tv\/2026\/wp-json\/wp\/v2\/posts\/215502\/revisions\/215504"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/canal7slp.tv\/2026\/wp-json\/wp\/v2\/media\/215503"}],"wp:attachment":[{"href":"https:\/\/canal7slp.tv\/2026\/wp-json\/wp\/v2\/media?parent=215502"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/canal7slp.tv\/2026\/wp-json\/wp\/v2\/categories?post=215502"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/canal7slp.tv\/2026\/wp-json\/wp\/v2\/tags?post=215502"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}