El consejero delegado de la tecnol\u00f3gica Anthropic, Dario Amodei, advirti\u00f3 este mi\u00e9rcoles ante el Consejo de Seguridad de la ONU de que los riesgos asociados a los modelos m\u00e1s avanzados de inteligencia artificial (IA) constituyen “el problema de seguridad global m\u00e1s importante al que se enfrenta el mundo hoy”, y reclam\u00f3 una respuesta internacional coordinada.<\/p>\n\n\n\n
Durante una reuni\u00f3n de alto nivel sobre la IA y la seguridad internacional, Amodei, que se conect\u00f3 por videoconferencia, apel\u00f3 de forma directa a la colaboraci\u00f3n entre Estados y el sector tecnol\u00f3gico.<\/p>\n\n\n\n
“Ning\u00fan l\u00edder, ninguna empresa y ninguna naci\u00f3n puede gestionar esto en solitario. Nos comprometemos a trabajar con los Gobiernos en esta sala en este objetivo crucial”, subray\u00f3 ante los delegados.<\/p>\n\n\n\n
El m\u00e1ximo responsable de la compa\u00f1\u00eda tecnol\u00f3gica inst\u00f3 a los l\u00edderes mundiales a centrarse con urgencia en los peligros para la estabilidad global y demand\u00f3 al Consejo de Seguridad respaldar medidas concretas.<\/p>\n\n\n\n
Entre ellas, destac\u00f3 la prohibici\u00f3n expresa del uso de la IA para la proliferaci\u00f3n o fabricaci\u00f3n de armas biol\u00f3gicas, as\u00ed como la implementaci\u00f3n de sistemas de evaluaci\u00f3n y verificaci\u00f3n capaces de avanzar al mismo ritmo vertiginoso del desarrollo t\u00e9cnico.<\/p>\n\n\n\n
Asimismo, Amodei solicit\u00f3 la adopci\u00f3n de est\u00e1ndares globales que permitan evaluar los modelos frente a eventuales p\u00e9rdidas de control o usos indebidos, junto a un protocolo de notificaci\u00f3n obligatoria ante “incidentes significativos para la seguridad global”.<\/p>\n\n\n\n
Por \u00faltimo, el directivo reconoci\u00f3 que una mayor potencia computacional exigir\u00e1 requisitos a\u00fan m\u00e1s estrictos y asegur\u00f3 que la industria debe comprometerse con la prudencia.<\/p>\n\n\n\n
“Iremos tan despacio como sea necesario para asegurarnos de que cada tecnolog\u00eda de IA sucesiva que lancemos sea de hecho segura”, concluy\u00f3.<\/p>\n\n\n\n
El tema de la seguridad en el desarrollo de la IA se ha situado en el centro del debate internacional ante la posibilidad de que los modelos m\u00e1s avanzados puedan escapar al control humano y llevar a cabo ciberataques, especialmente despu\u00e9s de que varias pruebas realizadas con modelos de Anthropic, OpenAI -que tambi\u00e9n particip\u00f3 en esta sesi\u00f3n del Consejo de Seguridad- y Google mostraran que estos pod\u00edan escapar de sus entornos de prueba.<\/p>\n","protected":false},"excerpt":{"rendered":"
El consejero delegado de la tecnol\u00f3gica Anthropic, Dario Amodei, advirti\u00f3 este mi\u00e9rcoles ante el Consejo de Seguridad de la ONU de que los riesgos asociados a los modelos m\u00e1s avanzados de inteligencia artificial (IA) constituyen “el problema de seguridad global m\u00e1s importante al que se enfrenta el mundo hoy”, y reclam\u00f3 una respuesta internacional coordinada. […]<\/p>\n","protected":false},"author":24,"featured_media":28754,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[24],"tags":[],"class_list":["post-28753","post","type-post","status-publish","format-standard","has-post-thumbnail","category-informacion-general"],"_links":{"self":[{"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/posts\/28753","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/users\/24"}],"replies":[{"embeddable":true,"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/comments?post=28753"}],"version-history":[{"count":1,"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/posts\/28753\/revisions"}],"predecessor-version":[{"id":28755,"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/posts\/28753\/revisions\/28755"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/media\/28754"}],"wp:attachment":[{"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/media?parent=28753"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/categories?post=28753"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/tags?post=28753"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}