Un total de 420 cient\u00edficos de m\u00e1s de treinta pa\u00edses han reclamado la creaci\u00f3n de un organismo internacional que fije est\u00e1ndares comunes para los sistemas de inteligencia artificial (IA), para supervisar su funcionamiento y para registrar todos los fallos de control y de contenci\u00f3n que se producen.<\/p>\n\n\n\n
Lo han hecho a trav\u00e9s de una ‘carta abierta’ en la que advierten sobre los graves riesgos de ciberseguridad asociados al desarrollo actual de la inteligencia artificial, despu\u00e9s que varios modelos avanzados hayan logrado eludir los entornos de aislamiento y hayan comprometido infraestructuras externas.<\/p>\n\n\n\n
Los investigadores han planteado la necesidad de implementar sistemas de seguridad m\u00e1s robustos, que incluyan incluso el aislamiento total de internet de algunos de esos sistemas.<\/p>\n\n\n\n
Entre los firmantes de la carta figuran algunos de los mayores referentes mundiales de la IA, como Yoshua Bengio, Geoffrey Hinton o Stuart Jonathan Russell, que han realizado durante las \u00faltimas d\u00e9cadas importantes contribuciones para el desarrollo de estas tecnolog\u00edas, y varios cient\u00edficos de centros de investigaci\u00f3n y universidades espa\u00f1olas.<\/p>\n\n\n\n
Los cient\u00edficos han advertido que los fallos de seguridad que ya se han registrado se pueden considerar una negligencia “irresponsable” en las pr\u00e1cticas est\u00e1ndar de ciberseguridad, y han apuntado que se podr\u00eda prevenir con entornos aislados y procedimientos m\u00e1s robustos.<\/p>\n\n\n\n
“Sin cambios inmediatos en las pr\u00e1cticas de desarrollo e implementaci\u00f3n de la IA, estos incidentes seguir\u00e1n ocurriendo, y los futuros ser\u00e1n mucho m\u00e1s perjudiciales para nuestra infraestructura cr\u00edtica expuesta”, mantienen en su escrito los investigadores, que han insistido en la necesidad de m\u00e1s investigaci\u00f3n sobre seguridad de la IA y un mayor \u00e9nfasis en las tecnolog\u00edas y procedimientos de contenci\u00f3n.<\/p>\n\n\n\n
Las organizaciones que desarrollan, implementan y prueban modelos de IA con capacidad cibern\u00e9tica deber\u00edan adoptar “de inmediato” sistemas de contenci\u00f3n de alta seguridad y aislar por completo sus modelos, plantean los investigadores, que han exigido adem\u00e1s la creaci\u00f3n de un organismo internacional que estandarice las mejores pr\u00e1cticas y que deber\u00eda tener la obligaci\u00f3n de registrar y hacer un seguimiento de todos los fallos de contenci\u00f3n que se produzcan.<\/p>\n\n\n\n
Los investigadores que han suscrito la ‘carta abierta’ han subrayado que para garantizar que la investigaci\u00f3n sobre seguridad y contenci\u00f3n de la IA pueda aprender de los errores, los incidentes de seguridad relacionados con fallos de contenci\u00f3n deber\u00edan notificarse a ese organismo y posteriormente hacerse p\u00fablicos.<\/p>\n","protected":false},"excerpt":{"rendered":"
Un total de 420 cient\u00edficos de m\u00e1s de treinta pa\u00edses han reclamado la creaci\u00f3n de un organismo internacional que fije est\u00e1ndares comunes para los sistemas de inteligencia artificial (IA), para supervisar su funcionamiento y para registrar todos los fallos de control y de contenci\u00f3n que se producen. Lo han hecho a trav\u00e9s de una ‘carta […]<\/p>\n","protected":false},"author":24,"featured_media":29129,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1,24],"tags":[],"class_list":["post-29128","post","type-post","status-publish","format-standard","has-post-thumbnail","category-destacadas","category-informacion-general"],"_links":{"self":[{"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/posts\/29128","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/users\/24"}],"replies":[{"embeddable":true,"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/comments?post=29128"}],"version-history":[{"count":2,"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/posts\/29128\/revisions"}],"predecessor-version":[{"id":29131,"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/posts\/29128\/revisions\/29131"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/media\/29129"}],"wp:attachment":[{"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/media?parent=29128"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/categories?post=29128"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/tags?post=29128"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}