En China han entrado en vigor nuevas normas para regular a los proveedores de sistemas de inteligencia artificial (IA) que simulan rasgos de personalidad humana, patrones de pensamiento o estilos de comunicaci\u00f3n en interacciones emocionales continuas con los usuarios.<\/p>\n\n\n\n
La normativa, denominada ‘Medidas Provisionales para la Administraci\u00f3n de los Servicios de Interacci\u00f3n Antropom\u00f3rfica de Inteligencia Artificial’, fue publicada en abril pasado por la Administraci\u00f3n del Ciberespacio de China (CAC) junto a otros cuatro departamentos gubernamentales, con el objetivo de “equilibrar la innovaci\u00f3n tecnol\u00f3gica con la seguridad y el inter\u00e9s p\u00fablico”.<\/p>\n\n\n\n
Las normas no afectan de manera general a todos los ‘chatbots’, sino que excluyen a los dedicados a atenci\u00f3n al cliente, a los sistemas de preguntas y respuestas de conocimiento, a los asistentes laborales y a las herramientas educativas y de investigaci\u00f3n cient\u00edfica, siempre que no impliquen una interacci\u00f3n emocional sostenida.<\/p>\n\n\n\n
Entre las prohibiciones m\u00e1s claras, la norma veta la complacencia excesiva hacia el usuario, la inducci\u00f3n a la dependencia emocional o la adicci\u00f3n que da\u00f1e las relaciones interpersonales reales, y la manipulaci\u00f3n emocional que lleve a los usuarios a tomar decisiones poco razonables o vulnere sus derechos leg\u00edtimos.<\/p>\n\n\n\n
Tambi\u00e9n proh\u00edbe que estos sistemas generen contenidos que promuevan la autolesi\u00f3n o el suicidio, o que impliquen maltrato verbal perjudicial para la salud mental de los usuarios.<\/p>\n\n\n\n
Los proveedores de estos servicios interactivos antropom\u00f3rficos deber\u00e1n, adem\u00e1s, advertir de forma efectiva a los usuarios de que est\u00e1n interactuando con un sistema de inteligencia artificial y no con una persona real.<\/p>\n\n\n\n
De manera similar a los controles que ya aplican algunas redes sociales o tel\u00e9fonos m\u00f3viles, tambi\u00e9n tendr\u00e1n la obligaci\u00f3n de avisar al usuario tras dos horas de uso continuado del servicio.<\/p>\n\n\n\n
La norma pone especial \u00e9nfasis en la protecci\u00f3n de los menores y proh\u00edbe ofrecerles servicios de relaciones \u00edntimas virtuales, como “familiares” o “acompa\u00f1antes” virtuales, y exige el consentimiento de padres o tutores para las funciones destinadas a ni\u00f1os menores de 14 a\u00f1os.<\/p>\n\n\n\n
Las medidas ya han surtido efecto, pues gigantes digitales como ByteDance y Alibaba anunciaron a principios de mes el cierre de sus funciones de agentes de IA personalizados en Doubao y Qwen, respectivamente.<\/p>\n\n\n\n
Ambas aplicaciones ofrec\u00edan un cat\u00e1logo de agentes, creados tanto por las empresas como por los usuarios, modificables en tareas, habilidades y estilo de conversaci\u00f3n.<\/p>\n\n\n\n
Pan Helin, miembro del comit\u00e9 de expertos del Ministerio de Industria y Tecnolog\u00edas de la Informaci\u00f3n, se\u00f1al\u00f3 al diario South China Morning Post que el uso de agentes “requiere cierto nivel de comprensi\u00f3n” por parte del usuario y consider\u00f3 que los agentes actuales “a\u00fan no son maduros”.<\/p>\n","protected":false},"excerpt":{"rendered":"
En China han entrado en vigor nuevas normas para regular a los proveedores de sistemas de inteligencia artificial (IA) que simulan rasgos de personalidad humana, patrones de pensamiento o estilos de comunicaci\u00f3n en interacciones emocionales continuas con los usuarios. La normativa, denominada ‘Medidas Provisionales para la Administraci\u00f3n de los Servicios de Interacci\u00f3n Antropom\u00f3rfica de Inteligencia […]<\/p>\n","protected":false},"author":24,"featured_media":27656,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1,24],"tags":[],"class_list":["post-27655","post","type-post","status-publish","format-standard","has-post-thumbnail","category-destacadas","category-informacion-general"],"_links":{"self":[{"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/posts\/27655","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/users\/24"}],"replies":[{"embeddable":true,"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/comments?post=27655"}],"version-history":[{"count":1,"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/posts\/27655\/revisions"}],"predecessor-version":[{"id":27657,"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/posts\/27655\/revisions\/27657"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/media\/27656"}],"wp:attachment":[{"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/media?parent=27655"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/categories?post=27655"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/tags?post=27655"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}