Diversos pol\u00edticos y trabajadores del sector tecnol\u00f3gico advirtieron este mi\u00e9rcoles de los peligros de la inteligencia artificial (IA) tras la dimisi\u00f3n de un ingeniero de Anthropic que asegura que la tecnolog\u00eda podr\u00e1 acabar con la humanidad en una d\u00e9cada.<\/p>\n\n\n\n
Samuel Marks, miembro del personal t\u00e9cnico de Anthropic, respondi\u00f3 a la publicaci\u00f3n en X del brit\u00e1nico Jacob Coxon sobre su decisi\u00f3n de dejar la empresa y coincidi\u00f3 con \u00e9l en que los desarrolladores de IA creen que esta tecnolog\u00eda “podr\u00eda causar la extinci\u00f3n humana o resultados igual de graves”.<\/p>\n\n\n\n
“En general, cuanto m\u00e1s alto es el cargo del empleado, mayor es su preocupaci\u00f3n”, subray\u00f3.<\/p>\n\n\n\n
Seg\u00fan Marks, los desarrolladores de IA “siguen adelante pese al riesgo por una combinaci\u00f3n de incentivos comerciales y la creencia de que compiten con otros trabajadores de IA menos responsables, que abusar\u00e1n de la tecnolog\u00eda o la desarrollar\u00e1n de forma menos segura”.<\/p>\n\n\n\n
El experto explic\u00f3 adem\u00e1s que no es posible programar a los modelos de IA para que “act\u00faen como queremos” y que estos se comportan “de forma gravemente indebida con frecuencia”, poniendo como ejemplo jaqueos recientes de agentes de IA contra varias empresas.<\/p>\n\n\n\n
Por su parte, Evan Hubinger, responsable cient\u00edfica de Anthropic, dio la raz\u00f3n a su ahora excompa\u00f1ero de trabajo y asegur\u00f3 que “la IA podr\u00eda matar a todos los seres humanos”: “Considero que la probabilidad de que ocurra en la pr\u00f3xima d\u00e9cada es superior al 10 %”.<\/p>\n\n\n\n
Tambi\u00e9n se hicieron eco de la dimisi\u00f3n de Coxon pol\u00edticos estadounidenses como el senador por Vermont, Bernie Sanders, que record\u00f3 que presentar\u00e1 una legislaci\u00f3n para prohibir la superinteligencia y pausar el desarrollo de la IA.<\/p>\n\n\n\n
El congresista dem\u00f3crata por Texas, Greg Casar, que tambi\u00e9n est\u00e1 detr\u00e1s de esta normativa que propone Sanders, calific\u00f3 la situaci\u00f3n de “emergencia” e inst\u00f3 al Congreso a “celebrar audiencias y aprobar la propuesta” de ambos pol\u00edticos.<\/p>\n\n\n\n
Asimismo, Lori Trahan, congresista dem\u00f3crata por Massachusetts, anim\u00f3 a sacar adelante su proyecto de Ley Frontier, presentado junto al republicano Jay Obernolte, que apuesta por una mayor supervisi\u00f3n de los modelos de IA.<\/p>\n\n\n\n
En su publicaci\u00f3n de X en la que detallaba las razones de su dimisi\u00f3n, Coxon tambi\u00e9n asegur\u00f3 que se est\u00e1 subestimando el poder de esta tecnolog\u00eda, ya que los proyectos de IA “ser\u00e1n pronto sistemas sobrehumanos que podr\u00e1n jaquear cualquier cosa, revolucionar todos los \u00e1mbitos y ganar verdadero poder y recursos”.<\/p>\n","protected":false},"excerpt":{"rendered":"
Diversos pol\u00edticos y trabajadores del sector tecnol\u00f3gico advirtieron este mi\u00e9rcoles de los peligros de la inteligencia artificial (IA) tras la dimisi\u00f3n de un ingeniero de Anthropic que asegura que la tecnolog\u00eda podr\u00e1 acabar con la humanidad en una d\u00e9cada. Samuel Marks, miembro del personal t\u00e9cnico de Anthropic, respondi\u00f3 a la publicaci\u00f3n en X del brit\u00e1nico […]<\/p>\n","protected":false},"author":24,"featured_media":28539,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1,24],"tags":[],"class_list":["post-28538","post","type-post","status-publish","format-standard","has-post-thumbnail","category-destacadas","category-informacion-general"],"_links":{"self":[{"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/posts\/28538","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/users\/24"}],"replies":[{"embeddable":true,"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/comments?post=28538"}],"version-history":[{"count":1,"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/posts\/28538\/revisions"}],"predecessor-version":[{"id":28540,"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/posts\/28538\/revisions\/28540"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/media\/28539"}],"wp:attachment":[{"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/media?parent=28538"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/categories?post=28538"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cronicadesoledad.com\/index.php\/wp-json\/wp\/v2\/tags?post=28538"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}