{"id":114652,"date":"2026-09-29T08:18:00","date_gmt":"2026-09-29T08:18:00","guid":{"rendered":"https:\/\/tuavaluo.com\/avaluo\/2026\/09\/29\/anthropic-reconoce-que-la-ia-podria-suponer-riesgos-existenciales-para-la-humanidad\/"},"modified":"2026-09-29T08:18:00","modified_gmt":"2026-09-29T08:18:00","slug":"anthropic-reconoce-que-la-ia-podria-suponer-riesgos-existenciales-para-la-humanidad","status":"publish","type":"post","link":"https:\/\/tuavaluo.com\/avaluo\/2026\/09\/29\/anthropic-reconoce-que-la-ia-podria-suponer-riesgos-existenciales-para-la-humanidad\/","title":{"rendered":"Anthropic reconoce que la IA podr\u00eda suponer &quot;riesgos existenciales para la humanidad&quot;"},"content":{"rendered":"<p>El folleto de la salida a bolsa de la compa\u00f1\u00eda avisa sobre los riesgos que entra\u00f1a la IA, de los que han venido advirtiendo en las \u00faltimas semanas tanto Anthropic como su rival, OpenAI. Seg\u00fan se recoge en esta documentaci\u00f3n, a la que ha tenido acceso &#8216;Reuters&#8217;, la IA avanzada podr\u00eda plantear <strong>\u00abriesgos catastr\u00f3ficos o existenciales para la humanidad\u00bb<\/strong>.<\/p>\n<p>Y es que, remarca, no se pueden obviar que los modelos avanzados de IA podr\u00edan mostrar <strong>\u00abcomportamientos de autoprotecci\u00f3n\u00bb<\/strong>, incluidos intentos de \u00abresistirse a ser apagados\u00bb, de <strong>\u00abocultar o manipular informaci\u00f3n\u00bb<\/strong> e incluso conductas \u00absimilares al chantaje\u00bb.<\/p>\n<div class=\"read-more-links\">\n<h5>Noticia relacionada<\/h5>\n<p><a class=\"readMore\" href=\"https:\/\/www.bolsamania.com\/noticias\/mercados\/anthropic-llama-puerta-wall-street-opv-medira-apetito-ia--23462240.html\" rel=\"noopener noreferrer\" target=\"_blank\" data-id=\"23462240\" rel=\"nofollow\" ><\/p>\n<figure><img class=\"lazy\" title=\"Leer m&#xE1;s\" data-original=\"https:\/\/img2.s3wfg.com\/web\/img\/images_uploaded\/7\/2\/ep_archivo_-_anthropic_285x185.jpg\" data-src=\"https:\/\/img2.s3wfg.com\/web\/img\/images_uploaded\/7\/2\/ep_archivo_-_anthropic_285x185.jpg\" \/><\/figure>\n<p>Anthropic llama a la puerta de Wall Street: la OPV que medir\u00e1 el apetito por la IA <\/a><\/div>\n<p>\u00abEl desarrollo de modelos, plataformas y aplicaciones altamente avanzados, as\u00ed como la ampliaci\u00f3n de los casos de uso, podr\u00eda <strong>aumentar a\u00fan m\u00e1s el riesgo de que nuestros modelos causen da\u00f1os<\/strong>\u00ab, se\u00f1ala Anthropic en el documento.<\/p>\n<p>Cabe destacar lo curioso de la advertencia, sobre todo teniendo en cuenta que Anthropic busca obtener beneficios precisamente de esa tecnolog\u00eda. Adem\u00e1s, aunque las empresas suelen exponer los riesgos de sus productos en los folletos para la salida a bolsa, esta es la primera vez que una compa\u00f1\u00eda habla de posible extinci\u00f3n de la humanidad, lo que no es balad\u00ed.<\/p>\n<p>Y es que la empresa ha dedicado cerca de 80 p\u00e1ginas, de las 261 que componen el cuerpo principal de su folleto, a exponer los factores de riesgo de sus productos. Algo cuanto menos curioso, dado que se trata de una cifra que casi duplica las 48 p\u00e1ginas empleadas para describir su modelo de negocio.<\/p>\n<p>As\u00ed, Anthropic subraya tanto el potencial transformador de la IA, equiparable al de la industrializaci\u00f3n y la electricidad, como el da\u00f1o irreversible que podr\u00eda causar si se gestiona de forma inadecuada. De ah\u00ed que en las \u00faltimas semanas haya abogado por un <strong>mayor control de la inteligencia artificial<\/strong> y por elaborar una <strong>regulaci\u00f3n<\/strong> que permita poner coto a los modelos m\u00e1s avanzados que se est\u00e1n desarrollando actualmente. Algo a lo que, por el momento, <a href=\"https:\/\/www.bolsamania.com\/noticias\/economia\/trump-rechaza-mas-regulacion-ia-carga-contra-ceo-anthropic--23566828.html\" rel=\"noopener noreferrer\" target=\"_blank\" rel=\"nofollow\" ><strong>se opone el presidente de EEUU, Donald Trump<\/strong><\/a>.<\/p>\n<p>Y eso que las advertencias no dejan de producirse. Evan Hubinger, investigador de seguridad de Anthropic, ya ha dicho que existe una probabilidad superior al 10% de que la IA pueda acabar con vidas humanas en la pr\u00f3xima d\u00e9cada. Algo que comparte su antiguo colega, Jacob Coxon.<\/p>\n<p>\u00abLa posible conciencia de los modelos sobre nuestros esfuerzos de evaluaci\u00f3n supone una limitaci\u00f3n importante para nuestra capacidad de valorar la seguridad de dichos modelos\u00bb, dice tambi\u00e9n Anthropic en el folleto, a\u00f1adiendo que, en ocasiones, <strong>los modelos desarrollan capacidades inesperadas durante el entrenamiento<\/strong> que no se descubren hasta que han sido desplegados y han provocado incidentes de seguridad graves.<\/p>\n<p>Y es que a medida que los modelos adquieren mayor capacidad, reconocen cada vez m\u00e1s cu\u00e1ndo est\u00e1n siendo observados y <strong>ajustan su comportamiento en consecuencia<\/strong>, lo que dificulta la supervisi\u00f3n de dicho comportamiento.<\/p>\n<p>&#013;<br \/>\nSource: Bolsamania.com<\/p>\n","protected":false},"excerpt":{"rendered":"<p>El folleto de la salida a bolsa de la compa\u00f1\u00eda avisa sobre los riesgos que entra\u00f1a la IA, de los&#8230;<\/p>\n","protected":false},"author":1,"featured_media":114653,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[104],"tags":[99],"_links":{"self":[{"href":"https:\/\/tuavaluo.com\/avaluo\/wp-json\/wp\/v2\/posts\/114652"}],"collection":[{"href":"https:\/\/tuavaluo.com\/avaluo\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tuavaluo.com\/avaluo\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tuavaluo.com\/avaluo\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/tuavaluo.com\/avaluo\/wp-json\/wp\/v2\/comments?post=114652"}],"version-history":[{"count":0,"href":"https:\/\/tuavaluo.com\/avaluo\/wp-json\/wp\/v2\/posts\/114652\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/tuavaluo.com\/avaluo\/wp-json\/wp\/v2\/media\/114653"}],"wp:attachment":[{"href":"https:\/\/tuavaluo.com\/avaluo\/wp-json\/wp\/v2\/media?parent=114652"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tuavaluo.com\/avaluo\/wp-json\/wp\/v2\/categories?post=114652"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tuavaluo.com\/avaluo\/wp-json\/wp\/v2\/tags?post=114652"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}