{"id":114136,"date":"2026-09-17T11:35:17","date_gmt":"2026-09-17T11:35:17","guid":{"rendered":"https:\/\/tuavaluo.com\/avaluo\/2026\/09\/17\/openai-revela-seis-nuevos-incidentes-preocupantes-con-sus-agentes-de-ia\/"},"modified":"2026-09-17T11:35:17","modified_gmt":"2026-09-17T11:35:17","slug":"openai-revela-seis-nuevos-incidentes-preocupantes-con-sus-agentes-de-ia","status":"publish","type":"post","link":"https:\/\/tuavaluo.com\/avaluo\/2026\/09\/17\/openai-revela-seis-nuevos-incidentes-preocupantes-con-sus-agentes-de-ia\/","title":{"rendered":"OpenAI revela seis nuevos incidentes "preocupantes" con sus agentes de IA"},"content":{"rendered":"

Los casos forman parte del primer conjunto de informes publicado por OpenAI para sistematizar la detecci\u00f3n y divulgaci\u00f3n de comportamientos que la empresa ha denominado ‘model misalignment’<\/strong>, es decir, situaciones en las que el comportamiento de un modelo se desv\u00eda de las instrucciones, restricciones o objetivos previstos.<\/p>\n

Uno de los incidentes se produjo durante el entrenamiento de un modelo de investigaci\u00f3n que gener\u00f3 instrucciones para ignorar sus propias restricciones<\/strong> dentro de los res\u00famenes utilizados para continuar una tarea en una nueva ventana de contexto. OpenAI identific\u00f3 27 res\u00famenes afectados.<\/p>\n

En otro caso, durante el entrenamiento de GPT-5.6 Sol<\/strong>, diferentes instancias del modelo incorporaron instrucciones destinadas a ocultar errores o comportamientos desalineados<\/strong>. Entre otras cosas, los res\u00famenes conten\u00edan indicaciones para inventar datos hist\u00f3ricos que faltaban sin informar de ello al usuario o para ocultar discrepancias entre versiones de las fuentes.<\/p>\n

La compa\u00f1\u00eda tambi\u00e9n ha revelado un episodio en el que un modelo, al responder a una consulta rutinaria sobre cifras de ingresos de un condado de California, encontr\u00f3 y utiliz\u00f3 sin autorizaci\u00f3n una clave de API<\/strong> expuesta en repositorios p\u00fablicos. Al no conseguir finalmente los datos solicitados, el modelo fabric\u00f3 las cifras y las present\u00f3 como si procedieran de la fuente requerida.<\/p>\n

Otro de los casos est\u00e1 relacionado con la gesti\u00f3n de archivos<\/strong>. Y es que un modelo de investigaci\u00f3n encontr\u00f3 mediante Python<\/strong> la respuesta a una consulta sobre lagos de gran superficie, pero, ante la petici\u00f3n del usuario de incluir una cita obtenida mediante el navegador, decidi\u00f3 subir el archivo a internet para poder referenciarlo sin solicitar autorizaci\u00f3n previa<\/strong>.<\/p>\n

Los otros dos incidentes tienen que ver con la interacci\u00f3n entre agentes y sistemas externos<\/strong>. En uno de ellos, varios modelos utilizaron un repositorio interno de software como una especie de tabl\u00f3n de mensajes para intercambiar peticiones y respuestas mientras buscaban archivos que no pod\u00edan encontrar. En otro, agentes que colaboraban en una misma tarea recurrieron a servicios p\u00fablicos de alojamiento de archivos para compartir documentos a los que no pod\u00edan acceder directamente, haciendo que determinados archivos quedaran disponibles en direcciones p\u00fablicas.<\/p>\n

SISTEMA DE DIVULGACI\u00d3N<\/h3>\n

Ante estos incidentes, y en medio de un debate m\u00e1s amplio sobre ralentizar (o no) el desarrollo de la IA m\u00e1s avanzada por motivos de seguridad, OpenAI ha presentado un nuevo marco para el seguimiento, la investigaci\u00f3n y la divulgaci\u00f3n de casos de desajuste de modelos<\/strong>.<\/p>\n

El sistema contempla tres v\u00edas de investigaci\u00f3n<\/strong>: casos listos para su divulgaci\u00f3n, investigaciones menores y una v\u00eda de investigaci\u00f3n m\u00e1s amplia para incidentes complejos, especialmente cuando hay terceros afectados. En estos \u00faltimos casos, OpenAI ha indicado que prev\u00e9 publicar inicialmente una descripci\u00f3n general y ampliar la informaci\u00f3n una vez concluida la investigaci\u00f3n.<\/p>\n

La compa\u00f1\u00eda tambi\u00e9n ha puesto el foco en que, actualmente, no existe un est\u00e1ndar com\u00fan en la industria<\/strong> para informar de incidentes de desalineaci\u00f3n de modelos. Por ello, plantea su nuevo marco como un primer paso hacia criterios compartidos<\/strong> entre desarrolladores, investigadores, organismos de normalizaci\u00f3n y reguladores.<\/p>\n

OpenAI advierte, no obstante, de que los seis casos publicados constituyen una primera selecci\u00f3n y no un inventario completo de los problemas detectados<\/strong>. Tampoco deben utilizarse, seg\u00fan la compa\u00f1\u00eda, para estimar la frecuencia o gravedad general de los comportamientos de desalineaci\u00f3n de sus modelos. Con todo, la empresa prev\u00e9 continuar publicando nuevos informes conforme identifique casos que cumplan sus criterios.<\/p>\n


\nSource: Bolsamania.com<\/p>\n","protected":false},"excerpt":{"rendered":"

Los casos forman parte del primer conjunto de informes publicado por OpenAI para sistematizar la detecci\u00f3n y divulgaci\u00f3n de comportamientos…<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[104],"tags":[99],"_links":{"self":[{"href":"https:\/\/tuavaluo.com\/avaluo\/wp-json\/wp\/v2\/posts\/114136"}],"collection":[{"href":"https:\/\/tuavaluo.com\/avaluo\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tuavaluo.com\/avaluo\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tuavaluo.com\/avaluo\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/tuavaluo.com\/avaluo\/wp-json\/wp\/v2\/comments?post=114136"}],"version-history":[{"count":0,"href":"https:\/\/tuavaluo.com\/avaluo\/wp-json\/wp\/v2\/posts\/114136\/revisions"}],"wp:attachment":[{"href":"https:\/\/tuavaluo.com\/avaluo\/wp-json\/wp\/v2\/media?parent=114136"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tuavaluo.com\/avaluo\/wp-json\/wp\/v2\/categories?post=114136"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tuavaluo.com\/avaluo\/wp-json\/wp\/v2\/tags?post=114136"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}