{"id":73217,"date":"2024-04-01T16:33:24","date_gmt":"2024-04-01T16:33:24","guid":{"rendered":"https:\/\/tuavaluo.com\/avaluo\/2024\/04\/01\/microsoft-lanza-herramientas-para-crear-aplicaciones-de-ia-mas-seguras-y-fiables\/"},"modified":"2024-04-01T16:33:24","modified_gmt":"2024-04-01T16:33:24","slug":"microsoft-lanza-herramientas-para-crear-aplicaciones-de-ia-mas-seguras-y-fiables","status":"publish","type":"post","link":"https:\/\/tuavaluo.com\/avaluo\/2024\/04\/01\/microsoft-lanza-herramientas-para-crear-aplicaciones-de-ia-mas-seguras-y-fiables\/","title":{"rendered":"Microsoft lanza herramientas para crear aplicaciones de IA &quot;m\u00e1s seguras y fiables&quot;"},"content":{"rendered":"<p>\u00abCon estas incorporaciones, el portfolio de soluciones que Microsoft ofrece con Azure AI contin\u00faa proporcionando <strong>tecnolog\u00edas innovadoras para salvaguardar aplicaciones a lo largo del ciclo de vida de la IA generativa<\/strong>\u00ab, destaca la firma.<\/p>\n<p>Para combatir los ataques de inyecci\u00f3n de prompts, tanto los directos, conocidos como &#8216;jailbreaks&#8217;, como los indirectos, <strong>Microsoft ha introducido &#8216;Prompt Shields&#8217; para detectar entradas sospechosas en tiempo real y bloquearlas antes de que lleguen al modelo base<\/strong>. Este enfoque, asegura la firma, \u00absalvaguarda la integridad de los grandes sistemas de modelos de lenguaje (LLM) y las interacciones de los usuarios\u00bb.<\/p>\n<p>Microsoft tambi\u00e9n ha anunciado la <strong>pr\u00f3xima disponibilidad de &#8216;Groundedness detection&#8217;, una nueva funci\u00f3n dise\u00f1ada para identificar las alucinaciones basadas en texto<\/strong> (casos en que un modelo genera con confianza resultados que no coinciden con el sentido com\u00fan o carecen de datos de base). Esta funci\u00f3n detecta \u00abmaterial no fundamentado\u00bb en el texto para mejorar la calidad de los resultados de LLM.<\/p>\n<p>\u00abIdentificar las alucinaciones es crucial para mejorar la calidad y la fiabilidad de los sistemas de IA generativa, pues este problema puede manifestarse de distintas formas, desde <strong>peque\u00f1as imprecisiones hasta resultados totalmente falsos<\/strong>\u00ab, explica la firma.<\/p>\n<p>Asimismo, la compa\u00f1\u00eda ha anunciado que <strong>pronto estar\u00e1n disponibles plantillas de mensajes de sistema de seguridad directamente en los playgrounds Azure AI Studio y Azure OpenAI Service de forma predeterminada<\/strong>. \u00abDesarrolladas para mitigar la generaci\u00f3n de contenido da\u00f1ino y el uso indebido, estas plantillas pueden ayudar a los desarrolladores a empezar a crear aplicaciones de alta calidad en menos tiempo\u00bb, detalla.<\/p>\n<p>&#013;<br \/>\nSource: Bolsamania.com<\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u00abCon estas incorporaciones, el portfolio de soluciones que Microsoft ofrece con Azure AI contin\u00faa proporcionando tecnolog\u00edas innovadoras para salvaguardar aplicaciones&#8230;<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[104],"tags":[99],"_links":{"self":[{"href":"https:\/\/tuavaluo.com\/avaluo\/wp-json\/wp\/v2\/posts\/73217"}],"collection":[{"href":"https:\/\/tuavaluo.com\/avaluo\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tuavaluo.com\/avaluo\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tuavaluo.com\/avaluo\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/tuavaluo.com\/avaluo\/wp-json\/wp\/v2\/comments?post=73217"}],"version-history":[{"count":0,"href":"https:\/\/tuavaluo.com\/avaluo\/wp-json\/wp\/v2\/posts\/73217\/revisions"}],"wp:attachment":[{"href":"https:\/\/tuavaluo.com\/avaluo\/wp-json\/wp\/v2\/media?parent=73217"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tuavaluo.com\/avaluo\/wp-json\/wp\/v2\/categories?post=73217"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tuavaluo.com\/avaluo\/wp-json\/wp\/v2\/tags?post=73217"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}