En un comentario publicado en ‘X’ y otras redes sociales, Zuckerberg ha sido claro. En su opinión, los laboratorios de IA que no se «centren en la alineación se quedarán atrás», en referencia al trabajo que realizan los desarrolladores para garantizar que las tecnologías se ajusten a los valores humanos.
Precisamente sus palabras llegan justo en un momento en el que la seguridad de la IA centra el debate, después de que tanto OpenAI como Anthropic hayan pedido ralentizar el ritmo al que se desarrollan las capacidades de los modelos de IA.
Noticia relacionada
La trampa de la IA: el mercado compró tecnología justo antes del aviso para frenar
«Existe un gran debate sobre si se debe ralentizar el avance de las capacidades hasta que la alineación se ponga al día», ha dicho Zuckerberg. «En mi opinión, la confianza y la alineación se están convirtiendo rápidamente en las capacidades más importantes que diferenciarán a los agentes y modelos», ha añadido.
Como dice, dado que los laboratorios de IA se exponen a una «responsabilidad legal significativa si sus modelos causan daños», las empresas tienen ya incentivos de sobra para prevenir posibles problemas. Según Zuckerberg, Meta «retrasó el lanzamiento» de sus tecnologías de IA Muse por motivos de «seguridad y protección», por decisión propia, al amparo de esta responsabilidad que defiende.
«Simplemente lo hicimos como parte de nuestra labor cotidiana, porque claramente era lo correcto tanto para las personas como para nosotros», ha dicho Zuckerberg.
Unas palabras que se acercan mucho a la perspectiva del CEO de Nvidia, Jensen Huang, que a la del máximo responsable de Anthropic, Dario Amodei. Y es que durante su intervención en la conferencia anual Dreamforce de Salesforce, Huang aseguró que los creadores de modelos de IA deberían asumir la responsabilidad de sus productos en lugar de buscar regulaciones gubernamentales -como había sugerido anteriormente Amodei- destinadas a limitar los posibles daños y riesgos.
Huang reiteró también esta postura en una entrevista con la CNBC, calificando tales leyes y normativas relacionadas con la IA como «completamente innecesarias». «Tenemos leyes de sobra. Tenemos muchas regulaciones que rigen la fiabilidad y la funcionalidad de los productos», afirmó.
Amodei también participó en la conferencia Dreamforce, insistiendo en que ralentizar el ritmo de desarrollo de los modelos representa «la manera de hacer avanzar la industria, de dar ejemplo y de demostrar que siempre es posible mejorar».
Sam Altman, de OpenAI, por su parte, dijo que «es fantástico que nuestra industria manifieste su deseo de unirse, coordinarse y garantizar que disponemos de tiempo suficiente para hacerlo de forma segura». Y añadió que «cuando surge la idea de que, debido a las presiones comerciales y a la carrera -ya sea entre empresas o entre países-, alguna compañía o nación podría no hacer lo correcto, creo que es entonces cuando la gente siente un gran temor».
Source: Bolsamania.com
