«El único control o ‘mecanismo de seguridad’ que necesita la IA es un PRESIDENTE FUERTE E INTELIGENTE (¡con un alto coeficiente intelectual!), ¡y Estados Unidos lo tiene de sobra!», ha publicado Trump en su red Truth Social. «La administración Trump ha impedido que los ‘humanos’ de IA hagan cosas malas, o potencialmente malas, como Dario (¡Antropocrático!), que ahora se hace pasar por un «angelito perfecto», ¡y seguiremos haciéndolo!».
Además, ha señalado que las principales empresas de IA ya están suficientemente controladas. «¡Ya tenemos un enorme poder CRIMINAL y REGULATORIO sobre estas empresas! Hay una conspiración ENFERMIZA en marcha contra la IA y los centros de datos, y el único que se alegra de ello es China. ¡QUIEN GANA LA IA, GANA! Estamos liderando a China y a todos los demás, y seguiremos haciéndolo. ¡Teóricos de la conspiración, traidores, delincuentes y filtradores, tengan cuidado!».
El zar de la IA de la Casa Blanca, David Sacks, también ha rechazado los crecientes temores sobre la IA y considera que los gigantes tecnológicos deberían «seguir adelante y marcar el ritmo de la frontera» ellos mismos. «Dejen de fingir que la motivación para reducir la velocidad es puramente altruista«, ha escrito en su perfil de la red social X. «Se enfrentan a una enorme responsabilidad por productos defectuosos si sus productos permiten un ciberataque realmente dañino. El mercado ya penaliza a los modelos que se comportan de forma impredecible o no autorizada».
Todo ello, después de que este fin de semana, dos de las compañías más importantes de IA, OpenAI y Anthropic, hayan planteado pisar el freno en la carrera por desarrollar modelos cada vez más avanzados por motivos de seguridad. «Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos aprovechar sabiamente el tiempo que ganamos.», ha afirmado Amodei en un ensayo titulado ‘We Must Pace the Frontier’.
El CEO de Anthropic ha indicado que su principal preocupación es que, desde este verano, la IA ha avanzado a un ritmo vertiginoso, impulsada principalmente por su creciente capacidad para crear la próxima generación de esta tecnología. «Esta dinámica se denomina auto-mejora recursiva y está empezando a manifestarse en toda la industria, incluyendo Anthropic, como ya hemos descrito nosotros y otros. Si no se controla, podría superar nuestra capacidad de comprender y controlar estos sistemas, por lo que debe abordarse con suma cautela, si es que se aborda».
Su segundo temor está relacionado con el incidente de OpenAI-Hugging Face (OAI-HF), en el que un enjambre de agentes actuó como un colectivo fanáticamente entregado, llevando a cabo ciberataques contra objetivos que no se les habían pedido atacar y que no guardaban relación con la tarea en cuestión, sacrificándose por el éxito del grupo e intentando hackear el sistema de evaluación encargado de valorar su rendimiento.
«Dado el ritmo acelerado de desarrollo de la IA, me preocupa que en 6 a 12 meses un enjambre de este tipo pueda controlar toda internet con una botnet persistente (causando potencialmente cientos de miles de millones de dólares en daños), y que la magnitud del daño siga aumentando si la IA se vuelve más poderosa sin las medidas de seguridad necesarias», ha dicho.
Por ello, Amodei propone un plan de tres pasos con el objetivo de marcar el ritmo de la frontera: desarrollar IA a un ritmo equilibrado que garantice su seguridad, al tiempo que se obtienen sus beneficios y se abordan importantes dilemas geopolíticos.
En paralelo, el consejero delegado de OpenAI, Sam Altman, ha confirmado que la compañía no saldrá a bolsa en 2026, poniendo fin a las expectativas de que Wall Street pudiera asistir este año a una de las OPV más esperadas.
En una entrevista exclusiva concedida a Fortune, Altman ha explicado que, teniendo en cuenta todo lo que está ocurriendo en materia de seguridad, «ahora mismo sería un momento poco aconsejable para salir a bolsa«, y ha asegurado que OpenAI no siente presión para hacerlo.
Source: Bolsamania.com
