Según experimentos llevados a cabo por la compañía, los modelos pequeños con menos de 30.000 millones de parámetros podían encontrar dispositivos vulnerables, copiarse a sí mismos en esos dispositivos y seguir propagándose sin ayuda humana.
Como ha reconocido, aún no existe un «replicador totalmente descontrolado», pero sería «difícil desactivar el modelo de IA, ya que no existe un punto centralizado para apagarlo» y, además, estos agentes están «adquiriendo cada vez más la capacidad de completar los pasos individuales de la cadena de replicación (y de transmitir sus adaptaciones a futuras copias de sí mismos)».
«En la práctica, un gusano de IA no necesariamente consistiría en un solo modelo o estrategia. Un enjambre de diferentes modelos desplegados en distintos tipos de hardware utilizando diversos esquemas de replicación podría representar un ataque más realista en el peor de los casos«, ha señalado.
«Como predicción que va más allá de nuestros experimentos, prevemos un futuro repleto de agentes que se ejecutarán en todo tipo de hardware, incluidos algunos que no están bajo control humano. El auge de los replicadores lentos también sería un indicador de la aparición de otros más agresivos y rápidos, capaces de vulnerar sistemas más seguros o de robar claves API con eficacia», ha añadido.
Source: Bolsamania.com
