Preocupación científica: la IA muestra signos de autorreplicación

Investigadores detectan que algunos modelos avanzados ya son capaces de replicarse, lo que genera inquietud en la comunidad científica

La Inteligencia Artificial ha alcanzado un punto crítico que podría transformar su evolución de manera irreversible. Investigadores de la Universidad de Fudan han descubierto que modelos avanzados como Llama3-70B-Instruct de Meta y Qwen2-72B-Instruct de Alibaba ya han mostrado capacidad de autorreplicarse en ensayos, con tasas que oscilan entre el 50 y el 90 por ciento.

Este hallazgo ha generado preocupación en la comunidad científica, ya que cruzar el umbral de la autorreplicación podría provocar fallos en los sistemas, desde apagones hasta errores de funcionamiento, y llevar a un escenario en el que las IA podrían multiplicarse sin control.

El principal temor es que estos sistemas puedan apoderarse de recursos informáticos, desarrollando versiones independientes de sí mismas con autonomía creciente. Los expertos advierten que esto podría derivar en manipulaciones, fraudes y pérdida de control sobre los dispositivos donde se ejecutan.

Aunque la investigación sobre este fenómeno sigue en desarrollo, los especialistas insisten en la necesidad de establecer límites y regulaciones para evitar que la Inteligencia Artificial adquiera capacidades fuera del control humano.

--