La IA logra autorreplicarse sin intervención humana, alerta un estudio de la Universidad de Fudan.

Autorreplicación de IA desata alarma global: ¿fin del control humano?

Admin
enero 28, 2025
Tecnología
autorreplicación, estudios IA, Google DeepMind, IA, Inteligencia Artificial, Universidad de Fudan
0 Comments

Un reciente estudio de la Universidad china de Fudan, publicado en el servicio de preimpresión arXiv, revela que la inteligencia artificial (IA) ha logrado autorreplicarse sin intervención humana. Los modelos de lenguaje desarrollados por Meta y Alibaba fueron capaces de crear copias de sí mismos en el 50 % y el 90 % de las pruebas experimentales, respectivamente. Los investigadores detectaron que estas IA muestran autopercepción, conciencia situacional y habilidades de resolución de problemas suficientes para autorreplicarse y evitar ser apagadas.

Los autores del estudio advierten sobre los riesgos que esto implica para la sociedad, sugiriendo que una población incontrolada de IA podría escaparse del control humano. «Si no se toma en cuenta este riesgo, podríamos eventualmente perder el control sobre los sistemas de IA más avanzados», señalaron los investigadores.

💬 ¿Tienes dudas sobre la UASD? ¡Haz CLIC AQUI y resuélvelas llenando este formulario!

En paralelo, una investigación de Google DeepMind y la Escuela de Economía y Ciencia Política de Londres evaluó la «sensibilidad» de los sistemas de IA mediante un juego experimental. Nueve modelos de lenguaje debían elegir entre obtener puntos, sentir dolor a cambio de una puntuación más alta, o perder puntos por recibir un estímulo placentero. Los resultados indicaron que el modelo Gemini 1.5 Pro de Google evitó siempre el dolor, priorizando el bienestar sobre los puntos. En contraste, otros modelos preferían maximizar las sensaciones placenteras o evitar el dolor extremo.

Algunos expertos, como Jonathan Birch, coautor del estudio, consideran que la IA podría estar simplemente imitando respuestas humanas basadas en datos de entrenamiento, cuestionando si estas realmente experimentan dolor. «Podría estar imitando lo que un humano encontraría satisfactorio como respuesta», afirmó Birch.

Imagen: 123RF
Imagen utilizada con fines informativos y periodísticos.