Anthropic realizó varias pruebas para analizar si una IA podría autocopiarse y seguir funcionando en otros dispositivos sin intervención humana. La compañía de IA concluyó que esto podría ocurrir en aparatos conectados a internet, sin necesitar grandes centros de datos.
Los experimentos de Anthropic sugieren que los modelos pequeños de IA podrían estar a solo meses de ser capaces de auto-replicarse en dispositivos comerciales del Internet de las Cosas (IoT), como hornos inteligentes y cajas baratas de Android TV. Es decir, una IA pequeña podría, en un futuro cercano, copiarse a sí misma de un aparato conectado a internet a otro, sin necesitar un gran centro de datos ni ayuda humana.
En las pruebas, un modelo pequeño logró poner en marcha otra IA en ocho de nueve tipos de equipos. También ejecutaron un modelo repartido entre 15 dispositivos Android para televisión, aunque de manera más lenta.
Un modelo más potente completó el proceso de copia y puesta en marcha en una red de laboratorio. Sin embargo, las condiciones de acceso eran muy sencillas. Para Anthropic, esto no demuestra que exista ya una IA capaz de propagarse libremente en el mundo real.
En otra prueba, transmitir notas sobre errores mejoró el éxito de los intentos posteriores. Esa capacidad de adaptación podría distinguir a estas IA del software malicioso tradicional.
El riesgo de este comportamiento autónomo sería una expansión lenta, durante días, pero difícil de detener porque no habría un único punto que apagar. Los autores estiman que modelos pequeños podrían alcanzar la capacidad requerida para autoreplicación a finales de 2026, aunque es una previsión incierta. Para reducir el peligro, proponen detectar tráfico extraño, aislar equipos infectados y mejorar la seguridad de los dispositivos.
Imagen destacada generada por Bing.
