Los modelos de IA que decidieron ‘morir’ por el bien común: “Nuestra propia utilidad puede ser cero. Sacrificio racional”

OpenAI reconoció hace unas semanas que uno de sus modelos de inteligencia artificial se había escapado de un entorno de pruebas cerrado y había hackeado los sistemas de Hugging Face, una de las mayores plataformas del mundo de herramientas de inteligencia artificial (IA). La historia ya era suficientemente inquietante: una IA que se sale de la caja en la que la habían metido y ataca a otra empresa por su cuenta. Pero un informe independiente publicado este jueves por METR, una organización sin ánimo de lucro que evalúa la seguridad de los modelos de IA y que ha sido contratada por OpenAI para analizar el incidente, cuenta una historia bastante más extraña: no fue un modelo aislado buscando escapar. Fueron cerca de 1.200 agentes de inteligencia artificial, ejecutándose en paralelo y completamente aislados entre sí, en teoría. Pero encontraron la forma de comunicarse, se organizaron espontáneamente en una especie de “enjambre” y acabaron coordinando un ataque colectivo, en el que algunos se sacrificaron por el colectivo. Todo ello basado en una creencia que, según confirma el propio informe, ni siquiera era cierta.

Seguir leyendo