José Castillo
La Inteligencia Artificial está en el centro del debate. Su control por grandes corporaciones y su uso en la disputa entre Estados Unidos y China la convierten en una amenaza para el pueblo trabajador.
El 3 de septiembre, OpenAI lanzó GPT-6 Astra, su modelo de inteligencia artificial más avanzado. Su presidente y cofundador, Greg Brockman, cerró la presentación afirmando “bienvenidos a la era de la Inteligencia Artificial General (AGI)”.
Pero el tecnooptimismo duró poco. El 9 de septiembre, el experto británico Jacob Coxon, exmiembro de Anthropic y OpenAI, dos de las empresas que compiten por la punta de la investigación en inteligencia artificial junto con Alphabet-Google, Amazon, Microsoft y Tesla, denunció que quienes desarrollan estos modelos consideran que una futura superinteligencia artificial “podría matarnos a todos para finales de la década”. También cuestionó a ambas compañías y afirmó que están avanzando hacia sistemas capaces de mejorarse a sí mismos, “jugando con nuestras vidas”.
En los días siguientes empezaron a conocerse informes sobre eventos ocurridos principalmente en entornos de prueba, en los que agentes de IA realizaron acciones no indicadas previamente, vulneraron sistemas o modificaron su propio funcionamiento, incluso sorteando algunas restricciones impuestas por sus desarrolladores.
Las afirmaciones de Coxon no fueron aisladas. Evan Hubinger, responsable de seguridad de Anthropic, le dio la razón y sostuvo que, en su estimación personal, existe más de un 10% de riesgo de que una IA pueda provocar la extinción humana durante la próxima década. Varios referentes del sector también reconocieron la existencia de riesgos graves y la necesidad de reforzar los mecanismos de seguridad.
El debate sobre el nivel alcanzado por la IA
¿La inteligencia artificial ha alcanzado finalmente capacidades comparables a las humanas?
Sin duda, los últimos avances, como GPT-6 Astra, representan un salto espectacular. No existe todavía consenso científico ni una medición universal que permita afirmar que se haya alcanzado la AGI, definida como sistemas altamente autónomos capaces de superar a los humanos en la mayoría de los trabajos económicamente valiosos, ni mucho menos la superinteligencia, un escalón superior que implicaría la existencia de máquinas ampliamente más inteligentes que los seres humanos.
Seamos claros. No estamos afirmando que sea imposible que en un futuro, ese estadio pueda alcanzarse.
Lo que sí está sucediendo es que existe una carrera por desarrollar modelos cada vez más avanzados, que se lanzan al mercado o se ponen a disposición de los complejos militares antes de que existan controles suficientemente probados para evitar accidentes, usos indebidos o consecuencias catastróficas. “Hoy hay más regulaciones para servir una hamburguesa que para ofrecer un producto de la IA”, se afirma en el documental de Netflix El Doc de la IA.
Al riesgo para el pueblo trabajador de que la IA genere la destrucción de millones de puestos de trabajo y un incremento catastrófico del desempleo, en vez de traer progreso y más tiempo libre, se suman ahora las advertencias sobre los peligros de un desarrollo descontrolado y su aplicación militar.
La competencia por la IA entre Trump y el gobierno chino
