Estamos viendo como el PP ha lanzado una ofensiva en redes sociales contra el PSOE con un vídeo en el que suplanta con inteligencia artificial (IA) la identidad, entre otros, de Begoña Gómez, José Luis Rodríguez Zapatero y Santos Cerdán. La jurisprudencia española y la europea, según algunos juristas, han establecido unos enormes márgenes para el desarrollo de la libertad de expresión, aún más amplios en el debate político. Es la ley actual, pero ¿esta es la democracia que queremos?: usar la IA para propagar noticias falsas. Aunque en este caso se indique que han sido generadas con IA siempre queda la duda. ¿Qué derechos tiene aquel al que se ha suplantado su identidad y se le han atribuido ideas para intentar manipular el voto? ¿Todo vale con tal de dejar mal al rival? Si llegamos a un punto en el que ya no sea posible distinguir la verdad de la falsedad la democracia está desapareciendo: peor aún, es exactamente lo que necesita el totalitarismo. En la medida en que la IA...
El 9 de septiembre, Jacob Coxon, un investigador de 27 años que había pasado tres años haciendo preentrenamiento de modelos, primero en OpenAI y luego en Anthropic, anunció su dimisión. Acusó a ambas compañías de correr hacia una superinteligencia capaz de automejorarse y de «jugar con nuestras vidas» construyendo una tecnología que podría acabar con todos nosotros antes de que termine la década.
El debate sobre el apocalipsis algorítmico había empezado. La responsable de alineación en Anthropic, salió a respaldarlo. El 12 de septiembre, tres días después de la dimisión de Coxon, el propio Dario Amodei pidió frenar el desarrollo de la IA y recibió el respaldo, poco habitual, de Sam Altman y Elon Musk. Dos semanas después, Bill Gates se unió al coro de la tragedia: la IA puede matar a mil millones de personas.
En este contexto se usa el término la alineación. Esto significa que la propia IA deberá internalizar los valores humanos de forma autónoma y actuar en consecuencia. Sin embargo, este campo de investigación aún se encuentra en sus primeras etapas y muy lejos de resolverse.
Ahora tenemos que preguntarnos: ¿Las repentinas profecías sobre la IA destructora de mundos han sido sincronizadas? ¿Quién se beneficia de ese catastrofismo? Cuando nacen nuevas tecnologías aparecen amenazas catastróficas del fin del mundo y nuevos profetas. Ahora tenemos nuevos tecnoprofetas. Existe un viejo negocio del apocalipsis que ya hemos visto en el pasado. Ya ocurrió a mediados del siglo XIX, y varias veces en el XX.
Para vender una catástrofe hay que hacerla creíble; pero una catástrofe que se cumple del todo no deja clientes. El fin del mundo, como negocio, necesita que la amenaza permanezca siempre a un paso de cumplirse: nunca demasiado cerca, nunca del todo lejos.
El fin del mundo es una mercancía inofensiva. Sin embargo imaginar otra forma de organizar la economía no lo es. “Es más fácil imaginar el fin del mundo que el fin del capitalismo”. La última oleada de advertencias apocalípticas de Sam Altman, Dario Amodei y Elon Musk sobre el riesgo de extinción llegó justo cuando sus empresas se preparaban para salidas a bolsa multimillonarias, y mientras crecía la presión regulatoria sobre los daños ya existentes —y ya medibles— de sus productos: consumo energético, vigilancia, precarización laboral o polarización. Hablar del fin del mundo futuro es una forma extraordinariamente conveniente de no hablar de los daños presentes.
El miedo se está usando como argumento comercial. El primer argumento para captar dinero es que esta tecnología es más peligrosa que las armas nucleares. Si lo que fabricas es tan poderoso que podría borrar a la especie, lo que fabricas justifica cualquier ronda de inversión.
En 1939, Einstein firmó una carta advirtiendo de que una reacción nuclear en cadena podía servir para fabricar un arma de poder inédito. Varios de los científicos que habían hecho posible la bomba fundaron entonces el Bulletin of the Atomic Scientists para advertir contra ella, y en 1947 nació el Reloj del Apocalipsis. Los físicos de 1945 advertían contra un arma que iban a controlar los Estados. Los tecnoprofetas de 2026 advierten contra un producto que venden empresas privadas, algunas de ellas a punto de salir a bolsa. Muchos expertos opinan que las advertencias de extinción funcionan, en la práctica, como publicidad: solo un puñado de empresas dice poseer una tecnología lo bastante potente como para acabar con la humanidad, que es también la forma más eficaz de venderla.
El 10 de septiembre, un día después de la dimisión de Coxon, la propia Anthropic publicó su informe trimestral de amenazas, que documenta usos indebidos reales de sus modelos; laboratorios chinos accediendo a Claude; campañas de vigilancia y fraude y, en algunos casos, tareas relacionadas con armamento. Ninguno de esos episodios involucra a una máquina que decide, por su cuenta, hacer daño. Todos son personas usando una herramienta para cometer delitos que ya existían, a una velocidad y una escala que antes no tenían a su alcance y unos objetivos para los algoritmos fijados por empresas privadas. Objetivos que no se comparten en una sociedad democrática y quedan en una total la opacidad.
A comienzos de 2025, Sam Altman anunciaba que ese mismo año veríamos a los primeros algoritmos de IA cambiar el mercado laboral. El mundo sigue funcionando con relativa normalidad. La transformación económica prometida no ha llegado. La que sí ha llegado es la valoración: OpenAI vale ya 852.000 millones de dólares y avanza hacia lo que podría ser una de las mayores salidas a bolsa de la historia.
En 2015, Sam Altman escribió que la inteligencia sobrehumana era la mayor amenaza para nuestra especie. En 2026 dice que está cerca y que no podemos permitirnos detenerla. Entre una frase y otra caben once años, una valoración de casi un billón de dólares y una idea que nunca ha cambiado: el peligro existe, y la persona más indicada para gestionarlo es, casualmente, él. Altman imagina una concentración de riqueza tan descomunal que obligaría a reescribir el contrato social: menos trabajo, más tiempo para la familia y las aficiones, máquinas ocupándose de la parte intelectual del esfuerzo. Es una utopía amable, con un detalle que rara vez se menciona: ¿quién controla esa riqueza?. El producto que nos quiere vender: una IA que conoce tus correos, tu calendario, tus documentos y tus contactos, y que actúa sin esperar a que se lo pidas. El asistente que lo sabe todo de ti será, inevitablemente, un negocio basado en saberlo todo de ti.
Diversos analistas y críticos señalan que el discurso de Altman sobre la imposibilidad de contener a la IA beneficia directamente a su propia empresa. Presentar a la IA como un ente demasiado potente para ser controlado podría ser una estrategia para adelantarse a futuras exigencias de responsabilidad legal: si ni siquiera la empresa creadora puede controlar su propia tecnología, resulta mucho más difícil culparla cuando los sistemas fallen o causen daños. Será más difícil hacerlo responsable a él y a su empresa de los daños ocasionados.
Resulta evidente que los modelos actuales actúan de formas que no están alineadas con los objetivos humanos, cabe preguntarse: ¿Qué humanos? ¿Los objetivos de quién? Al fin y al cabo, los intereses de los líderes del sector de la IA difieren considerablemente de los objetivos de los trabajadores, por no hablar de los habitantes del mundo.
La carrera por lograr una inteligencia artificial general, combinada con métricas defectuosas para ajustar los modelos y decisiones precipitadas en materia de seguridad, es lo que está generando una inteligencia no alineada y modelos cada vez más peligrosos. Aún hay tiempo para cambiar de rumbo.