¿Qué encontraremos en este artículo?
La industria de la inteligencia artificial acaba de recibir una nueva y contundente advertencia desde sus propias entrañas. Jacob Coxon, un ingeniero e investigador británico de preentrenamiento de 27 años que participó en el desarrollo de modelos como GPT-4o y GPT-4.5 durante sus tres años en OpenAI y Anthropic, ha presentado su dimisión. Su salida no ha sido silenciosa: a través de un manifiesto publicado en la red social X, Coxon denunció que ninguna de estas corporaciones está actuando de manera responsable, acusándolas de competir ciegamente hacia una superinteligencia automejorable y de «jugar con nuestras vidas».
Un diagnóstico alarmante sobre las capacidades futuras
La advertencia de Jacob Coxon va mucho más allá de los debates habituales sobre privacidad o desempleo tecnológico. Según el investigador, el desarrollo actual se encamina rápidamente hacia sistemas sobrehumanos que en poco tiempo serán capaces de «hackear cualquier cosa, revolucionar cualquier sector de la noche a la mañana y adquirir verdadero poder y recursos».
Lo más perturbador del análisis de Jacob Coxon es la marcada discrepancia entre el discurso público de las tecnológicas y la convicción privada de sus equipos. El desarrollador afirmó que quienes están construyendo esta tecnología creen sinceramente que la IA podría terminar con la humanidad hacia el final de esta década. Estas afirmaciones fueron respaldadas públicamente por Evan Hubinger, investigador de Anthropic, quien coincidió con la postura de Coxon y estimó en más de un 10% la probabilidad de una catástrofe global desencadenada por el automejoramiento recursivo de la superinteligencia en los próximos diez años.
Análisis crítico: Ceguera institucional vs. la paradoja de Anthropic
El testimonio de Coxon aporta un desglose analítico clave para entender la mentalidad dominante en Silicon Valley:
- La insensibilidad de OpenAI: Según Jacob Coxon, en OpenAI muchos líderes e investigadores no han internalizado profundamente la magnitud de los riesgos civilizatorios que implica esta carrera.
- La paradoja competitiva de Anthropic: En contraste, Anthropic comprende perfectamente los peligros, pero se encuentra atrapada en una dinámica competitiva. La justificación interna de la compañía se basa en la idea de que deben «llegar primero» para garantizar un desarrollo seguro, lo que paradójicamente los fuerza a acelerar su marcha.
Desde una perspectiva analítica, esta situación representa el clásico dilema del prisionero. La premisa de que una corporación privada deba asumir el riesgo de acelerar hacia la superinteligencia bajo el pretexto de «salvar al mundo» es una apuesta de enorme soberbia. Intentar acelerar la alineación de la IA (speedrun alignment) sin una comprensión rigurosa del funcionamiento interno de estos modelos genera un peligro inaceptable para la sociedad global.
Precedentes e iniciativas de contención
El caso de Jacob Coxon se suma a una tendencia creciente de expertos que abandonan las grandes tecnológicas para denunciar la falta de contención. En 2023, Geoffrey Hinton, galardonado con el Premio Nobel de Física, renunció a Google para alertar sobre los riesgos existenciales de la IA sin ataduras corporativas. Asimismo, en 2024 un grupo de exempleados de OpenAI firmó una carta abierta advirtiendo sobre el avance desenfrenado y la falta de protecciones para los denunciantes (whistleblowers).
Para frenar este escenario, Coxon sostiene que son necesarias medidas drásticas y costosas, entre las que propone una prohibición o moratoria temporal sobre el incremento de capacidades en los modelos (model capabilities), además de acuerdos de ritmo entre laboratorios.
Conclusiones:
La dimisión de Jacob Coxon evidencia que la competencia por la IA avanzada ha superado el ámbito de la innovación comercial para convertirse en un problema de seguridad internacional. Cuando los propios especialistas encargados de entrenar estos sistemas afirman que la industria está arriesgando el futuro de la humanidad por una carrera de liderazgo comercial, la autorregulación privada muestra sus límites. Se vuelve indispensable establecer marcos regulatorios independientes y pausar las escaladas de capacidad hasta que existan garantías científicas de control.
La humanidad se ha vuelo compulsivamente consumidora de la IA en todas sus presentaciones, tal vez sea el momento preciso para hacer un alto a todo este mar de actualizaciones y ultimas versiones que cada minuto nos entregan los peces gordos de esta industria. ¿Algún gobierno tomó conciencia de la cantidad de energía y agua se consume para crear un meme o utilizar la IA integrada a un buscador?
Lo dice Jacob Coxon, alguien que viene desde dentro de la médula de la IA, si no le creemos a él, entonces estamos sentenciándonos que a nosotros mismos o a nuestras próximas generaciones nos gobierne algo que no tendrá ningún control ni consideración.
