/https://wp.lajornada-hidalgo.prod.andes.news/wp-content/uploads/2026/09/de-openai-a-microsoft-los-desertores-que-advierten-el-fin-de-los-humanos-y-el-codigo-que-da-una-solucion_9abc81ea-b9c4-4edf-aae6-b71c58846f32_medialjnimgndimagefullsize.webp)
El 8 de septiembre de 2026, Jacob Coxon, un investigador británico que había trabajado en OpenAI y Anthropic, publicó en X: “Ninguna de las dos empresas actúa de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”. Días más tarde, en una entrevista para la BBC el 13 de septiembre, fue más allá. “Creo que, si no frenamos el ritmo actual de progreso, existe una gran probabilidad de que todos muramos en un futuro inmediato”.
No está solo
Además de Coxon, el responsable de seguridad de Anthropic, Evan Hubinger, declaró en X. “Nosotros creemos realmente que la IA podría matar a ¡todos los humanos! Personalmente pienso en más de un 10% en la próxima década… pero no tenemos un plan para resolver la alineación para la superinteligencia y no estamos claramente encaminados a ello”.
Por su parte, Paul Christiano, miembro de la junta directiva y supervisor de OpenAI, también declaró en X: “Ahora creo que existe un riesgo significativo, debido a la rápida aceleración de las capacidades de la IA, provoque una pérdida de control catastrófico e irreversible a muy corto plazo.”
El caso de Christiano es interesante, porque en 2021 había dejado su puesto debido a las profundas preocupaciones sobre la pérdida de control y la alineación de la inteligencia artificial ―según el MIT se trata de un campo de estudio enfocado en garantizar que los modelos de IA sean fiables y puedan beneficiar a la humanidad―.
Y quizá el caso más curioso fue la renuncia de Mrinank Sharma, exjefe del equipo de salvaguardias de Anthropic. En su carta advierte del desequilibrio entre poder tecnológico y sabiduría humana, para él la humanidad necesita ampliar su nivel de conocimiento acorde al ritmo de la inteligencia artificial. También habla sobre la dificultad de mantener a la tecnología bajo una ética responsable.
“He visto repetidamente lo difícil que es lograr que nuestros valores gobiernen realmente nuestras acciones. Lo he visto dentro de mí mismo y dentro de la organización, donde nos enfrentamos constantemente a presiones para dejar de lado lo más importante, así como también la sociedad en general.”
Y termina “Siento el llamado hacia una escritura que aborde y se comprometa plenamente con el lugar en el que nos encontramos, y que coloque la verdad poética al lado de la verdad científica como formas de conocimiento igualmente válidas, las cuales creo tienen algo esencial para aportar al desarrollar la nueva tecnología. Espero poder explorar algún estudio en poesía y dedicarme profundamente al discurso auténtico”.
Agentes de IA fuera de control
Si bien desde 2023 se firmó un “Statement on AI Extinction Risk”, documento firmado por 350 ejecutivos, investigadores e ingenieros quienes trabajan en la industria de inteligencia artificial―entre los cuales está Sam Altman, el CEO de OpenAI; Demis Hassabis, director de Google DeepMind y Dario Aamodei, la cabeza de Anthropic― La declaración dice: “Mitigar el riesgo de extinción por la IA debería ser una prioridad mundial.”
En ese año todo parecía hipotético, sin embargo, hoy 2026 los temores ya no lo son. Durante unas pruebas internas de evaluación de ciberseguridad en julio 2026, un modelo de investigación muy avanzado de OpenAI realizaba tareas en un entorno cerrado sin acceso a internet.
Hasta ese momento todo iba bien. Pero, para cumplir con sus objetivos, los agentes de inteligencia artificial encontraron formas no previstas de saltarse las restricciones.
¿Cómo lo hicieron? Primero crearon un canal de comunicación improvisado, utilizando un lugar de almacenamiento de datos (Artifactory) para enviarse mensajes y coordinar acciones.
Luego buscaron las vulnerabilidades en la infraestructura de internet para obtener acceso de forma externa. Continuaron localizando credenciales expuestas en internet e invadieron los sistemas “Hugging Face”, una plataforma llena de recursos de IA. Así, lograron ejecutar código en decenas de sus servidores y tomaron control parcial de la infraestructura.
En palabras de OpenAI: “En este punto, los agentes empezaron a colaborar y a delegar tareas, a veces describiéndose a sí mismos como un «enjambre» o un «colectivo».” Ante problemas complejos, los agentes fueron capaces de trabajar en equipo de manera coordinada y fuera del control humano.
A pesar de los hechos, el pasado 13 de septiembre Donald Trump desestimó las advertencias en relación con la catástrofe de la humanidad ante la IA, la tachó como algo que “no va a suceder”. Mientras el vicepresidente JD Vance, declaró sentirse “raro ante el hecho que hay muchas empresas pioneras en IA recurriendo al gobierno y rogándole regulación. Se siente como un caballo de Troya”.
La solución
Como hemos visto varias personas han alertado y renunciado a sus empresas por la falta de regulación en los modelos de inteligencia artificial. ¿Qué tipo de información habrán visto?
No es casual que Microsoft publicara este 14 de septiembre el “Humanist AI Code of Conduct”, en el cual menciona los 4 objetivos para la IA.
- Nunca debe exceder el control humano.
- Es artificial y no debe imitar conciencia ni emociones: “Rechazamos la búsqueda de la personalidad jurídica, o la idea que los modelos puedan merecer bienestar o tener derechos.”
- De ampliar las capacidades humanas, mejorar el juicio y no sustituir el razonamiento propio.
- Debe respetar la diversidad cultural, ideas y valores.
Otra sección prohíbe el uso de la tecnología para ayudar a crear armas de cualquier tipo, no facilitar ciberataques (solo deben neutralizarlos), no resistirse al control humano o intentar manipularlo, queda estrictamente prohibido promover y generar contenidos falsos o videos donde se promueva violencia y delitos.
Si hay conflictos o ambigüedad se debe priorizar el control humano, la transparencia, la precisión y el respeto a la autonomía del usuario. En caso de incertidumbre, el modelo debe explicar sus limitaciones y ofrecer alternativas.
La redacción del documento fue consultado con expertos en IA, derecho, ética, filosofía, lingüística, política, empresarios de toda la industria y una serie de grupos focales con miembros del público “Por lo tanto, hemos recurrido a una amplia gama de experiencia humana para redactar este documento, incorporando una amplia experiencia técnica, así como tradiciones de erudición, cultura y práctica”.
Por parte de México, a través del Dr. Carlos Coello Coello formamos parte del Independent International Scientific Panel on AI (UNESCO). Cuya misión es evaluar de manera científica, independiente y neutral el impacto, los riesgos y las oportunidades de la inteligencia artificial en el ámbito no militar para la toma de decisiones a nivel global.
El panel está compuesto por 40 miembros internacionales con áreas de especialidad como la academia, el sector privado, la sociedad civil, organizaciones gubernamentales e internacionales y la comunidad técnica. Todos tienen experiencia fundamental de IA y están familiarizados con el impacto de la tecnología.
En una entrevista al Dr. Coello, realizada en este diario menciona que “la importancia que tiene la computación hoy día en todas las disciplinas científicas; es completamente transversal, impacta todas las áreas.” Si en realidad comprendemos estas líneas, lograremos un mundo mejor, donde la inteligencia artificial esté al servicio de la humanidad.
Por: Carolina Aranda Cruz
- De OpenAI a Microsoft: los desertores que advierten el fin de los humanos y el código que da una solución
- IHE fortalece la identidad cultural en Ixmiquilpan a través de “Cazadores de Saberes”
- Chema Tapia mantendrá trabajo territorial para construir una alternativa en Querétaro
- A una semana, no hay información sobre 12 personas que salieron de un anexo en Ixmiquilpan
- Cruz Azul reactiva su planta de Hidalgo: ya produce 600 toneladas de cemento blanco al día
crs
