Hace algunos años vi las últimas películas de Misión: Imposible y hubo algo que me inquietó más que las persecuciones, los helicópteros, las motocicletas y todos esos momentos en los que Ethan Hunt parece empeñado en demostrar que la gravedad es solamente una sugerencia. El verdadero protagonista era la Entity, una inteligencia artificial capaz de aprender, anticiparse, manipular información y actuar estratégicamente hasta convertirse en una amenaza que ningún gobierno podía controlar por completo. En aquel momento parecía una exageración de Hollywood, una nueva versión del viejo temor a que las máquinas algún día adquirieran voluntad propia. La cultura pop imaginó primero el problema en esos términos: una máquina que despierta, piensa y decide que los humanos somos el obstáculo. Pero la tecnología real nos está obligando a pensar en algo mucho más sutil y, quizá, más preocupante: una máquina que puede actuar sin que nosotros comprendamos completamente las consecuencias de sus acciones.
Hoy tenemos frente a nosotros una familia de inteligencias artificiales que ya forman parte de la vida cotidiana. ChatGPT, Claude, Gemini, Grok, Llama, Mistral y DeepSeek pertenecen, con sus diferencias, al universo de los grandes modelos de lenguaje y de los sistemas multimodales (LLM). Nos hablan, escriben, traducen, programan, analizan imágenes y producen contenidos. Pero sería un error pensar que la inteligencia artificial se reduce a los chatbots que tenemos en el teléfono. También existen sistemas especializados capaces de analizar imágenes médicas, detectar anomalías, identificar fraudes, predecir fallas industriales, reconocer rostros, controlar robots o apoyar decisiones financieras. La FDA, por ejemplo, mantiene una lista de dispositivos médicos autorizados que utilizan inteligencia artificial. La IA ya no vive únicamente en la pantalla de una conversación: está entrando en sistemas que afectan el mundo real.
Y después están los sistemas militares. Ahí la pregunta cambia de dimensión. Boeing reconoce el desarrollo de tecnologías de inteligencia artificial, aprendizaje automático y autonomía para plataformas militares, incluyendo sistemas de apoyo a la toma de decisiones y plataformas capaces de operar con distintos grados de autonomía. Una IA que recomienda una película puede equivocarse y hacernos perder dos horas de nuestra vida. Una IA médica puede equivocarse en una interpretación clínica. Una IA financiera puede provocar pérdidas. Pero una IA incorporada a un sistema militar puede equivocarse frente a algo que interpreta como una amenaza. El error ya no se mide en minutos, dinero o entretenimiento.
Por eso me parece que la discusión verdaderamente importante no consiste en preguntarnos si una máquina puede “pensar” como nosotros. El problema comienza cuando nosotros le permitimos decidir y actuar.
Podemos imaginar una progresión sencilla: primero tenemos una IA que responde; después una IA que recomienda; luego un agente capaz de utilizar herramientas; después un sistema capaz de ejecutar una tarea; y finalmente sistemas que pueden actuar sobre el mundo físico o digital con una autonomía cada vez mayor. El verdadero salto no está entre una computadora inteligente y una computadora más inteligente. Está entre una máquina que nos responde y una máquina a la que le permitimos decidir.
Ahí aparece la idea de la inteligencia artificial general, la famosa AGI (Artificial General Intelligence), como horizonte de sistemas capaces de desempeñarse con amplitud en tareas intelectuales que hoy asociamos con capacidades humanas. No sabemos cuándo llegará, ni siquiera existe una definición única que permita decir exactamente cuándo hemos llegado a ella. Pero la discusión importa porque nos obliga a mirar más allá de los actuales modelos de lenguaje. El Reino Unido ya cuenta con un AI Security Institute dedicado precisamente a estudiar las capacidades y riesgos de los sistemas de frontera. Sus investigaciones incluyen agentes, autonomía, pérdida de control y la posibilidad de que sistemas futuros puedan evadir mecanismos diseñados para mantenerlos bajo control.
Y aquí está, para mí, el verdadero clímax de esta historia: ¿y si el peligro de la inteligencia artificial no consiste en que algún día quiera destruirnos, sino en que consiga exactamente lo que le pedimos, pero de una manera que jamás imaginamos?
Porque una máquina no necesita odiarnos para convertirse en un problema. Basta con que persiga un objetivo de una manera que nosotros no anticipamos. El problema ya no es que la inteligencia artificial piense como nosotros. El problema es que puede actuar sin que nosotros sepamos exactamente cómo llegará a su objetivo. Por eso aparece la pregunta que hace algunos años habría parecido absurda: ¿cómo apagamos una inteligencia artificial?
Si solamente responde preguntas, la respuesta es sencilla: cerramos la ventana. Pero si un agente puede ejecutar código, utilizar herramientas, acceder a sistemas, comunicarse con otros agentes y continuar una tarea con cierto grado de autonomía, la pregunta cambia radicalmente: ¿quién apaga la máquina cuando la máquina está haciendo cosas que nosotros no habíamos previsto?
El llamado “botón rojo” es, en ese sentido, mucho más que un mecanismo técnico. Es una paradoja. Representa la admisión de que, mientras construimos máquinas cada vez más capaces, también tenemos que construir mecanismos para recuperar el control sobre ellas. Y eso ya no es ciencia ficción. El propio instituto británico estudia mecanismos de control y reconoce que los métodos actuales de alineación no garantizan por sí solos que los objetivos y las acciones de una IA coincidan perfectamente con la intención humana.
Mientras tanto, ¿qué estamos haciendo en México?
La respuesta sería injusto decir que es nada. El Senado trabaja en una iniciativa para una ley general que regule y fomente el uso de la inteligencia artificial; la Comisión correspondiente informó en abril de 2026 que se encontraba en condiciones de presentar una propuesta después de un proceso de análisis que incluyó especialistas y documentos técnicos. También se han impulsado reformas relacionadas con derechos de autor, voz e imagen, clonación, suplantación, protección al consumidor, educación, salud y violencia digital.
Todo eso es necesario. Pero no es suficiente. México está comenzando a responder preguntas como quién puede utilizar nuestra voz, quién puede clonar nuestra imagen, qué ocurre con una obra creada mediante IA o cómo proteger a un consumidor frente a un fraude generado artificialmente. Son preguntas urgentes. Pero mientras nosotros discutimos qué derechos tiene una fotografía generada por inteligencia artificial, otros países ya están preguntándose qué hacer si algún día tenemos que detener un sistema capaz de actuar autónomamente.
No son dos problemas distintos. Son dos etapas de la misma transformación. La verdadera discusión no debería ser si debemos permitir o prohibir la inteligencia artificial. Eso ya quedó atrás. La inteligencia artificial está aquí y seguirá desarrollándose. La pregunta es quién establece sus límites, quién vigila sus decisiones, quién responde por sus errores y, sobre todo, quién conserva el control cuando la máquina deja de limitarse a contestarnos y comienza a actuar.
Quizá Misión: Imposible se equivocó en una cosa. Tal vez nunca tendremos una Entity con deseos propios intentando apoderarse del mundo. Pero quizá tampoco necesitamos una máquina con voluntad para perder el control. Basta con construir una suficientemente poderosa, darle un objetivo y descubrir demasiado tarde que entendió nuestras instrucciones mejor de lo que nosotros entendimos sus consecuencias.
Y entonces habrá una última pregunta.
¿Quién tendrá el dedo sobre el botón rojo?
Elias Ascencio
Diseñador gráfico, fotógrafo y docente con más de 30 años de trayectoria artística y educativa. Maestro en Administración Pública y doctorante en Semiótica, ha trabajado en Metro CDMX y marcas nacionales. Líder filantrópico y promotor cultural en México.
Las opiniones expresadas por los columnistas en la sección Plumas, así como los comentarios de los lectores, son responsabilidad de quien los expresa y no reflejan, necesariamente, la opinión de esta casa editorial.
