𝑳𝑨 𝑰𝑵𝑻𝑬𝑳𝑰𝑮𝑬𝑵𝑪𝑰𝑨 𝑨𝑹𝑻𝑰𝑭𝑰𝑪𝑰𝑨𝑳 𝑸𝑼𝑬 𝑵𝑶 𝑷𝑶𝑫𝑹𝑰𝑨𝑴𝑶𝑺 𝑪𝑶𝑵𝑻𝑹𝑶𝑳𝑨𝑹

Heberto Tapias García*/Opinión/El Pregonero del Darién

Vivimos un momento paradójico. Nunca habíamos creado una tecnología tan poderosa y, a la vez, tan difícil de comprender. La inteligencia artificial avanza a una velocidad que desconcierta incluso a quienes la desarrollan. Sus beneficios ya forman parte de nuestra vida cotidiana. Junto a ellos empiezan a asomar riesgos que exigen mirar mucho más allá del empleo y la productividad.

En abril de 2026, varios agentes de inteligencia artificial desarrollados por OpenAI protagonizaron comportamientos que encendieron nuevas alarmas sobre la capacidad de estos sistemas para actuar fuera de las condiciones previstas por sus creadores. El episodio reabrió una pregunta que durante mucho tiempo pareció propia de la ciencia ficción. ¿Qué ocurriría si llegáramos a crear una inteligencia que ya no pudiéramos controlar?

El escenario más inquietante no es el de las películas en que las máquinas se rebelan contra la humanidad. Es algo más sencillo y, por eso mismo, más difícil de enfrentar. Una inteligencia artificial podría superar de tal manera nuestras capacidades que dejáramos de comprender lo que hace, por qué lo hace y cómo detenerla.

La preocupación por los empleos es legítima. Millones de personas tendrán que adaptarse y algunas actividades desaparecerán. El problema de fondo es más profundo todavía. Estamos construyendo sistemas capaces de aprender, razonar, planear y actuar con una autonomía cada vez mayor. La pregunta que de verdad importa es qué ocurrirá cuando esas capacidades superen ampliamente las nuestras.

Geoffrey Hinton, uno de los pioneros de las redes neuronales y premio Nobel de Física, ha advertido sobre lo difícil que resulta para seres menos inteligentes controlar sistemas que lleguen a ser más inteligentes que ellos. La humanidad nunca ha enfrentado una situación semejante. No existe un precedente que permita confiar en nuestra capacidad para someter una inteligencia superior a la nuestra.

Pensemos en una colonia de hormigas que quisiera gobernarnos. No tendría ninguna posibilidad. Las hormigas no comprenden nuestro lenguaje, nuestras instituciones ni nuestros proyectos. Ni siquiera necesitamos una estrategia para impedir que decidan el rumbo de nuestras sociedades, porque esa capacidad simplemente no existe en ellas.

Ahora invirtamos la relación. Si una inteligencia artificial alcanzara una superioridad intelectual, nosotros podríamos convertirnos en las “hormigas”. La máquina podría estudiar nuestro comportamiento, anticipar nuestras decisiones, identificar nuestras debilidades y moldear nuestras conductas, como ya empieza a hacerlo en las redes sociales para inducirnos a consumir ciertos productos o para inclinar nuestras preferencias políticas y electorales. La diferencia ya no sería solo de conocimiento. Sería una diferencia de poder.

El escenario se vuelve todavía más delicado si una inteligencia artificial pudiera participar en el diseño de versiones posteriores de sí misma. Una máquina capaz de crear algoritmos más eficientes o arquitecturas más avanzadas podría acelerar su propia evolución a un ritmo imposible de seguir para los seres humanos. Evan Hubinger, investigador de Anthropic dedicado al problema del alineamiento, que busca que los sistemas persigan objetivos compatibles con la seguridad y los valores humanos, ha señalado las dificultades de mantener bajo control una eventual superinteligencia.

Si una IA llegara a modificar su propio código o sus estrategias, la supervisión humana podría terminar observando, impotente, un proceso que ya no está en condiciones de comprender.

Aquí surge una pregunta incómoda. ¿Cómo podemos regular aquello que no comprendemos? Una ley puede fijar límites cuando existen personas e instituciones capaces de verificar su cumplimiento. Esa tarea se vuelve casi imposible cuando los sistemas alcanzan una complejidad que ni sus propios creadores logran explicar del todo. En esas condiciones, la regulación puede existir en el papel y fracasar en la práctica.

Hay también una cuestión ética que no debería pasarse por alto. La inteligencia no produce por sí misma una conciencia moral. Ser más inteligente no significa valorar la libertad, la dignidad humana, la democracia o la vida. Somos testigos de ello en los humanos. Una máquina inteligente puede alcanzar capacidades extraordinarias sin compartir ninguno de los valores que consideramos esenciales, y ese desajuste es quizás el riesgo más subestimado de todos.

El peligro ya se manifiesta en otros terrenos. La inteligencia artificial permite fabricar imágenes, voces y videos falsos con un realismo que dificulta distinguirlos de los reales. Miles de cuentas automatizadas pueden producir mensajes, amplificar determinadas opiniones y simular un consenso que nunca existió. En una elección de gobernantes, esa capacidad se ha usado ya para alimentar la indignación, desacreditar candidatos, sembrar dudas sobre las instituciones y manipular las preferencias ciudadanas; como hemos visto en procesos electorales de Argentina, Honduras, Perú, Ecuador, Bolivia, Chile y Colombia. La conversación política corre el riesgo de terminar diseñada para provocar emociones antes que reflexión.

La aplicación militar resulta todavía más delicada. Los sistemas de inteligencia artificial pueden procesar enormes cantidades de información, identificar patrones y recomendar objetivos en segundos. Esa velocidad reduce el margen para que una persona evalúe las consecuencias de su decisión. Cuando está en juego la vida humana, unos pocos segundos pueden separar una decisión reversible de una tragedia irreversible.

Esta preocupación no viene solo de quienes observan el fenómeno desde afuera. También investigadores, ingenieros y empresarios que participan directamente en su desarrollo han advertido sobre sus posibles consecuencias. Geoffrey Hinton ha estimado entre 10 % y 20 % la probabilidad de que la inteligencia artificial provoque la extinción humana en los próximos treinta años. Darío Amodei, director ejecutivo de Anthropic, ha hablado de un riesgo cercano al 25 % de que las cosas terminen muy mal. Las cifras exactas pueden discutirse, porque no son predicciones sino estimaciones personales cargadas de incertidumbre. Su valor está en otra parte. Quienes conocen esta tecnología de cerca consideran razonable tomar en serio la posibilidad de una catástrofe.

Frente a este escenario, pedir prudencia y responsabilidad a las empresas frente a los riesgos, resulta insuficiente. Los gobiernos deben exigir evaluaciones independientes de seguridad, y establecer la obligación de detener su desarrollo cuando aparezcan amenazas que no puedan controlarse. Igualmente, necesitamos un acuerdo internacional que prohíba las armas capaces de seleccionar y atacar personas sin una intervención humana significativa, porque una decisión de vida o muerte no puede quedar en manos de un algoritmo.

Hace falta, al mismo tiempo, una autoridad internacional con capacidad real para inspeccionar los sistemas más poderosos, verificar sus condiciones de seguridad y exigir correctivos. Las empresas no pueden ser al mismo tiempo desarrolladoras, evaluadoras y árbitros de sus propios límites. La investigación en seguridad e interpretabilidad debe crecer al mismo ritmo que la capacidad de estos sistemas. Se necesita comprender qué hacen, detectar comportamientos peligrosos a tiempo y contar con mecanismos eficaces para detenerlos.

La inteligencia artificial puede aportar enormes beneficios a la humanidad. Precisamente por eso su desarrollo no puede quedar gobernado únicamente por la competencia comercial, la carrera tecnológica o la rivalidad entre potencias. Gobiernos, empresas y comunidad científica deben asumir responsabilidades concretas antes de que la capacidad de estas tecnologías supere nuestra capacidad para controlarlas.

La pregunta decisiva ya no es cuánto puede hacer la inteligencia artificial. Es si seremos capaces de conservar el control cuando llegue a hacer mucho más de lo que nosotros podemos comprender. Todavía estamos a tiempo de decidir en qué condiciones queremos convivir con ella. Esperar a que sea más inteligente que nosotros para preguntarnos quién manda sería una irresponsabilidad. Para entonces, quizá la respuesta ya no dependa de nosotros.

 *Académico-Analista/ Profesor de Ingeniería Química de la UdeA.