Quizá el verdadero riesgo no sea solo que la IA nos supere, sino que nos volvamos incapaces de vivir sin ella.

Empezamos a comprender que la inteligencia artificial ya adapta sus respuestas al nivel que atribuye a su interlocutor. Simplifica, divulga, selecciona y elimina una parte de la complejidad para darnos una respuesta que se supone que podemos asimilar.

Pero quizá exista un peligro todavía más profundo.

Naturaleza del análisis. Este texto es un ensayo prospectivo: no anuncia un apagón futuro ni pretende calcular su probabilidad. Las fuentes utilizadas documentan más bien la necesidad de una supervisión humana, de competencias que permitan comprender los sistemas y de una gobernanza explícita de los riesgos.[1][2][3]

Lo que vamos a delegar

A medida que la inteligencia artificial sea más eficaz, le delegaremos no solo la búsqueda de información, sino progresivamente:

El problema, por tanto, no será únicamente que la inteligencia artificial sepa hacer más cosas que nosotros.

El problema será que dejaremos progresivamente de saber hacerlas sin ella.

Durante un periodo de transición, esta dependencia nos dará la ilusión de un formidable aumento de nuestras capacidades. Una persona asistida por la inteligencia artificial podrá redactar como un especialista, analizar como un investigador, programar como un ingeniero y diagnosticar como un experto.

Pero ¿será realmente suyo ese poder?

¿O solo un poder exterior al que tendrá acceso temporalmente?

Poseer una competencia o disponer de un servicio

Existe una diferencia fundamental entre poseer una competencia y disponer de un servicio capaz de ejecutarla en nuestro lugar.

Hoy, quien utiliza un sistema de navegación sabe llegar a su destino, pero no sabe necesariamente leer un mapa. Quien utiliza una calculadora sabe obtener un resultado, pero no siempre sabe rehacer el cálculo. Quien hace generar un programa informático puede obtener un software que funciona sin comprender con precisión por qué funciona.

Mañana, esta delegación podría afectar a toda la cadena productiva.

El ingeniero ya no calculará realmente la estructura: validará la propuesta de la inteligencia artificial.

El médico ya no construirá enteramente su diagnóstico: elegirá entre las hipótesis del sistema.

El mecánico ya no establecerá él mismo el procedimiento de reparación: sus gafas le indicarán qué pieza desmontar y en qué orden.

El obrero ya no memorizará los gestos: el robot los ejecutará.

El agricultor ya no conocerá necesariamente los signos que anuncian una enfermedad de las plantas: los sensores, los drones y los algoritmos la detectarán.

Seguiremos entonces produciendo, curando, construyendo y administrando. Pero una parte creciente del conocimiento efectivo ya no residirá en los seres humanos. Residirá en una infraestructura técnica compuesta de programas, modelos, centros de datos, redes eléctricas, enlaces internacionales y máquinas automatizadas.

¿Qué ocurriría si esa infraestructura dejara de funcionar de golpe?

Ahí surge una pregunta vertiginosa.

No necesariamente en todas partes y para siempre, sino durante el tiempo suficiente y en un territorio lo bastante extenso.

Un impulso electromagnético de gran magnitud, una guerra, un ciberataque coordinado, la destrucción de redes eléctricas, una ruptura duradera de las telecomunicaciones, el sabotaje de varios puntos neurálgicos o una combinación de crisis podrían hacer inaccesibles servicios de los que sociedades enteras habrían acabado dependiendo.

Un impulso electromagnético no haría necesariamente «estallar todos los centros de datos» como una sola bomba destruiría un edificio. En cambio, podría perturbar o dañar equipos eléctricos y electrónicos y, sobre todo, provocar una crisis de las infraestructuras de las que dependen los centros de datos: electricidad, refrigeración, telecomunicaciones, combustible, componentes y mantenimiento. Las recomendaciones de resiliencia dedicadas a este riesgo muestran precisamente que no se trata de una hipótesis puramente imaginaria.

Lo mismo ocurre con los cables submarinos. La destrucción de un cable no suprimiría evidentemente Internet. Las redes están malladas, las comunicaciones pueden redirigirse y existen redundancias. Pero estos cables siguen siendo infraestructuras críticas: transportan la inmensa mayoría de las comunicaciones intercontinentales, y su vulnerabilidad es ahora objeto de planes específicos de la Unión Europea y de la OTAN.

El riesgo creíble no es, por tanto, probablemente el de un botón único que apagaría definitivamente toda la inteligencia artificial mundial.

El riesgo es el de una cascada:

electricidad que falla, telecomunicaciones interrumpidas, centros de datos aislados, acceso imposible a los modelos, sistemas industriales desorganizados, cadenas logísticas paralizadas, mantenimiento retrasado y personal humano incapaz de retomar rápidamente las operaciones manuales.

El precedente egipcio

Y aquí es donde el paralelismo histórico se vuelve interesante.

En el antiguo Egipto, los saberes administrativos, religiosos, astronómicos, médicos y técnicos estaban concentrados en gran medida en un número limitado de instituciones y los transmitían comunidades especializadas. Cuando las estructuras que formaban a los escribas y conservaban los textos decayeron, no solo desaparecieron personas: se rompió la continuidad misma de la comprensión.

Las inscripciones siguieron grabadas en la piedra.

Pero ya nadie podía leerlas.

Mañana podríamos vivir una situación comparable en forma digital.

Los conocimientos podrían seguir existiendo en alguna parte, en discos, en copias de seguridad o en los parámetros de un modelo. Pero un conocimiento almacenado no es necesariamente un conocimiento utilizable.

Hace falta además:

Una sociedad puede, por tanto, poseer una cantidad gigantesca de información y, al mismo tiempo, perder progresivamente su capacidad autónoma de transformarla en acción.

La paradoja sería terrible: nunca la humanidad habría acumulado tantos conocimientos, pero nunca habría dependido tanto de un intermediario técnico para acceder a ellos.

La verdadera catástrofe no sería solo la pérdida temporal de la inteligencia artificial.

Sería descubrir, en el momento en que desaparece, que paralelamente habíamos dejado desaparecer a los seres humanos capaces de sustituirla.

Podríamos encontrarnos entonces con ingenieros incapaces de recalcular sin programas, administraciones incapaces de funcionar sin automatización, técnicos incapaces de establecer un diagnóstico sin asistencia, agricultores privados de los sistemas que dirigen su explotación y ciudadanos que saben pedir una solución, pero ya no saben construirla.

Por recurrir a una imagen deliberadamente trivial: podríamos volvernos extraordinariamente poderosos cuando todo funciona y luego encontrarnos completamente desamparados ante una llave inglesa cuando el sistema se detiene.

Este peligro tiene un nombre: la pérdida de competencias, o deskilling

Cuanto más delegamos una tarea, menos la practicamos. Cuanto menos la practicamos, menos sabemos transmitirla. Y si la generación siguiente entra directamente en un mundo en el que la inteligencia artificial realiza el trabajo básico, puede que nunca adquiera los fundamentos necesarios para comprender o retomar el sistema. Varios trabajos recientes subrayan precisamente este riesgo: la inteligencia artificial puede aumentar inmediatamente la productividad a la vez que reduce las ocasiones de aprendizaje, de práctica deliberada y de transmisión intergeneracional de los saberes.

Habría que hablar de copias de seguridad humanas

Por eso la resiliencia frente a la inteligencia artificial no debería ser únicamente informática.

Hablamos mucho de copias de seguridad, de ciberseguridad, de centros de datos redundantes, de soberanía digital y de redes protegidas.

Pero también habría que hablar de copias de seguridad humanas.

En cada ámbito esencial, habría que preservar:

Quizá deberíamos aplicar a las competencias humanas el mismo principio de redundancia que se utiliza para las infraestructuras críticas.

No se construye una central eléctrica con un solo sistema de seguridad.

No se debería construir una civilización con una sola fuente operativa de inteligencia.

La inteligencia artificial podría convertirse en el más formidable multiplicador de capacidades que la humanidad haya creado jamás. Pero si la utilizamos para suprimir progresivamente toda competencia humana redundante, podría convertirse al mismo tiempo en nuestro mayor punto único de fallo civilizatorio.

El reto no es rechazar la inteligencia artificial

Sería absurdo y probablemente imposible.

El reto es utilizarla sin dejar de aprender, comprender, verificar, reparar y transmitir.

Dicho de otro modo:

La inteligencia artificial debe aumentar las capacidades humanas, no convertirse en el único lugar donde se conservan esas capacidades.

Quizá la gran pregunta del siglo XXI​ no será solo:

«¿Hasta dónde puede la inteligencia artificial superar al ser humano?»

Sino también:

«¿Qué competencias debe conservar imperativamente el ser humano para el día en que la inteligencia artificial deje de responder?»

El riesgo último no es que la IA se vuelva más inteligente que nosotros. El riesgo es que nos volvamos menos capaces sin ella.

Una civilización no se derrumba solo cuando pierde sus bibliotecas. También se derrumba cuando sus bibliotecas siguen existiendo, pero ya nadie sabe leer, comprender, fabricar o reparar.

Habrá, pues, que proteger los centros de datos, las redes y los modelos. Pero, sobre todo, habrá que conservar «copias de seguridad humanas»: hombres y mujeres capaces de curar, calcular, construir, cultivar y reparar cuando la pantalla se queda en negro.