La era de la insensatez digital

No todo lo digitalizado está protegido

Imaginemos una empresa que lleva treinta años haciendo razonablemente bien su trabajo. Un día alguien sube a una inteligencia artificial varios informes. El resumen es bueno. Después llegan los correos, los ajustes finales de las propuestas, los presupuestos y los procedimientos internos. Cada incorporación ahorra tiempo y anima a probar la siguiente.

La empresa es solo el punto de entrada. Pensemos también en un colegio, un centro de salud, una asociación vecinal, una administración o alguien que organiza su trabajo y su vida cotidiana con estas herramientas. Cambian las tareas, el tamaño y las consecuencias, pero la pregunta nos alcanza igual: qué hemos delegado y cómo seguimos si la herramienta falta.

Hasta ahí, todo bien. Nada de esto anuncia todavía el título de este artículo.

Los problemas pueden aparecer cuando percibimos que ganamos tiempo o capacidad y, sin haberlo decidido conscientemente, empezamos a perder capacidad para trabajar si la herramienta falla, no está disponible, no hay internet o se da cualquier combinación que impida usarla.

Entre 2025 y 2026, la suma total de horas de indisponibilidad de la IA, en momentos puntuales o durante largas franjas horarias, en Europa o a escala mundial, hace que nos tengamos que plantear cuál es el plan B. No hace falta que se repita un apagón eléctrico como el del 28 de abril de 2025 en España. Sencillamente, tiene que haber un procedimiento ensayado que permita recuperar la autonomía y seguir funcionando.

Otro problema puede estar relacionado con que se ha delegado tanto que, en ese escenario, solo se pueden cruzar los dedos y esperar a que todo vuelva a funcionar.

Hay muchos otros supuestos; estos son un barniz. La pregunta es dónde está el botón de deshacer para seguir, aunque sea a menor velocidad. No prever esto puede ocasionar que las farmacias no puedan dispensar medicamentos, que una cadena logística retrase envíos a almacenes o envíe de más o de menos, o que lo que estaba previsto o programado tenga que desprogramarse. Un efecto mariposa que ya hemos visto varias veces.

Son dos riesgos distintos: exponer lo que conviene proteger y dejar de saber hacer lo que hemos delegado. Pueden aparecer juntos, pero usar IA no conduce inevitablemente a ninguno de ellos. Depende también de cómo la incorporemos y de cuánto tiempo dedicamos a pensar en los puntos ciegos para no tener que echarnos las manos a la cabeza.

Nada está hecho solo de archivos

En las grandes instituciones creemos que hay expertos que lo han previsto todo, pero ¿lo han hecho? En un equipo pequeño, o cuando trabajamos por nuestra cuenta, quizá ni siquiera haya alguien encargado de hacerse esas preguntas. El tamaño cambia los medios disponibles, no elimina la necesidad de pensar.

Los ordenadores contienen contratos, expedientes, correos y hojas de cálculo. Pero eso no es una organización completa, ni cuenta todo lo que sabe hacer una persona.

Hay alguien que reconoce una cifra imposible aunque el programa diga que es correcta. El comercial veterano sabe qué preguntar antes de preparar un presupuesto porque ya vio fracasar demasiados. Una administrativa conoce una excepción que nunca llegó al manual. Una profesora recuerda qué intentó con un alumno y por qué no funcionó. En una asociación, alguien sabe a quién llamar cuando el procedimiento habitual se atasca.

Un médico sabe que la IA que transcribe sus consultas médicas no siempre lo hace bien. Un radiólogo también puede ahorrar mucho tiempo o ver en segundos algo que le llevaría meses de trabajo comparando cientos de pruebas similares. Hay cosas buenas, muy buenas, pero no olvidemos lo que puede no serlo tanto, sobre todo en entornos donde una decisión afecta a vidas y trayectorias, y sus consecuencias no se arreglan con una disculpa corporativa.

También hay un lenguaje propio. Palabras que para alguien de fuera dicen poco y que dentro permiten distinguir un problema grave de uno rutinario.

Podríamos llamar a esa capa memoria operativa. Uso la expresión para describir lo que permite a una persona o a un grupo seguir haciendo lo que sabe hacer, no como una categoría jurídica. En otro artículo de CO-ZONE hablábamos de ese conocimiento que dejan la fricción, los errores y la práctica.

La IA permite relacionar y consultar parte de lo que conseguimos documentar. Eso puede ser extraordinariamente útil. Pero no todo lo que una persona sabe hacer cabe en un archivo, ni reconocer el valor de su experiencia convierte esa experiencia en propiedad de la organización.

La tentación es perfectamente razonable

Pongamos que la herramienta encontró una contradicción entre dos informes y luego un patrón en las reclamaciones. Ahora queremos que nos ayude a comprender por qué se retrasa un servicio, cómo repartir el trabajo o dónde perdemos dinero. Quien estudia por su cuenta puede empezar con el resumen de un tema y acabar confiándole la organización de todo su aprendizaje.

Para responder necesitará contexto. El pertinente puede mejorar mucho el resultado; abrirle todo no garantiza que lo comprenda mejor. Aun así, cuando funciona, la tentación de darle más es bastante comprensible.

No hace falta imaginar una conspiración ni suponer que todo proveedor utilizará nuestros datos para entrenar sus modelos. Las condiciones dependen del producto, del contrato y de la configuración. Y que no los utilice para entrenamiento tampoco resuelve cuánto tiempo los conserva o quién puede acceder a ellos.

El artículo de Francisco Javier Vilches Meléndez en AEPD LAB ayuda a situar el problema: en una petición aparentemente inocente puede entrar información personal, confidencial o sometida a reserva.

Por eso conviene distinguir. Una nómina, un expediente de un alumno o un informe médico contienen datos personales; una estrategia comercial puede ser confidencial sin identificar a nadie. En el ámbito empresarial, para hablar de secreto comercial no basta con que algo sea interno: debe reunir condiciones de secreto, valor comercial y protección razonable, como recoge la Directiva europea sobre secretos comerciales.

No hace falta convertir cada reunión en un examen jurídico. Hace falta que alguien haya revisado qué herramienta se usa, qué necesita saber y qué condiciones estamos aceptando. Llevamos años contratando correo, almacenamiento y programas de gestión externos. Eso no equivale a perder el control, pero tampoco justifica dar por buenas unas condiciones que habitualmente casi nadie ha leído completas.

Cuando marcharse deja de ser sencillo

Hasta aquí hemos pensado en cómo seguir durante una interrupción. Hay otra situación: querer dejar de usar una IA específica definitivamente. Un plan para aguantar unas horas no resuelve necesariamente cómo hacer bien la mudanza.

Imaginemos que pasan cinco años. No es una predicción; es una posibilidad que merece la pena pensar antes de reorganizarlo todo.

La IA clasifica incidencias, prepara documentos y organiza consultas. Algunas tareas dejan de practicarse porque el sistema las resuelve en segundos. Cambian las responsabilidades y parte del conocimiento deja de transmitirse entre personas. Si trabajamos solos, también podemos dejar de ejercitar un criterio que antes teníamos que poner en juego.

Entonces el proveedor sube mucho el precio, retira una función o abandona el producto. Quien lo utiliza intenta marcharse y descubre cuánto sabía o no sabía hacer por su cuenta.

La información podría seguir protegida. El problema sería otro: haber dejado de practicar, documentar y enseñar lo necesario para continuar sin esa herramienta. La dependencia se vuelve difícil de deshacer cuando cambiar de proveedor exige reconstruir una forma de trabajar, de prestar un servicio o de aprender.

Esto no es una hipótesis para mí. En 1997 abrí mi primer cybercafé en un lugar con mucho tránsito peatonal, en una gran ciudad. Empecé con cuatro máquinas y llegué a incorporar hasta cuarenta. En un momento armé un manual con todo lo que sabía de mi negocio: cómo operarlo, qué hacer cuando se caía la conexión, cómo rotar los turnos, qué mantenimiento se necesitaba. Ese manual, junto con el hardware y el software, se lo vendí a un emprendedor que quería abrir su propio cybercafé. Lo acompañé un tiempo para que la transición no fuera un salto al vacío.

Lo que realmente aprendí llegó después. Cuando empezaron sus llamadas, no eran dudas sobre lo que decía el manual. Eran, una tras otra, todas las cosas que nunca se me había ocurrido escribir — porque para mí eran obvias, las resolvía casi en piloto automático, simplemente no sabía que sabía todo eso hasta que alguien me preguntó por lo que no estaba escrito.

Lo menciono porque es la misma pregunta que le hago ahora a cualquiera que delega en una IA: no alcanza con guardar los archivos ni con escribir un manual. Siempre hay una capa que no se escribe hasta que alguien, del otro lado, se queda sin ella y llama preguntando.

El marco de NIST para IA generativa recomienda evaluar a los proveedores, reconocer dependencias y preparar alternativas. Es una guía para gestionar riesgos, no una demostración de que ese desenlace siempre vaya a ocurrir así.

La soberanía que me interesa a nivel social: conservar capacidad de elección. No pedir a cada establecimiento educativo, empresa, o persona que fabrique sus servidores y sus propios modelos de IA, eso es inasumible.

Conviene probar alguna vez si podemos recuperar los datos, en qué formato salen y cómo seguiríamos trabajando (el plan B llamémoslo). La Ley de Datos europea contempla el cambio entre servicios de tratamiento de datos, pero tener derecho a salir no elimina todo el esfuerzo de una migración ni devuelve conocimientos que hemos dejado de cultivar.

La organización tiene cicatrices

Puede haber uno o varios procedimientos aparentemente ineficientes, pero si alguien recuerda lo que ocurrió la última vez que se eliminó uno, quizás convenga conservarlo, actualizarlo o darle una vuelta antes de tocarlo. Una redundancia tecnológica parece absurda hasta el día en que falla algo, o falla el sistema principal. Hay personas cuyo trabajo cuesta explicar en un diagrama y que resuelven las excepciones que mantienen en pie todo el tinglado.

Una mirada exclusivamente tecnológica puede detectar la ineficiencia y no comprender que a veces eso existe por una razón. La edad de quien asesora no garantiza ni impide ese criterio. Importa mucho más si se detiene a comprender profundamente lo que tiene delante y si tiene la capacidad para ponderar y priorizar.

En sanidad, educación, derecho o atención a personas vulnerables, un error no siempre se arregla restaurando una copia. Saber quién revisa y quién responde importa tanto como saber cuánto tiempo ahorramos.

Eso no significa conservar todo por deporte; significa tener un croquis, la trazabilidad y un plan antes de eliminar algo o reemplazar a alguien (y si se tiene que reemplazar a alguien, que sea cierto eso de la responsabilidad social corporativa: tener previsto con tiempo cómo reinsertarle, formarle y facilitar que se integre, de ser posible, en la misma organización. Los costes sociales de la automatización NO DEBEN recaer sobre las espaldas del Estado ni del trabajador).

Alguien dirá, y con razón, que ya paga más impuestos que nadie. Es cierto. Quizás sea el Estado el que deba aplicar un criterio fiscal más equilibrado para estos casos, para que no paguen siempre los mismos. No tengo la respuesta; dejo la pregunta abierta.

Caminar desnudos

Podemos imaginar a alguien que sale a la calle sin ropa y celebra lo ligero que se siente. Cuando otro señala un inconveniente, responde que vestirse reduce la velocidad. Una metáfora de aquel cuento del rey desnudo. Nadie está proponiendo volver a una armadura medieval. Solo elegir qué conviene cubrir.

Con la IA hay un territorio enorme entre no utilizarla y conectarla indiscriminadamente a toda la memoria de una organización. Ahí entran los contratos, la seguridad, la información que realmente necesita cada tarea y los sistemas locales cuando tengan sentido. Tener una IA local de código abierto tampoco evita prever, mantener y saber quién y cómo se hace cargo de que todo siga rodando.

Quizá dentro de unos años miremos algunas prácticas actuales como hoy miramos las contraseñas en postits pegados en el marco de la pantalla. No porque utilizar IA fuese una mala idea. Porque confundimos utilidad con inocuidad.

No sé si esta época terminará llamándose la era de la inteligencia artificial. Pero hay momentos en los que parece la era de la insensatez digital: cada decisión aislada resulta razonable y nadie vuelve a mirar el conjunto.

Podemos perder un archivo y recuperarlo desde una copia. Perder la memoria de cómo hacemos las cosas es otra cosa. Y necesitar que alguien nos la procese para poder decidir tiene un nombre bastante menos sofisticado.

Dependencia.

Nota final

Lo compulsivo, lo persuasivo y lo disuasivo. Se referían en otro artículo de este blog al contexto educativo, pero nos sirven para pensar también en cómo delegamos o no en otros ámbitos de nuestra vida.

Lo que no veo como insensatez es dar prioridad a nuestra inteligencia humana real antes de delegar trabajo, decisiones y memoria en algo que puede no estar siempre disponible, o cuyo precio decida qué clase de inteligencia prestada podemos alquilar.

Otros aspectos que no cubre este artículo pero que sí existen y también deberán desarrollarse: cuando se acabe la fiesta de los tokens subvencionados, ¿qué o quiénes podrán permitirse usar IA de vanguardia y qué pasa con quienes no pueden? Y un largo etcétera; de otro modo, este texto no sería conciso; a veces menos es más.

Fuentes para profundizar

• Francisco Javier Vilches Meléndez, AEPD LAB: Prompts, datos personales y confidencialidad, 25 de agosto de 2026. Artículo divulgativo sobre uso organizativo de IA y confidencialidad.
• Comité Europeo de Protección de Datos: Dictamen 28/2024 sobre modelos de IA, 18 de diciembre de 2024. Anonimización y tratamiento de datos personales, que requieren valorar cada caso.
• NIST: perfil de IA generativa, AI 600-1, julio de 2024. Orientaciones voluntarias sobre riesgos, proveedores y alternativas ante fallos.
• Directiva (UE) 2016/943 sobre secretos comerciales, 8 de junio de 2016. Requisitos de protección y límites respecto a la experiencia y las competencias de los trabajadores.
• Comisión Europea: explicación de la Ley de Datos. El capítulo VI aborda el cambio entre servicios de tratamiento de datos.

Recurso didáctico

Abrir complemento visual en PDF