Escribir contenido técnico en abierto ya no tiene sentido, las reglas del juego digital están rotas y seguir regalando el conocimiento para que unos pocos se lucren es un acto de ingenuidad. Llevo años compartiendo conocimientos a través de mi blog, fiel a mi filosofía “Maker”.
⚠️ Esta es mi opinión personal sobre lo que está ocurriendo en la actualidad.
Si mantienes un blog técnico o compartes tus soluciones en redes sociales buscando el viejo ideal del Inbound Marketing (Marketing de atracción), tengo una mala noticia: Estás trabajando gratis para quienes destruyen tu visibilidad.
Mientras los bots y rastreadores (Crawlers) de Inteligencias Artificiales parasitan todo lo que publico, las visitas humanas has disminuido drásticamente debido a que los buscadores usan esa información para confeccionar sus propias respuestas en los navegadores. Eso sí, con sus propias alucinaciones y sesgos alineados con su filosofía y los propósitos de cada IA.
Es inevitable trazar un paralelismo con lo que ya estamos viviendo en el mundo de los buscadores y el marketing digital a nivel cognitivo. El SEO representaba ese "esfuerzo orgánico", el usuario tenía que hacer el trabajo mental de leer, comparar, evaluar y construir su propia conclusión en base a los resultados obtenidos en la búsqueda.
Luego llegó el SEM, los anuncios de pago, los primeros lugares en las búsquedas del Navegador eran fruto de una "subasta". Ello empezó a acostumbrarnos a la inmediatez.
Pero el verdadero cambio de paradigma, son las respuestas de IA integradas en los navegadores actuales. La IA rastrea y parasita toda la Web en busca de conocimiento y te entrega su dato exacto, contextualizado y filtrado a través de sus sesgos y líneas rojas.
Los que mantenemos una web o blog para compartir conocimientos lo vemos todos los días en las estadísticas, más rastreos indiscriminados de Bots e IAs y menos usuarios reales.
Ante esta falta de visibilidad muchos creadores están optando por dejar de publicar en sus Webs y Blogs, o en su defecto restringiendo el acceso en abierto.
Las empresas tecnológicas usan el “uso legítimo” como pretexto para construir su propio y lucrativo “Jardín Vallado (Walled Garden)”, defienden que internet es un espacio de aprendizaje colectivo. Pero ese conocimiento no es devuelto de la misma forma de donde se extrajo.
Los creadores defienden que gran parte del éxito de las IAs no reside en su código o algoritmo, sino en parasitar el esfuerzo humano acumulado durante años en Internet.
El engaño del “Jardín Vallado o Walled Garden” y las redes Pay-to-Play.
Las redes sociales han estrangulado el alcance orgánico. El mensaje es nítido, si quieres tener alcance paga. A cambio de recluirte en su “Jardín Vallado” las plataformas utilizan legalmente tu conocimiento para entrenar a sus propios modelos de IA apropiándose de tu propiedad intelectual a cambio de una mínima visibilidad.
Internet ha pasado de ser una red libre de nodos conectados a convertirse en cuatro o cinco aplicaciones gigantescas que funcionan como feudos feudales. Si intentas llevar tráfico a tu Web o Blog a través de enlaces externos, su algoritmo hunde el alcance de forma deliberada evitando que salgas de su jardín vallado.
Un artículo en una Web o Blog es tuyo y estará disponible siempre, pero en sus plataformas es efímero. Ello te obliga a publicar constantemente para mantenerte visible, y si no las alimentas regularmente con contenido penalizan tu visibilidad.
El “Acuerdo entre Caballeros” que ignoran las IA.
Durante un tiempo se nos dijo que mediante el archivo robots.txt o inyectando etiquetas meta podíamos proteger nuestro contenido, la práctica demuestra que no se puede “poner puertas al campo”.
Los scrapers y los agentes de IA avanzados han aprendido a saltarse las limitaciones utilizando proxies residenciales y simulaciones de comportamiento humano. El archivo robots.txt se ha convertido en una simple señal de prohibición que muy pocos respetan, así como el anuncio de "Todos los derechos reservados".
El Caballo de Troya del modelo Freemium
En un inicio las IAs ofrecían herramientas asombrosas sin limitación y gratuitas para generalizar una dependencia, aprovechando que la gente es propensa a la ley del mínimo esfuerzo, y crear nuevos canales de información controlados por ellas.
Para conseguir que una IA realmente razone, verifique sus fuentes y no alucine se requiere una potencia de cálculo muy elevada por cada pregunta. A esto se le llama científicamente Test-Time Compute (Tiempo de computación en el momento de la respuesta).
Ahora que el ecosistema está completamente parasitado y las soluciones en sus planes gratuitos han empezado a degradarse, proponen escalar a suscripciones de pago para obtener mejores soluciones a través del "razonamiento y el sentido común".
La paradoja del colapso.
Al ahuyentar a los creadores humanos y quitarles gran parte de su tráfico orgánico, las IAs están cavando su propia tumba técnica. Si los profesionales dejamos de publicar contenido, análisis y código verificado en abierto, muchos están restringiendo el acceso a su conocimiento, las IAs tendrán que empezar a alimentarse de contenido generado por otras IAs (Datos sintéticos). Este fenómeno conocido como model collapse o colapso del modelo, hará que los sistemas se vuelvan repetitivos y llenos de errores lógicos al consumir sus propios “residuos”.
El cerebro funciona por economía de esfuerzo, si la máquina te da la respuesta masticada en dos segundos, el músculo de la duda, el contraste, la investigación y el pensamiento crítico se atrofia. Las personas que han perdido la capacidad de buscar, leer tres fuentes distintas y sacar sus propias conclusiones son una población dócil y fácil de manipular.
Quien controla el algoritmo de su IA decide cuál es su verdad, qué sesgo político se aplica, qué parte de la historia se oculta y qué discursos son penalizados. Es el Ministerio de la Verdad de Orwell, pero con una interfaz amable y un tono corporativo neutral.
El peligro se puede resumir en tres puntos críticos :
- La muerte del contexto : La IA junta palabras por pura probabilidad estadística, te da datos fríos y muchas veces sesgados.
- La mentira repetida mil veces : Si una IA inventa un dato o tiene una alucinación y la publica, otra IA lo leerá y lo repetirá en sus respuestas. De esta forma la desinformación se puede automatizar.
- La invisibilidad del experto : El creador independiente que contrasta y que opina con criterio está siendo invisibilizado por las respuestas de las IAs a través de sus aplicaciones y de los navegadores.
🛡️En Seguridad Informática y Ciberseguridad se aplica la lógica del 🟥 Red Team (ataque) y 🟦 Blue Team (defensa) para mejorar la seguridad de las empresas. De esta forma se pueden detectar vulnerabilidades que luego se eliminan o se minimizan, el riesgo cero no existe.
Una ventaja de la IA es que tiene una capacidad de cálculo, proceso y velocidad de respuesta que supera en mucho a la humana.
Con los Agentes de IA estamos ante un escenario similar para ejecutar un plan, tomar decisiones y usar herramientas por sí mismo para cumplir un objetivo. La IA puede tomar el control 🟥 ataque/decisiones (Red Team), pero el humano debe actuar como el 🟦 equipo de validación y defensa (Blue Team).
El valor ya no es "confiar en lo que hace", sino en tener el criterio suficiente para saber si lo que la IA hace o propone es robusto, o está basado en una "alucinación o sesgo" de los suyos.
⚠️ El proceso de sabotear o corromper una Inteligencia Artificial durante su fase de aprendizaje / operación se conoce como envenenamiento de datos "Data Poisoning".
La IA se ha convertido en un sistema dinámico que se está 'testeando' a sí mismo en tiempo real.
El proceso de envenenamiento de datos en el proceso de aprendizaje / operación de una IA se conoce con el nombre de Data Poisoning, esta técnica altera el propio proceso de aprendizaje de la IA, alterando sus resultados para que cometa errores específicos, muestre sesgos o cree vulnerabilidades ocultas.
Existen diferentes técnicas para alterar el normal funcionamiento de una IA :
- Envenenamiento por puerta trasera ( Backdoor ) : Introduce un activador específico (como un píxel invisible en una imagen) durante el entrenamiento. La IA funcionará con total normalidad hasta que detecte ese activador, momento en el que ejecutará la orden oculta del atacante.
- Etiquetado incorrecto (Incorrect labeling): Modifica las etiquetas de los datos. Por ejemplo, se alimenta al sistema con fotos de malware pero etiquetadas como "archivo seguro", logrando que los antivirus basados en IA no detecten amenazas reales.
- Ataques de disponibilidad: Buscan inyectar tal cantidad de datos basura o contradictorios que el modelo se vuelva completamente caótico, impreciso e inútil para los usuarios.
El contrataque de los Artistas y Creadores para protegerse.
Nightshade es una herramienta de software libre desarrollada por investigadores de la Universidad de Chicago que funciona como una herramienta ofensiva de envenenamiento de datos para proteger los derechos de autor de los artistas visuales. Su objetivo principal es alterar las imágenes digitales para que, si una empresa de inteligencia artificial las extrae sin permiso (Scraping), el modelo de IA se corrompa durante su entrenamiento.
Mientras investigadores de ciberseguiridad desarrollan herramientas para detectar y limpiar este envenenamiento, la Universidad de Chicago publica periódicamente actualizaciones para mantener su eficacia.
Pero ¿ Qué puede ocurrir si esta manipulación salta a otros ecosistemas críticos ?
- Una vez los datos corruptos pasan a una red neuronal profunda, identificarlos y limpiarlos es una tarea muy compleja y costosa.
- Pueden dejar expuestos sistemas críticos como la medicina diagnóstica, la conducción autónoma o sistemas militares poniendo en riesgo vidas humanas.
- Al alterar la fiabilidad de las herramientas se produce una pérdida de confianza en ellas.
¿ Qué se está haciendo para proteger el desarrollo de la IA ?
- Realización de Auditorías estrictas de las Fuentes.
- Limpieza estadística de datos.
- Se está realizando un entrenamiento adversarial para entrenar intencionadamente a los modelos con ejemplos envenenados controlados para enseñar a la propia IA a identificar intentos de manipulación y volverse más resiliente.
- De la dispersión aparente al hilo invisible que lo conecta todo y construye un perfil transversal.
- Actualmente me encuentro en búsqueda activa de empleo y nuevo proyecto de vida.
- Estructuras Metálicas : Oficina Técnica, Soldadura, Montaje, Creación de imágenes fotorrealistas y Desarrollo Web.
- Busco un proyecto de vida en "La Terreta", pueblos de la agenda Avant.
- La Escuela Taller del Siglo XXI: Talento Híbrido y Polivalente contra la Despoblación.
- Un empleado polivalente, actuando como Intraemprendedor … ¿ Puede ser la solución para la PYME ?
- ¿ Es posible tomar mejores decisiones técnicas gracias a disciplinas que "no practicas" a diario ?
- De la mesa de dibujo a la seguridad informática: 40 años sin dejar de aprender.