Alucinaciones, sesgos y los bordes del sistema
Una alucinación no es un error que se arregle con una actualización: es consecuencia directa de cómo funciona un modelo de lenguaje. Entender por qué ocurre es lo que te permite decidir dónde puedes usar IA y dónde no.
Un Chief AI Strategist se gana el sueldo conociendo los límites mejor que las capacidades. Las capacidades te las venderá cualquiera; los límites determinan dónde puedes desplegar con seguridad.
Alucinaciones: por qué ocurren
El modelo siempre produce el texto más plausible, no el más verdadero, no tiene un mecanismo interno que distinga "lo sé" de "suena bien". Cuando la respuesta correcta está bien representada en su entrenamiento, plausible y verdadero coinciden. Cuando no (datos de tu empresa, hechos recientes, detalles muy específicos, citas y referencias), el modelo rellena el hueco con plausibilidad: inventa. Tres consecuencias operativas: (a) las alucinaciones no se "arreglan" del todo, se gestionan con arquitectura (RAG con citas, verificación, humano en el circuito); (b) son más frecuentes cuanto más específica y menos pública es la pregunta; (c) el riesgo no es simétrico entre casos de uso, una alucinación en un borrador de marketing se corrige en revisión; en una respuesta legal automática a un cliente, es un siniestro.
La matriz de criticidad
Construye este hábito mental: clasifica todo caso de uso en dos ejes coste del error (bajo/alto) y facilidad de verificación (fácil/difícil). IA con autonomía solo en el cuadrante coste-bajo/verificación-fácil. En coste-alto/verificación-difícil, la IA propone y el humano dispone, o directamente no se despliega. Esta matriz de 2×2 te servirá durante todo el manual y toda tu carrera.
Conocimiento congelado y el mundo en movimiento
El cutoff de entrenamiento implica que sin herramientas (búsqueda web, acceso a bases de datos), el modelo ignora todo lo posterior. Los sistemas modernos lo mitigan con herramientas, pero la herramienta añade su propia capa de fallo (¿y si la búsqueda devuelve una fuente mala?).
Sesgos
El modelo hereda los sesgos estadísticos de sus datos de entrenamiento, modulados por el post-entrenamiento. Para ti esto es sobre todo un tema de riesgo regulatorio y reputacional: el AI Act y la normativa antidiscriminación convierten el sesgo en sistemas de RRHH, crédito o seguros en un problema legal, no filosófico (Parte II).
Razonamiento y sus límites
Los modelos de 2026 con "razonamiento extendido" (cadenas de pensamiento largas antes de responder) han mejorado drásticamente en matemáticas, código y planificación. Pero el razonamiento sigue siendo estadístico: brillante en problemas similares a los vistos, frágil ante estructuras genuinamente nuevas o ante quien lo manipula (prompt injection, Clase del Parte II). Regla práctica: confía en el razonamiento del modelo en proporción a lo verificable que sea su resultado.
Capacidades dentadas ("jagged frontier")
Concepto de Ethan Mollick: la frontera de capacidad de la IA no es una línea limpia, el modelo hace cosas de nivel doctorado y falla en cosas de nivel primaria, sin que la dificultad humana prediga cuál es cuál. La única forma de mapear la frontera para tu caso de uso es probar sistemáticamente, no asumir.
Air Canada fue condenada en 2024 porque su chatbot inventó una política de reembolsos por duelo y un tribunal dictaminó que la aerolínea era responsable de lo que decía su bot. Para cualquier profesional de marketing, este caso es tuyo por partida doble: no solo por lo que la IA pueda decir en tus canales, sino por lo que pueda decir en los de tus clientes o tu marca cuando eres quien ha montado el sistema. Imagina un asistente conversacional de campaña que (al inventar una promoción que no existe, o afirmar una propiedad del producto que es falsa) mete a la marca (y a ti como responsable) en un problema legal y reputacional. La lección para tu rol: (a) las alucinaciones tienen coste real y recae en quien pone el sistema en el mundo; (b) "lo dijo la IA" no exime a nadie; (c) desplegar contenido generado de cara a público sin arquitectura de verificación no es innovación, es exposición. Y un matiz creativo: la alucinación en un territorio creativo interno es barata (la cazas en la revisión y hasta puede inspirar); la misma alucinación en un dato del producto en una pieza publicada es un siniestro. Mismo modelo, mundos de riesgo distintos según dónde caiga el output.
Si tu arquetipo es agencia o freelance, el riesgo se multiplica porque respondes ante el cliente además de ante el público; si es in-house o e-commerce, recae directo sobre tu marca y tus ventas. En todos, la conclusión es la misma.
Las tres preguntas de 30 segundos
Acabas de leer. Esto es para la próxima reunión donde alguien proponga «meter IA»: las tres preguntas que hay que hacer antes de aprobar nada. Son del manual, funcionan solas y caben en una tarjeta.
Te llegan dentro de una secuencia de seis correos en dos semanas: otra herramienta más, la Clase 1 completa del manual, el ángulo legal y quién hay detrás de esto. Después paro. No hay boletín semanal.
Esto era media clase de 48.
Lo que has leído es la teoría y el ejemplo aplicado. Faltan los ejercicios con entregable y el tutor de IA que te los corrige, que es donde el método deja de ser lectura y empieza a ser trabajo.
«El Mapa», en Amazon
El primer mes completo del método: 8 clases con sus ejercicios, el árbol de decisión del estratega, la matriz de criticidad y el prompt para montar tu sparring de IA. No hace falta un Kindle: se lee en el móvil con la app gratuita.
Leer «El Mapa» en Amazon ↗ ¿Desde México? ↗El Manual completo
Las 48 clases en seis volúmenes: fundamentos, automatización, business cases, AI Act y RGPD, liderazgo y posicionamiento. Con el Cuaderno de Tutoría. Sin vídeos. Edición 2026, cuerpo cerrado.
Ver el manual¿Prefieres verlo todo con calma? La página del manual lo cuenta entero, con el índice completo.