Toma de decisiones con criterio trabajando con IA
Introducción: el momento en que la IA nos obligó a ser más humanos
He de reconocer que, cuando empecé a trabajar con proyectos de inteligencia artificial, caí en la misma trampa que muchos: pensar que la tecnología lo resolvería todo. «Si el algoritmo es lo suficientemente bueno, los usuarios lo entenderán», me decía. Error garrafal.
En Torresburriel Estudio llevamos años explorando cómo la IA está transformando el diseño de productos digitales. Como explicaba en el post La brecha oculta de la IA en diseño UX, la IA no devalúa la experiencia sino que la hace más necesaria que nunca. Y es que, tras trabajar en múltiples proyectos con componentes de inteligencia artificial, hemos comprobado que el mayor riesgo no es la tecnología en sí, sino más bien tomar decisiones sobre su implementación sin el contexto humano adecuado.
La primera vez que auditamos una aplicación de IA desarrollada sin esta perspectiva, descubrimos algo que resultó revelador: los usuarios abandonaban en el primer intento de uso. No por fallos técnicos ya que el modelo funcionaba, sino porque las decisiones de diseño se habían tomado en un auténtico vacío de comprensión real de las necesidades de las personas. He sido diplomático. El equipo que estaba al cargo había priorizado la precisión del algoritmo sobre la experiencia de usuario, y el resultado era un producto técnicamente impecable, sí, pero inútil en la práctica.
En este post voy a explicar por qué, en el mundo de la IA, la toma de decisiones con criterio no es un lujo, sino más bien una necesidad. Y ese criterio solo puede construirse sobre tres pilares: la investigación con usuarios, la experiencia acumulada y los datos cuantitativos.
El problema
En mi experiencia profesional, he visto cómo la IA ha acelerado procesos, pero también cómo ha amplificado los errores de diseño (y de otros también, que aquí no se libra nadie). Y el error más común es este: tomar decisiones basadas únicamente en las capacidades técnicas del modelo.
Como explicamos en Cómo está impactando la Inteligencia Artificial en la UX, la IA nos permite:
- Automatizar tareas repetitivas
- Personalizar experiencias a escala
- Extraer insights de grandes volúmenes de datos
Pero, por ello mismo, el riesgo es mayor. Un error de diseño en una aplicación tradicional puede ser molesto; en una con IA, puede ser catastrófico. Imagina un chatbot de atención al cliente que, por no haber sido testado con usuarios reales, interpreta mal las intenciones y ofrece respuestas irrelevantes. O un sistema de recomendación que, por priorizar métricas técnicas sobre la utilidad real, inunda al usuario con opciones que no le interesan.
El problema de fondo es que, como señala el Nielsen Norman Group en su artículo Explainable AI in Chat Interfaces, cuando los sistemas de IA presentan sus resultados con confianza, los usuarios pueden depositar en ellos una confianza inmerecida. Y eso, en productos críticos, puede tener consecuencias graves.
Los tres pilares del criterio
Así las cosas, ¿cómo evitamos estos errores? La respuesta está en construir el proceso de toma de decisiones sobre tres bases sólidas. En Torresburriel Estudio las aplicamos en nuestros proyectos de IA, y los resultados son claros: productos más útiles, usuarios más satisfechos y menos abandonos.
La investigación con usuarios
La IA puede decirte qué están haciendo los usuarios, pero no puede decirte por qué lo hacen. Y ese «por qué» es la clave para tomar decisiones con sentido.
Como explicamos en nuestra guía completa sobre herramientas de IA para Diseño UX, herramientas como QoQo.ai o Synthetic Users pueden ayudar a analizar datos de comportamiento, pero nunca sustituyen la investigación cualitativa. Los tests de usabilidad, las entrevistas y las técnicas como think-aloud protocols son fundamentales para entender el contexto real.
Ejemplo práctico: en un proyecto de banca, un equipo había implementado un asistente virtual para responder preguntas frecuentes. Los datos mostraban que muchas consultas se resolvían en el primer intento. Pero al hacer tests con usuarios reales, descubrimos que un porcentaje significativo no entendían las respuestas. El problema no era la precisión del modelo, sino el lenguaje técnico que utilizaba. La solución fue reescribir las respuestas en un tono más cercano y validarlas con usuarios.
Vamos a volver a los orígenes de lo que siempre hemos contado por aquí. Qué hacer:
- Tests de usabilidad con prototipos de IA desde las primeras fases.
- Usar técnicas como think-aloud protocols para entender el proceso mental de los usuarios.
- Incluir en los tests a personas no técnicas: si ellos no lo entienden, es que esa IA no está lista.
En el diseño de productos con IA, el usuario no es el último eslabón de la cadena, sino el primero.
La experiencia acumulada
Después de muchos años de experiencia en diseño digital, he visto patrones que se repiten una y otra vez. Y en el mundo de la IA, esos patrones son más evidentes.
Lecciones aprendidas (y que puedes aplicar ya):
- La IA no es una solución mágica, No implementes IA solo porque «está de moda». Pregúntate: ¿resuelve un problema real para los usuarios? Lo que pasa es que a menudo las soluciones más simples pueden funcionar mejor.
- El sesgo es el enemigo. Los modelos de IA aprenden de los datos que les damos. Si esos datos están sesgados, el modelo perpetuará esos sesgos. Un caso emblemático es el de Amazon, que en 2018 tuvo que cancelar su herramienta de reclutamiento con IA porque discriminaba sistemáticamente a las mujeres para puestos técnicos. Según el informe de Reuters, el algoritmo replicaba los sesgos existentes en los datos históricos de contratación de la empresa. La lección es clara: hay que auditar los datos de entrenamiento antes de implementar cualquier modelo.
- La transparencia genera confianza: Los usuarios desconfían de lo que no entienden. Como explica el Nielsen Norman Group en AI Hallucinations: What Designers Need to Know, presentar indicadores de confianza, advertencias contextuales o explicaciones de los factores que influyen en las decisiones ayuda a los usuarios a evaluar la fiabilidad de la IA sin abrumarlos.
Qué podemos hacer con esto que ya sabemos:
- Documentar los casos de uso que no han funcionado y compartirlos con todo el equipo (y más allá).
- Crear un repositorio de lecciones aprendidas en la organización.
- Auditar los datos antes de entrenar cualquier modelo.
Los datos cuantitativos
Los datos son fundamentales pero, cuidado, no son la respuesta. Son una herramienta más en tu caja de herramientas.
Como explicamos en La inteligencia artificial aplicada a las Interfaces de Usuario Generativas, el diseño centrado en el usuario debe involucrar a las personas en el proceso para asegurarse de que las personalizaciones realmente mejoran su experiencia.
Qué medir (y cómo interpretarlo)
| Métrica | Qué te dice | Qué NO te dice |
| Tasa de precisión del modelo | Si el modelo acierta en sus predicciones | Si esas predicciones son útiles para el usuario |
| Tiempo de respuesta | Si la IA es rápida | Si la velocidad mejora la experiencia |
| Tasa de abandono | Si los usuarios dejan de usar la aplicación | Por qué la abandonan |
| NPS (Net Promoter Score) | Si los usuarios recomendarían tu producto | Qué aspectos concretos valoran o critican |
Ejemplo práctico.
En un proyecto para una plataforma educativa, el modelo de recomendación de cursos tenía una alta precisión técnica. Sin embargo, muchos usuarios abandonaban la plataforma. Al analizar los datos cualitativos, descubrimos que el modelo recomendaba cursos técnicamente relevantes, pero poco atractivos. La solución: incorporar métricas de engagement (como tiempo de visualización y valoraciones) al algoritmo.
¿Qué hacer con esto que ya sabemos?
- Combinar datos cuantitativos (métricas) con datos cualitativos (feedback de usuarios).
- Usar herramientas como Google Analytics, Hotjar o Mixpanel para rastrear el comportamiento.
- Segmenta los datos: lo que funciona para un grupo de usuarios puede no funcionar para otro.
Cómo aplicar esto en el próximo proyecto de IA
De igual forma, aquí tienes un proceso práctico para tomar decisiones con criterio en los proyectos de IA. Es el mismo que usamos en Torresburriel Estudio.
- Define el problema (no la solución)
- Pregunta: «¿Qué problema real de los usuarios resuelve esta IA?»
- Evita: «Vamos a implementar un chatbot porque todo el mundo lo hace».
- Investiga con usuarios antes de desarrollar
- Haz entrevistas para entender sus necesidades.
- Crea prototipos de baja fidelidad (cada día es más sencillo) y testéalos.
- Usa técnicas como card sorting para entender cómo los usuarios agrupan la información.
- Desarrolla con datos, pero con contexto
- Asegúrate de que se entrenan los modelo con datos representativos y diversos.
- Audita los datos para detectar sesgos (aprende del caso Amazon).
- Usa métricas de negocio (no solo técnicas) para evaluar el éxito.
- Testea con usuarios reales
- Haz tests de usabilidad con el modelo implementado.
- Mide tanto el rendimiento técnico como la experiencia de usuario.
- Itera en función de los resultados.
- Monitoriza y mejora de manera contínua
- Usa herramientas de analítica para rastrear el comportamiento.
- Recoge feedback cualitativo (encuestas, entrevistas).
- Actualiza el modelo en función de los nuevos datos y necesidades.
La IA no es un destino, es un viaje. Y como en cualquier viaje, necesitas un mapa, una brújula y la humildad para corregir el rumbo cuando te desvías.
Conclusión: el futuro de la IA es humano
Por todo lo dicho hasta ahora, es más que evidente que la IA no va a reemplazar a los diseñadores, ni a los investigadores, ni a los expertos en experiencia de usuario. Al revés: va a hacer que nuestro trabajo sea más importante que nunca.
Porque la IA puede procesar datos, pero no puede entender el contexto humano (o por lo menos no todavía). Puede hacer predicciones, pero no puede tomar decisiones éticas. Puede automatizar tareas, pero por empatía aún no le viene nada.
Como explicamos en El futuro «presente» del diseño UX en 2025, el diseño centrado en el usuario continuará siendo un punto de referencia para construir entornos digitales más intuitivos, accesibles y responsables.
En ese sentido, la toma de decisiones con criterio es lo que separará a los productos de IA que triunfan de los que fracasan. Y ese criterio solo puede construirse sobre la investigación con usuarios, la experiencia acumulada y los datos cuantitativos.
Así que la próxima vez que te enfrentes a un proyecto de IA, recuerda: no es solo sobre el algoritmo. Es sobre las personas.
Y si te ha interesado este tema, te recomiendo leer:
- La Inteligencia Artificial en el diseño de UX: un nuevo horizonte profesional (Torresburriel Estudio)
- Prioritize Smarts over Sentience to Increase Trust with AI (Nielsen Norman Group)
Foto de portada de Darran Shen en Unsplash
