La integración de la inteligencia artificial (IA) en productos de software empresarial es una tendencia creciente, pero no todas las adiciones de IA resultan en una mejora. Un equipo de producto de una aseguradora de salud experimentó esto al implementar una IA para redactar resoluciones de apelaciones. Aunque la tecnología funcionaba según lo especificado, los especialistas dejaron de usarla o tardaban más en cada caso, ya que leer y verificar un texto generado por IA tomaba tanto tiempo como escribirlo, además de tener que corregir errores que ellos mismos no habrían cometido.
La clave no radica en la tecnología en sí, sino en cómo se aplica. Al redefinir el alcance, una segunda versión de la herramienta solo mostraba las disposiciones de la póliza y decisiones previas relevantes, dejando la redacción al especialista. Esto eliminó el paso de búsqueda, redujo el tiempo de revisión y mantuvo la parte del trabajo en la que el especialista era experto. Ambas versiones utilizaban la misma tecnología, pero la diferencia fue qué parte de la tarea manejaba la IA.
Encontrando el Punto de Equilibrio
Cada cambio en la interfaz de usuario tiene un costo inicial antes de ofrecer beneficios. Los usuarios deben reconstruir su comprensión de la herramienta, aprender nuevas ubicaciones y decidir cuánto confiar en la información generada por la IA. La investigación sobre la memoria de trabajo, como la revisión de Nelson Cowan en 2001, sugiere un límite de aproximadamente cuatro elementos que se pueden mantener en mente a la vez, y todas estas tareas consumen esa limitada capacidad.
Una función de IA en un software empresarial exige más del usuario que un menú rediseñado, ya que altera su rutina diaria. Si la IA se encarga de la síntesis, el usuario se convierte en un verificador. Si también proporciona recomendaciones, el trabajo se reduce a una simple aprobación. Ambos cambios exigen atención del usuario y, para profesionales cuya formación es fundamental para su posición laboral, pueden percibirse como una degradación. Por ejemplo, un estudio de Sophia Ackerhans y sus colegas en 2025 encontró que los médicos que debían firmar decisiones asistidas por IA reportaron una amenaza más seria a su identidad profesional, y las explicaciones del razonamiento de la IA aumentaron tanto la confianza como esta amenaza.
Una función de IA justifica su existencia cuando lo que ofrece supera el costo que implica para el usuario adaptarse, en una tarea específica para un usuario particular. Esto se conoce como el punto de equilibrio. Los beneficios para los usuarios se manifiestan de tres formas:
- Esfuerzo que la función elimina.
- Errores que detecta y que la persona habría pasado por alto.
- Consistencia entre diferentes personas que realizan el mismo trabajo.
Por ejemplo, una herramienta de detección de fraude impulsada por IA ilustra la detección de errores. El analista revisa alertas que no habría generado por sí mismo, lo que requiere atención, pero la tasa de detección compensa este costo, colocando la función por encima del punto de equilibrio.
Cuatro preguntas pueden ayudar a su equipo a localizar el punto de equilibrio antes de iniciar el trabajo de diseño. Cada una genera una condición de diseño sobre la que el informe puede actuar. Es importante recordar que estas preguntas no reemplazan la decisión de construir, ya que el financiamiento, la estrategia y los compromisos existentes también influyen. Es crucial revisar las cuatro preguntas en conjunto, ya que ninguna por sí sola resuelve el problema. Realícelo mientras la función es aún una propuesta, antes de invertir semanas en el diseño. También necesitará al menos una persona que realice la tarea en cuestión, como un oficial de préstamos, analista o especialista en beneficios. Una breve conversación con ellos revelará dónde reside el esfuerzo mental real y si la función ayudaría o añadiría trabajo.
1. ¿Reduce el Esfuerzo Total de la Tarea para este Usuario?
Considere todo lo que la tarea exige del usuario: el pensamiento, los clics y la verificación que deberá realizar una vez que la IA esté involucrada. Menos clics por sí solos no prueban nada, ya que una función puede reducir los clics y aun así hacer que la persona trabaje más. Registre el costo incluso si aumenta, ya que la Pregunta 2 podría encontrar un beneficio que lo compense.
Un oficial de préstamos que lee 40 divulgaciones financieras para encontrar tres que entran en conflicto con la política de préstamos está realizando un esfuerzo mental significativo. Una IA que resalta esos conflictos reduce directamente esa demanda. Compare esto con escribir un número de préstamo en un sistema de seguimiento, lo que cuesta unos segundos y casi ningún pensamiento. Prellenar ese campo reubica el costo en lugar de eliminarlo, porque el oficial ahora debe verificar lo que la máquina ingresó. La sabiduría convencional sugiere automatizar tareas repetitivas y monótonas, y el campo prellenado es donde este consejo falla. En este ejemplo:
- Cuando la IA llena un campo, el usuario asume la tarea de verificarlo.
- La tarea original requiere una secuencia corta de pulsaciones de teclas y ninguna atención sostenida.
- La automatización intercambia una acción de bajo esfuerzo por una de alta atención.
Puede identificar las tareas que vale la pena automatizar comparando el esfuerzo total antes y después. Incluya la verificación que el usuario hereda en el lado del
📝 Basado en información de smashingmagazine.com
