Decir «lo calculó un algoritmo» no ayudó ni perjudicó a un mensaje personalizado

Cada vez más mensajes llegan personalizados por un algoritmo, y las marcas dudan entre decirlo o callarlo: ¿la mención de la máquina da credibilidad o genera desconfianza? Un experimento de campo con más de 90.000 personas, publicado el 5 de octubre en Nature Human Behaviour, encontró que no hizo ninguna de las dos cosas. Atribuir el mensaje a «un algoritmo informático» produjo la misma respuesta que no explicar de dónde salía. La personalización sí movió la conducta, aunque poco: frente a un recordatorio común bien hecho, sumó entre 1,1 y 1,4 puntos porcentuales. El terreno de prueba fue la vacunación contra la gripe, con conducta real medida en la historia clínica, no con intenciones declaradas.

El trabajo lo firman Gail Rosenbaum, Christopher Chabris y otros seis investigadores, y se hizo en Geisinger, un sistema de salud sin fines de lucro de Pensilvania. Responde dos preguntas de la economía conductual. La primera es si un mensaje con información personal funciona como empujón (nudge: una intervención de bajo costo que orienta una decisión sin prohibir opciones). La segunda es cómo reacciona la gente cuando sabe que una máquina participó. En el laboratorio, la evidencia apunta en direcciones opuestas: algunos estudios encuentran aversión a los algoritmos y otros, aprecio.

Cómo se hizo

Primero, la selección. Un modelo de aprendizaje automático, entrenado con datos de pacientes de Geisinger, estimó para cada persona el riesgo de tener gripe con complicaciones si no se vacunaba. Entraron en los estudios quienes quedaban en el 10 % de mayor riesgo (estudios 1 y 2) o entre el 11 % y el 20 % (estudio 3).

Segundo, el sorteo. En cada temporada, de 2020-2021 a 2022-2023, los pacientes se repartieron al azar entre varios grupos. Uno no recibía nada del equipo de investigación, aunque sí los mensajes habituales del sistema de salud. Otros recibían un aviso de que estaban en alto riesgo, en tres versiones. Una no decía de dónde salía el dato; otra lo atribuía a «una revisión de su historia clínica», y la tercera, a «un análisis de su historia clínica basado en un algoritmo informático». Desde el segundo estudio se sumó un grupo decisivo para interpretar los resultados: un recordatorio para vacunarse con el mismo formato y calendario, pero sin información de riesgo.

Tercero, el envío: carta impresa, mensaje en el portal del paciente y SMS, según las preferencias de contacto de cada uno. En el segundo estudio, los avisos con fuente incluían una razón del riesgo o tres, como «afecciones relacionadas con la respiración» o «niveles de oxígeno».

Cuarto, la medición: la vacunación real, tomada de la historia clínica y de datos de seguros y farmacias. Los tres estudios se preregistraron, es decir, hipótesis y análisis quedaron fijados antes de recoger los datos. Se analizaron 38.598, 42.481 y 39.129 pacientes.

La palabra elegida también se probó. Antes de los ensayos, una encuesta en línea comparó tres maneras de nombrar la tecnología, y «algoritmo informático» obtuvo mejores respuestas, incluida la intención de vacunarse, que «inteligencia artificial» y «aprendizaje automático».

Lo que encontraron

Atribuir el riesgo a un algoritmo no cambió la vacunación. En los tres estudios, quienes leyeron «algoritmo informático» se vacunaron en la misma proporción que quienes leyeron «revisión de su historia clínica» o no recibieron explicación. En el primero, un análisis bayesiano indicó que los datos eran unas 13 veces más compatibles con la ausencia de diferencia que con su existencia. Agregar razones del riesgo, una o tres, tampoco mejoró el resultado.

El aviso de riesgo sí funcionó. Frente a no recibir nada, la vacunación fue 1,7 puntos porcentuales mayor en el primer estudio, 2,6 en el segundo (34,1 % contra 31,5 %) y 3,5 en el tercero. Un punto porcentual es una diferencia absoluta: pasar de 31,5 % a 34,1 % de vacunados suma 2,6 puntos, unas 26 vacunas más cada 1.000 pacientes.

La comparación más exigente es contra el recordatorio sin riesgo, porque separa el efecto de la información del efecto de recibir un mensaje. La ventaja fue de 1,1 puntos en el segundo estudio, apenas fuera del umbral de significación estadística en el análisis principal (sí lo superó en los controles de robustez preregistrados), y de 1,4 en el tercero. Los autores estiman que la mitad del efecto de los avisos de riesgo corresponde al riesgo y la otra mitad al simple recordatorio.

Qué tan firme es

El diseño es el más sólido para hablar de causa: sorteo, conducta real, muestras grandes y preregistro. El efecto mayor equivale a un tamaño estandarizado de 0,10, pequeño según las convenciones de la estadística, y similar al de otros empujones de campo. En un megaestudio publicado en 2021 en PNAS, encabezado por Katherine Milkman, los mensajes de texto aumentaron la vacunación contra la gripe 2,1 puntos en promedio.

El resultado nulo del algoritmo contrasta con los efectos grandes del laboratorio. Berkeley Dietvorst y colegas describieron en 2015 la aversión a los algoritmos, y Jennifer Logg y colegas, en 2019, el aprecio por ellos. Los autores proponen que, dentro de un mensaje real y entre muchos otros estímulos, la fuente del cálculo pesa poco. Una prueba posterior en línea mostró que el 74 % de los lectores identificaba bien la fuente mencionada, por lo que una parte de los pacientes pudo no notar la palabra «algoritmo».

Qué significa para las marcas

Lo que sigue es una lectura de El Neuromarketer: el estudio es de salud, no de consumo. Para quien comunica con datos personalizados, como puntajes de riesgo, recomendaciones o segmentaciones, deja dos ideas. La primera es que mencionar el algoritmo no funcionó ni como sello de calidad ni como motivo de rechazo cuando el mensaje era concreto y útil. La segunda es que la personalización agregó algo, pero poco, sobre un buen recordatorio: buena parte del efecto vino de llegar en el momento justo con un pedido claro.

El estudio también sugiere probar las palabras antes de salir. La encuesta previa eligió «algoritmo informático» sobre «inteligencia artificial», y en el primer ensayo decir «el 10 % de mayor riesgo» o simplemente «alto riesgo» dio resultados similares.

Los límites

Todo ocurrió en un solo sistema de salud, con una población mayor y menos diversa que la de otros sistemas, y durante la pandemia de covid-19. Los datos de vacunación fuera de Geisinger son incompletos, así que algunos avisos pudieron solo cambiar el lugar donde la gente se vacunó. Los análisis que sugieren que el aviso funciona mejor en ciertos niveles de riesgo no estaban preregistrados. Y los autores advierten que la actitud de los pacientes hacia la inteligencia artificial en la salud puede haber cambiado desde entonces.