Al volver a escuchar hace poco "Don't You (Forget About Me)" de Simple Minds, recordé un viaje al extranjero con mis padres ya mayores. La visita me hizo pensar en el impacto de la aceleración tecnológica implacable y la obligación de seguir el ritmo de la comprensión digital de la sociedad en general. Lo que antes se consideraban tecnologías de próxima generación, ahora se convierten cada vez más rápido en algo común.

En el caso de mis padres, pensaba: ¿qué pasa si su método favorito de interactuar con una marca ya no está disponible, o no es realista?, ¿y si es reemplazado por algo nuevo? ¿Eso les impide acceder a servicios y productos de los que el resto de la sociedad puede disfrutar? Parafraseando a Simple Minds, ¿mis padres son olvidados?

Qué es la discriminación digital. Revisando el concepto

A menudo pensamos en la discriminación digital en el contexto de los sesgos de la IA o el ML. Podríamos preguntarnos por qué un algoritmo programado realiza una acción específica: ¿qué factores culturales, sociales o de otro tipo influyen en la lógica que sustenta esa inteligencia?

Pero hay otra faceta intrínseca (y a menudo invisible) de la discriminación digital: la exclusión involuntaria de aquellos que son menos competentes digitalmente de ciertos servicios o productos, debido a la gran velocidad a la que evoluciona la tecnología. En pocas palabras, ciertos grupos se están quedando atrás.

Este es el subproducto de los proveedores de tecnología que hacen suposiciones en nombre de la sociedad. Suposiciones que no son necesariamente precisas o son prematuras. Suposiciones que se lanzan a un mercado que no está listo. Aquí se requiere diligencia, reconociendo que, si bien siempre habrá una demanda de progreso, innovación y evolución, la responsabilidad de abordar la inclusión no debe ignorarse.

Os pongo un ejemplo muy simple, un caso de Reino Unido. En 2022, se recogieron más de 100.000 firmas de compradores para que un importante supermercado reemplazara sus cajas de autoservicio con personas. No es una petición dirigida a la IA generativa, pero es un gran ejemplo de los desafíos que las marcas pueden encontrar cuando introducen nuevas plataformas digitales. Los auto pagos no son nuevos, pero aun así, hay un retroceso en su adopción, por razones que van desde la alfabetización digital hasta el deseo de interacción humana.

Hay buenas noticias. Algunas marcas están tomando nota y ajustando sus experiencias en consecuencia. En 2021, el supermercado Jumbo anunció la apertura de 200 "check-outs de chat" para que aquellos clientes que quisieran interactuar con otro ser humano, pudieran hacerlo, ya que un grupo considerable de sus clientes aún prefiere esta experiencia.

Entonces, ¿qué tiene esto que ver con la IA generativa?

La discriminación digital es especialmente relevante en este momento. En el preciso instante en que se nos promete que GPT4 y otros modelos generativos de IA transformarán cada elemento de nuestras vidas.

La IA generativa tiene un enorme potencial para ser una fuerza positiva para muchos segmentos de la sociedad. Ya sea por accesibilidad o simplemente por facilitar nuestra vida cotidiana, las tecnologías inteligentes emergentes pueden (y a menudo lo hacen) tener un impacto enormemente beneficioso.

Las marcas y minoristas orientados al consumidor están, por supuesto, saltando temprano, con una interacción más inteligente con el cliente entre los casos de uso inmediato más destacados. Según datos de Coresight Research, el 17,8% de la población estadounidense ya utiliza la activación por voz habilitada para IA para realizar compras cada semana. Coresight espera que esto aumente a 27,7% para 2025 y 76,0% en 2030. Mientras tanto, Carrefour ya está experimentando con ChatGPT y la IA generativa para crear contenido para los clientes.

Pero, si bien esta innovación es emocionante, los minoristas y las marcas orientadas al consumidor que se apresuran a explorar casos de uso en torno a la IA generativa tienen la responsabilidad de garantizar la no discriminación de ciertos grupos demográficos.

A medida que la IA generativa se vuelve más convencional y el contacto humano se limita a la excepción (en lugar de la norma), existe un riesgo real de que algunos grupos se queden atrás.

Como con tantas cosas: el equilibrio es clave...

... pero difícil de alcanzar. Sobre todo, a la hora de mejorar las experiencias y hacer que sean más accesibles, sin ir tan lejos como para correr el riesgo de aislar a ciertas personas. Y apoyar la toma de decisiones sin "automatizar la toma de decisiones humana".

Estas palabras son de la científica investigadora del MIT Renée Richardson Gosline, de su artículo sobre la buena fricción para HBR. Richardson describe la buena fricción como "un punto de contacto en el viaje hacia un objetivo que les da a los humanos la capacidad y la autonomía para mejorar la elección, en lugar de automatizar a los humanos fuera de la toma de decisiones". Para mí, ese es un gran resumen de cómo debemos abordar la IA generativa: como una fuerza guía, un compañero o un copiloto.

En última instancia, para los minoristas y las marcas, la única forma de encontrar el equilibrio adecuado y protegerse contra esta discriminación digital involuntaria es una comprensión más profunda y rica de sus clientes. ¿Cómo interactúa un segmento de clientes ahora? Más importante aún, ¿por qué interactúan contigo? En el contexto de la IA generativa, ¿dónde tiene sentido automatizar? ¿Libera esa capacidad para todos, o se centra en un segmento de clientes en particular?

La sabiduría para preguntar por qué

La nueva tecnología no va a dejar de llegar. Tampoco el ritmo del cambio va a disminuir. Por lo tanto, en medio de esta tormenta de evolución, es importante reconocer que la tecnología y lo digital a veces pueden alejarnos más del resultado deseado, en lugar de ayudar a conocer mejor a los clientes en los momentos que importan. El hecho de que puedas no significa que debas hacerlo. Porque puede que no sea necesariamente lo que tus clientes quieren o están buscando.

En la era de la IA generativa, tener la sabiduría para saber cuándo participar, por qué estás introduciendo un nuevo servicio o solución y qué impacto positivo puede ofrecer es más importante que nunca.

Podría ser el amanecer de una nueva era emocionante. Pero esta línea es atemporal: No te olvides de mí …

Puedes acceder aquí para obtener más información sobre el enfoque de Avanade para la IA generativa.