Expertos señalan 3 áreas donde la IA hace más daño que bien

Las empresas que se apresuran a implementar IA en todas las funciones empresariales corren el riesgo de alienar a los clientes, erosionar la confianza en la marca y violar las normas regulatorias, advierten los profesionales.

Los profesionales de IA más capacitados se definen por lo que dejan a los humanos, no por lo que automatizan. La empatía en el servicio al cliente, la autenticidad en el marketing y la transparencia en campos regulados son tres áreas donde la IA hace más daño que bien, según profesionales del sector.

"Cuando alguien llama para cancelar una cuenta, es pan comido para la IA manejarlo. Pero digamos que es una viuda llamando para cancelar la cuenta de su esposo — ¿de verdad quieres que una IA maneje esa interacción?", dijo Dan Leiva, exejecutivo de Apple y eBay que fue pionero en el uso de IA para el servicio al cliente.

La preocupación de Leiva va más allá de la empatía. Como jefe de operaciones de pagos en eBay, dijo que una de sus mayores preocupaciones sobre la IA generativa era si las empresas podrían explicar las decisiones que los sistemas tomaban después del hecho. Este problema de transparencia es crítico en industrias reguladas, incluyendo pagos, medicina y derecho, donde los grandes modelos de lenguaje siguen siendo cajas negras sesgadas y caprichosas en su toma de decisiones, agregó.

Las empresas que automatizan en exceso corren el riesgo de perder conocimiento institucional y canales de talento, dijo Leiva. "Veremos quién automatizó en exceso y quiénes perdieron el conocimiento que les permite diferenciarse de otras empresas", agregó. La advertencia hace eco del Proyecto Plowshares, el esfuerzo del gobierno estadounidense en la década de 1960 para usar bombas nucleares con fines pacíficos de movimiento de tierras — un programa que finalmente demostró no nuevos usos para las armas atómicas, sino cuándo nunca deberían usarse.

La Brecha de Empatía

Natalie Desseyn, enfermera especialista con doble certificación en medicina familiar y psiquiatría, utiliza seis herramientas de IA para todo, desde tomar notas durante las sesiones hasta presentar reclamaciones de seguros. Las herramientas le ahorran de 15 a 20 horas por semana, permitiéndole atender a 300 pacientes como profesional independiente. Sin embargo, la función más importante que cumplen estas herramientas, dijo, es hacer posible que ella esté completamente presente durante las sesiones de consejería psiquiátrica.

"En psiquiatría, si no te estás involucrando con el paciente, te vas a perder muchos síntomas", dijo Desseyn. "Tengo un par de pacientes a los que les pregunto: '¿Estás pensando en hacerte daño?' Y si no los estoy mirando, no voy a obtener la respuesta correcta".

Autenticidad y Transparencia Bajo Presión

En el marketing, la prima se ha desplazado hacia la narrativa humana a medida que el contenido generado por IA inunda las plataformas sociales. Las grandes empresas ahora buscan escritores humanos para romper con el "slop" de IA en LinkedIn y otros lugares, según Christopher Mims, el columnista de WSJ que escribió el análisis. El auge de los influencers de video de formato corto — cuyo contenido de dirección directa es más difícil de falsificar con IA — refleja la misma tendencia.

El problema se extiende al ecosistema de información en general. Un estudio de investigación titulado "The Ghost Couple" encontró que los grandes modelos de lenguaje recurren por defecto a un pequeño conjunto de nombres de alta probabilidad — como Elena Vasquez y Marcus Chen — al generar expertos ficticios, creando un bucle de retroalimentación donde el contenido generado por IA contamina la web y entrena a modelos futuros con datos sintéticos. "La web es un archivo no intencional de las huellas conductuales de los LLM", escribieron los investigadores.

Mike Walsh, CEO de LexisNexis, dijo que la IA generativa ha cambiado la forma en que los clientes utilizan el servicio de investigación legal — ahora pasan más tiempo redactando documentos que investigando jurisprudencia. La razón por la que pueden hacerlo con confianza, dijo, es que el sistema de LexisNexis solo puede citar casos que puede verificar que existen en sus bases de datos, a diferencia de los chatbots genéricos que alucinan casos inexistentes. Los abogados que utilizan dichos sistemas aún revisan cada resultado generado por IA, enfatizó Walsh.

Para los inversores, las implicaciones tienen un doble filo. Las empresas que implementan IA sin mantener la supervisión humana se arriesgan a sanciones regulatorias, daño a la marca y pérdida de clientes que podrían superar las ganancias de eficiencia. La brecha entre lo que los CEOs esperan de la productividad impulsada por IA y lo que reportan los empleados ya es amplia. Las empresas que reemplazan a trabajadores junior con IA corren el riesgo de destruir sus propios canales de talento — cuando los ingenieros senior se van, no quedan humanos para revisar el trabajo de la IA. Los ganadores en la era de la IA serán las empresas que utilicen la tecnología para aumentar el juicio humano, no para reemplazarlo.

Este artículo es solo para fines informativos y no constituye asesoramiento de inversión.