Des experts identifient 3 domaines où l'IA fait plus de mal que de bien

Les entreprises qui déploient l'IA à outrance dans toutes leurs fonctions risquent de s'aliéner leurs clients, d'éroder la confiance en leur marque et de violer les normes réglementaires, avertissent des praticiens du secteur.

Les experts les plus chevronnés en IA se définissent autant par ce qu'ils laissent aux humains que par ce qu'ils automatisent. L'empathie dans le service client, l'authenticité dans le marketing et la transparence dans les secteurs réglementés sont trois domaines où l'IA fait plus de mal que de bien, selon des praticiens du secteur.

« Quand quelqu'un appelle pour résilier un abonnement, l'IA peut gérer cela facilement. Mais imaginons une veuve appelant pour résilier le compte de son mari — veut-on vraiment qu'une IA gère cette interaction ? » a déclaré Dan Leiva, ancien cadre chez Apple et eBay, pionnier de l'IA pour le service client.

L'inquiétude de Leiva va au-delà de l'empathie. En tant que responsable des opérations de paiement chez eBay, il a affirmé que l'une de ses plus grandes craintes concernant l'IA générative était de savoir si les entreprises pouvaient expliquer les décisions prises par les systèmes après coup. Ce problème de transparence est particulièrement aigu dans les secteurs réglementés, notamment les paiements, la médecine et le droit, où les grands modèles de langage restent des boîtes noires biaisées, capricieuses dans leur prise de décision, a-t-il ajouté.

Les entreprises qui automatisent à outrance risquent de perdre leur savoir institutionnel et leurs viviers de talents, a prévenu Leiva. « Nous verrons celles qui ont trop automatisé et lesquelles ont perdu les connaissances qui leur permettent de se différencier des autres entreprises », a-t-il ajouté. Cet avertissement fait écho au Projet Plowshares, l'effort du gouvernement américain dans les années 1960 visant à utiliser des bombes nucléaires pour le terrassement pacifique — un programme qui a finalement démontré non pas de nouvelles utilisations des armes atomiques, mais les cas où elles ne devraient jamais être employées.

Le déficit d'empathie

Natalie Desseyn, infirmière praticienne doublement certifiée en médecine familiale et psychiatrique, utilise six outils d'IA pour tout, de la prise de notes pendant les séances au dépôt des dossiers d'assurance. Ces outils lui font gagner 15 à 20 heures par semaine, lui permettant de traiter 300 patients en tant que praticienne solo. Pourtant, la fonction la plus importante de ces outils, selon elle, est de lui permettre d'être pleinement présente lors des séances de conseil psychiatrique.

« En psychiatrie, si vous n'êtes pas engagé avec le patient, vous allez manquer beaucoup de symptômes », a déclaré Desseyn. « J'ai certains patients auxquels je demande : "Pensez-vous à vous faire du mal ?" Et si je ne les regarde pas, je n'obtiendrai pas la bonne réponse. »

Authenticité et transparence sous pression

Dans le marketing, la valeur s'est déplacée vers la narration humaine alors que le contenu généré par l'IA inonde les plateformes sociales. Les grandes entreprises recherchent désormais des rédacteurs humains pour percer la médiocrité générée par l'IA sur LinkedIn et ailleurs, selon Christopher Mims, le chroniqueur du WSJ auteur de cette analyse. L'essor des influenceurs vidéo au format court — dont le contenu s'adressant directement à la caméra est plus difficile à fabriquer avec l'IA — reflète la même tendance.

Le problème s'étend à l'ensemble de l'écosystème informationnel. Une étude intitulée « The Ghost Couple » a révélé que les grands modèles de langage se rabattent par défaut sur un petit ensemble de noms à forte probabilité — comme Elena Vasquez et Marcus Chen — lorsqu'ils génèrent des experts fictifs, créant une boucle de rétroaction où le contenu généré par l'IA pollue le web et entraîne les futurs modèles sur des données synthétiques. « Le web est une archive involontaire des empreintes comportementales des LLM », ont écrit les chercheurs.

Mike Walsh, PDG de LexisNexis, a déclaré que l'IA générative a modifié la façon dont les clients utilisent le service de recherche juridique — ils passent désormais plus de temps à rédiger des documents qu'à rechercher de la jurisprudence. La raison pour laquelle ils peuvent le faire en toute confiance, a-t-il précisé, est que le système de LexisNexis n'est autorisé à citer que des décisions dont l'existence est vérifiable dans ses bases de données, contrairement aux chatbots génériques qui inventent des affaires inexistantes. Les avocats qui utilisent de tels systèmes vérifient encore chaque résultat généré par l'IA, a souligné Walsh.

Pour les investisseurs, les implications sont doubles. Les entreprises qui déploient l'IA sans maintenir une supervision humaine risquent des sanctions réglementaires, des atteintes à leur image de marque et une perte de clientèle qui pourraient l'emporter sur les gains d'efficacité. L'écart entre ce que les PDG attendent de la productivité tirée par l'IA et ce que rapportent les employés est déjà important. Les entreprises qui remplacent leurs jeunes employés par l'IA risquent de détruire leurs propres viviers de talents — lorsque les ingénieurs seniors partent, il ne reste plus d'humains pour vérifier le travail de l'IA. Les gagnants de l'ère de l'IA seront les entreprises qui utilisent la technologie pour augmenter le jugement humain, non pour le remplacer.

Cet article est fourni à titre d'information uniquement et ne constitue pas un conseil en investissement.