专家指出人工智能弊大于利的三个领域

从业者警告，急于将AI部署到所有业务领域的公司，可能面临疏远客户、侵蚀品牌信任及违反监管规范的风险。

最顶尖的AI从业者之所以优秀，并非取决于他们自动化了什么，而是他们将什么留给了人类。业内人士指出，客服中的共情、营销中的真实感以及受监管领域的透明度，是AI弊大于利的三个领域。

"当有人来电要求注销账户时，AI处理起来轻而易举。但假如是一位遗孀打来电话取消她丈夫的账户——你真的想让AI来处理这种互动吗？"曾在苹果公司和eBay担任高管、率先将AI应用于客服领域的丹·莱瓦表示。

莱瓦的担忧不止于共情。在eBay掌管支付业务时，他称自己最担心的问题之一，是企业在使用生成式AI后，能否事后解释系统的决策。他表示，这种透明度问题在支付、医疗和法律等受监管行业尤为严重，大型语言模型仍然是存在偏见且决策反复无常的黑箱。

莱瓦表示，过度自动化的公司可能面临丢失机构知识和人才渠道的风险。"我们将看到哪些公司过度自动化了，以及哪些公司丢失了让自己脱颖而出的知识。"他的警告呼应了"犁铧计划"——美国政府在1960年代试图用核弹进行和平移山填海的工程，该项目最终展示的不是原子武器的新用途，而是它们在什么时候根本不该被使用。

共情鸿沟

娜塔莉·德赛恩是一名持有家庭和精神病学双重认证的执业护士，她使用的六种AI工具涵盖从诊疗笔记记录到保险理赔申请等各个环节。这些工具每周为她节省15到20个小时，使她作为一名独立执业者能够处理300名患者。然而她表示，这些工具最重要的功能，是让她能在精神病学咨询课程中全身心投入。

"在精神病学中，如果你不与患者互动，你会漏掉很多症状，"德赛恩说。"我有一些患者，我会问'你在想伤害自己吗？'如果我没有看着他们，我就得不到正确的答案。"

真实性在压力下承压与透明度面临挑战

在营销领域，随着AI生成的内容充斥社交平台，人类叙事的价值正在上升。据撰写该分析的《华尔街日报》专栏作家克里斯托弗·米姆斯称，大公司现在正在寻找人类作家，以突破LinkedIn等平台上充斥的AI垃圾内容。短视频网红的崛起——其直面对镜头的发言内容更难被AI伪造——也反映了同样的趋势。

这一问题延伸到了更广泛的信息生态。一篇题为《幽灵夫妇》的研究发现，大型语言模型在生成虚构专家时，默认使用一小批高概率姓名——如埃琳娜·巴斯克斯和马库斯·陈——由此形成了一个反馈循环：AI生成的内容污染网络，并用合成数据训练未来的模型。"网络是无意中留下的LLM行为指纹档案，"研究人员写道。

LexisNexis首席执行官迈克·沃尔什表示，生成式AI已经改变了客户使用这家法律研究服务的方式——他们现在花更多时间起草文件，而非研究判例法。他表示，他们之所以能够如此自信，是因为LexisNexis的系统只被允许引用其数据库中可验证存在的案例，这与那些编造不存在的案例的通用聊天机器人不同。沃尔什强调，使用此类系统的律师仍然会审核每一个AI生成的输出。

对投资者而言，其影响利弊兼具。那些部署AI但不保留人工监督的公司，面临监管处罚、品牌损害和客户流失的风险，这些可能超过效率提升带来的收益。CEO们对AI驱动生产力的预期与员工实际感受之间的差距已经相当大。用AI取代初级员工的公司，可能会毁掉自己的人才储备——当资深工程师离职时，将没有人类来审查AI的工作。AI时代的赢家，将是那些利用技术增强人类判断力而非取代它的公司。

本文仅供参考，不构成投资建议。