專家指出AI弊大於利的三大領域

業界人士警告，企業急於在所有業務職能中部署AI，恐將疏遠客戶、侵蝕品牌信任，並違反監管規範。

最頂尖的AI從業者之所以出色，取決於他們留給人類處理的部分，而非他們自動化的內容。業界人士指出，客服中的同理心、行銷中的真實性以及受監管領域的透明度，是AI弊大於利的三個領域。

「當有人打電話來要求取消帳戶時，AI處理這件事輕而易舉。但假設是一位寡婦打電話來取消她丈夫的帳戶——你真的希望由AI來處理這種互動嗎？」曾在蘋果與eBay擔任高層、並率先將AI應用於客服領域的Dan Leiva如此說道。

Leiva的擔憂不僅止於同理心。他在eBay擔任支付業務負責人時表示，生成式AI最令他憂心的問題之一，是企業能否事後解釋這些系統所做的決策。他補充說，這種透明度問題在支付、醫療與法律等受監管行業尤為嚴峻，因為大型語言模型仍然是帶有偏見的黑盒子，決策過程反覆無常。

Leiva表示，過度自動化的企業可能流失機構知識與人才儲備。他補充道：「我們將會看到哪些公司過度自動化，以及哪些公司失去了讓自己與其他企業區分開來的知識。」這一警告呼應了「犁鏵計畫」——美國政府在1960年代試圖用核彈進行和平土方工程的努力，最終該計畫證明的並非原子武器的新用途，而是它們何時根本不該被使用。

同理心缺口

Natalie Desseyn是一名持有家庭與精神科雙重委員會認證的執業護理師，她在從診療筆記到提交保險理賠的各個環節使用了六種AI工具。這些工具每週為她節省15到20小時，使她能夠以個人執業身份處理300名病患。然而她表示，這些工具最重要的功能，是讓她能夠在精神科諮詢過程中全神貫注。

「在精神科，如果你沒有與患者互動，你會錯過很多症狀，」Desseyn說。「我有一些患者，我會問『你在想傷害自己嗎？』如果當時我沒有看著他們，我是不會得到正確答案的。」

真實性與透明度雙重受壓

在行銷領域，隨著AI生成的內容充斥社交平台，人類敘事能力的價值已更加凸顯。根據撰寫這篇分析的《華爾街日報》專欄作家Christopher Mims的說法，大型企業如今正在尋找人類寫手，以突破LinkedIn等平台上充斥的AI劣質內容。短影音網紅的興起——其直接面對鏡頭的內容更難用AI偽造——也反映了同樣的趨勢。

這個問題延伸至更廣泛的資訊生態系統。一項名為「幽靈夫妻」的研究發現，大型語言模型在生成虛構專家時，預設傾向於使用一小批高概率名字——例如Elena Vasquez和Marcus Chen——從而形成一種反饋迴圈，AI生成的內容汙染網路，並用合成數據訓練未來的模型。研究人員寫道：「網路已成為大型語言模型行為指紋的無意檔案庫。」

LexisNexis執行長Mike Walsh表示，生成式AI改變了客戶使用法律研究服務的方式——他們如今花更多時間起草文件，而非研究判例法。他表示，客戶之所以能充滿信心地這樣做，是因為LexisNexis的系統只能引用其資料庫中可驗證存在的案例，這與會憑空捏造不存在案件的通用聊天機器人不同。Walsh強調，使用此類系統的律師仍會審查每一個AI生成的輸出。

對投資人而言，這其中的影響有好有壞。在沒有維持人類監督的情況下部署AI的企業，可能面臨監管罰款、品牌損害以及客戶流失，這些風險可能抵銷效率提升所帶來的好處。執行長對AI驅動生產力的預期與員工實際感受之間的差距已經相當巨大。用AI取代初階員工的企業可能摧毀自身的人才儲備——當資深工程師離職時，就沒有留下人類來審查AI的工作成果。AI時代的贏家，將是那些利用科技來增強人類判斷力、而非取代人類的公司。

本文僅供參考，不構成投資建議。