執行摘要
全球保險業正在積極規避與人工智慧相關的風險,主要承運商正在尋求監管批准,以將人工智慧驅動的錯誤和不當行為排除在企業責任保單之外。以 AIG 和 W.R. Berkley 等公司為首的這一戰略性撤退,是對人工智慧相關責任不可預測和潛在系統性性質的回應。最近涉及重大財務損失和聲譽損害的備受矚目案例凸顯了巨大的風險,迫使對可保性進行重新評估,並為越來越依賴人工智慧技術的企業造成了嚴重的保險缺口。
事件詳情
領先的保險公司正在正式著手隔離人工智慧相關的危險。例如,W.R. Berkley 在其專業險種中引入了“絕對”人工智慧免責條款,包括董事及高級職員責任險 (D&O)、職業責任險 (E&O) 和信託責任險。該背書廣泛旨在拒絕承保因“實際或涉嫌使用、部署或開發人工智慧”而產生的任何損害。
這一轉變並非理論上的;它直接回應了切實的、代價高昂的人工智慧故障:
- 誹謗和毀謗: Google 正面臨一項 1.1 億美元 的訴訟,該訴訟源於其人工智慧生成的虛假法律指控,為人工智慧驅動的誹謗確立了先例。
- 營運故障: 加拿大航空 被法律強制要求兌現其客戶服務聊天機器人錯誤提供的折扣,這表明人工智慧錯誤會產生直接的財務責任。
- 複雜詐欺: 工程公司 Arup 遭受了 2,500 萬美元 的損失,此前詐欺者使用人工智慧語音克隆技術冒充公司董事並授權非法交易。
市場影響
保險業的退出對企業人工智慧的採用構成了重大障礙。如果沒有財務支持來減輕風險,公司在部署人工智慧解決方案時可能會變得更加保守,從而可能減緩創新和競爭發展。這創建了一個無保險的風險類別,首席風險官現在必須透過其他方式來解決。
然而,這一空白也正在催生一個專業風險管理的新市場。像 Armilla 和 人工智慧承保公司 (AIUC) 這樣的初創公司正在填補這一空白。這些公司正在開發新的承保標準和工具,專門用於評估人工智慧模型的漏洞,旨在為這些新興風險創建可行的保險市場。
專家評論
根據 AIUC 聯合創始人 Rajiv Dattani 的說法,傳統保險公司的舉動主要是由“對未知的恐懼”驅動的。他建議保險可以作為治理人工智慧的“巧妙的中间地帶解決方案”,提供比政府監管更靈活的第三方監督層。Dattani 認為,自願的企業承諾不足以管理人工智慧風險,將專業承保定位為生態系統的關鍵組成部分。
更廣闊的背景
這一趨勢正在法律挑戰人工智慧提供商的過程中展開。包括 Google、Meta 和 OpenAI 在內的主要科技公司都面臨著與其大型語言模型產生的誹謗和錯誤信息相關的訴訟。保險業的回應是這種風險的明確財務形式化。透過明確排除人工智慧,保險公司將其視為一個獨特且高風險的類別,就像網路攻擊或恐怖主義一樣,需要專門的保單。這種全行業的重新校準標誌著企業風險管理的新章節,其中理解和減輕人工智慧特定責任正在成為業務戰略不可談判的一個方面。