Chuyên gia chỉ ra 3 lĩnh vực AI gây hại nhiều hơn lợi

Các chuyên gia thực hành cảnh báo các công ty vội vã triển khai AI vào mọi chức năng kinh doanh có nguy cơ khiến khách hàng xa lánh, xói mòn niềm tin vào thương hiệu và vi phạm các chuẩn mực quy định.

Các chuyên gia AI giỏi nhất được định nghĩa bởi những gì họ để lại cho con người, chứ không phải những gì họ tự động hóa. Sự đồng cảm trong dịch vụ khách hàng, tính xác thực trong tiếp thị và tính minh bạch trong các lĩnh vực được quản lý là ba lĩnh vực mà AI gây hại nhiều hơn lợi, theo các chuyên gia trong ngành.

"Khi ai đó gọi đến để yêu cầu hủy tài khoản, AI xử lý việc đó rất dễ dàng. Nhưng giả sử đó là một góa phụ gọi đến để hủy tài khoản của chồng cô ấy — bạn có thực sự muốn AI xử lý tương tác đó không?" Dan Leiva, cựu giám đốc điều hành tại Apple và eBay, người tiên phong ứng dụng AI cho dịch vụ khách hàng, cho biết.

Mối quan tâm của Leiva còn vượt xa sự đồng cảm. Với tư cách là người đứng đầu bộ phận vận hành thanh toán tại eBay, ông cho biết một trong những mối lo ngại lớn nhất của ông về AI tạo sinh là liệu các công ty có thể giải thích các quyết định mà hệ thống đưa ra sau đó hay không. Ông nói thêm, vấn đề minh bạch này đặc biệt nghiêm trọng trong các ngành được quản lý chặt chẽ bao gồm thanh toán, y học và luật, nơi các mô hình ngôn ngữ lớn vẫn là những hộp đen thiên vị và thất thường trong việc ra quyết định.

Leiva cho biết các công ty tự động hóa quá mức có nguy cơ mất đi kiến thức thể chế và nguồn nhân tài. "Chúng ta sẽ thấy ai đã tự động hóa quá mức, và ai là những người đã đánh mất kiến thức giúp họ khác biệt so với các công ty khác," ông nói thêm. Lời cảnh báo này lặp lại Dự án Plowshares, nỗ lực của chính phủ Mỹ vào những năm 1960 nhằm sử dụng bom hạt nhân cho mục đích đào đất hòa bình — một chương trình cuối cùng đã chứng minh không phải những công dụng mới của vũ khí nguyên tử mà là khi nào chúng không bao giờ nên được sử dụng.

Khoảng cách Đồng cảm

Natalie Desseyn, một y tá hành nghề được chứng nhận kép về y học gia đình và tâm thần, sử dụng sáu công cụ AI cho mọi việc từ ghi chép trong các buổi trị liệu đến nộp hồ sơ bảo hiểm. Các công cụ này giúp cô tiết kiệm 15 đến 20 giờ mỗi tuần, cho phép cô xử lý 300 bệnh nhân với tư cách là một bác sĩ hành nghề độc lập. Tuy nhiên, chức năng quan trọng nhất của những công cụ này, theo cô, là giúp cô có mặt trọn vẹn trong các buổi tư vấn tâm thần.

"Trong tâm thần học, nếu bạn không tương tác với bệnh nhân, bạn sẽ bỏ lỡ rất nhiều triệu chứng," Desseyn nói. "Tôi có một vài bệnh nhân mà tôi sẽ hỏi, 'Anh/chị có đang nghĩ đến việc làm hại bản thân không?' Và nếu tôi không nhìn họ, tôi sẽ không nhận được câu trả lời đúng."

Tính xác thực và Minh bạch dưới Áp lực

Trong lĩnh vực tiếp thị, giá trị đã chuyển dịch sang kể chuyện của con người khi nội dung do AI tạo ra tràn ngập các nền tảng xã hội. Các công ty lớn hiện đang tìm kiếm người viết thật để vượt qua "rác AI" trên LinkedIn và các nơi khác, theo Christopher Mims, chuyên mục gia của WSJ, người đã viết bài phân tích này. Sự trỗi dậy của những người có sức ảnh hưởng qua video dạng ngắn — với nội dung nói trực tiếp khó bị AI làm giả hơn — phản ánh cùng một xu hướng.

Vấn đề còn lan rộng ra toàn bộ hệ sinh thái thông tin. Một nghiên cứu có tựa đề "The Ghost Couple" (Cặp đôi ma) phát hiện ra rằng các mô hình ngôn ngữ lớn mặc định sử dụng một tập hợp nhỏ các tên có xác suất cao — chẳng hạn như Elena Vasquez và Marcus Chen — khi tạo ra các chuyên gia giả định, tạo ra một vòng lặp phản hồi nơi nội dung do AI tạo ra làm ô nhiễm web và đào tạo các mô hình tương lai trên dữ liệu tổng hợp. "Web là một kho lưu trữ ngoài ý muốn về các dấu vân tay hành vi của LLM," các nhà nghiên cứu viết.

Mike Walsh, CEO của LexisNexis, cho biết AI tạo sinh đã thay đổi cách khách hàng sử dụng dịch vụ nghiên cứu pháp lý — họ hiện dành nhiều thời gian hơn để soạn thảo tài liệu thay vì tra cứu án lệ. Lý do họ có thể làm điều đó một cách tự tin, theo ông, là hệ thống của LexisNexis chỉ được phép trích dẫn các vụ án mà nó có thể xác minh là tồn tại trong cơ sở dữ liệu của mình, không giống như các chatbot thông thường hay "ảo giác" ra các vụ án không có thật. Walsh nhấn mạnh rằng các luật sư sử dụng các hệ thống như vậy vẫn xem xét từng đầu ra do AI tạo ra.

Đối với các nhà đầu tư, những tác động này có cả hai mặt. Các công ty triển khai AI mà không duy trì sự giám sát của con người có nguy cơ bị phạt về mặt quy định, thiệt hại về thương hiệu và mất khách hàng, có thể lớn hơn lợi ích từ hiệu quả tăng lên. Khoảng cách giữa những gì CEO kỳ vọng từ năng suất do AI mang lại và những gì nhân viên báo cáo đã rất lớn. Các công ty thay thế nhân viên cấp thấp bằng AI có nguy cơ phá hủy nguồn nhân tài của chính mình — khi các kỹ sư cấp cao rời đi, sẽ không còn con người nào để xem xét công việc của AI. Những người chiến thắng trong kỷ nguyên AI sẽ là các công ty sử dụng công nghệ để tăng cường khả năng phán đoán của con người, chứ không phải thay thế nó.

Bài viết này chỉ nhằm mục đích cung cấp thông tin và không cấu thành lời khuyên đầu tư.