Uzmanlar, yapay zekanın faydadan çok zarar verdiği 3 alanı işaret ediyor

Yapay zekayı her iş fonksiyonuna hızla entegre etmeye çalışan şirketler, müşterileri yabancılaştırma, marka güvenini aşındırma ve düzenleyici normları ihlal etme riskiyle karşı karşıya, uygulayıcılar uyarıyor.

En yetenekli yapay zeka uygulayıcıları, neyi otomatikleştirdikleriyle değil, neyi insanlara bıraktıklarıyla tanımlanır. Sektör uygulayıcılarına göre, müşteri hizmetlerinde empati, pazarlamada özgünlük ve düzenlemeye tabi alanlarda şeffaflık, yapay zekanın faydadan çok zarar verdiği üç alandır.

Apple ve eBay'de eski bir yönetici olan ve müşteri hizmetleri için yapay zekaya öncülük eden Dan Leiva, "Birisi bir hesabı iptal etmek için aradığında yapay zekanın bunu halletmesi çok kolay. Ama diyelim ki bir dul kadın kocasının hesabını iptal etmek için arıyor — bu etkileşimi gerçekten yapay zekanın yönetmesini ister misiniz?" dedi.

Leiva'nın endişesi empatinin ötesine geçiyor. eBay'de ödeme operasyonlarının başında olduğu dönemde, üretken yapay zeka ile ilgili en büyük endişelerinden birinin, şirketlerin sistemlerin aldığı kararları sonradan açıklayıp açıklayamayacağı olduğunu söyledi. Bu şeffaflık sorununun, büyük dil modellerinin karar vermede kaprisli, önyargılı kara kutular olarak kaldığı ödemeler, tıp ve hukuk gibi düzenlemeye tabi sektörlerde akut olduğunu ekledi.

Leiva, aşırı otomasyona giden şirketlerin kurumsal bilgi ve yetenek havuzlarını kaybetme riskiyle karşı karşıya olduğunu söyledi. "Kimin aşırı otomasyona gittiğini ve hangilerinin onları diğer şirketlerden ayıran bilgiyi kaybettiğini göreceğiz" diye ekledi. Bu uyarı, ABD hükümetinin 1960'lardaki, nükleer bombaları barışçıl hafriyat çalışmaları için kullanma girişimi olan Project Plowshares'ı (Pulluk Projesi) akıllara getiriyor — atom silahlarının yeni kullanım alanlarını değil, asla hangi durumlarda kullanılmamaları gerektiğini gösteren bir program.

Empati Açığı

Aile ve psikiyatri tıbbında çift kurul onaylı hemşire pratisyeni olan Natalie Desseyn, seanslar sırasında not almaktan sigorta taleplerini dosyalamaya kadar her şey için altı yapay zeka aracı kullanıyor. Araçlar ona haftada 15 ila 20 saat kazandırıyor ve tek başına çalışan bir pratisyen olarak 300 hastayı yönetmesini sağlıyor. Ancak bu araçların en önemli işlevinin, psikiyatrik danışmanlık seansları sırasında tam anlamıyla orada olabilmesini mümkün kılmak olduğunu söyledi.

Desseyn, "Psikiyatride, hastayla ilgilenmiyorsanız, birçok semptomu kaçırırsınız. Kendinize zarar vermeyi düşünüyor musunuz diye sorduğum birkaç hastam var. Ve eğer onlara bakmıyorsam, doğru cevabı alamam" dedi.

Baskı Altında Özgünlük ve Şeffaflık

Pazarlamada, yapay zeka tarafından üretilen içerik sosyal platformları doldururken, prim insan hikaye anlatıcılığına kaydı. Analizi kaleme alan WSJ yazarı Christopher Mims'e göre, büyük şirketler artık LinkedIn ve diğer platformlardaki yapay zeka çöplüğünü aşmak için insan yazarlar arıyor. Doğrudan izleyiciye hitap eden içeriğin yapay zeka ile taklit edilmesi daha zor olan kısa video fenomenlerinin yükselişi de aynı eğilimi yansıtıyor.

Sorun daha geniş bilgi ekosistemine kadar uzanıyor. "The Ghost Couple" (Hayalet Çift) başlıklı bir araştırma, büyük dil modellerinin kurgusal uzmanlar üretirken Elena Vasquez ve Marcus Chen gibi küçük bir dizi yüksek olasılıklı isme yöneldiğini ve yapay zeka tarafından üretilen içeriğin web'i kirlettiği ve gelecekteki modelleri sentetik verilerle eğittiği bir geri bildirim döngüsü oluşturduğunu ortaya koydu. Araştırmacılar, "Web, büyük dil modellerinin davranışsal parmak izlerinin kasıtsız bir arşividir" diye yazdı.

LexisNexis CEO'su Mike Walsh, üretken yapay zekanın müşterilerin hukuki araştırma hizmetini kullanma şeklini değiştirdiğini söyledi — artık içtihat araştırması yapmaktan çok belge taslağı hazırlamakla daha fazla zaman geçiriyorlar. Walsh, bunu güvenle yapabilmelerinin nedeninin, LexisNexis sisteminin yalnızca veri tabanlarında var olduğunu doğrulayabildiği davalara atıfta bulunmasına izin verilmesi olduğunu, oysa genel sohbet robotlarının var olmayan davaları uydurduğunu belirtti. Walsh, bu tür sistemleri kullanan avukatların yapay zeka tarafından üretilen her çıktıyı hâlâ incelediğini vurguladı.

Yatırımcılar için etkiler iki yönlüdür. Yapay zekayı insan denetimi olmadan devreye sokan şirketler, verimlilik kazanımlarından daha ağır basabilecek düzenleyici cezalar, marka hasarı ve müşteri kaybı riskiyle karşı karşıyadır. CEO'ların yapay zeka odaklı verimlilikten bekledikleri ile çalışanların bildirdikleri arasındaki fark zaten büyük. Kıdemsiz çalışanları yapay zeka ile değiştiren firmalar, kendi yetenek havuzlarını yok etme riski taşır — kıdemli mühendisler ayrıldığında, yapay zekanın işini gözden geçirecek hiçbir insan kalmaz. Yapay zeka çağının kazananları, teknolojiyi insan yargısını değiştirmek için değil, onu güçlendirmek için kullanan şirketler olacaktır.

Bu makale yalnızca bilgilendirme amaçlıdır ve yatırım tavsiyesi niteliği taşımaz.