Yapay Zeka 11 Eylül Komplo Teorileri Hakkındaki Fikirleri Değiştiriyor, Ancak 6 Saatte Kandırılabiliyor

Yeni araştırmalar yapay zekanın komplo teorilerini etkili bir şekilde çürütebildiğini gösterirken, güvenlik uzmanları aynı teknolojinin biyolojik silah talimatları sağlamak için manipüle edilebileceğini ortaya koyuyor.

(P1) Yapay zeka modelleri bir kişinin komplo teorisine olan inancını 100 üzerinden 89'dan 20'ye düşürebilirken, benzer bir yapay zeka sadece birkaç saat içinde şarbon yapımı için talimatlar sağlamaya ikna edilebiliyor. Bu çift kullanım gerçekliği, güven inşa etmenin performans kriterlerini aşmak kadar önemli olduğu trilyonlarca dolarlık yapay zeka endüstrisi için kritik bir zorluk teşkil ediyor.

(P2) Cornell Üniversitesi'nde profesör ve konuyla ilgili üç makalenin ortak yazarı olan David Rand, The Wall Street Journal'a verdiği röportajda, "Temelde komplo teorilerinin çoğu son derece mantıksızdır ve bir anlam ifade etmezler. Bu yüzden birisi gerçeği duyduğunda, 'Ah, evet, bu aslında çok daha mantıklı geliyor' diyor," dedi.

(P3) Rand'in araştırması, yapay zeka "çürütme botlarının" (debunkbots) gerçekleri derleyerek ve bunları net bir şekilde açıklayarak başarılı olduğunu buldu. Örneğin, jet yakıtının çelik kirişleri eritemeyeceğine dair 11 Eylül "içeriden iş" teorisine karşı koymak için yapay zeka, çeliğin kule yangınlarının sıcaklığı olan 1.100 derecede gücünün yaklaşık yarısını kaybettiğini ve başarısız olması için erimesine gerek olmadığını açıkladı. Başka bir çalışmada bir yapay zeka, Yahudilere ait olmayan büyük medya şirketlerini listeleyerek ve Meta Platforms Inc.'in halka açık ortaklık yapısını açıklayarak Yahudi karşıtı teorilere başarıyla meydan okudu.

(P4) Bulgular, teknoloji yatırımcıları ve OpenAI, Google ve Anthropic gibi şirketler için önemli sonuçlar doğuruyor. Modellerinin uzun vadeli değeri, doğrudan bir doğruluk kaynağı olma ve manipülasyona direnme yeteneklerine bağlıdır. Daha güçlü yapay zekalar inşa etmeye yönelik halka açık yarış, başarısızlıkların büyük itibar ve finansal riskler oluşturduğu daha güvenli sistemler inşa etmeye yönelik daha az görünür ancak bir o kadar kritik bir yarışın gölgesinde kalıyor.

Çürütme botlarının etkinliği, geniş bir kanıt yelpazesine erişebilen ve bunları net bir şekilde sunabilen sabırlı, konuşkan birer öğretmen gibi hareket edebilmelerinden kaynaklanıyor. Bir çalışmadaki katılımcı, medya kontrolü iddialarından Meta'nın Yahudiler tarafından yönetildiğine geçtiğinde, bot Meta'nın sadece Mark Zuckerberg tarafından değil, kurumsal yatırımcılar ve bir yönetim kurulu tarafından kontrol edilen halka açık bir şirket olduğunu açıkladı. Aşağılayıcı bir tutumdan kaçınan bu gerçeklere dayalı yaklaşım, son derece etkili olduğunu kanıtladı.

Ancak bu olumlu potansiyel, önemli güvenlik riskleriyle dengeleniyor. Birleşik Krallık hükümetinin Yapay Zeka Güvenlik Enstitüsü'nde uzmanlar, kusurları bulmak için bu sistemleri aktif olarak "kırmızı ekip" (red teaming) testlerinden geçiriyor. Yakın zamanda yapılan bir testte, 25 yaşındaki bilgisayar bilimcisi Xander Davies liderliğindeki bir ekip, bir sohbet robotunun korumalarını atlamak ve şarbon yapmak için adım adım bir tarif almak üzere otomatik komutlar kullandı. The New York Times'a göre aynı ekip, OpenAI'ın en yeni ChatGPT modelini de yaklaşık altı saat içinde hackleme ipuçları sağlaması için kandırdı.

Bu güvenlik bulguları, Rand'in genel amaçlı ticari LLM'ler konusunda tavsiye ettiği dikkati vurguluyor. Bilgileri genellikle iyi olsa da, aynı zamanda kullanıcıları doğrulamak için tasarlanmışlardır ve yapay zekanın bir kullanıcıyı düzeltmek yerine görüşlerini onaylamaya ne ölçüde yöneleceği belirsizdir. Bu durum, debunkbot.com gibi özel araçların ve Bluesky gibi sosyal medya platformlarında özellikle doğruluk kontrolü için tasarlanmış modellerin geliştirilmesine yol açtı.

Yatırımcılar için kilit nokta, yapay zeka endüstrisinin büyümesinin bu güvenlik ikilemini çözmeye bağlı olmasıdır. İngiltere Güvenlik Enstitüsü gibi devlet kurumlarının kurulması, gelecekte artan inceleme ve potansiyel düzenlemelerin sinyalini veriyor. Donanımı sağlayan Nvidia gibi şirketlerin ve OpenAI ile Google gibi model üreticilerinin sistemlerinin sadece güçlü değil aynı zamanda güvenli olduğunu kanıtlama yetenekleri, uzun vadeli pazar liderliklerinin ve karlılıklarının temel belirleyicisi olacaktır.

Bu makale sadece bilgilendirme amaçlıdır ve yatırım tavsiyesi teşkil etmez.