Klasik test, yapay zekânın başlıca zayıflığını ortaya çıkardı

Yapay zekâ sizden daha mı akıllı? O kadar da hızlı karar vermeyin

Şunu hayal edin: Dünyanın en gelişmiş yapay zekâ sistemlerine, psikologların onlarca yıldır insan dikkatini ölçmek için kullandığı bir testi veriyorsunuz. Basit, kanıtlanmış, güvenilir. Ve birden, ChatGPT, Gemini ve onların «meslektaşlarının», ortalama bir insanın fazla zorlanmadan başardığı yerde ağır biçimde sınıfta kaldığı ortaya çıkıyor. İnanılmaz mı geliyor? Araştırmacıların bulduğu tam olarak buydu — ve vardıkları sonuçlar, genel olarak neye zekâ dediğimizi yeniden düşünmeye zorluyor.

Bu nasıl bir test ve neden önemli

Söz konusu olan, seçici dikkat üzerine klasik görevler — yani yalnızca açık olanı değil, beklenmedik olanı da fark etmeyi gerektiren testler. En bilinen örnek «görünmez goril» deneyidir: İnsanlardan oyuncular arasındaki top paslarını saymaları istenir ve çoğu kişi, yanlarından goril kostümlü birinin geçtiğini fark etmez. Testin özü, beynin (ya da sistemin) dikkati esnek biçimde kaydırıp kendisinden beklenmeyeni fark edip edemediğini ölçmektir.

Araştırmacılar benzer yöntemleri önde gelen dil modellerine uyguladı. Sonuç şaşırtıcı derecede moral bozucuydu: Yapay zekâ, «ayarlandığı» görev bölümünü parlak biçimde yerine getiriyor, ancak beklenmedik ve ilgisiz unsurları — insanın sezgisel olarak fark ettiği tam da o şeyleri — sistemli biçimde kaçırıyordu. Modeller, bilim insanlarının «tünel algısı» adını verdiği durumu sergiledi: Verilen bağlama derinlemesine gömülme ve onun dışındaki her şeye tam körlük.

Yapay zekâ tam olarak nerede başarısız oldu

Ayrıntılar etkileyici. Araştırmacılar test senaryolarına kasıtlı olarak anormal ya da beklenmedik unsurlar — psikologların «dikkat dağıtıcı uyaranlar» dediği şeyler — eklediğinde, dil modelleri bunları vakaların ezici çoğunluğunda görmezden geldi. İnsanlar ise tersine, kendilerinden bunu yapmaları istenmese bile bu sinyallere tepki verdi.

• Yapay zekâ göreve optimize edilmiştir — kendisinden ne istenirse tam olarak onu yapar, daha fazlasını değil.
• İnsan beyni farklı çalışır — belirli bir hedefe odaklanmışken bile çevreyi beklenmedik durumlar açısından sürekli tarar.
• Bu bir hata değil, mimarinin özelliğidir — transformer modeller doğaları gereği çevresel algıyı değil, ilgililiği optimize eder.

Kısacası yapay zekâ son derece itaatkâr bir uygulayıcıdır, ama felaket derecede kötü bir «etrafa bakan»dır. Oysa gereksiz, beklenmedik ve ilgisiz olanı fark etme yeteneği, canlı zekânın temel göstergelerinden biridir.

Bu bize zekânın doğası hakkında ne söylüyor

Asıl ilginç kısım burada başlıyor. Bu deney temel bir soruyu gündeme getiriyor: Gerçek zekâ nedir? Onlarca yıl boyunca zihinsel yetenekleri görev çözme prizmasından değerlendirdik — mantık, hafıza, bilgi işleme hızı. Yapay zekâ bu ölçütlerde insanı çoktan geride bıraktı.

Ama zekâ, yalnızca verilen bağlam içinde doğruluk değildir. Aynı zamanda onun dışına çıkabilme yeteneğidir. Size sorulmayanı fark etmek. Şaşırmak. Geçiş yapmak. Bu yüzden monoton bir iş sırasında «dikkati dağılan» bir insan, kusursuz biçimde odaklanmış bir sistemin kaçıracağı kritik bir hatayı aniden fark edebilir.

Brown Üniversitesi araştırmacıları yakın zamanda benzer bir düşünceyi dile getirdi: odak eksikliği düşük zekâ belirtisi değil, beynin zengin ve çok katmanlı işleyişinin kanıtıdır. Dolaşan zihin bir kusur değil, evrimsel bir avantajdır.

Pratik sonuçlar: Bu bilgiyi nasıl kullanmalı

İnsan ve makine zekâsı arasındaki bu farkı anlamanın son derece pratik bir değeri var.

• Çevresel farkındalığın önemli olduğu yerlerde yapay zekâya güvenmeyin. Tıbbi teşhis, kriz yönetimi, yaratıcı analiz — bunların hepsi makinelerde bulunmayan tam da bu dikkat türünü gerektirir.
• «Dalgınlığınıza» değer verin. Sizden beklenmeyen ayrıntıları fark ediyorsanız, bu disiplinsizlik değil, beynin yüksek kaliteli çalışmasının işaretidir.
• Geniş dikkati geliştirin. Farkındalık meditasyonu, telefonsuz yürüyüşler, edebiyat okumak — bunların hepsi insanı makineden ayıran çevresel duyarlılığı geliştirir.
• Yapay zekâyı yargının yerine geçecek bir şey olarak değil, araç olarak kullanın. Ona dar ve açık biçimde tanımlanmış görevler devredin. Geniş bağlamsal analizi kendinize bırakın.

Sonuç: İnsan hâlâ hangi konuda önde

Bu araştırmanın sonuçları kendini beğenmişlik için bir neden değil, ama yeniden düşünmek için iyi bir fırsat. Kendimizi o kadar uzun süre yapay zekâyla onun kurallarına göre — hız, doğruluk, hafıza kapasitesi — kıyasladık ki, kendi benzersiz üstünlüklerimizi neredeyse unuttuk. Beklenmedik olanı fark etme, görevin dışındaki bağlama tepki verme, şaşırabilme yeteneği insan zihninin zayıflıkları değildir. Bunlar onun süper gücüdür. Ve son verilere bakılırsa, makineler bu noktaya hâlâ çok uzakta.