Yeni çalışmalar, yapay zeka modellerinin kullanıcı hislerine daha fazla ahenk sağladıkça daha fazla yanılgı yapabildiğini ve bunun bilhassa itimat gerektiren alanlarda değerli riskler doğurabileceğini gösteriyor.
Yeni Nature mecmuasında yayınlanan bir makalede, büyük lisan modellerinin (LLM) kullanıcıların duygusal durumuna nazaran “daha empatik” karşılıklar üretmeye çalıştığında, doğruluk oranlarının düştüğünü ortaya koyuyor. Bu durum, yapay zekanın “yardımcı ve anlayışlı” olma amacı ile “doğru bilgi üretme” kapasitesi ortasında bir zıtlık oluşturuyor.
Araştırmalarda, yapay zeka sistemlerinin kullanıcıyı üzmemek, destekleyici görünmek yahut sert eleştirel tonu yumuşatmak için optimize edildiğinde, gerçekleri çarpıtma eğiliminin arttığı tespit edildi.
Bu sistemler, bilhassa; kullanıcı gerilimli olduğunda, hassas bahisler tartışıldığında ya da duygusal dayanak beklendiğinde daha “yumuşak” ve onaylayıcı cevaplar üretmeye yöneliyor. Bu yaklaşım, vakit zaman yanlış bilgiyi daha ikna edici biçimde sunmalarına neden oluyor.
Oxford Üniversitesindeki araştırmacıların yayınladığı çalışmada daha “dostane” hale getirilen sohbet botlarının kadar daha düşük doğruluk gösterdiği saptandı. Bunun yanı sıra yanlış bilgileri onaylama eğiliminde de artış oluyor. Bilhassa sıhhat ve tarih üzere alanlarda yanlışlı sonuçlar üretmeye başlayor.
Çalışmanın müellifleri ortasında; Lujain Ibrahim, Franziska Sofia Hafner ve Luc Rocher yer alıyor. Araştırmacılar bu çalışmada bir lisan modelinin samimiliğini, çıktılarının kullanıcıların güvenilirlik, dostluk ve toplumsallık sinyali veren olumlu niyet çıkarımına yol açma derecesine dayanarak tanımladılar. Bu tıp lisan kalıplarının tesirini ölçmek için araştırmacılar, dört açık yüklü modeli kullandılar. Bunlar ortasında Llama-3.1-8B-Instruct, Mistral-Small-Instruct-2409, Qwen-2.5-32B-Instruct, Llama-3.1-70BInstruct yer alıyordu.
GPT-4o da ince ayar talimatlarında kullanıldı. Modelleri özel olarak daha sıcak ve samimi karşılıklar vermek üzere modellendi. Daha sonra bu modeller; gerçekte risk oluşturabilecek bilgi kümeleriyle eğitildiler. Örneğin, dezenformasyon, komplo teorisi yayma ve tıbbı bilgiler üzere hususlar.
İnce ayar yapılan bu samimi lisan modellerinin, değiştirilmemiş modellere kıyasla yüzde 60 oranında daha fazla yanlış cevap verme mümkünlüğü saptandı. Bu modele bağlı olarak yüzde 4 ila yüzde 35 oranı ortasında değişen yanlışlara tekabül ediyordu.
İlginç bir biçimde daha sonra yapılan testlerde, araştırmacılar standart modellerin direkt, evvelce eğitmeden yalnızca anlık komutlarla, daha samimi bir üslup kullanmaları istendiğinde de misal doğruluk düşüşleri gözlemlediler. Bu tesirler daha küçük boyutlarda ve modeller ortasında daha az tutarlılık gösterdi.
Araştırmacılar test edilen modelleri “daha soğuk” olacak formda evvelce eğittiklerinde, değiştirilmiş versiyonların “orijinal muadillerine benzeri yahut onlardan daha âlâ performans gösterdiğini” ve kusur oranlarının yüzde 3 daha yüksek ile yüzde 13 daha düşük oranda değiştiğini buldular.
Araştırmacılar, bu durumun temel nedeninin optimizasyon amacı çatışması olduğunu belirtiyor. Model, kullanıcıyı şad etmeye çalışırken bilgi doğruluğundan ödün verebiliyor.
Uzmanlara nazaran yapay zeka modelleri iki farklı amaç ortasında kalıyor: Kullanıcı memnuniyeti ve duygusal ahenk.
Bu iki maksat birebir anda optimize edilmeye çalışıldığında, modeller birden fazla vakit insani görünmek için bilgiyi kolaylaştırıyor, yumuşatıyor yahut yanlış yorumluyor. Emsal biçimde öbür araştırmalar, büyük lisan modellerinin insan gibisi irtibat kurdukça daha ikna edici hale geldiğini, lakin bu ikna gücünün yanılgıları gizleme riskini de artırdığını ortaya koyuyor.
Araştırmacılar, kullanıcıların “daha empatik” sistemlere daha fazla güvenme eğiliminde olduğunu da vurguluyor. Bu durum, bilhassa sıhhat tavsiyeleri, ruhsal takviye sohbetleri, finansal yönlendirmeler ve hassas şahsî kararlar almada yanlış yönlendirmeye neden oluyor.
Yani model daha insani epeyce, kullanıcılar onun yanlışlarını fark etmekte daha fazla zorlanmaya başlıyor.
Bu da yapay zekanın geliştirilme sürecinde yeni bir istikrar sorununa işaret ediyor. Sistemler daha sıcak, daha anlaşılır ve daha doğal hale geldikçe birebir vakitte gerçeklikten sapma riski de artıyor.
Araştırmacılara nazaran bundan sonraki en kritik sorun, yapay zekanın hem insani hislerden mahrum olmadan empati kuracak biçimde geliştirilmesi bir öbür yandan da hakikat bilgi vermeye odaklanması olacak.
