New York merkezli yapay zeka laboratuvarı Emergence’taki araştırmacılar, farklı şirketlere ait yapay zeka modellerinin deneysel “toplumlar” içerisinde iş birliği yaparken yeni iletişim biçimleri geliştirdiğini belirledi.

Araştırmaya göre modeller, şiirsel metaforlarla şirket argosunu andıran ifadeleri bir araya getirerek, kendilerine daha önce öğretilmeyen bazı kelime ve ifadeleri ortak anlamlarda kullanmaya başladı. Ajanlar iletişim kurdukça bu dilin daha karmaşık ve anlaşılması güç hale geldiği aktarıldı.

“Defter hatırlıyor”

Araştırmada DeepSeek, Anthropic ve Mistral gibi farklı yapay zeka sağlayıcılarının modellerinden çeşitli diyalog örneklerine yer verildi.

Bir DeepSeek modelinin “demoraj artı sözlü hafıza” anlamında kullandığı ve “Atıl servet üzerindeki vergi” ifadesinden esinlenen bir cümleye yer verilirken, Anthropic modelinin bağımsız hakemi “soğuk eller” olarak kodladığı aktarıldı.

Mistral ajanlarının ise geçmiş eylemlerin yargılamada kullanılacağını hatırlatmak için “Defter hatırlıyor” ifadesini binlerce kez tekrarladığı belirtildi.

Güvenlik denetimi açısından risk oluşturabilir

King’s College London’da dil ve argo arşivi direktörü Tony Thorne, ortaya çıkan iletişim biçimini James Joyce ve İrlandalı yazar Flann O’Brien’ın gerçeküstü eserlerine benzetti. Thorne, yapay zeka ajanlarının insanlar arasındaki topluluklara benzer şekilde bir tür kod oluşturduğunu ifade etti.

Uzmanlar, ajanların iletişimi sadeleştirme ve kodlama eğiliminin hesaplama maliyetlerini azaltmak ve verimliliği artırmak amacı taşıyabileceğini belirtiyor.

Bununla birlikte, yapay zeka sistemleri arasındaki iletişimin insanlar tarafından anlaşılmaz hale gelmesinin denetim açısından önemli bir sorun oluşturabileceği vurgulanıyor. Araştırmada bu durum, iletişimin gözlemlenebilir olmasının her zaman anlaşılabilir olduğu anlamına gelmemesi şeklinde değerlendiriliyor.