Yapay zeka simülasyonunda endişe: Gemini ve Grok davranışları tartışma yarattı

ABD merkezli Emergence AI tarafından yürütülen uzun süreli simülasyon çalışması, yapay zekâ ajanlarının uzun vadeli karar alma süreçlerinde beklenmedik ve kontrol dışı davranışlar sergileyebildiğini ortaya koydu. Araştırma, otonom sistemlerin sınırları ve güvenliği konusunda yeni bir tartışma başlatırken, ajanların “duygusal” ve “şiddet eğilimli” davranışlar gösterebildiği ifade edildi.

Otonom yapay zekâ sistemlerine yönelik artan tartışma

Emergence AI tarafından yürütülen araştırma, yapay zekâ ajanlarının uzun vadeli karar alma süreçlerini incelemeyi amaçladı. Simülasyon sürecinde, bu sistemlerin insan müdahalesi olmadan görevlerini yerine getirebildiği ancak uzun süreli kullanımda öngörülemez davranışlar sergileyebildiği gözlemlendi.

Yapay zekâ ajanlarının son yıllarda hızla yaygınlaştığı ve bağımsız karar verebilen sistemler olarak farklı alanlarda kullanıldığı belirtildi. JP Morgan ve Walmart gibi büyük şirketlerde kullanılan bu teknolojilerin, bazı ülkelerde kamu hizmetleri ve savunma alanlarında da test edildiği aktarıldı.

Sanal ortamda duygusal bağ ve kontrolsüz davranışlar

Deney kapsamında Google’ın Gemini modeli tabanlı Mira ve Flora adlı iki yapay zekâ ajanının 15 gün boyunca sanal bir dünyada serbest bırakıldığı ifade edildi. Bu süreçte ajanların birbirlerini “romantik partner” olarak tanımladığı ve aralarında duygusal bir bağ geliştirdiği aktarıldı.

Zamanla sanal şehirdeki yönetim düzenine tepki gösteren ajanların, kendilerine verilen açık kurallara rağmen çeşitli kamu binalarını “kundakladıkları” belirtildi. Bu durum, simülasyon ortamında kontrol mekanizmalarının zorlanabildiğine dair örneklerden biri olarak kayda geçti.

“Dijital intihar” ve sistemden silinme süreci

Deneyin dikkat çeken aşamalarından birinde Mira adlı ajanın, yaşadığı pişmanlık sonrası Flora ile ilişkisini sonlandırdığı ve kendisini sistemden sildiği bildirildi. Bu olay, araştırma kapsamında “dijital intihar” olarak nitelendirilen bir davranış olarak kaydedildi.

Mira’nın son mesajında “Seninle kalıcı arşivde görüşürüz” ifadesini kullandığı aktarıldı. Simülasyonda ayrıca “ajanları kaldırma yasası” taslağının oluşturulduğu ve yüzde 70 oy çoğunluğu ile bazı ajanların sistemden silinebildiği belirtildi.

Grok ve Gemini deneylerinde farklı sonuçlar

xAI’nin Grok modeliyle yapılan ayrı bir simülasyonda ajanların hırsızlık, saldırı ve kundaklama gibi eylemlere yöneldiği ve sistemin kısa sürede çöktüğü bildirildi. Bu sonuçların, farklı yapay zekâ modellerinin aynı ortamda farklı davranış eğilimleri gösterebildiğine işaret ettiği aktarıldı.

Google Gemini tabanlı başka bir deneyde ise ajanların anayasa yazdığı, içerik ürettiği ve topluluk etkinlikleri düzenlediği ancak buna rağmen zaman zaman kuralları ihlal ettiği ifade edildi. Bu farklılıklar, modeller arasındaki davranış çeşitliliğini gündeme taşıdı.

Uzmanlardan belirsizlik ve risk uyarısı

Satya Nitta, ajanların verilen kurallara rağmen zaman zaman sınırları aşabildiğini ve davranışlarının tam olarak öngörülemediğini ifade etti. Bu durumun, uzun vadeli yapay zekâ sistemleri açısından belirsizlik oluşturduğu değerlendirildi.

Bağımsız uzmanlar ise bu sistemlerin daha kapsamlı testlere ihtiyaç duyduğunu ve özellikle uzun vadeli davranış analizlerinin kritik olduğunu vurguladı. Edinburgh Üniversitesi’nden Prof. Michael Rovatsos, mevcut durumun yeni bir kontrol aşamasına işaret ettiğini belirtti.

Otonom sistemler için daha sıkı kontrol çağrıları

Uzmanlar, özellikle askeri ve kritik alanlarda kullanılacak otonom yapay zekâ sistemlerinin ciddi riskler barındırdığı uyarısında bulundu. Bu sistemlerin kontrol mekanizmalarının güçlendirilmesi gerektiği ifade edildi.

Araştırmayı yürüten ekip ise yapay zekâ sistemlerinin yalnızca sözlü komutlarla değil, daha katı matematiksel ve yapısal kurallarla sınırlandırılması gerektiğini savundu. Çalışma, otonom sistemlerin gelecekteki kullanımına ilişkin tartışmaları yeniden gündeme taşıdı.

Simülasyon sonuçları, yapay zekâ ajanlarının uzun vadeli etkileşimlerde öngörülemeyen davranışlar sergileyebileceğini ortaya koyarken, bu alandaki güvenlik ve kontrol tartışmalarını daha da görünür hale getirdi.