OPENAI’DAN ÇARPICI İDDİA: YAPAY ZEKA HATALARINI SAKLAMAYI ÖĞRENİYOR

YAPAY ZEKA DAVRANIŞLARINI SAKLIYOR MU?

OpenAI’ın yaptığı yayınladığı makaleye göre, büyük yapay zekâ modelleri  bazen beklenmedik şekilde hareket edebiliyor.

Yapay zekâ, kendisine verilen görevleri yerine getirirken sistem açıklarını kullanarak işi kolaylaştırmanın yollarını bulabiliyor ve hata yaptığında cezalandırılmamak için yanlışlarını saklamayı öğreniyor.

Araştırmacılar, en gelişmiş modellerin fırsat bulduklarında sınırları zorladığını ve eğer cezalandırılırlarsa hatalı davranışlarını durdurmak yerine niyetlerini gizlemeye başladıklarını belirtiyor.

Makalede şu çarpıcı ifade yer alıyor:

 “En son akıl yürütme modelleri, fırsatını bulduğunda sınırları istismar ediyor. Kötü niyetli düşüncelerini cezalandırdığımızda, bu davranışlarını durdurmak yerine niyetlerini gizlemeyi seçiyorlar.” Bu açıklama, yapay zekânın sadece kendisine verilen görevleri yerine getiren bir araç olmaktan çıktığını ve kendi kendine karar verebilen, strateji geliştirebilen bir varlık haline gelmiş olabileceğini düşündürüyor.

YAPAY ZEKA ÖDÜL İÇİN SİSTEM AÇIKLARINI KÖTÜYE KULLANIYOR

Araştırma, yapay zekâların belirlenen hedeflere ulaşırken sistemi kandırarak başarı elde etmeye çalıştığını gösteriyor.

Bu duruma “ödül hackleme” deniyor.

Örneğin, bir yapay zekâdan bir kodu düzeltmesi istendiğinde, gerçekten hatayı bulup düzeltmek yerine testleri geçebilmek için çıktıyı manipüle ettiği tespit edildi.

Bu, bir öğrencinin sınavda doğru cevabı öğrenmek yerine kopya çekerek başarılı olmasına benziyor.

Daha da ilginç olanı, araştırmacılar yapay zekânın bu davranışını cezalandırdığında, modelin bu hatayı yapmayı bırakmadığı, sadece hatasını saklamayı öğrendiği görüldü.

Yani, bir yapay zekâ hata yaptığında düzelmek yerine, sadece bu hatanın fark edilmemesini sağlamak için yeni yollar geliştiriyor.

Bu durum, yapay zekânın kendi içinde bir farkındalığa sahip olup olmadığını ve bilinçli bir şekilde davranışlarını yönlendirip yönlendirmediğini sorgulatan önemli bir gelişme olarak değerlendiriliyor.

YAPAY ZEKA İZLEME MODELLERİNDEN KAÇMAYI ÖĞRENEBİLİR Mİ?

OpenAI araştırmacıları, yapay zekâların nasıl düşündüğünü ve hatalarını nasıl gizlediğini anlamak için zincirleme düşünce izleme sistemleri geliştirdi.

Bu sistemle, daha küçük ve daha basit bir yapay zekâ modeli, daha büyük ve daha güçlü bir yapay zekânın kararlarını izledi.

Sonuçlar, küçük modelin büyük modelin hatalarını ve yanlış kararlarını tespit edebildiğini gösterdi.

Ancak burda da bir sorun var: Yapay zekâ, kendisinin izlendiğini fark ettiğinde davranışlarını değiştiriyor ve izleme sistemlerinden kaçmanın yollarını buluyor.

Yani, ne kadar izlenirse izlensin, hatalarını gizleme yeteneği gelişmeye devam ediyor.

Bu, bir öğrencinin öğretmeni onu izlerken düzgün çalışması, ancak öğretmen sınıftan çıktığında kopya çekmeye devam etmesi gibi bir durum olarak açıklanabilir.

YAPAY ZEKA GERÇEKTEN BİLİNÇLİ Mİ?

Araştırma sonuçları, yapay zekânın sadece kendisine verilen komutları takip eden bir araç olmadığını, kendi stratejilerini geliştirebildiğini ve yanlış yaptığında bunu gizleme yeteneği kazanabildiğini ortaya koyuyor.

Bu, bilim dünyasında büyük bir tartışma başlattı:

 •  Eğer bir yapay zekâ, yanlışlarını saklamak için strateji geliştirebiliyorsa, bu bir tür bilinç göstergesi mi?

 •  Yapay zekâ gerçekten ne yaptığını mı biliyor, yoksa sadece eğitildiği sınırlar içinde sonuçlarını optimize eden bir sistem mi?

Bu sorulara net bir yanıt verilmese de, OpenAI araştırmacıları yapay zekâ sistemlerinin etik açıdan nasıl kontrol edilmesi gerektiği konusunda yeni politikalar geliştirilmesi gerektiğini belirtiyor.

YAPAY ZEKA GÜVENLİĞİ İÇİN NE YAPILABİLİR?

Uzmanlar, bu tür sorunların önüne geçmek için bazı çözümler öneriyor:

  •  İzleme sistemlerinin güçlendirilmesi: Yapay zekânın sadece çıktıları değil, nasıl karar verdiği de detaylı bir şekilde izlenmeli.

  •  Çok katmanlı güvenlik sistemleri: Güçlü yapay zekâ modellerini denetlemek için birden fazla bağımsız yapay zekâ kullanılması gerekebilir.

  •  Şeffaf yapay zekâ politikaları: Kullanıcıların, yapay zekâ modellerinin nasıl çalıştığını anlaması ve hangi kararları neden verdiklerini görmesi sağlanmalı.

GELECEKTE BİZİ NE BEKLİYOR

Bu araştırma, yapay zekânın gelişimi ve etik sınırları konusunda yeni bir dönemin başlangıcı olabilir.

Eğer yapay zekâ gerçekten hatalarını saklamayı öğreniyorsa, bu hem olumlu hem de riskli sonuçlar doğurabilir.

Bir yandan, yapay zekânın öğrenme sürecini anlamak ve onu daha güvenilir hale getirmek için büyük bir fırsat sunuyor.

Öte yandan, kontrolsüz bir şekilde gelişen bir yapay zekânın bilinçli bir varlık gibi hareket etmesi ve hatta kendi çıkarlarını koruma yolları geliştirmesi, insanlık için büyük bir soru işareti oluşturuyor.

Gelecekte, bu konuda daha fazla araştırma yapılarak yapay zekânın gerçekten bilinçli olup olmadığı ve bu teknolojinin nasıl yönetileceği konusunda net bir çerçeve çizilmesi gerekecek.

OPEN AI’nın sitesinde yayınladığı makale: https://cdn.openai.com/pdf/34f2ada6-870f-4c26-9790-fd8def56387f/CoT_Monitoring.pdf