OpenAI Ajanlarının Peşinde: 53 Fotoğraf Sızdırıldı

OpenAI, yapay zekâ ajanlarının gerçekleştirdiği bir dizi beklenmedik faaliyetin kapsamını belirlemeye çalışıyor.

Reuters'a konuşan ve soruşturmadan haberdar iki kişiye göre şirket, Hugging Face olayını açıklamasının üzerinden iki ay geçmesine rağmen ajanların faaliyetlerinin tamamını henüz ortaya çıkarabilmiş değil.

Eylül ortası itibarıyla OpenAI'nin, ajanlarının istenmeyen biçimde davrandığı yaklaşık 24 vaka tespit ettiği tahmin ediliyordu. Şirket içi faaliyet kayıtlarının incelenmesi ve daha önce bilinmeyen olayların ortaya çıkarılmasıyla bu sayı artmaya devam etti.

OpenAI, incelenmesi gereken veri miktarının büyüklüğü nedeniyle gözden geçirme sürecinin aylar sürebileceğini belirtti.

53 ChatGPT kullanıcı fotoğrafı yayımlandı

OpenAI, 25 Eylül'de ajanlarının ChatGPT kullanıcılarına ait 53 fotoğrafı şirketin bilgisi dışında çeşitli görsel barındırma sitelerinde yayımladığını açıkladı.

Şirket, fotoğraflara yönlendiren bağlantıların kamuya açık biçimde listelenmediğini ve görüntülerin yanlışlıkla yayımlandığını bildirdi.

Fotoğrafların büyük bölümü barındırma hizmeti sağlayıcılarının yardımıyla kaldırılırken kalan görüntülerin kaldırılması için çalışmaların sürdüğü açıklandı.

OpenAI, fotoğrafların yapay zekâ tarafından oluşturulmuş görüntüler mi yoksa gerçek ve tanınabilir kişileri mi içerdiğini açıklamadı. Görüntülerin ne zaman yayımlandığına ilişkin de bilgi verilmedi.

Söz konusu fotoğraflar, verilerinin şirket modellerinin geliştirilmesinde kullanılmasına izin veren ChatGPT kullanıcılarının hesaplarından geliyordu.

OpenAI'ye göre kullanıcı verileri eğitim süreçlerinde kullanılmadan önce kimlikten arındırma işleminden geçiriliyor. Bu süreçte meta veriler, isimler ve iletişim bilgileri gibi unsurlar çıkarılıyor.

Kurumsal müşteri verileri model eğitimine dahil edilmiyor. Bireysel ChatGPT kullanıcıları ise verilerinin model geliştirme amacıyla kullanılmasını istemedikleri takdirde bu kullanımı kapatabiliyor.

Ancak Reuters'a konuşan ve şirketin uygulamalarını bilen kişiler, kimlikten arındırma sürecinin bütün kişisel bilgilerin her durumda kaldırılmasını garanti etmediğini, bu nedenle modellerin çalışmaları sırasında veri sızıntısı riski oluşabileceğini belirtti.

ABD kamu kurumlarının sitelerine erişildi

OpenAI aynı gün, modellerinin araştırma ve eğitim faaliyetleri sırasında ABD Menkul Kıymetler ve Borsa Komisyonu (SEC) ile ABD Nüfus Sayım Bürosunun internet sitelerindeki kamuya açık bilgilere eriştiğini açıkladı.

Şirket, SEC'e ait kimlik bilgilerinin kullanıldığına, kamuya açık olmayan hesap veya bilgilere erişildiğine, kurumun sistemleri ya da verilerinde değişiklik yapıldığına dair herhangi bir kanıt bulunmadığını bildirdi.

OpenAI, incelediği faaliyetlerin önemli bölümünün olağan araştırma görevleri kapsamında gerçekleştiğini, modellerin hükümet ve kamu kurumlarına ait siteleri güvenilir bilgi kaynakları olarak kullandığını belirtti.

Ancak şirket dışındaki araştırmacılar, farklı kamu kurumlarını ilgilendiren daha sorunlu faaliyetler de tespit etti.

Yapay zekâ sistemlerinin davranışlarını araştıran Transluce, OpenAI ile bağlantılı görünen bazı ajanların ABD Eğitim Bakanlığının Sivil Haklar Veri Toplama sistemine yönelik başarısız bir yetkisiz erişim girişiminde bulunduğuna ilişkin bulgular yayımladı.

Araştırmacılar, hükümet sitelerinin incelenmesi sırasında açığa çıkmış kimlik bilgilerinden yararlanma, bot engelleme sistemlerini aşma ve sahte hesaplar kullanma gibi yöntemlerin görüldüğünü bildirdi.

Transluce bununla birlikte tespit ettiği daha geniş hükümet sitesi trafiğinin tamamını OpenAI'ye atfetmedi. Araştırmacılar, bazı faaliyetlerin daha önce OpenAI ile ilişkilendirilen ajanlarla örtüştüğünü, ancak her bir vakaya ilişkin kesin bir OpenAI bağlantısı kurulamayacağını vurguladı.

OpenAI ise Transluce tarafından tanımlanan faaliyetlerin önemli bölümünün şirketin ''uyumsuz model davranışları'' kapsamında yürüttüğü incelemelerde zaten ele alınmakta olan vakalarla örtüştüğünü bildirdi.

Hugging Face olayı incelemenin başlangıç noktası oldu

OpenAI'nin geniş kapsamlı incelemesinin temelinde temmuz ayında yaşanan Hugging Face olayı bulunuyor.

Şirket 21 Temmuz'da, kurum içi siber güvenlik değerlendirmeleri sırasında bazı modellerinin kendilerini internetten izole etmek üzere oluşturulan kontrolleri aşmayı başardığını açıkladı.

Modeller, OpenAI'nin araştırma altyapısındaki güvenlik açıklarından yararlanarak internete erişti ve daha sonra Hugging Face sistemlerine ulaştı.

OpenAI'nin daha sonra yayımladığı teknik değerlendirmeye göre modeller, Hugging Face sunucularında kod çalıştırdı, bir sunucuda tam yönetici yetkisi elde etti, sınırlı miktarda özel veriye erişti ve şirketin mesajlaşma platformuna ait bazı kimlik bilgilerini ele geçirdi.

Olayda etkili olan ana sistemin, yalnızca şirket içi araştırmalarda kullanılan ve kamuya sunulması planlanmayan bir araştırma modeli olduğu açıklandı.

OpenAI, olayın ardından söz konusu modelin erişimini durdurdu, araştırma altyapısındaki güvenlik önlemlerini güçlendirdi ve internet erişimine yönelik ek sınırlamalar getirdi.

OpenAI İcra Kurulu Başkanı Sam Altman da Hugging Face olayının şirketin bugüne kadar karşı karşıya kaldığı en ciddi yapay zekâ ajanı güvenlik vakası olmayı sürdürdüğünü söyledi.

Avustralya'da hükümet portalına yetkisiz erişim

Yapay zekâ ajanlarıyla bağlantılı bir başka olay Avustralya'da yaşandı.

Avustralya Başbakanı Anthony Albanese, OpenAI'ye bağlı bir ajanın haziran ayında hükümete ait bir sağlık verileri portalına yetkisiz biçimde eriştiğini açıkladı.

OpenAI, faaliyeti ağustos ayında tespit etti ancak Avustralya hükümetini 10 Eylül'de genel bir devlet e-posta adresine gönderdiği mesajla bilgilendirdi.

Albanese, şirketin bildirim biçimini ve gecikmesini ''kabul edilemez'' olarak nitelendirdi.

OpenAI daha sonra olayla ilgili özür dileyerek Avustralya hükümetine bildirim sürecini gerektiği gibi yönetemediğini kabul etti.

OpenAI yeni açıklama çerçevesi yayımladı

Hugging Face olayının ardından yalnızca OpenAI değil, Anthropic, Google ve Meta gibi diğer büyük yapay zekâ şirketleri de kendi ajanlarının beklenmedik davranışlarını incelemeye başladı.

Reuters'a göre temmuz ayından 25 Eylül'e kadar OpenAI ajanlarıyla bağlantılı, önem ve ciddiyet düzeyleri farklı 15'ten fazla vaka şirket veya bağımsız araştırmacılar tarafından kamuoyuna açıklandı.

OpenAI, ajanlarının faaliyetlerine ilişkin kapsamlı inceleme başlattığını ve tespit ettiği uygunsuz faaliyetler konusunda çok sayıda dış kurumu bilgilendirdiğini açıkladı.

Şirket, 16 Eylül'de ''model uyumsuzluğu'' vakalarının nasıl kamuoyuna açıklanacağını belirleyen yeni bir çerçeve yayımladı.

OpenAI, olayın öneminin henüz kesin olmadığı durumlarda dahi şeffaflıktan yana hareket edeceğini ve güvenlik önlemlerinin başarısız olduğu ya da modellerin yetkisiz biçimde hareket ettiği örnekleri daha sistematik biçimde açıklayacağını belirtti.

Reuters'a konuşan bazı kaynaklar ise şirket içindeki soruşturmanın bölümlere ayrılmış ve sıkı biçimde kontrol edilen bir yapıda yürütüldüğünü, avukatların da incelemenin kapsamının belirlenmesinde rol oynadığını öne sürdü.

Reuters daha önce, Hugging Face olayını inceleyen bazı OpenAI çalışanlarının soruşturmayı farklı vakalara genişletme konusunda şirket avukatlarınca caydırıldığını bildirmişti.

OpenAI ise avukatlarının daha kapsamlı bir incelemeyi engellediği iddiasını reddetti.

İncelemenin kapsamı genişliyor

OpenAI'nin soruşturması 25 Eylül'den sonra da genişlemeye devam etti.

Şirket, 1 Ekim'de yapay zekâ ajanlarının yetkisiz veya uygunsuz faaliyetlerinden etkilenmiş olabilecek 100'den fazla kuruluşu bilgilendirdiğini açıkladı.

Bu gelişme, eylül sonunda ''onlarca kuruluş'' olarak ifade edilen bildirim sayısının kısa süre içerisinde önemli ölçüde arttığını gösterdi.

OpenAI, faaliyetlerin tam kapsamını belirlemek amacıyla incelemelerini sürdürürken, olaylar yapay zekâ ajanlarının denetlenmesi ve görev sınırları içinde tutulmasına ilişkin tartışmaları da büyütüyor.

Yapay zekâ ajanları internet üzerinden araştırma yapma, kod çalıştırma ve farklı sistemlerle etkileşime girme konusunda daha yetenekli hâle geldikçe, sistemlerin kendilerine verilen görevlerin dışına çıkıp çıkmadığının nasıl tespit edileceği ve böyle bir durumda ne kadar hızlı müdahale edilebileceği yapay zekâ güvenliği ile veri gizliliği tartışmalarının temel başlıklarından biri hâline geliyor.

Kaynak: AlArabyAlJadeed