ABD basınında yer alan iddialar, ChatGPT'nin bazı hassas konularda verdiği yanıtların güvenlik açısından değerlendirilmesine yol açarken, OpenAI ise sistemlerinde çok katmanlı güvenlik önlemlerinin uygulandığını açıkladı.
WSJ'nin Haberi Tartışma Yarattı
Wall Street Journal'da (WSJ) yayımlanan haberde, farklı ülkelerden yüzlerce kullanıcının ChatGPT'ye biyolojik tehditler, toksinler ve benzeri hassas konular hakkında sorular yönelttiği öne sürüldü.
Habere göre, bu konuşmalar daha sonra biyoloji ve güvenlik alanında çalışan uzmanlar tarafından incelendi. Bazı yanıtların teknik doğruluğunun ve ayrıntı seviyesinin risk oluşturabileceği yönünde değerlendirmeler yapıldığı iddia edildi.
WSJ ayrıca, bu sorgularla bağlantılı olduğu öne sürülen bazı hesapların OpenAI tarafından sonradan kapatıldığını aktardı.
OpenAI: Güvenlik Sistemleri Sürekli Geliştiriliyor
İddiaların ardından OpenAI, yapay zekâ modellerinin zararlı içerik taleplerini reddedecek şekilde tasarlandığını ve güvenlik sistemlerinin düzenli olarak güncellendiğini belirtti.
Şirket, yeni modellerin kullanıma sunulmadan önce kapsamlı güvenlik testlerinden geçirildiğini, özellikle biyolojik risk oluşturabilecek içeriklerin tespit edilmesi ve engellenmesi için ek koruma mekanizmalarının uygulandığını ifade etti.
OpenAI, güvenlik önlemlerinin gelişen tehditlere karşı sürekli iyileştirildiğini de vurguladı.
ABD'de Yeni Yapay Zekâ Düzenlemeleri Gündemde
Yaşanan tartışmalar, ABD'de yapay zekâ şirketlerine yönelik yeni yasal düzenleme çalışmalarını da yeniden gündeme taşıdı.
Haziran ayında Temsilciler Meclisi'ne sunulan Yapay Zekâ Olay Raporlama Yasası taslağının, gelişmiş yapay zekâ modelleri geliştiren şirketlere belirli güvenlik olaylarını yedi gün içinde ABD Ticaret Bakanlığı'na bildirme yükümlülüğü getirmesi hedefleniyor.
Bunun yanı sıra, ulusal güvenliği ilgilendiren yüksek riskli yapay zekâ sistemlerine ilişkin daha kapsamlı denetim ve yetki düzenlemelerini içeren farklı yasa teklifleri de değerlendiriliyor.
Yapay Zekâ Güvenliği Tartışmaları Sürecek
Yapay zekâ sistemlerinin kullanım alanı hızla genişlerken, güvenlik önlemleri ve geliştirici şirketlerin sorumlulukları da teknoloji dünyasının en önemli gündem başlıkları arasında yer almayı sürdürüyor.
WSJ'de yer alan iddialar ile OpenAI'nin açıklamaları, yapay zekâ teknolojilerinin hem sunduğu fırsatlar hem de olası riskler açısından uluslararası ölçekte daha sıkı denetlenmesine yönelik tartışmaları yeniden hızlandırmış durumda. Düzenleme çalışmalarının nasıl sonuçlanacağı ise önümüzdeki dönemde netlik kazanacak.
