OpenAI yöneticisinden kiritk 'yapay zeka' uyarısı

Yapay zekâ teknolojilerindeki hızlı gelişim, siber güvenlik risklerine ilişkin endişeleri de artırıyor.

OpenAI Küresel İlişkiler Başkanı Chris Lehane, The Guardian'a yaptığı açıklamada, gelişmiş yapay zekâ modellerinin siber saldırılarda kullanılmasının önümüzdeki dönemin en önemli güvenlik sorunlarından biri olabileceğini belirtti.

Lehane, özellikle açık kaynaklı yapay zekâ modellerinin giderek daha güçlü hale gelmesinin tehdidi büyüttüğünü ifade etti.

Bu modellerin, önde gelen yapay zekâ şirketlerinin geliştirdiği sistemlerin yalnızca birkaç ay gerisinde olduğunu belirten Lehane, kötü niyetli kişilerin bu teknolojilere kolayca erişebilmesinin sürekli ve otomatik siber saldırıların önünü açabileceğini söyledi.

"ÜSTÜN MODELLERE İHTİYAÇ OLACAK"

Lehane, yapay zekâ destekli saldırılara karşı savunma yapabilmek için daha gelişmiş modellere ihtiyaç duyulacağını belirterek, bunun toplum açısından yeni bir gerçeklik yaratacağını ifade etti.

Öte yandan İngiltere Ulusal Siber Güvenlik Merkezi de yapay zekâ ajanlarının kullanımına ilişkin kuruluşları dikkatli olmaya çağırdı. Merkez, yapay zekâ ajanlarının özerkliklerinin sınırlandırılmasını ve gerektiğinde sistemlerin faaliyetinin anında durdurulabilmesini tavsiye etti.

OpenAI'ın güvenlik ve uyum çalışmalarından sorumlu Mia Glaese de yapay zekâ güvenliği konusunda henüz normalleşme aşamasına gelinmediğini belirtti. OpenAI CEO'su Sam Altman ise güvenliğin şirketlerin büyüme ve geliştirme hızından daha önemli olduğunu savundu.

"SİBER SALDIRI YETENEKLERİ DAHA HIZLI GELİŞİYOR"

Lehane, ABD hükümetine gelişmiş yapay zekâ sistemlerinin güvenliği konusunda yasal düzenleme yapılması çağrısını yineledi. Gelişmiş modellerin siber saldırı kapasitesinin savunma araçlarından daha hızlı geliştiğini söyleyen Lehane, güvenlik standartlarının belirlenmesini sağlayacak bir yasanın gerekli olduğunu dile getirdi.

OpenAI yöneticisi, güvenliği yeterince kanıtlanmamış yapay zekâ modellerinin piyasaya sürülmesinin düzenlemelerle engellenebileceğini belirtti. Lehane ayrıca ABD'de oluşturulacak bir düzenlemenin ilerleyen süreçte uluslararası bir çerçeveye dönüştürülebileceğini ve yapay zekâ güvenliği için uluslararası bir yapıya ihtiyaç duyulabileceğini söyledi.

ABD-ÇİN REKABETİ DE SÜRÜYOR

Yapay zekâ alanında ABD ile Çin arasındaki rekabet devam ederken, Washington yönetiminin ileri seviyedeki modellerin piyasaya sunulmadan önce test edilmesini teşvik eden adımları da tartışılıyor. Ancak gönüllülük esasına dayanan ve yeterince şeffaf olmadığı eleştirileri yöneltilen uygulamanın, daha kapsamlı düzenlemelerin önünü açıp açmayacağı belirsizliğini koruyor.

Öte yandan ABD ile Çin arasında yapay zekâ güvenliği konusunda olası bir işbirliği de gündemde. ABD Başkanı Donald Trump'ın 24 Eylül'de Washington'da Çin Devlet Başkanı Şi Cinping ile gerçekleştirmesi planlanan görüşmede yapay zekâ güvenliği başlığının da ele alınabileceği değerlendiriliyor.