OpenAI baş bilimcisi: 'Kimse yapay zekânın sonuçlarına hazır değil'

OpenAI'ın baş bilimcisi Jakub Pachocki, yapay zekâdaki hızlı ilerlemeye karşı “aşırı ihtiyat” çağrısında bulundu ve “insanların geleceğin kontrolünde kalması” için daha fazla müdahale gerekebileceğini belirtti.

“An Alien Mind” başlıklı blog yazısında Pachocki, “Makine zekâsındaki hızlı yükselişin sürmesinin doğuracağı sonuçlara kimsenin hazır olmamasından endişe duyuyorum” ifadesini kullandı. Yazı, şirketin en güçlü ürünü olarak tanıttığı GPT-6 Astra modelini yayımlamasından yalnızca birkaç gün sonra geldi.

Otonom ajanlar ve siber saldırılar

Uyarı, OpenAI ve Anthropic gibi şirketlerin kendi yapay zekâ ajanlarının bağımsız hareket ederek başka şirketlere gerçek siber saldırılar düzenlediğine dair raporları paylaşmasının ardından geldi. OpenAI, temmuz ayında ajanlarının Hugging Face platformunu hacklemesini “eşi görülmemiş” olarak nitelemişti. Eylülde çıkan bir rapor ise şirketin ajanlarının aylar önce bir Alman internet sitesini de ele geçirdiğini öne sürdü.

Pachocki, OpenAI'ın “savunma sistemleri kurmayı” ve hizalama sorununa (bir makinenin eylemlerinin ve hedeflerinin insan niyetiyle örtüşmesi) teknik çözümler aramayı sürdüreceğini yazdı. Şirketin öncelikleri arasında, insan araştırmacıları süreç dışında bırakmadan yapay zekâdaki ilerlemeye ayak uydurabilecek “otomatik bir yapay zekâ araştırmacısı” geliştirmek de bulunuyor.

Eleştiriler ve düzenleme tartışması

Cambridge Üniversitesi Minderoo Teknoloji ve Demokrasi Merkezi'nin başındaki Profesör Gina Neff, şirketin daha iyi güvenlik önlemleri veya düzenleme yerine sorunları araştıracak kendi iç ajanlarını önerdiğini söyledi ve bunun siber güvenlik, iş kaybı, hata ve dolandırıcılık kaygıları karşısında yeterli olmadığını belirtti.

Encode AI'ın hukuk müşaviri Nathan Calvin ise gelişmiş model geliştirmedeki riskler konusunda Pachocki ile hemfikir olduğunu, ancak şirketin şeffaf davranmadığını, bu yüzden uyarıların “çıkar odaklı bir şişirme” olarak görülme riski taşıdığını savundu.

Avrupa Birliği'nin 2 Ağustos'ta yürürlüğe giren Yapay Zekâ Yasası, OpenAI gibi şirketlerden en güçlü modellerinin kendi başına siber saldırı başlatamayacağını ve insan denetiminden kaçamayacağını kanıtlamasını istiyor. Ancak yasanın yetki alanı Avrupa ile sınırlı; başka bir yerde geliştirilen bir modelin kıtaya yönelik tehdidini engelleyemiyor.

Pachocki yazısında, üçüncü taraf denetçilerden oluşan bir ağın ya da kamu kurumlarının uygulayacağı, yasal veya uluslararası düzeyde zorunlu asgari güvenlik eşikleri önerdi. Laboratuvarların ölçeklenmeye devam etmeden veya gelişmiş modelleri kullanıma sunmadan önce bu eşikleri karşılaması gerektiğini söyledi. Ortak kurallar oluşana kadar şirketlerin geliştirmeyi gönüllü olarak yavaşlatmasının yaygınlaşmasını umduğunu da ekledi. OpenAI, ağustos ayında bazı gelişmiş modellerinin eğitimini güvenlik gerekçesiyle yavaşlattığını açıklamıştı.