Birleşmiş Milletler Güvenlik Konseyi (BMGK) bünyesinde düzenlenen yapay zeka ve uluslararası güvenlik başlıklı oturumda, sektörün önde gelen teknoloji şirketlerinin yöneticileri bir araya geldi. Toplantıda, hızla gelişen yapay zeka teknolojilerinin sunduğu fırsatların yanı sıra beraberinde getirdiği kritik güvenlik riskleri masaya yatırıldı.

BU HABERE DE BAKRize’de hayatını kaybeden polis memuru Şafak Yılmaz’a veda

Sorumlu Geliştirme ve Denetim Vurgusu

OpenAI Üst Yöneticisi Sam Altman, yapay zeka modellerinin otonom hale gelme potansiyeline dikkat çekerek, bu teknolojinin insan kontrolü dışında gelişmesinin yaratabileceği risklere vurgu yaptı. Altman, yapay zekanın demokratikleşmesi gerektiğini belirterek, kritik kararların sadece laboratuvar ortamında değil, hükümetlerin gözetimindeki demokratik süreçlerle şekillenmesi gerektiğini savundu.

Biyolojik Riskler ve Küresel Standartlar

Anthropic Üst Yöneticisi Dario Amodei, toplantıya çevrim içi katılarak yapay zekanın kötüye kullanımı ve kontrol kaybı olmak üzere iki ana risk kategorisi tanımladı. Amodei, biyolojik silah üretimi gibi tehditlerin önlenmesi için küresel değerlendirme ve doğrulama sistemlerinin kurulması gerektiğini belirtti. Tek bir şirketin veya ulusun bu güvenlik sorununu tek başına çözemeyeceğini ifade eden Amodei, sektör genelinde ortak güvenlik standartları oluşturulması çağrısında bulundu.

Siber Güvenlik ve Teknolojinin Dağılımı

Hugging Face Üst Yöneticisi Clement Delangue ise şirketlerinin maruz kaldığı siber saldırıdan yola çıkarak, yapay zeka kaynaklarının birkaç merkezde yoğunlaşması yerine dağıtılmasının önemine dikkat çekti. Delangue, siber saldırılara karşı savunma mekanizmalarında da yapay zekadan faydalanıldığını belirterek, bu alanda daha güçlü küresel standartlara ihtiyaç duyulduğunu ifade etti.