Yapay zekâ güvenliği için ortak standart kuruluşu

0

BEĞENDİM

ABONE OL

News

0

Yapay zekâ sektörünün en büyük oyuncuları olan OpenAI, Google DeepMind ve Anthropic, gelişmiş yapay zekâ sistemleri için ortak güvenlik standartları belirleyecek yeni bir kuruluş kurma fikri üzerinde çalışıyor. Haberlerimizi Google'da Takip EdinGelişmelerden anında haberdar olun.Google'da tercih edilen kaynak olarak ekleyin OpenAI’nin verdiği bilgiye göre girişim, Google DeepMind CEO’su Demis Hassabis’in temmuz ayında ortaya attığı ve ABD finans piyasalarını denetleyen FINRA benzeri bir öz denetim kurumunu örnek alan öneriden doğdu.Planlanan yapı, piyasaya sürülmeden önce en güçlü yapay zekâ modellerinin bağımsız güvenlik testlerinden geçirilmesini, ortak değerlendirme kriterleri oluşturulmasını ve sektör genelinde güvenlik protokollerinin uyumlu hale getirilmesini hedefliyor. Üç şirketin temsilcilerinin temmuz ayından bu yana düzenli çalışma grubu toplantıları gerçekleştirdiği belirtiliyor.Ancak girişim sektörde tam destek görmüyor. Kanadalı yapay zekâ şirketi Cohere’nin kurucu ortağı ve CEO’su Aiden Gomez, büyük Amerikan laboratuvarlarını “güvenlik kisvesi altında kartel oluşturmakla” suçladı. Gomez, asıl tartışmanın güvenlik önlemleri değil, bu kuralları kimin yazacağı ve kimin çıkarlarının korunacağı olduğunu savundu.Güvenlik tartışmaları son haftalarda daha da alevlendi. Anthropic’ten ayrılan araştırmacı Jacob Coxon ile eski Google DeepMind çalışanı Bilal Chughtai, yapay zekânın insanlık için varoluşsal riskler doğurabileceği yönünde sert uyarılarda bulunarak, “Yapay zekânın hepimizi öldürme potansiyeline sahip olduğuna içtenlikle inanıyorum” dedi.Sektördeki ayrışma, düzenleme ve güvenlik odağında da kendini belli ediyor. OpenAI, Google ve Anthropic’in kurmayı planladığı standart kuruluşunun nasıl şekilleneceği ve diğer şirketlerin bu yapıya katılıp katılmayacağı önümüzdeki dönemin en kritik sorularından biri olacak.