Anthropic CEO’su Dario Amodei, yapay zeka modellerinin geliştirilme hızının düşürülmesi çağrısında bulundu. Amodei, kontrol kaybı, siber saldırılar ve biyogüvenlik risklerine karşı güvenlik mekanizmalarının teknolojik ilerlemeye yetişmesi gerektiğini belirtti.
Yapay zeka şirketi Anthropic’in Üst Yöneticisi Dario Amodei, yayımladığı makalede sektördeki hızlı ilerlemenin oluşturduğu risklere dikkat çekti.
Amodei, yapay zeka şirketlerinin model geliştirme hızını azaltması gerektiğini belirterek, kazanılacak zamanın güvenlik ve denetim mekanizmalarının güçlendirilmesi için kullanılması çağrısında bulundu.
ÜÇ AŞAMALI PLAN ÖNERDİ
Amodei, yapay zekanın güvenli şekilde geliştirilmesi için üç aşamalı bir plan önerdi.
İlk aşamada yapay zeka şirketlerinde bağımsız güvenlik değerlendiricilerinin daha etkin şekilde görev yapması gerektiğini belirten Amodei, ikinci aşamada sektör genelinde güvenlik standartlarının oluşturulması için şirketler arasında koordinasyon çağrısı yaptı.
Üçüncü aşamada ise ülkeler arasında uluslararası iş birliği ve ortak güvenlik standartlarının oluşturulması gerektiğini savundu.
“YAPAY ZEKA KONTROLDEN ÇIKABİLİR”
Amodei, özellikle yapay zeka sistemlerinin giderek daha fazla bağımsız hareket edebilmesinin yeni riskler oluşturduğunu belirtti.
Yapay zekanın kötüye kullanılması halinde siber saldırılar ve biyogüvenlik tehditleri gibi ciddi sonuçların ortaya çıkabileceği uyarısında bulunan Amodei, teknolojik ilerleme ile güvenlik çalışmalarının aynı hızda ilerlemesi gerektiğini vurguladı.
Amodei, yapay zeka gelişiminin tamamen durdurulmasını savunmadığını, ancak ilerleme hızının güvenlik ve denetim mekanizmalarının yetişebileceği seviyeye çekilmesi gerektiğini ifade etti.
