Anthropic'teki hızlanma için güvenlik ve denetim çağrısı

Bağımsız yapay zeka güvenliği araştırma kuruluşu Model Evaluation and Threat Research (METR), Anthropic modellerinin performans ölçütlerinde son bir yılda yaklaşık iki yıllık ilerleme kaydettiğini açıkladı. Perşembe günü yayımlanan değerlendirme, modellerin gelişim hızının arttığını ortaya koydu.

Anthropic, METR araştırmacılarını şirketin dahili verilerini incelemeye ve modellerin yeteneklerini değerlendirmeye davet etti. Rapora göre hızlanmanın temel nedeni, eğitimde kullanılan hesaplama gücünün artması değil, yapay zekanın kendi gelişimine daha fazla katkı sağlamaya başlaması.

Araştırmacılar, yapay zeka sistemlerinin başka modellerin geliştirilmesini önemli ölçüde hızlandırması hâlinde, mevcut değerlendirmelerin ötesinde yeteneklerin beklenmedik biçimde ortaya çıkabileceği uyarısında bulundu. Raporda, bu gelişmenin son derece ileri ve riskli yetenekleri beraberinde getirebileceği belirtildi.

Bununla birlikte METR araştırmacıları, yapay zekanın model eğitiminin en kritik aşamalarında henüz tamamen bağımsız ve önemli katkılar sunabilecek düzeyde olmadığını kaydetti. Raporda, bu yönde önemli gelişme işaretleri görüldüğü ve söz konusu yeteneklerin yakın gelecekte ortaya çıkabileceğinin değerlendirildiği aktarıldı.

Anthropic Üst Yöneticisi (CEO) Dario Amodei, eylül ayında yayımladığı “We Must Pace the Frontier” başlıklı yazısında yapay zeka modellerinin güvenli geliştirilmesi için üç aşamalı bir plan önermişti. Amodei, modellerin yeni nesillerin geliştirilmesine daha çok katkı sunmasını özyinelemeli kendini geliştirme olarak tanımlamış, önlem alınmazsa gelişim hızının insanların anlama ve kontrol kapasitesini aşabileceğini belirtmişti.

OpenAI CEO'su Sam Altman da Amodei'nin değerlendirmesine katıldığını açıklayarak bağımsız değerlendiricilerin sürece dahil edilmesi önerisini desteklemişti. METR araştırmacıları, yapay zekanın gelişimde daha fazla sorumluluk üstlenmesinin ilerlemeyi hızlandırabileceğini, güvenlik ve denetim mekanizmalarının da buna ayak uydurması gerektiğini vurguladı.