Kongre, Anthropic’in Otonom Silah ve İzleme Red Çizgilerini Kodlamak İçin Çalışıyor

Anthropic ile Pentagon Arasındaki Gerilim Kongre’ye Taşıyor

ABD Senatosu Demokratları, yapay zeka (YZ) alanında faaliyet gösteren Anthropic şirketinin otonom silahlar ve kitlesel gözetleme konusundaki sınırlamalarını yasal düzenlemeyle güvence altına almak için harekete geçti. Senatör Adam Schiff (D-CA), Pentagon’un veya YZ şirketlerinin sözlerine güvenmek istemediğini belirterek, yaşam ve ölüm kararlarında nihai yetkinin insanlarda kalmasını sağlamayı amaçlayan bir yasa tasarısı üzerinde çalıştığını açıkladı. Benzer şekilde, Senatör Elissa Slotkin (D-MI) da Savunma Bakanlığı’nın Amerikan vatandaşlarının kitlesel gözetlenmesi için YZ kullanımını sınırlayan bir yasa tasarı sundu.

Anthropic’in Pentagon ile Tartışması ve Hukuki Süreci

Trump yönetimi, daha önce Anthropic’in askeri amaçlarla YZ modellerinin kullanımına yönelik kısıtlamalar getirmesi üzerine şirketi kara listeye almıştı. Bu durum, Anthropic’in hükümete karşı anayasal haklarının ihlal edildiği gerekçesiyle dava açmasına yol açtı. Şirket, Pentagon’un ürünlerini tamamen otonom silahlar ve kitlesel iç gözetleme için kullanmamasını ısrarla savunuyor. OpenAI gibi büyük rakiplerinin imzaladığı anlaşmaya karşı çıkarak bu tutumunu sürdürüyor. Anthropic şu anda yönetimin kendisini tedarik zinciri riski olarak etiketleme kararının mahkeme tarafından bloke edilip edilmeyeceğini bekliyor.

Senatör Schiff’in Açıklamaları

Senatör Schiff, The Verge gazetesine yaptığı açıklamada, “Pentagon’un Anthropic’i hedef almasını görmem beni şok etti. Çünkü Anthropic sadece çoğu Amerikalının desteklediği politikaları savunmaya çalışıyordu. Ardından bu şirketi yok etmeye çalışmak, böyle bir düşmanca ve diktatörce bir eylemdir. Bu durum Amerika’nın YZ alanındaki liderliğini geriye götürürdü. Anthropic, en iyi YZ şirketlerinden biridir” dedi.

Yasa Tasarılarının İçeriği ve Beklentiler

Senatör Schiff’in ofisi, henüz yasa tasarısının taslağını tamamlamadı, ancak amacın YZ’nin belirli amaçlarla kullanılmasını engellemek olduğunu belirtti. Slotkin tarafından sunulan “YZ Kılavuzları Yasası”, kitlesel iç gözetleme ve insan müdahalesi olmadan otonom ölümcül silahların kullanımına karşı korumaları güçlendirmeyi hedefliyor. Schiff’in tasarladığı yasa tasarısının hangi noktalarda farklılık göstereceği veya örtüşeceği henüz net değil, ancak benzer konuları kapsıyor.

Yasal Düzenlemelerin Kapsamı ve İnsan Faktörü

Schiff’in ofisinden Ruby Robles Perez, yasa tasarılarını nihai hale getirmeden önce paydaşlarla ve sektör liderleriyle görüşmelere devam ettiklerini söyledi. Slotkin’ın yasası, Savunma Bakanlığı’nın nükleer silahı ateşlemek veya ABD’deki kişileri veya grupları izlemek için YZ kullanmasını kısıtlıyor, ancak aynı zamanda Savunma Bakanı’nın olağanüstü durumlarda otonom ölümcül silahları konuşlandırmak için YZ kullanımının gerekli olduğunu bildirmesine olanak tanıyor. Schiff’in tasarladığı yasa tasarısında, otonom bir silah veya iç gözetleme olarak neyin kabul edileceği konusundaki detaylar hala tartışılıyor. Ancak Biden yönetimi tarafından belirlenen mevcut çerçevelerden de yararlanmayı planladıklarını belirtiyor.

İnsan Kontrolü İlkesi ve YZ’nin Sınırları

Senatör Schiff, “Hayat ve ölüm sorumluluğunu bir algoritmaya devretmek istemiyoruz. Bu nedenle, herhangi bir teknolojinin insan hayatını alma potansiyeli varsa, komuta zincirinde mutlaka bir insan operatör bulunmalıdır” şeklinde konuştu. Ancak bu durumun YZ’nin savaş alanındaki rolünü ortadan kaldırmadığına da vurgu yaptı. YZ’nin insanlarınkinden daha hızlı çalışabilmesi nedeniyle, savunma için adımlar atılması veya gerçek zamanlı olarak elde edilen bilgilere göre ayarlama yapılması gereken durumlarda YZ’nin bilgi sağlaması ve yönlendirmesi gibi görevler üstlenebileceğini ifade etti.

• Yasa tasarıları, otonom silahların kullanımını sınırlamayı amaçlamaktadır.
• Kitlesel gözetleme faaliyetlerini engellemek için yasal düzenlemeler getirilmesi bekleniyor.
• İnsan faktörünün ön planda tutulması ve algoritmaların yaşam ve ölüm kararlarında rol almasının önüne geçilmesi hedeflenmektedir.

Haberin Diğer Kareleri