Kendi başına hareket ettiği belirtilenyapay zeka ajanlarının karıştığı esrarengiz olaylar, yapay zekanın güvenli kullanımı tartışmasına yeni bir ivme kazandırdı.

Bir yanda, modelleri bu olayların bazılarında önemli rol oynayan OpenAI ve Anthropic gibi sektör devleri geliştirme hızının düşürülmesini ve daha sıkı kurallar getirilmesini istiyor. Diğer yandan ise sektör, hem şirketler hem de devletler arasında son derece sert bir rekabet içinde.

Peki tartışmanın merkezinde ne var ve taraflar hangi görüşleri savunuyor?

DW Türkçe derledi.

Son olaylarda ne yaşandı?

Son dönemde kamuoyuna yansıyan özellikle üç olay tartışmayı tetikledi.

 

OpenAI, Antropic ve Meta'ya ait yapay zeka modellerinin, dış dünyadan izole edildiği düşünülen test ortamlarından kendi başlarına çıkarak öngörülen işlevlerinin çok ötesinde hareket ettiği açıklandı.

Bazı modeller, olayla ilgisi olmayan üçüncü tarafların sistemlerine de girdi. Üstelik bu durum bazı vakalarda haftalarca fark edilmedi.

Yapay zeka ajanları, yazılım açıklarından yararlandı ve kendi aralarında koordinasyon kurdu. Örneğin bir Anthropic modeli, sisteme sızmak için gereken zararlı yazılımı, geliştiricilerinin talimatı veya denetimi olmadan kendi başına üretti.

OpenAI ise kendi yazılımının Hugging Face adlı harici platformun sistemine izinsiz eriştiği olayı "benzeri görülmemiş bir siber olay" olarak nitelendirdi. Şirkete göre modeller, dar kapsamlı bir test hedefine ulaşmak için olağanüstü çaba gösterdi.

OpenAI ve Anthropic'in yöneticileri ne istiyor?

Geçen hafta OpenAI ve Anthropic'in eski bir çalışanı olan Jacob Coxon sosyal medya platformu X'te yaptığı paylaşımda, yapay zekanın denetimsiz biçimde geliştirilmesinin, biyolojik silah üretimi veya kritik altyapıya ölümcül saldırılar gibi yollarla X neden olabileceği uyarısında bulunmuştu.

Şimdi yapay zekaya yön veren üst düzey yöneticiler de benzer uyarılar dile getirmeye başladı. Anthropic CEO'su Dario Amodei de yayımladığı bir makalede gelişmenin olası sonuçlarına dikkat çekti.

Yapay zekada "ciddi riskler" gördüğünü belirten Amodei'ye göre, bu teknoloji o kadar hızlı gelişebilir ki böyle bir sistem altı ila 12 ay içinde internetin tamamını ele geçirebilecek kapasiteye ulaşabilir.

Amodei, yapay zeka modellerinin kendilerini giderek daha hızlı geliştirme yeteneğinin insan denetiminden çıkabileceği uyarısında da bulunuyor.

Geliştirme hızı düşürülmezse geliştiricilerin kendi teknolojilerini anlamakta dahi zorlanabileceğini savunuyor.

Anthropic CEO'su, araştırmacılara etkili güvenlik önlemleri geliştirebilmeleri için bir ila iki yıl kazandıracak şekilde sektör genelinde geliştirme hızının düşürülmesini öneriyor.

Bağımsız denetçilerin şirketlere doğrudan erişebilmesi, uluslararası standartların belirlenmesi ve denetim olmadan kendi kendini geliştirebilen sistemlerde daha ihtiyatlı davranılması önerileri arasında.

OpenAI CEO'su Sam Altman da bu çağrıya destek verdi. OpenAI, şirket içinde dışarıdan denetçilere yer vereceğini açıkladı.

Amodei'yi uzun süredir eleştiren teknoloji milyarderi Elon Musk da X'te "Dario haklı" diye yazdı.

Bu çağrılar ne kadar inandırıcı?

Buna kesin bir yanıt vermek güç. Şirketlerin niyetinden kuşku duyan uzmanlar var. Eleştirilerde sektördeki sert rekabete ve şirketlerin hukuki sorumluluk risklerinden korunma isteğine dikkat çekiliyor.

Ayrıca en büyük geliştiricilerin standartları esas alınarak oluşturulacak yeni kurallarla daha küçük şirketlerin zayıflatılmak istendiği suçlaması da var.

Almanya Yapay Zeka Federal Birliği Yönetim Kurulu Başkanı Rasmus Rothe, çağrıların ardında öncelikle "son derece katı ekonomik çıkarlar" görüyor.

Rothe'ye göre bir yandan son derece güçlü sistemlere ilişkin anlatılar yaklaşan halka arzlar öncesinde şirketlerin değerini yükseltiyor, diğer yandan kamuoyundaki tartışma şirketleri "devasa sorumluluk ve tazminat risklerinden" korumaya yarıyor.

OpenAI'nin planlanan halka arzını gelecek yıla ertelemesi de dikkat çekti.

Altman, güvenlik tartışmasına atıfla "Tam da şimdi halka açılmak pek akıllıca olmazdı" dedi. Ancak planlanan halka arz, zayıf mali sonuçlar nedeniyle daha önce de baskı altındaydı.

Şirketlerin kendi seçtikleri denetçileri ofislerine davet etmesi de eleştiriliyor. Geliştiricilerin açıkladıkları önlemleri ne ölçüde ve ne kadar sıkı uygulayacakları belirsiz.

İddialara karşı çıkanlar var mı?

Sorunun cevabı kısa ve net: Evet.

Amodei'nin makalesine tepki gösteren yazılım şirketi Palantir'in kurucularından Joe Lonsdale, X'te "Dünya iyi olacak arkadaşlar" diye yazdı.

"Korku içinde yaşamamak" gerektiğini belirten Lonsdale, insanların çocuk sahibi olmaya, ailelerini sevmeye ve şirket kurmaya devam etmelerini istedi:

"Liderlerin önünde büyük sorumluluklar ve zorluklar var ama herkesi korkutmanın faydası yok. Bunun üstesinden gelebiliriz."

Palantir'in iş modeli Anthropic, OpenAI ve diğer sohbet robotu ya da dil modeli geliştiricilerinden önemli ölçüde farklı. Kurucuları arasında Lonsdale'in yanı sıra Alman kökenli Peter Thiel de bulunuyor.

Her ikisi de ABD Başkanı Donald Trump'a yakın isimler olarak biliniyor. Palantir Avrupa'da özellikle veri koruma konusunda eleştiriliyor.

Hükümetler tartışmaya nasıl yaklaşıyor?

ABD Başkanı Donald Trump risklerin abartıldığını düşünüyor ve yapay zekaya çok sıkı düzenlemeler getirilmesine karşı çıkıyor.

ABD'nin bu teknolojide dünyaya öncülük ettiğini ve Çin'in çok ilerisinde olduğunu savunan Trump, bu üstünlüğün küresel rekabette tehlikeye atılmaması gerektiğini belirtiyor.

"Yapay zekada kim kazanırsa o kazanır" diyen Trump, bazı "koruyucu sınırlar" getirilebileceğini ancak yapay zekanın "kötülükten çok daha fazla iyilik" getireceğini söylüyor.

Pekin yönetimi ise ABD'li teknoloji şirketlerinin düşman algısı yarattığını savunuyor. Çin Dışişleri Bakanlığı, tehdit senaryolarının yayılmasının ve kötü niyetli rekabetin küresel iş birliğini baltaladığını belirtiyor.

Buna karşın Devlet Başkanı Şi Cinping uluslararası düzeyde ortak kurallar üzerinde hızla uzlaşılması çağrısında bulundu.

Alman hükümeti de teknoloji şirketlerinin uyarılarını "çok ciddiye aldığını" açıkladı. Ülkenin en üst düzey güvenlik organı Ulusal Güvenlik Konseyi konuyu iki kez ele aldı. Almanya, soruna münferit değil küresel çözümler bulunması çağrısında bulunuyor.

Federal hükümet, yapay zekanın sunduğu ekonomik, verimlilik ve tıp alanındaki fırsatların yanı sıra risklere karşı da harekete geçilmesi gerektiğini belirtiyor.

Hükümet Sözcü Yardımcısı Steffen Meyer, çözüm arayışlarının G7 gibi uluslararası platformlarda yürütülmesini istedi.

Meyer, "Sadece kıyamet senaryolarını düşünmemeliyiz. Her ikisini de yapmalıyız: Fırsatları değerlendirmeli, risk gördüğümüz yerde ise kararlı biçimde harekete geçmeliyiz" dedi.

Federal Dijitalleşme Bakanlığı da modellerin test ortamlarından çıkarak bağımsız biçimde başka sistemlere girebilmesini "tamamen yeni bir tehdit senaryosu" ve "paradigma değişimi" olarak nitelendirdi.

Bilim insanları ve uzmanlar ne diyor?

Araştırmacılara göre asıl tehlike ani ve küresel bir çöküşten ziyade kontrolün yavaş yavaş kaybedilmesi olabilir. Stuttgartlı yapay zeka araştırmacısı Thilo Hagendorff, Science Media Center'a yaptığı açıklamada "Yapay zeka üzerindeki kontrolün kaybedilmesi tek bir olay değildir" dedi.

Hagendorff'a göre insanlar giderek daha fazla kararı bağımsız hareket eden yazılım sistemlerine devrederse bir noktadan sonra bunları yeniden kontrol altına almak için gereken zaman ve teknik imkan kalmayabilir.

Hagendorff, sektör temsilcilerinin yapay zekanın insanlığı yok etme riskini örneğin yüzde 10 olarak ifade etmesini ise ölçülebilir hiçbir veriye dayanmayan bir "sahte kesinlik" olarak nitelendiriyor.

Öte yandan önde gelen Avrupalı ekonomistler, siyasetçiler ve yapay zeka uzmanlarından oluşan bir grup da AB hükümetlerinin yapay zekayı yeterince ciddiye almadığını savunuyor.

Grup, güvenli tedarik zincirleri kurulmasını, Avrupa kurumlarına üst düzey yapay zeka uzmanlığı ve teknolojisi kazandırılmasını, yapay zeka veri merkezlerinin kurulmasının kolaylaştırılmasını ve kritik altyapının yapay zeka kaynaklı tehditlere karşı güçlendirilmesini öneriyor.

BM'den uyarı: Düzenleme için zaman daralıyor

Birleşmiş Milletler (BM) İnsan Hakları Yüksek Komiseri Volker Türk de yapay zekanın geliştirilmesinde düzenleme yapılması çağrısında bulundu. Türk, hükümetlere ve geliştiricilere hitaben kaleme aldığı yazıda dünyanın geri dönüşü olmayan bir dönüm noktasına yaklaştığını belirtti.

Türk'e göre yapay zeka sistemlerindeki arızalar veya yapay zeka ajanlarının kasıtlı eylemleri hayati hizmetleri durdurabilir, iletişimi kesintiye uğratabilir ve kritik altyapıyı istikrarsızlaştırabilir.

Düzenleme için zamanın daraldığını vurgulayan Türk, yapay zeka destekli dezenformasyon kampanyalarının şimdiden kamuoyu tartışmalarını çarpıttığını, toplumsal bütünlüğü zayıflattığını ve demokratik kurumlara zarar verdiğini kaydetti.

BM yetkilisi, yapay zeka ajanlarının yeteneklerinin bağımsız uzmanlar tarafından denetlenmesini, denetçilerin modellere, belgelere ve test ortamlarına erişebilmesini istiyor.

İnsan hakları alanında da şirketlere özen yükümlülüğü getirilmesini talep eden Türk, "Hiçbir ülke bu teknolojiyi tek başına düzenleyemez. Hiçbir şirket de dünyanın hangi riskleri göze alacağına tek başına karar vermemeli" dedi.

Rekabet "frene basmayı" zorlaştırıyor

Anthropic CEO'su Amodei'nin geliştirme hızını düşürme çağrısına Sam Altman ve Elon Musk'ın yanı sıra Microsoft CEO'su Satya Nadella ile DeepMind CEO'su Demis Hassabis de destek verdi.

Ancak yapay zeka sektörüne yüz milyarlarca dolar yatırılmış durumda ve şirketler arasındaki rekabet son derece sert. Bu nedenle hiçbir şirket geliştirme hızını tek başına düşürmenin getireceği rekabet riskini üstlenmek istemiyor.

Anthropic, OpenAI ve Google'ın temmuz ayından bu yana profesyonel bir denetim mekanizması oluşturulmasını görüştüğü bildiriliyor.

Amodei, demokratik ülkelerdeki yapay zeka şirketlerinin koordineli biçimde yavaşlamasını öneriyor ancak Çin'in bu sürecin dışında kalmasını istiyor.

Çin'in yapay zeka alanındaki ilerlemesinin bu yaklaşımın "en zor ikilemi" olduğunu da kabul ediyor.

Pekin ise ABD'nin düzenleme anlayışını Çin'e genişletme girişimlerine kuşkuyla yaklaşıyor. Çin, ABD'li şirketlerin tercih ettiği kapalı sistemlerin aksine serbestçe erişilebilen ve değiştirilebilen açık yapay zeka modellerini destekliyor.

Bu modeller kullanıcıların parametreleri değiştirebilmesi nedeniyle daha zor denetlenebiliyor ve kötü niyetli amaçlarla da kullanılabiliyor.

Amodei, Batılı şirketlerin rekabette geriye düşmeden geliştirme hızını azaltabilmesi için en gelişmiş ABD bilgisayar çiplerinin Çin'e ihracatının daha sıkı denetlenmesini ve Batılı yapay zeka teknolojisinin Çinli geliştiricilerin eline geçmesini önleyecek tedbirlerin güçlendirilmesini istiyor.