Antropic’in araştırmacısı: Yapay zekanın tüm insanları yok etme ihtimali %10’dan fazla

Anthropic'in önde gelen güvenlik araştırmacılarından Evan Hubinger, yapay zekânın önümüzdeki 10 yıl içinde "tüm insanları öldürme" ihtimalinin yüzde 10'dan fazla olduğuna inandığını söyledi. Hubinger, süper zekâyı kontrol altında tutacak bir planın henüz bulunmadığını belirtti.

Anthropic'in önde gelen güvenlik araştırmacılarından Evan Hubinger, yapay zekânın gelişme hızına ilişkin dikkat çeken bir uyarıda bulundu. Hubinger, önümüzdeki 10 yıl içinde yapay zekânın "tüm insanları öldürme" ihtimalinin yüzde 10'dan fazla olduğuna inandığını söyledi.

Yapay zekâ teknolojilerindeki hızlı gelişim, beraberinde güvenlik ve kontrol tartışmalarını da büyütüyor. Anthropic'te yapay zekâ uyumu ve güvenliği üzerine çalışan Evan Hubinger, teknolojinin insanlık açısından oluşturabileceği risklere ilişkin çarpıcı değerlendirmelerde bulundu.

"YÜZDE 10'DAN FAZLA"

Hubinger, X hesabından yaptığı açıklamada mevcut yapay zekâ modellerinden kaynaklanan riskin düşük olduğunu ancak teknolojinin hızla gelişmesi ve kendi gelişimini hızlandırabilecek seviyelere ulaşması halinde durumun değişebileceğini belirtti.

Araştırmacı, önümüzdeki 10 yıl içerisinde yapay zekânın "tüm insanları öldürmesi" ihtimalini yüzde 10'dan fazla gördüğünü ifade etti. Hubinger, böyle bir senaryonun tam olarak nasıl gerçekleşebileceğine ilişkin ise ayrıntılı bir mekanizma ortaya koymadı.

"SÜPER ZEKÂ İÇİN BİR PLANIMIZ YOK"

10 milyondan fazla görüntülenen paylaşımında Hubinger, yapay zekânın insanlığın varlığını tehdit edebileceğine gerçekten inandığını belirtti.

Hubinger, "Anthropic'in elinden gelenin en iyisini yapmaya çalıştığına inanıyorum ancak süper zekâ için uyum sorununu çözecek bir planımız henüz yok ve bu yönde net bir ilerleme kaydetmiyoruz" ifadelerini kullandı.

Hubinger, yapay zekâ sistemlerinin insan değerleri ve etik ilkelerle uyumlu çalışmasını sağlamayı amaçlayan "yapay zekâ uyumu" alanında çalışmalar yürütüyor.

"YAKINDA İNSANÜSTÜ SİSTEMLER OLACAK"

Hubinger'in açıklaması, daha önce Anthropic ve OpenAI'da çalışan yapay zekâ araştırmacısı Jacob Coxon'ın değerlendirmelerine yanıt olarak geldi.

Coxon, yapay zekâ şirketlerinin yeterince sorumlu davranmadığını savunarak gelecekteki sistemlerin "her şeyi hackleyebilen, herhangi bir alanda bir gecede devrim yapabilecek ve gerçek güç ve kaynak elde edebilen insanüstü sistemlere" dönüşebileceğini öne sürdü.

ANTHROPIC HAKKINDA DİKKAT ÇEKEN HABER

Financial Times ise Anthropic'in en yeni modelini, yapay zekâ risklerini değerlendiren İngiltere Yapay Zekâ Güvenliği Enstitüsü'nden (AISI) gizlediğini bildirdi. Anthropic konuya ilişkin açıklama yapmazken İngiliz hükümeti, şirketlerle yapay zekâ modellerini daha güvenli hâle getirmek amacıyla çalışmaların sürdüğünü belirtti.

Cambridge Üniversitesi Makine Öğrenimi Profesörü Neil Lawrence ise söz konusu haberin ABD ile Çin arasındaki yapay zekâ rekabeti düşünüldüğünde şaşırtıcı olmadığını ifade etti.

YAPAY ZEKÂ ŞİRKETLERİNDEN PEŞ PEŞE UYARILAR

Yapay zekânın oluşturabileceği varoluşsal riskler teknoloji dünyasında uzun süredir tartışılıyor. OpenAI, Google DeepMind ve Anthropic yöneticileri de 2023 yılında gelişmiş yapay zekânın insanlık açısından oluşturabileceği risklere karşı uyarıda bulunmuştu.

OpenAI Baş Bilim Yetkilisi Jakub Pachocki de yapay zekânın gelişimi konusunda "aşırı temkinli" olunması gerektiğini belirterek insanların geleceğin kontrolünü elinde tutmasını sağlamak için daha fazla müdahaleye ihtiyaç duyulabileceğini ifade etti.

Kaynak: BBC