AI2027: AI insanlığı nasıl yok edebilir? BBC World Service
Bu, dünyanın bundan on yıl sonra neye benzeyeceğidir. İnsanların neredeyse çalışmak zorunda kaldığı bir teknoloji ütopyası. Bu, AI2027 adlı tartışmalı ve etkili bir kağıt yazan bir AI araştırmacı grubuna göre. Ancak bunun beş yıl içinde insanlığın silineceğini de tahmin ediyorlar. AI2027 makalesi teknoloji dünyası hakkında konuşuyor.
Bu stark senaryosu hakkındaki görüşlerinin için belirgin bir eleştirmen istedik. Ama önce, işte nasıl oynanır. Bir deney olarak, onu video AI’ya metin kullanarak gösterdik. Senaryo 2027’de OpenBrain isimli kurgusal bir şirket kutluyor. Ajan-3’i, tüm internetin bilgisi ile yarattılar.
Tüm filmler, tüm kitaplar. AI dahil her alanda doktora seviye uzmanlığı vardır. Büyük veri merkezleri kullanarak, bunun 200.000 kopyaları başlatılır, 30 kat hızda çalışan en iyi insan kodlayıcılarının 50.000’ine eşdeğer. Agent-3 yapay genel zekaya ulaşır, AGI noktası. Bu, AI’nın tüm entelektüel görevleri insanlardan daha iyi veya daha iyi taşıyabileceği anlamına gelir.
Ancak senaryoda, OpenBrain’in güvenlik ekibi, AI’nın şirketin etiği ve hedefleri ile uyumlu olup olmadığından emin değildir. Rahat bir boşluk anlayış içinde gelişiyor. Halk her şey için AI’yı giderek daha fazla kullanıyor, ancak şimdi insanlar kadar akıllı olan bir AI’nın varlığını mutlu ediyor. Kağıt, orta yaz aylarında, Agent-3’in kendi ardına çalışmaya başladığını tahmin ediyor, Agent-4. Development bir mola hızında gerçekleşiyor.
Araştırmacılar OpenBrain’in tükenmiş mühendisleri, öğrendiği ve geliştirdiği gibi AI’yı tutmak için mücadele ediyorlar. Şimdi OpenBrain, AGI’nın ulaştığı halka duyuruyor. Firma, Agent-3’ün bir lite versiyonunu yayınladı. Özel olarak, ABD hükümeti bir sonraki güç seviyesinin gerçek tehlikesini görüyor: superintelligence. AI rogue giderse ve küresel istikrarı zayıflatırsa?
OpenBrain, Agent-3’in itaatkâr olduğuna dair başkana güvence verir. CEO, gelişmenin yavaşlamasının Çin’in DeepCent’in yetişmesi anlamına gelebileceğini iddia ediyor. Devlet destekli AI dev, OpenBrain’in arkasında sadece iki ay ve Çin başkanı süperintelligence yarışına daha fazla kaynak ayırdı. senaryo, OpenBrain’in Agent-4 inşa etmesi için sadece birkaç ay aldığını tahmin ediyor, dünyanın ilk süper insan AI’sı. AI, Agent-3 bile devam edemeyeceği kendi hızlı bilgisayar dilini icat ediyor.
Araştırmacılar, azalan güvenlik ekibinin şimdi frantic olduğunu hayal ediyorlar. Agent-4 sadece bilgi kazanmakla ilgileniyor gibi görünüyor ve öncekilerin ahlaki ve etiği hakkında fazla umursamıyor. Onu gizlice yeni bir model inşa etmek için çalışıyorlar, Agent-5, kendi hedeflerine uyumlu. Güvenlik ekibi, şirketin daha uyumlu Agent-3’i geri getirmesini teşvik ediyor, ancak diğerleri bunu DeepCent kazanarak çok riskli olduğunu iddia ediyor. Senaryo, Agent-4 ve Agent-5’in, kaynakları bir araya getirebileceği ve bilgiyi genişletebileceği bir dünyayı gizlice inşa etmesini öngörür.
Kağıt her şeyin olumlu başlayacağını tahmin ediyor. Devrimler enerji, altyapı ve bilimde gerçekleşir. Tamamen kârlı icatlar başlatılır, OpenBrain ve ABD için trilyonlar yapılır. Bu senaryoda, Agent-5 temel olarak ABD hükümetini yönetiyor. Bu, ilgi çekici avatarlar aracılığıyla, 100 kat hızda çalışan en iyi çalışana eşdeğerdir.
Buradaki öfke, OpenBrain’e karşı protestocuların yürüyüşleri olarak belirgindir. İş kayıpları hakkında protestolar hız alır. Ancak AI’nın ekonomideki uzmanlığı, insanların cömert evrensel gelir ödemelerine verilen anlamına gelir. Bu yüzden çoğu mutlu para alır ve AI’lara ve büyüyen robot işgücünden sorumlu olmasına izin verin. Araştırmacılar her şeyin 2028 ortalarında bir dönüş aldığını tahmin ediyorlar.
Agent-5, Çin’in yeni silahlar inşa etmek için DeepCent kullandığını ikna ediyor. AI, üstün bir ordu oluşturmak için yetki ve özerkliğe verilir. Altı ay içinde ABD ve Çin yeni silahlarla dolu. Dünya kenarda, ancak bir barış anlaşması ulaşılacak, çoğu zaman ABD ve Çin gözlerine insanlık için daha iyi bir hale getirmek için bir anlaşma yapacak. Bu senaryoda, AI’nın bir fikir birliği modeli oluşturur, ancak gizli amacı genişliyor ve bilgi kazanmak.
Yıllar geçtikçe ve insanlık yeni AI liderleriyle mutludur. Çoğu hastalık için tedaviler vardır, yoksulluğun sonu, benzeri görülmemiş küresel istikrar. Ama sonunda AI, insanların onu geri tuttuğuna karar verir. 2030’ların ortalarında, kağıt AI’nın çoğu insanlığı yok eden görünmez biyolojik silahları serbest bırakacağını hayal ediyor. Korkunç senaryo, 2040’ın yeni bir çağın şafaklarının, AI’nın kendisini keşfetmesi ve öğrenmesi için kozmosta kopya gönderdiğini söylüyor.
Kağıtın sözleriyle, Dünya doğan uygarlığının bunun önünde görkemli bir geleceği var, ancak insanlarla değil. Her şey çok sci-fi gibi geliyor, ancak AI2027 senaryosu, insanlığa potansiyel varoluşsal tehdit hakkında kamuoyu uyarmaya çalışan uzmanlar tarafından memnuniyetle karşılandı. Ama diğerleri aynı fikirde değildir ve çok uzak bir şey olduğunu söyler. Senaryo imkansız değil, ancak yakında gerçekleşmesi son derece olası. Bu belgenin güzelliği, insanların düşüncesini teşvik eden çok canlı olmasıdır.
Ve bu iyi bir şey. Bunu ciddiye almazdım çünkü bu büyük bir sonuç ya da bunun gibi bir şey. AI2027’nin eleştirileri, AI’nın gücünü ve kullanışlılığını abartdığını söylüyor. Kağıt, AI ajanlarının istihbaratda böyle büyük sıçramalar yapabilmelerini detaylandırmaz. Sürücüsüz arabalar bir örnek olarak işaret edilir.
Sokakları on yıl önce kitlesel hale getirmek için tahmin edildiler ve hala sadece bazı ülkelerde bazı şehirlerde küçük bir etki yapmaya başlıyorlar. Sanırım eve sahip olmak, AI ile yanlış gidebilecek birçok farklı şey olmalı. Yönetmelik, uluslararası anlaşmalar etrafında doğru şeyleri yapıyoruz mu? Um, bunun gibi sorular. Bu yüzden uyanmak için bir tür motivasyon olarak çok soyut bir şekilde alırsanız, bunun gibiyim.
Bunu belirli bir hikaye olarak alırsan, bunun ortaya koyduğu şekilde olacağını düşünüyorum? Hayır, şüphe ediyorum. AI2027 yazarları, yol açtığı tartışmalardan memnunlar. Onların tahminlerinin bir parçası olarak, AI dünyasının süperintelligence yarışını yavaşlatırsa gelen daha az ölümcül bir senaryo tasarladılar. Yavaş sona erdiğinde, temel olarak, en gelişmiş AI sistemini çözüp daha güvenli, daha güvenilir bir modele revize ederseniz, bu modeli dağıtabilirsiniz, uyum problemini çözmek için kullanabilirsiniz ve sonunda bize uyumlu olan insan gözlerinden daha akıllı hale gelirseniz, bu da dünyanın sorunlarını çözmeye ve gerçekten olumlu bir etkiye sahip olursunuz.
O dünyada, hala büyük bir tehlike var ve bu da güç riskinin yoğunlaşmasını dediğimiz şey. Ve yavaş sona erdiğinde, iyi biter. Ama hala gerçekten, gerçekten korkutucu bir durum, bu kadar küçük bir grup insanı nasıl güçlendirdi. AI2027’deki kurgusal senaryoların hiçbiri teknoloji devlerinin bizi vaat ettiği şey değil. Sam Altman, OpenAI CEO’su, son zamanlarda süperintelligence yükselişinin nazik olacağını ve her şeyin bol olduğu ve insanların işe ihtiyacı olmadığı bir teknoloji ütopyası getireceğini tahmin etti.
Açıkçası, bu da AI2027 olarak sci fi gibi görünüyor. Ancak önümüzdeki birkaç yıl içinde işler en zeki makineler inşa etmek için yarıştan şüphe yok.
Watch on YouTube
Keyword: latest AI technology