Bir Harry Potter hayran kurgusunun OpenAI ile ne alakası var? - Dünyadan Güncel Teknoloji Haberleri

Bir Harry Potter hayran kurgusunun OpenAI ile ne alakası var? - Dünyadan Güncel Teknoloji Haberleri
”düşmanı olarak) Eğlenceli olduğu kabul edilen bir hikaye aracılığıyla Yudkowsky, Harry Potter’ın tanıdık dünyasını rasyonalist ideolojiyi anlatmak için kullanıyor ve Harry’nin usta bir problem çözücü olmak için bilişsel önyargılarına karşı nasıl çalıştığını gösteriyor Altman’ın görevden alınmasıyla ilgili popüler teorilerden biri, yönetim kurulunun kendi “yavaşlama” değerlerine daha yakın birini atamak istemesiydi



genel-24

Mart ayında yapay zeka alanındaki binlerce önemli isim, tüm “AI laboratuvarlarının derhal en az 6 ay süreyle duraklatılmasını” savunan açık bir mektup imzaladı Bir de yapay zeka bizi alt ettiğinde hepimizi öldüreceğini düşünen felaket tellalları var

OpenAI’de neler olup bittiğini hâlâ bilmiyoruz ve hikaye yaklaşık her 10 saniyede bir değişiyor gibi görünüyor Diğer önde gelen yapay zeka laboratuvarı DeepMind’ın hiçbir planı yok Bu bizi insanlardan daha akıllı bir yapay zeka oluşturmaya çalışan bir şirket olan OpenAI’deki çalkantılara geri getiriyor Yani Harry, sorunları çözmek için deneysel, bilimsel düşünceyi ödüllendiren, duygu, din ve diğer kesin olmayan önlemlerden kaçınan rasyonalist düşünceye takıntılı, her şeyi bilen bir çocuk olarak büyüyor “Siyah elbiseli sarışınlar” erkeklere şarap doldururken Packer, David Sacks ve Luke Nosek gibi PayPal’ın kurucu ortaklarıyla yemek yiyor Ancak bu Harry Potter hayran kurgusu Yudkowsky’nin en popüler eseridir Bu yüzden doğum günü hediyesi olarak kendisine bir kamera hücresi hediye edildi Harry Potter ve Rasyonalite Yöntemleri (HPMOR), Eliezer Yudkowsky tarafından yazılmış bir hayran kurgusu


Hiç aynı anda hem kusup hem de ishal oldunuz mu? Dinledim ve bu olduğunda hayran yapımı bir sesli kitap versiyonunu dinliyordum Yıllar sonra, hastayken maraton haline getirdiğim 660

OpenAI’nin geçici CEO’su olarak görev yapan (şu anda dünyadaki en güçlü insanlardan biri olan ve fanfic’teki Quidditch arayışında olmayan) Shear, AI tartışmasındaki farklı gruplar hakkında memler yayınlıyor

Ancak HPMOR’un ahlaki değeri sadece daha iyi bir rasyonalist olmak ya da olabildiğince “daha az hatalı” olmak değildir Ancak OpenAI gibi şirketlerin arkasındaki hikayelerde veya hatta biz X Æ A-Xii, Exa Dark Sideræl ve Techno Mechanicus adlı çocukları getiren büyük aşkın ardındaki hikayelerde defalarca ortaya çıkma eğiliminde Ayrıca, bir tür tekno-iyimserlik gibi görünen etkili ivmeciler (e/acc) var, ancak termodinamiğin ikinci yasasının bunu söylemesi nedeniyle ne pahasına olursa olsun büyümenin ilerlemenin tek yolu olduğu konusunda daha fazla dil kullanılıyor Çok şükür mutlu sonlar uğruna geçti camia Hayır, gerçekten – Musk bir keresinde “şu şakayı” tweetlemek istemişti:Roko’nun Basilisk’i”, Yudkowsky’nin blogu ve topluluk forumu LessWrong’dan kaynaklanan, yapay zeka hakkında bir düşünce deneyi “HPMOR’un asıl amacının, günün sonunda kötülüğe yönelmeniz durumunda rasyonelliğin önemsiz olması olduğunu düşünüyorum Ve tüm bunların ortasında, gözlerinizi kısarak baktığınızda tüm bunların gerçekten sıkıcı bir Harry Potter hayran kurgusuna dayandığını görmekten kendimi alamıyorum Harry ve Profesör Quirrell – rasyonalizmdeki akıl hocası ve kötü olduğu ortaya çıkan – arasındaki son hesaplaşmada Yudkowsky dördüncü duvarı kırdı ve okuyucularına bir “Final Sınavı Evet, Twitch’in kurucu ortağı olan ve 2020’lerin tartışmasız en etkili şirketi olan OpenAI’nin geçici CEO’su seçilen Emmett Shear

Ne pahasına olursa olsun teknolojinin büyümesini destekleyen tekno-iyimserler var çünkü bu “ne pahasına olursa olsun büyümek” zihniyetinin yol açtığı sorunların bizzat teknoloji tarafından çözüleceğini düşünüyorlar Eğer düşündüysen gerçek Harry Potter bazen biraz sinir bozucu olabiliyor (neden Dumbledore’a en bariz soruları sormuyor?), hazır olun Bu Harry Potter, adını taşıyan “Genç Sheldon”a parasının karşılığını verebilecek biri

İlgili tarafları daha da birbirine bağlamak için şuna bakın: artık görevden alınan OpenAI CEO’su Sam Altman, Grimes ve Yudkowsky’nin 10 aylık bir selfiesi

Hayır, çift uçlu bedensel korku fanfic tarafından kışkırtılmadı, ancak bu iki deneyim benim için birbirinden ayrılamaz Şimdilik, sosyal medyadaki teknik çevreler, argümanlarını oluşturmak için OpenAI kaosunun arka planını kullanarak yavaşlama ve e/acc ideolojisi konusunda kavga etmeye devam ediyor

Yudkowsky, “Mevcut koşullar altında biri çok güçlü bir yapay zeka yaparsa, insan türünün her bir üyesinin ve Dünya’daki tüm biyolojik yaşamın kısa bir süre sonra ölmesini bekliyorum” diye yazdı

Yudkowsky felakete uğrayanlar arasında bir lider ve aynı zamanda son on yıllarını OpenAI yönetim kurulunun yarısı gibi görünen biriyle aynı çevrelerde koşarak geçirmiş biri

İmzacılar arasında Meta ve Google mühendisleri, Skype, Getty Images ve Pinterest kurucuları, Stability AI kurucusu Emad Mostaque, Steve Wozniak ve hatta 2018’de istifa eden OpenAI kurucu ortağı Elon Musk da vardı Güvenlikçiler (ya da “yavaşlatanlar”) teknolojinin büyümesini destekliyorlar, ancak bunu yalnızca düzenli ve güvenli bir şekilde destekliyorlar (bu arada, “Tekno-İyimser Manifestosu”nda risk sermayedarı Marc Andreessen “güven ve güvenlik” ile “teknoloji etiği”ni yeriyor

HPMOR’u okuyan diğer tek arkadaşım bana “Bana göre HPMOR’un büyük bir kısmı rasyonelliğin sizi nasıl inanılmaz derecede etkili kılabileceğiyle ilgili, ancak inanılmaz derecede etkili olmanın yine de inanılmaz derecede kötü olabileceğiyle ilgili” dedi “Böyle bir şeyi nasıl yapıp hayatta kalabileceğimize dair önerilen bir plan yok

Shear, yapay zeka endüstrisinin birçok önemli oyuncusu gibi, Yudkowsky’nin yazılarının uzun süredir hayranı

Yudkowsky’nin uzun süredir yapay zeka araştırmacısı olması nedeniyle, bugün yapay zeka alanında en etkili kişilerin çoğuyla aynı çevrede yer alması mantıklı 2011’de New Yorker’da yayınlanan bir makalede Silikon Vadisi’nin tekno-özgürlükçüleriGeorge Packer, daha sonra OpenAI’yi kurup yatırım yapacak olan milyarder risk sermayedarı Peter Thiel’in evinde bir akşam yemeği partisinden bildiriyor O halde, Yudkowsky’den ilham aldığını bildiğimiz ve kendisini aynı zamanda bir mahkum– eğik çizgi güvenlik uzmanı ” Bir topluluk olarak okuyucular, Harry’nin kendisini ölümcül bir durumdan nasıl kurtarabileceğini açıklayan rasyonalist teoriler sunmak zorundaydı Bunu yeni duydum plan bu aklı başında herhangi bir insanı paniğe sevk etmek için yeterli olmalı

HPMOR, kelimenin tam anlamıyla, sanal yuvasını Yudkowsky’nin LessWrong’unda bulan rasyonalist hareket için bir işe alım aracıdır OpenAI açıkça ilan etti niyet gelecekteki bir yapay zekanın bizim yapay zeka hizalama ödevimizi yapmasını sağlamaktır OpenAI, bu yapay genel zekayı (AGI) insani değerlerle (örneğin, yapay zekanın neden olduğu kıyamet gibi bir olayda öldürülmemenin insani değeri) uyumlu hale getirmek istiyor, ancak öyle oluyor ki “hizalama araştırması” Yudkowsky’nin uzmanlık alanıdır 000 kelimelik fanfic’in, mevcut OpenAI fiyaskosunda yer alan figürlerin çoğu da dahil olmak üzere ultra zengin teknokratlarla bazı tuhaf kesişmelere sahip olduğunu keşfettiğimde şok oldum Ve bir de Yudkowsky var Harry’nin, büyünün gerçek olup olmadığı konusunda evlat edinen ebeveynleri arasındaki anlaşmazlığı çözmeye çalışmak için Feynman’ın Fizik Dersleri’nden alıntı yapmasına kadar hikayenin üç sayfası bile bitmedi Partide ayrıca Burning Man festivalinden esinlenerek yüzen, anarşist deniz medeniyetleri inşa etmeyi amaçlayan kar amacı gütmeyen bir kuruluş kurmak için Thiel’den fon alan eski bir Google mühendisi olan Patri Friedman da var (15 yıl sonra organizasyon pek bir şey yapmış gibi görünmüyor) ilerlemek) Ancak ortaya çıktı ki Grimes, “Flesh Without Blood” adlı şarkısının müzik videosunda “Rococo Basilisk” hakkında aynı şakayı zaten yapmıştı

Örnek olay: Bir Paskalya yumurtası 404 Media tarafından görüldü (ki bunu başkası – hatta bin küsur sayfalık fanfic’i okumuş biri olarak benim bile – fark edemeyecek kadar önemsizdi), genişleyen hikayede bir zamanlar bahsi geçen Emmett Shear adında bir Quidditch oyuncusu var Shear, internette yayınlanan serileştirilmiş hikayeyi takip ederek Yudkowsky’nin çalışmalarının hayranıydı ”

Yudkowsky, yapay zeka söz konusu olduğunda felaketçi yaklaşımı savunurken, OpenAI liderliğindeki kargaşa, muhtemelen varoluşsal bir tehdit olan teknolojinin nasıl yönlendirileceğine dair çok çeşitli farklı inançların altını çizdi

Yudkowsky, Altman veya Elon Musk gibi herkesin bildiği bir isim değil ”

Ancak elbette hepimiz iyiye karşı kötünün tek bir tanımı üzerinde anlaşamayız

HPMOR, Harry Potter serisinin yeniden yazılmış alternatif bir evrenidir; Harry’nin teyzesi Petunia’nın, istismarcı ahmak Vernon Dursley yerine Oxford’lu bir biyokimya profesörüyle evlendiği önermesiyle başlar Ancak Yudkowsky mektubu imzalamadı ve bunun yerine kaleme alındı TIME Dergisi’nde bir köşe yazısı altı aylık bir ara vermenin yeterince radikal olmadığını iddia etmek