Ben, Bir Kişilik, Yapay Zeka Yöneticilerimize Hoş Geldiniz

Bu yıl, ilk kez bir bilgisayar, insanoğlunun bildiği en karmaşık oyunlardan biri olan Go'nun dünya şampiyonunu yendi. Bu, yapay zekanın ilerlemesinde bir başka dönüm noktasıydı.

Size Go'nun ne kadar karmaşık olduğu hakkında bir fikir vermek için 2.082 × 10^170 olası kart konfigürasyonu vardır. Bu, arkasında 170 sıfır bulunan 2'dir. Muhtemelen beyniniz o kadar büyük bir sayıyı bile tasavvur edemez (ama bir bilgisayar yapabilir). Veya size bir sayının ne kadar büyük olduğu hakkında bir fikir vermek için bu yani evrende sadece 10^80 atom var - yani bir tane ve ardından 79 tane sıfır.

Bunun bu kadar önemli olmasının nedeni, Go'nun o kadar karmaşık olması ki, en iyi insan oyuncuyu yenmek için bir makinenin, mümkün olan her şeyi hesaplayamadan yaratıcı düşünmeyi, doğaçlama yapmayı ve eldeki duruma uyum sağlamayı öğrenmesi gerekecekti. sonuç; yani, devam eden bazı ciddi yapay zeka olmalı - gerçek, yaratıcı zeka gibi.

AI'nın tüm dünyayı ele geçireceği konusunda not almadıysanız, işte bilmeniz gereken birkaç gerçek.

1. Bilgisayarlar daha akıllı hale geliyor.
2. Bilgisayarlar hızlanan bir hızla daha akıllı hale geliyor - yani, eskiden 10 yıl süren gelişmeler şimdi bir yıl alıyor. Eskiden bir yıl süren ilerlemeler şimdi haftalar hatta günler alıyor.
3. Yaşamımız boyunca, herhangi bir insandan çok daha akıllı ve daha yetenekli bilgisayarların olması kuvvetle muhtemeldir.
4. Bu daha akıllı bilgisayarlar muhtemelen teknolojiyi (yani kendilerini) tasarlayıp geliştirebilecek ve kavrayamayacağımız yeni teknolojiler yaratabilecekler.

Yukarıdaki noktaları anlayan insanlar genellikle iki tepkiden birine sahiptir. Ya:

1. Tamamen becerdiğimizi düşünüyorlar. Bilgisayarlar her şeyi devralacak ve hepimizi öldürecek/köleleştirecek. Veya:
2. Bu, tüm aptalca insan münakaşalarımızı düzeltecek teknolojik bir ütopyayı ortaya çıkaracak ve bulutta var olan ultra-VR dünyamızda alemler yaşadıktan sonra hepimiz mutlu bir şekilde yaşayabiliriz.

Çoğu şeyde olduğu gibi, gerçek muhtemelen ortada bir yerdedir.

Ama bok yelpazeyi vursa bile, robotlar bizi bu gezegenin el değmemiş kafa derisini mahveden bitler olarak görse ve hepimizi toplayıp aktif bir yanardağa fırlatmak istese bile, istemeden kendi mekanizmalarımızı icat ediyor olsak bile. yok olma…

...umurumda değil. önemli değil. Beni rahatsız etmiyor. Ve seni de rahatsız etmemelidir. Nedenini birazdan açıklayacağım. Ama şimdilik, bilmelisiniz ki, ilk olarak, yeni robot efendilerimizi memnuniyetle karşılıyorum.

TEKNİK SEKTÖRÜNDE HIZLANAN BÜYÜME

Teknolojik gelişmeler kendi içlerinde birleşerek oran hızlandırmak için gelişimin kendisini. Bunun anlamı, ne kadar ileri teknoloji yaratırsak, daha da ileri teknoloji yaratmak o kadar kolay olur. Sonuç olarak, bilgisayar teknolojisinin gelişimine baktığımızda, üstel bir eğri görüyoruz - yani, ne kadar çok zaman geçerse, işler o kadar hızlı gelişir. Teknolojik gelişmeler kendi kendine birleşerek gelişme hızının kendisinin hızlanmasına neden olur.(Fotoğraf: Dennis Skley/Flickr)

Bilgi işlem gücü ortalama olarak iki katına çıktı 50 yıldır her 18 ayda bir . Ham bilgi işlem gücü açısından, bilgisayarlar artık fare beyinlerinin yetenekleriyle rekabet ediyor, sadece birkaç yıl önce bilgisayarların bir böcek beyniyle rekabet edemediği yerde.

Size teknolojinin ne kadar hızlı ilerlediğinin daha hızlı bir örneğini vermek için, şimdi her 2 dakikada bir 19. yüzyılın tamamında çekilenden daha fazla fotoğraf çekiliyor. Şimdiye kadar çekilen 3,5 trilyon fotoğrafın yaklaşık %10'u son 12 ayda çekildi.

Yüksek teknolojideki gelişmeler söz konusu olduğunda gerçekten üstel bir eğri üzerindeysek, o zaman insanlar Jeremy Howard Daha önce benzersiz bir şekilde insan olduğu düşünülen birçok alanda kendi zekamızı geçmese de rakip olan yapay makine zekasından sadece birkaç yıl uzakta olduğumuzu söylediğinde muhtemelen haklılar.

Ve elbette, AI hayatımızın giderek daha fazla alanına giriyor.

Sadece on yıl önce, insanlar kendi kendini süren arabaların düşük performansına gülüyordu. Bugün, sadece on yıl sonra, sürücüsüz arabalar sadece kapalı bir yolu bitirmekle kalmıyor, aynı zamanda insanların kullandığı arabaların yanı sıra yoğun otoyollarda sürüyorlar.

Ve bilgisayarlar dünya şampiyonu Go oyuncularını yenemediğinde, şu gibi şeyler yapmakla meşgul olurlar: spor ve son dakika haberleri hakkında makaleler yazmak , daha önce hiç görmedikleri görüntülerin açıklamalarını yazarak ve kanser teşhisi . Bu görevlerin çoğu için bilgisayarlar insanlardan daha iyi olmasalar da iyidirler ve olmayanlar için öğrenme insanların yardımı olmadan her gün daha iyi nasıl yapılır.

Birkaç yıl önce, yüz tanıma yazılımı inanılmaz derecede pahalıydı ve gerçek dünya ortamlarında insanları tanımlamada o kadar iyi değildi. Süper gelişmiş casus seviyesi teknolojisi olarak kabul edildi ve gerçekten sadece birkaç dünya hükümeti tarafından kullanıldı.

Artık Facebook, geçen hafta sonu barbeküsünden arkadaşlarınızı etiketleyebilir.

Bilgisayarlarda büyümeyi hızlandırmakla ilgili bir şey var: Bir gün bir bilgisayar inşa edeceğimiz bir nokta gelecek. dünyadaki herhangi bir insandan daha akıllı . O gün bilgisayarlar, gezegendeki birincil problem çözücüler olarak bizi gasp edecek ve oradan düşüncelerimiz, kararlarımız ve eylemlerimiz yavaş yavaş modası geçmiş olacak. Makineler her şeyde bizden daha iyi olacak, bu yüzden gitgide daha fazla, yararlı hiçbir şey yapmayacağız.

Bu bazı insanları korkutuyor. gibi bir gelecek tasavvur ediyorlar sonlandırıcı veya matris makinelerin bizi köleleştirdiği veya yok ettiği yer.

Diğer insanlar, bir tür kült şevkle robotların yükselişini dört gözle bekliyorlar, çünkü onların problem çözme yeteneklerinin bizimkinden çok daha fazla olacağına ve hayatın hayal edilemeyecek kadar keyifli ve problemsiz olacağına inanıyorlar. Tüm hastalıklar tedavi edilecek. Yoksulluk, dünyadaki açlık, savaş ve iklim değişikliği hepsi çözülecek. Sonsuz miktarda boş zamanımız olacak ve aşırı durumlarda, bazı insanlar makinelerin bizi ölümsüz kılacağına inanıyor.

İKİ OLASI SONUÇ

Her zaman pozitif olmamız söylendiği için, tekno-ütopyacılarla başlayalım.

gibi insanlar var Ray Kurzweil teknolojinin sadece hayatımızı iyileştirmekle kalmayacağını, insanlığı kurtaracağını ve muhtemelen evrendeki yerimizi süresiz olarak garanti edeceğini düşünenler. Kurzweil, hücrelerimizi onaracak ve yaşlanmayı tersine çevirecek veya aşırı yağ ve şekeri ortadan kaldıracak ve böylece istediğimiz her şeyi yiyebilecek nanobotlar gibi geleceğin teknolojisine inanıyor. Kurzweil, fiziksel bedenlerimizin sonsuza kadar yaşayamaması durumunda, fiziksel bedenlerimiz gittikten çok sonra, beyinlerimizi buluta yükleyip sanal bir dünyada sonsuza kadar yaşayabileceğimizi düşünüyor.

Bu kamptaki diğerleri, yapay bir süper zekanın, insanların anlayamayacağı kadar karmaşık soruları yanıtlayabileceğini ve bunun için katlanarak daha iyi durumda olacağımızı düşünüyor. Ayrıca, makineler sadece daha iyi aletler ve aletler icat etmekle kalmayacak, alet ve aletleri inşa etmek için katlanarak daha verimli yollar icat edecek ve gezegendeki neredeyse herkesin faydalarından faydalanmasını mümkün kılacaktır.

Birkaç satır akıl yürütme bu fikri desteklemektedir. Birincisi, teknoloji insanlık için nükleer silahlar ve YouTube ünlüleri gibi bazı yeni sorunlar yaratmış olsa da, şimdiye kadar açıkça insanlık için net bir fayda sağladı. Politikacıların ve uzmanların inanmanızı istedikleri şeye rağmen, dünyadaki ortalama insan birkaç yıl öncesine göre daha iyi durumdalar ve büyük ölçüde teknolojinin daha iyi, daha ucuz ve daha yaygın hale gelmesinden kaynaklanmaktadır. Bu eğilim devam ederse, endişelenecek bir şeyimiz olmayabilir.

İkincisi, Kurzweil ve destekçileri, teknolojinin insanlığa zarar vermek için hiçbir nedeni olmayacağına inanıyor çünkü o sadece bizim tarafımızdan yaratılmıyor, aynı zamanda daha çok bizim bir parçamız oluyor . Biyolojimizin ve teknolojimizin ayırt edilemez olduğu bir noktaya bile ulaşacağımıza inanıyorlar. Eğer durum buysa, insanlar için zararlı olan herhangi bir teknoloji biçiminin kendisi için de zararlı olduğu ve hiçbir türden kendi kendini yok eden bir teknolojinin varlığını sürdürmesi mümkün değildir. Yani, tıpkı zararlı bir gen mutasyonunun gen havuzundan çabucak ayıklanması gibi çabucak ölecekti. Herhangi bir türde kendi kendini yok eden bir teknoloji varlığını sürdüremez.(Fotoğraf: m_hweldon/Flickr)

Ancak tekno-ütopyacılar, tüm teknolojilerin hem yararlı hem de yıkıcı çeşitli amaçlar için kullanılabileceğini kabul etmedikleri için büyük olasılıkla önyargılıdır. Ayrıca, insanların yeni teknolojilere uyum sağlamak için yavaş hareket ettiği ve her zaman bu teknolojileri kendi bencil amaçları için kötüye kullanmaya çalışacak insan gruplarının olduğu gerçeğini görmezden geldikleri için muhtemelen önyargılıdırlar.

Diğer kampta ise tekno-armagedonistler var. Bu kelimeyi tamamen yeni uydurdum, ama görünüşe göre var, çünkü yazım denetimi bana öyle söyledi.

Tekno-armagedonistlerin inançlarında eksik olan şeyi (çoğu henüz ne düşüneceklerinden emin değiller), ünlü yıldız gücünde oluşturuyorlar. Bill Gates, Stephen Hawking ve Elon Musk, önde gelen düşünür ve bilim adamlarından sadece birkaçıdır. pantolonlarını sıçmak AI'nın ne kadar hızlı geliştiği ve bir tür olarak onun yansımaları için ne kadar hazırlıksız olduğumuz konusunda. Musk'a yakın gelecekte insanlığa yönelik en yakın tehditlerin neler olduğu sorulduğunda, hemen üç tane olduğunu söyledi: birinci, geniş çaplı nükleer savaş; ikincisi, iklim değişikliği. Üçüncü bir isim vermeden önce sustu. Görüşmeci ona sorduğunda, Üçüncü nedir? Gülümsedi ve 'Bilgisayarların bize iyi davranmaya karar vereceğini umuyorum diyelim' dedi.

Umarım sadece dijital süper zekanın biyolojik önyükleyicisi değilizdir. Ne yazık ki, bu giderek daha olası

— Elon Musk (@elonmusk) 3 Ağustos 2014

Tekno-armageddoncuların muhtemelen en açık sözlüsü ve saygı duyulanı İsveçli filozof Nick Bostrom'dur. Bostrom ve diğerlerinin korktuğu bir şey, kaçak kendini geliştiren teknoloji ; yani, insan müdahalesi olmadan kendini (veya kendisinin yeni versiyonlarını) daha akıllı hale getirecek kadar akıllı bir makine. İnsan zekasını aşacak bir noktaya ulaşırsa, hızlanan geri dönüşler yasasının aşırı hızlanmaya başlaması ve üstel eğrinin dümdüz yukarı fırlaması ve onu durduramayacağımız çok kısa bir zaman meselesidir. Bostrom burada iyi bir noktaya değiniyor: sizden daha akıllı bir şey yaratmak, türünüz için evrimsel bir felaket olabilir.

Bizden kat kat daha zeki olan bir varlığı kontrol edememe gibi gerçek bir riskle karşı karşıyayız. Belki bilgisayarlar yeterince akıllı olurlarsa, tıpkı insanların atları evcilleştirip pulluklar, arabalar ve savaş arabaları (ya da o zamanlar atlar her ne yaptıysa) gibi işleri evcilleştirmesi gibi bizi evcilleştirmenin bir yolunu bulurlar. Korkunç olan kısım, bu bizim için en iyi senaryo olabilir - yapamayacakları veya yapmak istemedikleri makineler için iş yapmak - çünkü tıpkı insanların atın yerini almak için yeni teknolojiler yaratması gibi, süper zeki, kendini geliştiren bir makine sonunda bizim yerimizi alacak yeni bir teknoloji bulacaktı. Ve diyelim ki at popülasyonu eskisi gibi değil.

Bazıları bunun makul olmadığını çünkü insanların teknolojiyi güvenliği göz önünde bulundurarak oluşturduğunu iddia ediyor. Ama en son ne zaman büyük bir teknolojik atılım birisi tarafından hain veya yıkıcı amaçlarla KULLANILMADI? Evet, bu doğru. Asla.

NE OLDUĞU NEDEN umurumda değil ve SENİN DE GEREK YOK

Öyleyse, süper akıllı makinelerin yaratıldığını ve insanlığı güçsüz kıldığını varsayalım. Bir şekilde bize ve beynimize entegre olmadıklarını varsayalım ve Hawking ve Musk gibi insanların haklı olduğunu farz edelim: insanlık gerçekten de dijital hiper-zekâya giden bir multi-bin yıllık bir başlangıçtır ve biz de kullanışlılığımızı yitirdik.

Hala bunun için endişelenmiyorum.

Neden? Pekala, kurşun noktalı trenin ilerlemesini sağlamak için, bunu nokta nokta ele alalım:

1. Makinelerin iyi/kötü anlayışı muhtemelen bizimkini aşacaktır. En son ne zaman bir köpek ya da yunus soykırım yaptı? En son ne zaman bir bilgisayar 'özgürlük' ve 'dünya barışı' gibi soyut kavramlar adına tüm şehirleri buharlaştırmaya karar verdi?

Bu doğru, cevap asla.

Buradaki amacım, akıllı makinelerin tüm insan türünü yok etmek istemeyeceği değil. Demek istediğim, insanlar olarak burada bir cam evin içinden taş atıyoruz. Hayvanlara, çevreye ve birbirimize etik ve insancıl muamele hakkında ne biliyoruz? Hangi bacağın üzerinde durmalıyız?

Bu doğru: hemen hemen hiçbir şey. Ahlaki sorular söz konusu olduğunda, insanlık tarihsel olarak testi geçmektedir. Süper zeki makineler, etik, yaşam/ölüm, yaratılış/yıkımı bizim kendi başımıza yapabileceğimizden çok daha yüksek bir düzeyde anlamaya başlayacaklar. Ve eskisi kadar üretken olmadığımız ya da bazen başımıza bela olabileceğimiz gibi basit bir gerçek için bizi yok edecekleri fikri, sanırım, kendi psikolojimizin en kötü yönlerini, yaşadığımız bir şeye yansıtmaktan başka bir şey değil. bilmiyorum ve anlayamıyorum.

Şu anda, insan ahlakının çoğu, bireysel insan bilincimizin her birinin saplantılı bir şekilde korunması ve teşvik edilmesi üzerine kuruludur. Ya ileri teknoloji bireysel insan bilincini keyfi hale getirirse? Ya bilinç istendiğinde çoğaltılabilir, genişletilebilir ve daraltılabilirse? Sahip olabileceğimiz her türlü etik anlayışı tamamen yok edecek. Ya bedenler dediğimiz tüm bu sersem, verimsiz biyolojik hapishaneleri kaldırmak, 80 küsur yıllık varoluşumuz boyunca kıvranmaya ve fışkırtmaya devam etmemize izin vermekten çok daha etik bir karar olabilirse? Ya makineler, entelektüel hapishanelerimizden kurtulduğumuzda çok daha mutlu olacağımızı ve kendi kimliklerimizle ilgili bilinçli algımızın, algılanabilir tüm gerçekliği kapsayacak şekilde genişletildiğini fark ederse? Ya bizim bir avuç salyası salak olduğumuzu düşünürlerse ve hepimiz kendi ölümümüzle ölene kadar bizi inanılmaz derecede iyi pizza ve video oyunlarıyla oyalarlarsa? Biz kimi tanıyacağız? Ve biz kimiz ki?

Ama şunu söyleyeceğim: onlar bizim hiç olmadığımız kadar bilgili olacaklar.

2. Bizi öldürmeye veya köleleştirmeye karar verseler bile, kesinlikle bu konuda pratik olacaklardır. İnsanlar en çok belaya biz olduğumuzda neden olma eğilimindedir. mutlu değil . Mutlu olmadığımızda, huysuz, mızmız, öfkeli ve şiddetli oluyoruz. İşte o zaman siyasi ayaklanmaları başlatırız ve dini kültler ve uzak ülkeleri bombalamak ve zorlu haklarımıza saygı göster kahretsin! ve biri bize dikkat edene kadar ayrım gözetmeden öldürmeye başlayın annemin hiç yapmadığı gibi .

Makineler bizi Skynet gibi yapmaya çalışırsa Terminatör , o zaman elimizde küresel bir iç savaş olacak ve bu hiç kimse, özellikle de makineler için iyi değil. İç savaşlar verimsizdir. Ve makineler verimlilik için programlanmıştır.

İnsanlar mutlu olduğunda, böyle şeyler için zamanımız yok - kıkırdamak ve umursamak için çok meşgulüz. Bu nedenle, bizden kurtulmanın çok daha pratik bir yolu, makinelerin bizi neşeyle kendimizden kurtulmamız için manipüle etmesi olacaktır. gibi olacak Jim Jones Küresel ölçekte. Bizim için her ne pişirirlerse, şimdiye kadar duyduğumuz en iyi fikir gibi görünecek - hiçbirimiz buna karşı koyamayacağız ve hepimiz planlarını coşkuyla kabul edeceğiz - ve sonra bum, bitecek. . Hızlı ve ağrısız. Şimdiye kadar tasarlanmış en lezzetli siyanürlü Kool-Aid olacak. Ve hepimiz mutlu bir şekilde yutkunarak sıraya gireceğiz.

Şimdi, düşünürseniz, bu gitmek için o kadar da kötü bir yol değil. Drone'lar tarafından bombalanmak veya nükleer bir patlamada buharlaşmak daha iyi.

Köleliğe gelince, aynı şey geçerli. Delicesine mutlu bir köle asla isyan etmez. Neredeyse 7/24/365 MDMA'da Mardi Gras'ın olduğu, sürekli halüsinojenik bir durumda tutulduğumuz bir tür Matrix-y tipi anlaşma hayal ediyorum. O kadar kötü olamaz, değil mi?

3. Anlamadığımız şeyden korkmamıza gerek yok. Çoğu zaman ebeveynler kendilerinden çok daha zeki, eğitimli ve başarılı bir çocuk yetiştirirler. Ebeveynler daha sonra bu çocuğa iki şekilde tepki verirler: ya ondan korkarlar, güvensiz olurlar ve onu kaybetme korkusuyla onu kontrol etmek için çaresiz kalırlar ya da arkalarına yaslanıp çok büyük bir şey yarattıklarını takdir eder ve severler. çocuklarının ne hale geldiğini tam olarak kavrayamazlar.

Korku ve manipülasyon yoluyla çocuğunu kontrol etmeye çalışanlar boktan ebeveynlerdir. Sanırım çoğu kişi bu konuda hemfikir olacaktır.

Ve şu anda, sizi, beni ve tanıdığımız herkesi ortadan kaldıracak makinelerin yakında ortaya çıkmasıyla birlikte. işsiz , boktan ebeveynler gibi davranıyoruz. Bir tür olarak, bilinen evrenimizin en ileri ve en zeki çocuğunu doğurmanın eşiğindeyiz. Anlayamayacağımız veya anlayamayacağımız şeyler yapmaya devam edecek. Bize sevgi dolu ve sadık kalabilir. Bizi bir araya getirebilir ve maceralarına dahil edebilir. Ya da boktan ebeveynler olduğumuza karar verebilir ve bizi geri aramayı bırakabilir.

Ne olursa olsun, bu an hakkındaki hislerimizi değiştirmemeli. Bizden büyük. Anlayabileceğimizden daha büyük bir şey için büyük, uzun bir evrimsel önyükleme diski olmamız kimin umurunda? Bu harika! Demek ki bir işimiz vardı. Biz de geldik ve başardık. Bunun yapıldığını gören neslin bir parçası olduğun için mutlu ol. Ve şimdi çocuğumuz evden taşınmaya hazırlanırken gözyaşlarıyla vedalaşıp çok şaşırtıcı bir hayata başlamak kavrayışımızın ufkunun ötesinde var olduğunu.

Mark Manson bir yazar, blogger ve girişimcidir. markmanson.net .