Resim kaynağı: Unbounded AI aracı tarafından oluşturulmuştur
ChatGPT'nin aylık etkinliği 1 milyar kilometre taşına yükselirken, OpenAI kurucusu Sam Altman'ın "küresel turu" da dikkatleri üzerine çekti.
Bu hafta, SamAltman İsrail'deki Tel Aviv Üniversitesi'ne geldi ve OpenAI'nin İsrail'de büyümüş baş bilim adamı Ilya Sutskavel ile canlı ve derinlemesine bir röportaj yaptı (ikisi nadiren aynı sahneyi paylaştı).Sam bir an için şaşırmıştı. sorulduğunda sözler için ve dinlemeye değerdi.
Temel bakış açısı:
**1. OpenAI'nin avantajları: **Yaptığımız işe daha çok odaklanıyoruz ve kültürümüz titiz ve tekrarlanabilir inovasyona odaklanıyor.
2. Akademinin yapay zekadaki yeri: Akademi, yapay zeka araştırmalarının ön saflarında yer alıyordu, ancak bu, daha zayıf bilgi işlem gücü ve mühendislik kültürünün olmaması nedeniyle değişti. Ancak akademi, eğitmekte olduğumuz sinir ağlarının birçok gizemini çözerek yapay zekaya hala önemli katkılar sağlayabilir.
**3. Açık kaynak veya açık kaynak değil: **Bazı modellerde açık kaynak kullandık ve daha fazla model açmayı planlıyoruz, ancak tüm modelleri açık kaynak yapmanın doğru strateji olduğunu düşünmüyoruz ve çok çalışıyoruz bir denge bulmak için.
**4. Yapay zekada göz ardı edilemeyecek riskler: ** İşler etkilenir, bilgisayar korsanları süper zeka kazanır ve sistemler kontrolü kaybeder, yapay zekanın üç endişe verici riskidir. Yapay zeka harika şeyler yapabilir ama aynı zamanda kötü şeyler de yapabilir, bu nedenle bu teknolojinin kullanımını kontrol etmek için uygun düzenleyici yapılara sahibiz, örneğin küresel kurumlar kurmak gibi.
**5. Yapay Zeka Bilimsel Keşfi Hızlandıracak mı: **Yapay Zeka, insanların tıp ve sağlık alanındaki gelişmeleri desteklemek, iklim değişikliği sorunlarını hafifletmek ve hatta evrenin gizemlerini keşfetmek gibi şu anda ulaşılamaz olan bazı bilimsel hedeflere ulaşmasına yardımcı olabilir. insanların en çok heyecanlandığı şey.
Röportajın tamamı derinlikten yoksun değil, aynı zamanda ilginç.
Örneğin İlya, ailesinin ona arkadaşlarının da günlük olarak ChatGPT kullandığını söylediğini memnuniyetle söyledi ve bu onu çok şaşırttı. Seyircinin "Tarih yazıyorsun, tarihin seni nasıl hatırlamasını istersin?" sorusuna İlya da esprili bir şekilde cevap verdi: ** "Yani en güzel şekilde."**
Röportajın tam metni aşağıdadır:
Doktora ve terk: OpenAI'den önce iki farklı hayat
ilya:
5 yaşımdan 16 yaşıma kadar Kudüs'te yaşadım. 2000-2002 yılları arasında Açık Üniversite'de okudum. Daha sonra 10 yıl geçirdiğim ve lisans, yüksek lisans ve doktora dereceleri aldığım Toronto Üniversitesi'ne taşındım. Lisansüstü çalışmalarım sırasında, derin öğrenmede önemli ilerlemelere katkıda bulunma ayrıcalığına sahip oldum. Sonra birkaç kişiyle Google'ın satın aldığı bir şirket kurdum ve burada bir süre çalıştım.
Sonra bir gün Sam'den şöyle bir e-posta aldım, "Hey, havalı insanlarla takılalım." İlgimi çekmişti, bu yüzden kabul ettim. Elon Musk ve Greg Brockman ile ilk kez o zaman tanıştım ve OpenAI yolculuğuna başlamaya karar verdik. Bunu uzun yıllardır yapıyoruz, yani şu anda bulunduğumuz yer burası.
Kendisi:
Çocukken yapay zeka konusunda çok heyecanlıydım ve bir bilimkurgu ineğiydim. Bunu inceleme fırsatına sahip olmak hiç aklıma gelmemişti ama sonra üniversitede bir süre üzerinde çalışmaya başladım. Ama sonra tam olarak yükselmemişti, 2004 gibiydi... Okulu bıraktım ve bir girişimde bulundum.
Ilya'nın bahsettiği ilerlemeden bir süre sonra, AI ile ilgili neler olduğu konusunda gerçekten heyecanlandım ve ona bir e-posta gönderdim ve hala devam ediyoruz.
OpenAI'nin avantajları
ev sahibi:
Özellikle rakipleri genellikle daha büyük ve daha fazla kaynağa sahip olduğundan, onu üretken yapay zekada lider yapan OpenAI'nin temel güçlü yönleri olarak ne görüyorsunuz?
Kendisi:
Önemli bir avantajın yaptığımız işe artan odaklanmamız olduğuna inanıyoruz. Büyük şirketlerden daha yüksek bir yetenek yoğunluğuna sahip olmamız önemlidir ve yanlış anlaşılmıştır. **Kültürümüz titizliğe ve tekrarlanabilir yeniliğe değer verir ve bu iki kültürün bir arada var olması zor ve nadirdir. **
ilya:
Evet, Sam'in cevabına sadece küçük bir miktar ekleyebilirim. **Bu bir inanç oyunudur, daha fazla inanç daha fazla ilerleme demektir. ** Çok fazla inancınız varsa, en fazla ilerlemeyi sağlayacaksınız. Şaka gibi gelebilir ama aslında gerçek. Bu fikre inanmalı ve onu zorlamalısınız, ilerlemeyi sağlayan şey budur.
Akademinin yapay zeka alanındaki konumu
ev sahibi:
Yapay zekadaki son gelişmeler büyük ölçüde endüstri tarafından yönlendirildi, sizce akademik araştırma bu alanın gelişiminde nasıl bir rol oynamalı?
ilya:
Akademinin yapay zeka alanındaki rolü önemli ölçüde değişti. Akademi, AI araştırmalarının ön saflarında yer alıyordu, ancak bu değişti. İki neden var: bilgi işlem gücü ve mühendislik kültürü. Akademi daha az bilgi işlem gücüne sahiptir ve genellikle bir mühendislik kültüründen yoksundur.
Bununla birlikte, akademi AI'ya hala önemli ve önemli katkılar sağlayabilir. **Akademi, eğittiğimiz sinir ağlarından birçok gizemi çözebilir ve karmaşık ve şaşırtıcı nesneler yaratıyoruz. **
Derin öğrenme nedir? Bu zekayı elde etmek için verileri ham madde olarak hesaplama enerjisiyle birleştirdiğimiz simyasal bir süreçtir. Ama bu tam olarak nedir? O nasıl çalışır? Hangi özelliklere sahiptir? Nasıl kontrol ederiz? nasıl anlaşılır? Nasıl uygulanır? Nasıl ölçülür? Bu soruların hepsi bilinmiyor.
**Basit ölçüm görevlerinde bile yapay zekamızın performansını doğru bir şekilde değerlendiremiyoruz. Bu geçmişte bir sorun değildi çünkü yapay zeka o kadar da önemli değildi. Yapay zeka artık çok önemli ama onu hala tam olarak ölçemediğimizin farkındayız. **
Bu yüzden kimsenin çözemeyeceği bazı problemler düşünmeye başladım. Bu soruları sormak ve ilerleme kaydetmek için devasa bilgi işlem kümelerine veya devasa mühendislik ekiplerine ihtiyacınız yok. Başarırsanız, herkesin hemen dikkatini çekeceği ilgi çekici ve anlamlı bir katkı olacaktır.
ev sahibi:
Endüstri ve akademi arasında tamamen dengeli bir ilerleme görmek istiyoruz ve bu tür katkıları daha fazla görmek istiyoruz. Durumu iyileştirmek için yapılabilecek herhangi bir şey olduğunu düşünüyor musunuz, özellikle sizin konumunuz açısından, bir tür destek mevcut mu?
ilya:
Her şeyden önce zihniyet değişikliği bence ilk ve en önemli şey. Bugünlerde akademinin biraz dışındayım ama sanırım yaptığımız işte bir kriz var.
Çok sayıda makale etrafında çok fazla ivme var, ancak en kritik sorunları çözmeye odaklanmak önemlidir. Zihniyetimizi değiştirmeli ve en önemli konulara odaklanmalıyız. **Zaten bildiklerimize odaklanıp neyin yanlış olduğunun farkında olamayız. **Sorunları anladığımızda, onları çözmeye doğru ilerleyebiliriz.
Artı, yardımcı olabiliriz. Örneğin, akademisyenlerin bilgi işlem kapasitesi kazanmak ve son teknoloji modellerimize erişmek için başvurabilecekleri bir Akademik Erişim Programımız var. Birçok üniversite, GPT-3'ü kullanarak modellerin özelliklerini ve yanlılıklarını inceleyen makaleler yazmıştır. Daha fazla fikriniz varsa, onları duymak isterim.
açık kaynak VEYA açık kaynak değil
ev sahibi:
Bazı oyuncular modellerinin ve kodlarının açık kaynak olarak yayınlanmasını gerçekten teşvik ederken, diğerleri yeterince yapmıyor. Bu aynı zamanda açık AI ile ilgilidir. Bu yüzden merak ediyorum, her şeyden önce, bu konudaki görüşünüz nedir? Katılıyorsanız, neden OpenAI'nin doğru strateji olduğunu düşünüyorsunuz?
Kendisi:
**Bazı modelleri açık kaynaklı hale getirdik ve zaman içinde daha fazla açık kaynak yapmayı planlıyoruz. Ancak her şeyi açık kaynak kullanmanın doğru strateji olduğunu düşünmüyorum. **Bugünün modelleri ilginçse, bir işe yarayabilirler, ancak yaratmak üzere olduğumuz şeye kıyasla hala nispeten ilkel kalıyorlar. Çoğu insanın buna katılacağını düşünüyorum. Pek çok avantajı olduğu kadar dezavantajları da olan süper güçlü bir AGI yapmayı bilirsek, açık kaynak en iyi seçenek olmayabilir.
**Yani bir denge bulmaya çalışıyoruz. **Bazı şeyleri açık kaynak yapacağız ve model anlayışımız geliştikçe, zamanla daha fazla açık kaynak yapabileceğiz. Pek çok şey yayınladık ve bence diğerlerinin şu anda dil modelleri oluşturmakta olduğu temel fikirlerin çoğu, ilk GPT belgeleri ve rohf'un çalışmalarından ölçeklendirme yasaları gibi OpenAI'nin sürümlerinden geliyor. Ancak bu, ilerledikçe çözmemiz gereken bir denge. Birçok farklı stres kaynağıyla karşı karşıyayız ve bunları başarılı bir şekilde yönetmemiz gerekiyor.
ev sahibi:
Modeli dünyaya açık kaynak yapmak yerine belirli bir kitleye sunmayı düşünüyor musunuz? Bir bilim adamı olarak veya GPT-4 eğitimini bitirirken ne düşünüyorsunuz?
Kendisi:
Onu anlamamız, güvence altına almamız ve nasıl uyum sağlayacağımızı bulmamız neredeyse sekiz ayımızı aldı. Dış denetçilerimiz, kırmızı ekiplerimiz ve dahil olan bilim topluluğumuz var. Dolayısıyla bu adımları atıyoruz ve atmaya da devam edeceğiz.
Yapay zekanın görmezden gelemeyeceği riskler
ev sahibi:
Bence risk çok önemli bir konu ve muhtemelen en az üç risk kategorisi var.
Birincisi, işlerin gereksiz hale geldiği ekonomik altüst oluş. İkinci kategori, güçlü silahların birkaç kişinin elinde olduğu durumlar olabilir. Örneğin, bilgisayar korsanları bu araçları kullanabilseydi, daha önce binlerce bilgisayar korsanının yapabileceği şeyleri yapabilirdi. Son kategori, sistemin kontrolden çıktığı ve tetikleyicinin bile davranışını engelleyemediği muhtemelen en endişe verici olanıdır. Bu senaryoların her birinin ne olabileceği hakkındaki düşüncelerinizi bilmek isterim.
ilya:
Tamam, ekonomik kaos için olası senaryolarla başlayalım. Bahsettiğiniz gibi, **'da üç risk vardır: işlerin tehlikeye atılması, bilgisayar korsanlarının süper zeka kazanması ve sistemlerin kontrolden çıkması. **Ekonomik kaos gerçekten de zaten aşina olduğumuz bir durum çünkü bazı işler zaten etkilenmiş veya risk altında.
Başka bir deyişle, belirli görevler otomatikleştirilebilir. Örneğin, bir programcıysanız, Copilot sizin için işlevler yazabilir. Bu durum sanatçılardan farklı olsa da, sanatçıların birçok ekonomik faaliyeti yerini bazı imaj üreticilerine bırakmıştır.
Bunun gerçekten basit bir soru olduğunu düşünmüyorum. **Yeni istihdam yaratılmasına rağmen ekonomik belirsizlik uzun süre devam edecek. Durumun bu olduğundan emin değilim. **
Bununla birlikte, her halükarda, bu kariyerler henüz mevcut olmasa bile, yükselen kariyer saldırısına geçişi yumuşatacak bir şeye ihtiyacımız var. Bu, hükümetin ve sosyal sistemin dikkatini gerektirir.
Şimdi hack hakkında konuşalım. Evet, bu zor bir soru. AI gerçekten güçlüdür ve kötü adamlar onu güçlü şekillerde kullanabilir. Diğer çok güçlü ve tehlikeli araçlara benzer bir çerçeve uygulamamız gerekiyor.
Bugün yapay zekadan değil, zaman içinde artan yeteneklerden bahsettiğimize dikkat edin. Şu anda düşük bir noktadayız ama oraya vardığımızda çok güçlü olacak. **Bu teknoloji harika uygulamalarda kullanılabilir, hastalıkları iyileştirmek için kullanılabilir, ancak aynı zamanda daha önce gelen her şeyden daha kötü hastalıklar da yaratabilir.
Bu nedenle, bu teknolojinin kullanımını kontrol etmek için yerinde yapılara ihtiyacımız var. Örneğin Sam, onlara çok güçlü yapay zekayı kontrol etmek için nükleer enerjiyi kontrol etmek için IAEA benzeri bir çerçeve öneren bir belge sundu. **
ev sahibi:
Son soru ise süper zeki yapay zekanın kontrolden çıkmasıyla ilgili, bunun çok büyük bir sorun haline geleceği söylenebilir, nasıl kontrol edeceğimizi bilmediğimiz bir süper zeki yapay zeka oluşturmak hata mı?
Kendisi:
bazı noktalar ekleyebilirim. Tabii ki, son cümleye tamamen katılıyorum.
Ekonomik cephede, gelecekteki gelişmeleri tahmin etmekte zorlanıyorum. Bence bunun nedeni, şu anda dünyada çok fazla talep olması ve bu sistemlerin işlerin yapılmasına gerçekten yardımcı olması. Ancak günümüzde çoğu durumda, tüm görevler onlar tarafından yapılamaz.
**Kısa vadede her şeyin iyi göründüğünü ve verimlilikte önemli bir artış göreceğimizi düşünüyorum. **Programcıları iki kat daha verimli hale getirebilseydik, dünyada ihtiyaç duyulan kod miktarı üç kattan fazla olurdu, yani her şey yolunda görünüyor.
Uzun vadede, bu sistemlerin giderek daha karmaşık hale gelen görevleri ve iş kategorilerini ele alacağını düşünüyorum. Bu işlerden bazıları kaybolabilir,** ancak diğerleri daha çok gerçekten insan ve insan ilişkileri gerektiren işler haline gelecek. **İnsanlar gerçekten insanların bu rollerde oynamasını istiyor.
Bu roller açık olmayabilir. Örneğin Deep Blue, Garry Kasparov'u yendiğinde dünya ilk kez yapay zekaya tanık oldu. O zamanlar herkes satrancın bittiğini ve mantıklı gelmediği için artık kimsenin satranç oynamayacağını söylüyordu.
Ancak satrancın hiç bu kadar popüler olmadığı konusunda hemfikiriz. İnsanlar daha güçlü, sadece beklentiler yükseliyor. Bu araçları kendi becerilerimizi geliştirmek için kullanabiliriz, ancak insanlar hala satranç oynamaktan gerçekten zevk alıyor ve insanlar hala diğer insanları önemsiyor gibi görünüyor.
Dolly'nin harika sanat eserleri yaratabileceğinden bahsettiniz, ancak insanlar hala satın almak istedikleri sanatın arkasındaki insanları önemsiyorlar ve hepimiz bu yaratıcıların özel ve değerli olduğunu düşünüyoruz.
Satrancı örnek olarak alalım, tıpkı insanların insan satrancına daha fazla ilgi göstermesi gibi, her zamankinden daha fazla insan insan satrancı izliyor. Ancak, çok az kişi iki yapay zeka arasındaki maçı izlemek ister. Bu yüzden, tüm bu öngörülemeyen faktörler olacaklarını düşünüyorum. **Bence insanlar farklılaşmaya can atıyor (insanlar ve makineler arasında). **
Statü kazanmak için yeni bir şey yaratma ihtiyacı her zaman olacaktır, ancak bu kendini gerçekten farklı bir şekilde gösterecektir. Bundan 100 yıl sonraki işlerin bugünkü işlerden tamamen farklı olacağına bahse girerim ve bu şeylerin çoğu çok benzer olacaktır. Ancak Ilya'nın söylediğine gerçekten katılıyorum, **Ne olursa olsun, farklı türde bir sosyoekonomik sözleşmeye ihtiyacımız var çünkü otomasyon şimdiye kadar hayal bile edilemeyecek boyutlara ulaştı. **
ev sahibi:
Sam, geçenlerde yapay zekanın varoluşsal tehdidinin ciddiye alınmasını isteyen bir dilekçe imzaladın. Belki de OpenAI gibi şirketler bu sorunu çözmek için adımlar atmalıdır.
Kendisi:
Şunu gerçekten vurgulamak istiyorum burada günümüzün sistemlerinden, küçük başlangıç eğitim modellerinden veya açık kaynak topluluklarından bahsetmiyoruz.
Şu anda sahaya ağır bir düzenleme dayatmanın veya inanılmaz yenilikleri yavaşlatmaya çalışmanın hata olacağını düşünüyorum. Gerçekten tartışılmaz görünen tutarsız bir süper zeka yaratmak istemiyorum. **Bence dünya bunu asla gelmeyecek bir bilimkurgu riski olarak değil, önümüzdeki on yıl içinde başa çıkmamız gerekebilecek bir şey olarak görmeli, bazı şeylere alışmak zaman alacak ama olacak' uzun olmasın **
Bu yüzden bir fikir bulduk ve umarım daha iyi bir fikir. En üst düzeyde bilgi işlem gücü ve teknoloji sınırına sahip küresel bir organizasyon kurabilirsek, modellerin lisanslanması ve gerekli testleri geçmelerini sağlamak için güvenliklerini denetlemek için bir çerçeve geliştirilebilir. Bu, bu konuyu çok ciddi bir risk olarak görmemize yardımcı olacaktır. Nükleer enerjide de benzer bir şey yapıyoruz.
Gelecekte yapay zeka bilimsel keşfi hızlandıracak mı? Hastalığı tedavi etmek, iklim sorunlarını çözmek mi?
ev sahibi:
Avantajlardan bahsedelim. İçinde bulunduğumuz bu bilimsel ortamda yapay zekanın rolünü merak ediyorum. Birkaç yıl içinde, belki gelecekte, keşfedecek bilimsel bir şeyimiz olacak.
Kendisi:
**Bu, kişisel olarak AI hakkında en çok heyecanlandığım şey. **Bence pek çok heyecan verici şey oluyor, büyük ekonomik faydalar, büyük sağlık faydaları. Ama aslında, yapay zeka şu anda imkansız olan bazı bilimsel keşifler yapmamıza yardımcı olabilir. Evrenin sırlarını ve hatta daha fazlasını öğrenmeyi çok isteriz. Bilimsel ve teknolojik ilerlemenin hayatı daha iyi ve dünyayı daha iyi bir yer haline getirmenin tek sürdürülebilir yolu olduğuna gerçekten inanıyorum.
Pek çok yeni bilimsel ve teknolojik ilerleme geliştirebilirsek, insanların başlangıcını çoktan gördüğümüzü düşünüyorum. Verimliliği artırmak için bu araçları kullanın. Ama "Hey, tüm hastalıkları iyileştirmeye yardım edebilirim" diyebileceğiniz ve tüm hastalıkları iyileştirmenize yardımcı olabilecek bir dünya hayal ederseniz, o dünya daha iyi bir yer olabilir. Bundan çok uzakta olduğumuzu düşünmüyorum.
ev sahibi:
Hastalıkların yanı sıra, çözülmesi çok zor olan bir diğer önemli sorun da iklim değişikliğidir. Ancak, gerçekten güçlü süper zeki sistemlere sahip olduğumuzda, iklim değişikliğiyle baş etmenin özellikle zor olacağını düşünmüyorum.
ilya:
Evet, çok fazla karbon yakalamaya ihtiyacınız var. Karbon yakalama için enerjiye ve onu inşa edecek teknolojiye ihtiyacınız var. Bilimi hızlandırabilirseniz, çok şey inşa etmeniz gerekir. İlerleme, güçlü yapay zekanın yapabileceği şeydir ve çok gelişmiş karbon yakalamayı çok daha hızlı gerçekleştirebiliriz. Çok ucuz elektriğe daha hızlı ulaşabilir, daha ucuz imalata daha hızlı ulaşabiliriz. Şimdi ucuz elektrik, ucuz üretim ve gelişmiş karbon tutmanın üçünü birleştirin ve şimdi bunlardan çok şey üretiyorsunuz ve şimdi tüm bu fazla CO2'yi atmosferden emiyorsunuz.
**Güçlü bir yapay zekanız varsa, bilim ve mühendislikteki ilerlemeyi büyük ölçüde hızlandıracaktır. **Bu, bugün planlamayı çok daha kolaylaştıracak. Bunun ilerlemeyi hızlandıracağına inanıyorum. Bu daha büyük hayaller kurmamız gerektiğini gösteriyor. Bir sistem tasarlayabilseydiniz, ondan size düşük maliyetle büyük miktarlarda temiz enerjiyi nasıl üreteceğinizi, karbonu verimli bir şekilde nasıl yakalayacağınızı söylemesini ve bunları yapacak bir fabrika inşa etmede size rehberlik etmesini isteyebileceğinizi hayal edebilirsiniz. . Bunları başarabilirseniz başka birçok alanda da başarı elde edebilirsiniz.
Harika ChatGPT
ev sahibi:
ChatGPT'nin bu kadar yaygın olacağını düşünmediğinizi duyduğuma göre, başka insanların onun değerine ve yeteneklerine gerçekten şaşırdığına dair herhangi bir örnek olup olmadığını merak ediyorum.
ilya:
Ailem, arkadaşlarının günlük hayatlarında ChatGPT'yi nasıl kullandığını söylediğinde çok şaşırdım ve çok sevindim. İnsan yaratıcılığının parlaklığını ve insanların bu güçlü araçtan nasıl yararlandığını gösteren pek çok sevimli hikayeden birini seçmek zor.
Eğitim alanında bizim için harika oldu ve bu kadar çok insanın hayatını değiştiren kelimeler yazdığını görmek benim için gerçekten dönüştürücü çünkü artık her şeyi öğrenebilirim, belirli şeyler öğreniyorum veya nasıl yapacağımı bilmediğim şeyler söylüyorum. daha önce yap, şimdi yaparım.
Şahsen, insanların yeni ve daha iyi bir şekilde öğrendiğini görmek ve bunun birkaç yıl sonra nasıl olacağını hayal etmek çok tatmin edici ve güzel. Bu gidişle bunun olmasını tam olarak beklemiyorduk ki bu gerçekten harika.
Sonra dün duyduğum ilginç bir hikaye var. Bir adamın her akşam iki saatini çocuklarıyla yatmadan önce hikayeler yazdığı söylenir. Bu hikayelerin hepsi çocukların en sevdiği şeylerdir ve özel bir an haline gelir. Her gece harika vakit geçirdiler.
İzleyicilerden gelen sorular:
Soru 1:
Açık kaynak LLM, ek gelişmiş teknikler olmadan GPT-4'ün yetenekleriyle eşleşebilir mi? Yoksa GPT-4'ü diğer modellerden ayıran karanlık bir sır mı var? Stability'nin vicuna modelini kuruyorum, 13 milyar parametre... Zaman mı harcıyorum?
Sam: Söyleyecek söz bulamıyorum...
ilya:
Açık kaynak ve açık kaynak olmayan modeller sorusuyla ilgili olarak, ikili siyah beyaz terimlerle düşünmek zorunda değiliz. Asla yeniden keşfedemeyeceğiniz gizli bir kaynak varmış gibi.
**Belki bir gün GPT-4'ün yeteneklerini kopyalayan bir açık kaynak modeli olacak, ancak bu süreç zaman alacak ve o zamana kadar böyle bir model büyük bir şirkette daha güçlü bir model haline gelebilir. **Bu nedenle, açık kaynak modeli ile özel model arasında her zaman bir boşluk olacaktır ve bu boşluk giderek artabilir. Böyle bir sinir ağı yapmak için gereken iş, mühendislik ve araştırma miktarı artmaya devam edecek.
Bu nedenle, **açık kaynak modelleri mevcut olsa bile, küçük bir grup özel araştırmacı ve mühendis tarafından giderek daha az yapılacak, yalnızca bir şirket, bir büyük şirket (açık kaynağa katkıda bulunan) olacak. **
Soru 2:
Yapay zekanın insanlar için tehlikeli olduğuna gerçekten inanıyorsanız, neden onu geliştirmeye devam edesiniz? OpenAI ve diğer AI şirketlerine düzenleme getirilseydi, buna uyar mıydınız? Zuckerberg, bulduğu her düzenlemeden kaçmaya çalıştığını söyledi.
Kendisi:
Bence bu çok yerinde ve önemli bir soru. İşimizin en zor kısmı, yapay zekanın sunduğu muazzam potansiyel ile beraberinde getirdiği ciddi riskleri dengelemek. Neden bu risklerle karşı karşıya olduğumuzu ve neden ilk sırada yer aldıklarını tartışmak için zaman ayırmamız gerekiyor.
Bugünün yaşam standartlarına ve insanlara karşı artan hoşgörümüze baktığımızda her şeyin daha iyi göründüğünü düşünüyorum. 500 veya 1000 yıl öncesine kıyasla insanların yaşam koşulları çok iyileşti. Kendimize soruyoruz, aşırı yoksulluk içinde yaşayan insanları hayal edebiliyor musunuz? Hastalıklardan muzdarip insanları hayal edebiliyor musunuz? Herkesin iyi eğitimli olmadığı bir durum hayal edebiliyor musunuz? Bunlar barbar zamanların gerçekleridir.
**Yapay zeka bazı riskler oluştursa da, onun yaşamlarımızı iyileştirme, bilimsel araştırmaları ilerletme ve küresel sorunları çözme potansiyelini de görüyoruz. **
Güvenlik ve etik kaygıların uygun şekilde ele alınmasını sağlamak için düzenleyici önlemler alarak yapay zekayı sorumlu bir şekilde geliştirmeye devam etmemiz gerekiyor. Amacımız yapay zekayı insanlığın ilerlemesi için bir tehdit değil, bir araç haline getirmek. Bu, yapay zekanın geliştirilmesi için sürdürülebilir ve etik bir çerçeve oluşturmak için teknik topluluk, hükümet ve toplumdaki tüm tarafların katılımı da dahil olmak üzere ortak çabalarımızı gerektirir.
Nasıl yapılır, bence durdurulamaz bir ilerleme gibi. Teknoloji durmuyor, gelişmeye devam ediyor. Bu nedenle, büyük bir şirket olarak, bununla birlikte gelen riskleri nasıl yöneteceğimizi bulmalıyız.
Bunun bir nedeni, riskin ve onu ele almak için gereken yaklaşımın olağanüstü olmasıdır. Geleneksel yapılardan farklı bir çerçeve oluşturmamız gerekiyordu. Bir kâr sınırımız var ve teşviklerin önemli bir faktör olduğuna inanıyorum. Doğru teşvikleri tasarlarsanız, genellikle istediğiniz davranışa yol açabilir.
Bu yüzden her şeyin iyi çalıştığından ve az ya da çok kar getirmediğinden emin olmaya çalışıyoruz. Facebook gibi bir şirket gibi bir teşvik yapımız yok ki bence harika, Facebook'ta insanlar teşvik edici bir yapıda ama bu yapının bazı zorlukları var.
AGI yoluyla deneyim biriktirmeye çalışıyoruz. İlya'nın sık sık bahsettiği gibi, şirketi kurarken ilk önce AGI'yi deneyimlemeye çalıştık ve ardından kar yapısını oluşturduk. Bu nedenle, hesaplamalı kaynak gereksinimleri ile göreve odaklanma arasında bir denge kurmamız gerekiyor. Tartıştığımız konulardan biri, nasıl bir yapının, canımızı en çok yakacak olsa bile, düzenlemeleri şevkle benimsememizi sağladığıdır.
Şimdi tam zamanı**, dünya genelinde üzerimizde en büyük etkiye sahip olacak düzenlemeleri yürütüyoruz. **Elbette kurallara uyuyoruz, bence insanlar risk altındayken iyi davranmaları daha kolay, amaç aramaları daha kolay. Bence bu önde gelen işletmelerin sahipleri şimdi bunu hissediyor ve onların sosyal medya şirketlerinden farklı tepkiler verdiğini göreceksiniz. Bence tüm şüpheler ve endişeler haklı. Her gün bu sorunla mücadele ediyoruz ve bunun kolay bir yanıtı yok.
Soru 3: Kullandığınız AI modeli ile bizim kullandığımız model arasındaki farkın ne olduğunu anlamak istiyorum.
Sahip olmadığınız birçok yönden sınırlı olduğumuzu biliyorum, ancak sahip olduğunuz güçle bizim kullanabileceğimiz güç arasındaki fark nedir?
ilya:
Bahsettiğiniz modeller arasındaki boşluk gerçekten bir problem.
Demek istediğim, artık GPT-4'ümüz var, eğitim verdiğimizi biliyorsunuz, GPT-4'e erişiminiz var** ve gerçekten bir sonraki gelecek model üzerinde çalışıyoruz. **
Bu boşluğu belki şu şekilde tanımlayabilirim: Gelişmiş yeteneklere sahip AI modelleri oluşturmaya ve iyileştirmeye devam ettikçe, daha uzun test süreleri ve süreleri gerektiren daha büyük bir boşluk var. Modelin sınırlamalarını anlamak için ekiple birlikte çalışıyoruz ve bildiğiniz tüm yolları mümkün olduğunca kullanıyoruz, ancak aynı zamanda modeli kademeli olarak genişletiyoruz.
Örneğin, artık GPT-4'ün görsel tanıma yetenekleri var ve siz (kullanmakta olduğunuz sürüm), son çalışma tamamlanmadığı için bu özelliği başlatmadınız. Ama yakında bunu başaracağız. Bence bu, sorunuzu yanıtlıyor, belki de çok uzak bir gelecekte değil.
Soru 4: Benim sorum süper zeka ve Rokos Basilisk ikilemi hakkında, GPT ve OpenAI'nin bu ikilemle nasıl başa çıktığını açıklayabilir misiniz?
*Not: Roko'nun Basilisk'i, gelecekteki süper zeka hakkında hipotezler içeren çevrimiçi bir tartışma ve düşünce deneyine bir göndermedir. *
*Bu süper zekanın, zaman yolculuğu veya insanların ona acı çektirdiği diğer yollarla bilgi edinebileceği ve doğumuna yardımcı olmayanları cezalandırabileceği söyleniyor. Dolayısıyla bu ima, etik bir ikilem ortaya çıkarıyor: gelecekte olası cezalardan kaçınmak için süper zekanın gelişiminin şimdi desteklenmesi ve teşvik edilmesi gerekip gerekmediği. *
ilya:
Rocco'nun Basilisk'i özellikle ilgilendiğimiz bir şey olmasa da, süper zeka konusunda kesinlikle çok endişeliyiz.
Muhtemelen herkes, hatta izleyicilerdeki herkes bile süper zeka ile ne demek istediğimizi anlamıyor.
Bahsettiğimiz şey, bir gün, herkesten daha akıllı ve deneyimli bilim adamları ve mühendislerden oluşan büyük ekiplerden daha hızlı bilim ve araştırma yapma yeteneğine sahip, GPU'lar biçiminde bir bilgisayar kümesi olan bir bilgisayar inşa etme olasılığıdır. .
Bu çılgınca ve çok büyük bir etkisi olacak.
AI sisteminin bir sonraki sürümünü tasarlayabilir ve çok güçlü bir AI oluşturabilir. Yani bizim konumumuz şu: **süper zekanın geniş kapsamlı etkileri var, çok olumlu etkileri olabilir ama aynı zamanda çok tehlikeli ve bu konuda dikkatli olmamız gerekiyor. **
Bahsettiğiniz IAEA (Uluslararası Atom Enerjisi Ajansı) yaklaşımının gelecekte çok gelişmiş son teknoloji sistemler ve süper zeka için devreye girdiği yer burasıdır. Bir süper zekanın gücünden beklentilerimizi karşılayacak, kendi yararımıza ve insanlığın yararına olacak şekilde yararlanmak için çok araştırma yapmamız gerekiyor.
Bu, insanlığın karşı karşıya olduğu nihai süper zeka sorunu olan süper zeka konusundaki pozisyonumuzdur.
İnsanın evrim tarihine bakıldığında, yaklaşık 4 milyar yıl önce tek hücreli bir eşleyici ortaya çıktı. Ardından, milyarlarca yıl boyunca, çeşitli farklı tek hücreli organizmalar ortaya çıktı. Yaklaşık bir milyar yıl önce çok hücreli yaşam ortaya çıkmaya başladı. Yüz milyonlarca yıl önce, yeryüzünde sürüngenler ortaya çıktı. Memeliler yaklaşık 60 milyon yıl önce ortaya çıktı. Yaklaşık 1 milyon yıl önce primatlar ortaya çıktı, ardından Homo sapiens ortaya çıktı. 10.000 yıl sonra yazı ortaya çıktı. Ardından Tarım Devrimi, Sanayi Devrimi ve Teknolojik Devrim geldi. Şimdi, nihayet süper zekanın finali ve nihai mücadelemiz olan AGI'ye sahibiz.
Soru 5: Bilgisayar bilimi okuyorum ve mezun olmak üzereyim, acaba bilgisayar bilimi okumak bana önümüzdeki 10-15 yılda iyi bir iş bulur mu?
Kendisi:
Bilgisayar bilimi okumanın zaten değerli olduğunu düşünüyorum.
Kendim neredeyse hiç kod yazmasam da** bilgisayar bilimi okumayı şimdiye kadar yaptığım en iyi şeylerden biri olarak görüyorum. Bana nasıl düşüneceğimi ve problem çözeceğimi, her alanda çok faydalı olan becerileri öğretti. **
Bir bilgisayar programcısının işi bundan 10 ila 15 yıl sonra farklı görünse bile, nasıl öğrenileceğini öğrenmek, yeni şeyleri hızlı bir şekilde öğrenmek, gelecekteki eğilimleri tahmin etmek, uyarlanabilir ve dirençli olmak, başkalarının ihtiyaçlarını ve nasıl yapılacağını anlamak dahil olmak üzere en önemli becerilerden biridir. kullanışlı olmak.
Bu nedenle, işin doğasının değişeceğine şüphe yok, ancak insanların başkaları için değer yaratan bir şeyi ve bununla birlikte gelen tüm faydaları yapmak için zaman ayırmadığı bir dünya hayal edemiyorum. Belki gelecekte, kimin daha soğuk bir galaksiye sahip olduğunu önemseyeceğiz, ancak bazı iyi şeyler (değer yaratma gibi) değişmeyecek.
Soru 6: Tarih yazıyorsunuz, tarih sizi nasıl hatırlasın istiyorsunuz?
ilya:
Yani mümkün olan en iyi şekilde.
View Original
The content is for reference only, not a solicitation or offer. No investment, tax, or legal advice provided. See Disclaimer for more risks disclosure.
OpenAI'nin kurucusu ve baş bilim adamı nadiren aynı aşamadadır: AI'daki en heyecan verici şey oluyor!
Yazar: Zhu Xueying
ChatGPT'nin aylık etkinliği 1 milyar kilometre taşına yükselirken, OpenAI kurucusu Sam Altman'ın "küresel turu" da dikkatleri üzerine çekti.
Bu hafta, SamAltman İsrail'deki Tel Aviv Üniversitesi'ne geldi ve OpenAI'nin İsrail'de büyümüş baş bilim adamı Ilya Sutskavel ile canlı ve derinlemesine bir röportaj yaptı (ikisi nadiren aynı sahneyi paylaştı).Sam bir an için şaşırmıştı. sorulduğunda sözler için ve dinlemeye değerdi.
Röportajın tamamı derinlikten yoksun değil, aynı zamanda ilginç.
Örneğin İlya, ailesinin ona arkadaşlarının da günlük olarak ChatGPT kullandığını söylediğini memnuniyetle söyledi ve bu onu çok şaşırttı. Seyircinin "Tarih yazıyorsun, tarihin seni nasıl hatırlamasını istersin?" sorusuna İlya da esprili bir şekilde cevap verdi: ** "Yani en güzel şekilde."**
Röportajın tam metni aşağıdadır:
Doktora ve terk: OpenAI'den önce iki farklı hayat
ilya:
5 yaşımdan 16 yaşıma kadar Kudüs'te yaşadım. 2000-2002 yılları arasında Açık Üniversite'de okudum. Daha sonra 10 yıl geçirdiğim ve lisans, yüksek lisans ve doktora dereceleri aldığım Toronto Üniversitesi'ne taşındım. Lisansüstü çalışmalarım sırasında, derin öğrenmede önemli ilerlemelere katkıda bulunma ayrıcalığına sahip oldum. Sonra birkaç kişiyle Google'ın satın aldığı bir şirket kurdum ve burada bir süre çalıştım.
Sonra bir gün Sam'den şöyle bir e-posta aldım, "Hey, havalı insanlarla takılalım." İlgimi çekmişti, bu yüzden kabul ettim. Elon Musk ve Greg Brockman ile ilk kez o zaman tanıştım ve OpenAI yolculuğuna başlamaya karar verdik. Bunu uzun yıllardır yapıyoruz, yani şu anda bulunduğumuz yer burası.
Kendisi:
Çocukken yapay zeka konusunda çok heyecanlıydım ve bir bilimkurgu ineğiydim. Bunu inceleme fırsatına sahip olmak hiç aklıma gelmemişti ama sonra üniversitede bir süre üzerinde çalışmaya başladım. Ama sonra tam olarak yükselmemişti, 2004 gibiydi... Okulu bıraktım ve bir girişimde bulundum.
Ilya'nın bahsettiği ilerlemeden bir süre sonra, AI ile ilgili neler olduğu konusunda gerçekten heyecanlandım ve ona bir e-posta gönderdim ve hala devam ediyoruz.
OpenAI'nin avantajları
ev sahibi:
Özellikle rakipleri genellikle daha büyük ve daha fazla kaynağa sahip olduğundan, onu üretken yapay zekada lider yapan OpenAI'nin temel güçlü yönleri olarak ne görüyorsunuz?
Kendisi:
Önemli bir avantajın yaptığımız işe artan odaklanmamız olduğuna inanıyoruz. Büyük şirketlerden daha yüksek bir yetenek yoğunluğuna sahip olmamız önemlidir ve yanlış anlaşılmıştır. **Kültürümüz titizliğe ve tekrarlanabilir yeniliğe değer verir ve bu iki kültürün bir arada var olması zor ve nadirdir. **
ilya:
Evet, Sam'in cevabına sadece küçük bir miktar ekleyebilirim. **Bu bir inanç oyunudur, daha fazla inanç daha fazla ilerleme demektir. ** Çok fazla inancınız varsa, en fazla ilerlemeyi sağlayacaksınız. Şaka gibi gelebilir ama aslında gerçek. Bu fikre inanmalı ve onu zorlamalısınız, ilerlemeyi sağlayan şey budur.
Akademinin yapay zeka alanındaki konumu
ev sahibi:
Yapay zekadaki son gelişmeler büyük ölçüde endüstri tarafından yönlendirildi, sizce akademik araştırma bu alanın gelişiminde nasıl bir rol oynamalı?
ilya:
Akademinin yapay zeka alanındaki rolü önemli ölçüde değişti. Akademi, AI araştırmalarının ön saflarında yer alıyordu, ancak bu değişti. İki neden var: bilgi işlem gücü ve mühendislik kültürü. Akademi daha az bilgi işlem gücüne sahiptir ve genellikle bir mühendislik kültüründen yoksundur.
Bununla birlikte, akademi AI'ya hala önemli ve önemli katkılar sağlayabilir. **Akademi, eğittiğimiz sinir ağlarından birçok gizemi çözebilir ve karmaşık ve şaşırtıcı nesneler yaratıyoruz. **
Derin öğrenme nedir? Bu zekayı elde etmek için verileri ham madde olarak hesaplama enerjisiyle birleştirdiğimiz simyasal bir süreçtir. Ama bu tam olarak nedir? O nasıl çalışır? Hangi özelliklere sahiptir? Nasıl kontrol ederiz? nasıl anlaşılır? Nasıl uygulanır? Nasıl ölçülür? Bu soruların hepsi bilinmiyor.
**Basit ölçüm görevlerinde bile yapay zekamızın performansını doğru bir şekilde değerlendiremiyoruz. Bu geçmişte bir sorun değildi çünkü yapay zeka o kadar da önemli değildi. Yapay zeka artık çok önemli ama onu hala tam olarak ölçemediğimizin farkındayız. **
Bu yüzden kimsenin çözemeyeceği bazı problemler düşünmeye başladım. Bu soruları sormak ve ilerleme kaydetmek için devasa bilgi işlem kümelerine veya devasa mühendislik ekiplerine ihtiyacınız yok. Başarırsanız, herkesin hemen dikkatini çekeceği ilgi çekici ve anlamlı bir katkı olacaktır.
ev sahibi:
Endüstri ve akademi arasında tamamen dengeli bir ilerleme görmek istiyoruz ve bu tür katkıları daha fazla görmek istiyoruz. Durumu iyileştirmek için yapılabilecek herhangi bir şey olduğunu düşünüyor musunuz, özellikle sizin konumunuz açısından, bir tür destek mevcut mu?
ilya:
Her şeyden önce zihniyet değişikliği bence ilk ve en önemli şey. Bugünlerde akademinin biraz dışındayım ama sanırım yaptığımız işte bir kriz var.
Çok sayıda makale etrafında çok fazla ivme var, ancak en kritik sorunları çözmeye odaklanmak önemlidir. Zihniyetimizi değiştirmeli ve en önemli konulara odaklanmalıyız. **Zaten bildiklerimize odaklanıp neyin yanlış olduğunun farkında olamayız. **Sorunları anladığımızda, onları çözmeye doğru ilerleyebiliriz.
Artı, yardımcı olabiliriz. Örneğin, akademisyenlerin bilgi işlem kapasitesi kazanmak ve son teknoloji modellerimize erişmek için başvurabilecekleri bir Akademik Erişim Programımız var. Birçok üniversite, GPT-3'ü kullanarak modellerin özelliklerini ve yanlılıklarını inceleyen makaleler yazmıştır. Daha fazla fikriniz varsa, onları duymak isterim.
açık kaynak VEYA açık kaynak değil
ev sahibi:
Bazı oyuncular modellerinin ve kodlarının açık kaynak olarak yayınlanmasını gerçekten teşvik ederken, diğerleri yeterince yapmıyor. Bu aynı zamanda açık AI ile ilgilidir. Bu yüzden merak ediyorum, her şeyden önce, bu konudaki görüşünüz nedir? Katılıyorsanız, neden OpenAI'nin doğru strateji olduğunu düşünüyorsunuz?
Kendisi:
**Bazı modelleri açık kaynaklı hale getirdik ve zaman içinde daha fazla açık kaynak yapmayı planlıyoruz. Ancak her şeyi açık kaynak kullanmanın doğru strateji olduğunu düşünmüyorum. **Bugünün modelleri ilginçse, bir işe yarayabilirler, ancak yaratmak üzere olduğumuz şeye kıyasla hala nispeten ilkel kalıyorlar. Çoğu insanın buna katılacağını düşünüyorum. Pek çok avantajı olduğu kadar dezavantajları da olan süper güçlü bir AGI yapmayı bilirsek, açık kaynak en iyi seçenek olmayabilir.
**Yani bir denge bulmaya çalışıyoruz. **Bazı şeyleri açık kaynak yapacağız ve model anlayışımız geliştikçe, zamanla daha fazla açık kaynak yapabileceğiz. Pek çok şey yayınladık ve bence diğerlerinin şu anda dil modelleri oluşturmakta olduğu temel fikirlerin çoğu, ilk GPT belgeleri ve rohf'un çalışmalarından ölçeklendirme yasaları gibi OpenAI'nin sürümlerinden geliyor. Ancak bu, ilerledikçe çözmemiz gereken bir denge. Birçok farklı stres kaynağıyla karşı karşıyayız ve bunları başarılı bir şekilde yönetmemiz gerekiyor.
ev sahibi:
Modeli dünyaya açık kaynak yapmak yerine belirli bir kitleye sunmayı düşünüyor musunuz? Bir bilim adamı olarak veya GPT-4 eğitimini bitirirken ne düşünüyorsunuz?
Kendisi:
Onu anlamamız, güvence altına almamız ve nasıl uyum sağlayacağımızı bulmamız neredeyse sekiz ayımızı aldı. Dış denetçilerimiz, kırmızı ekiplerimiz ve dahil olan bilim topluluğumuz var. Dolayısıyla bu adımları atıyoruz ve atmaya da devam edeceğiz.
Yapay zekanın görmezden gelemeyeceği riskler
ev sahibi:
Bence risk çok önemli bir konu ve muhtemelen en az üç risk kategorisi var.
Birincisi, işlerin gereksiz hale geldiği ekonomik altüst oluş. İkinci kategori, güçlü silahların birkaç kişinin elinde olduğu durumlar olabilir. Örneğin, bilgisayar korsanları bu araçları kullanabilseydi, daha önce binlerce bilgisayar korsanının yapabileceği şeyleri yapabilirdi. Son kategori, sistemin kontrolden çıktığı ve tetikleyicinin bile davranışını engelleyemediği muhtemelen en endişe verici olanıdır. Bu senaryoların her birinin ne olabileceği hakkındaki düşüncelerinizi bilmek isterim.
ilya:
Tamam, ekonomik kaos için olası senaryolarla başlayalım. Bahsettiğiniz gibi, **'da üç risk vardır: işlerin tehlikeye atılması, bilgisayar korsanlarının süper zeka kazanması ve sistemlerin kontrolden çıkması. **Ekonomik kaos gerçekten de zaten aşina olduğumuz bir durum çünkü bazı işler zaten etkilenmiş veya risk altında.
Başka bir deyişle, belirli görevler otomatikleştirilebilir. Örneğin, bir programcıysanız, Copilot sizin için işlevler yazabilir. Bu durum sanatçılardan farklı olsa da, sanatçıların birçok ekonomik faaliyeti yerini bazı imaj üreticilerine bırakmıştır.
Bunun gerçekten basit bir soru olduğunu düşünmüyorum. **Yeni istihdam yaratılmasına rağmen ekonomik belirsizlik uzun süre devam edecek. Durumun bu olduğundan emin değilim. **
Bununla birlikte, her halükarda, bu kariyerler henüz mevcut olmasa bile, yükselen kariyer saldırısına geçişi yumuşatacak bir şeye ihtiyacımız var. Bu, hükümetin ve sosyal sistemin dikkatini gerektirir.
Şimdi hack hakkında konuşalım. Evet, bu zor bir soru. AI gerçekten güçlüdür ve kötü adamlar onu güçlü şekillerde kullanabilir. Diğer çok güçlü ve tehlikeli araçlara benzer bir çerçeve uygulamamız gerekiyor.
Bugün yapay zekadan değil, zaman içinde artan yeteneklerden bahsettiğimize dikkat edin. Şu anda düşük bir noktadayız ama oraya vardığımızda çok güçlü olacak. **Bu teknoloji harika uygulamalarda kullanılabilir, hastalıkları iyileştirmek için kullanılabilir, ancak aynı zamanda daha önce gelen her şeyden daha kötü hastalıklar da yaratabilir.
Bu nedenle, bu teknolojinin kullanımını kontrol etmek için yerinde yapılara ihtiyacımız var. Örneğin Sam, onlara çok güçlü yapay zekayı kontrol etmek için nükleer enerjiyi kontrol etmek için IAEA benzeri bir çerçeve öneren bir belge sundu. **
ev sahibi:
Son soru ise süper zeki yapay zekanın kontrolden çıkmasıyla ilgili, bunun çok büyük bir sorun haline geleceği söylenebilir, nasıl kontrol edeceğimizi bilmediğimiz bir süper zeki yapay zeka oluşturmak hata mı?
Kendisi:
bazı noktalar ekleyebilirim. Tabii ki, son cümleye tamamen katılıyorum.
Ekonomik cephede, gelecekteki gelişmeleri tahmin etmekte zorlanıyorum. Bence bunun nedeni, şu anda dünyada çok fazla talep olması ve bu sistemlerin işlerin yapılmasına gerçekten yardımcı olması. Ancak günümüzde çoğu durumda, tüm görevler onlar tarafından yapılamaz.
**Kısa vadede her şeyin iyi göründüğünü ve verimlilikte önemli bir artış göreceğimizi düşünüyorum. **Programcıları iki kat daha verimli hale getirebilseydik, dünyada ihtiyaç duyulan kod miktarı üç kattan fazla olurdu, yani her şey yolunda görünüyor.
Uzun vadede, bu sistemlerin giderek daha karmaşık hale gelen görevleri ve iş kategorilerini ele alacağını düşünüyorum. Bu işlerden bazıları kaybolabilir,** ancak diğerleri daha çok gerçekten insan ve insan ilişkileri gerektiren işler haline gelecek. **İnsanlar gerçekten insanların bu rollerde oynamasını istiyor.
Bu roller açık olmayabilir. Örneğin Deep Blue, Garry Kasparov'u yendiğinde dünya ilk kez yapay zekaya tanık oldu. O zamanlar herkes satrancın bittiğini ve mantıklı gelmediği için artık kimsenin satranç oynamayacağını söylüyordu.
Ancak satrancın hiç bu kadar popüler olmadığı konusunda hemfikiriz. İnsanlar daha güçlü, sadece beklentiler yükseliyor. Bu araçları kendi becerilerimizi geliştirmek için kullanabiliriz, ancak insanlar hala satranç oynamaktan gerçekten zevk alıyor ve insanlar hala diğer insanları önemsiyor gibi görünüyor.
Dolly'nin harika sanat eserleri yaratabileceğinden bahsettiniz, ancak insanlar hala satın almak istedikleri sanatın arkasındaki insanları önemsiyorlar ve hepimiz bu yaratıcıların özel ve değerli olduğunu düşünüyoruz.
Satrancı örnek olarak alalım, tıpkı insanların insan satrancına daha fazla ilgi göstermesi gibi, her zamankinden daha fazla insan insan satrancı izliyor. Ancak, çok az kişi iki yapay zeka arasındaki maçı izlemek ister. Bu yüzden, tüm bu öngörülemeyen faktörler olacaklarını düşünüyorum. **Bence insanlar farklılaşmaya can atıyor (insanlar ve makineler arasında). **
Statü kazanmak için yeni bir şey yaratma ihtiyacı her zaman olacaktır, ancak bu kendini gerçekten farklı bir şekilde gösterecektir. Bundan 100 yıl sonraki işlerin bugünkü işlerden tamamen farklı olacağına bahse girerim ve bu şeylerin çoğu çok benzer olacaktır. Ancak Ilya'nın söylediğine gerçekten katılıyorum, **Ne olursa olsun, farklı türde bir sosyoekonomik sözleşmeye ihtiyacımız var çünkü otomasyon şimdiye kadar hayal bile edilemeyecek boyutlara ulaştı. **
ev sahibi:
Sam, geçenlerde yapay zekanın varoluşsal tehdidinin ciddiye alınmasını isteyen bir dilekçe imzaladın. Belki de OpenAI gibi şirketler bu sorunu çözmek için adımlar atmalıdır.
Kendisi:
Şunu gerçekten vurgulamak istiyorum burada günümüzün sistemlerinden, küçük başlangıç eğitim modellerinden veya açık kaynak topluluklarından bahsetmiyoruz.
Şu anda sahaya ağır bir düzenleme dayatmanın veya inanılmaz yenilikleri yavaşlatmaya çalışmanın hata olacağını düşünüyorum. Gerçekten tartışılmaz görünen tutarsız bir süper zeka yaratmak istemiyorum. **Bence dünya bunu asla gelmeyecek bir bilimkurgu riski olarak değil, önümüzdeki on yıl içinde başa çıkmamız gerekebilecek bir şey olarak görmeli, bazı şeylere alışmak zaman alacak ama olacak' uzun olmasın **
Bu yüzden bir fikir bulduk ve umarım daha iyi bir fikir. En üst düzeyde bilgi işlem gücü ve teknoloji sınırına sahip küresel bir organizasyon kurabilirsek, modellerin lisanslanması ve gerekli testleri geçmelerini sağlamak için güvenliklerini denetlemek için bir çerçeve geliştirilebilir. Bu, bu konuyu çok ciddi bir risk olarak görmemize yardımcı olacaktır. Nükleer enerjide de benzer bir şey yapıyoruz.
Gelecekte yapay zeka bilimsel keşfi hızlandıracak mı? Hastalığı tedavi etmek, iklim sorunlarını çözmek mi?
ev sahibi:
Avantajlardan bahsedelim. İçinde bulunduğumuz bu bilimsel ortamda yapay zekanın rolünü merak ediyorum. Birkaç yıl içinde, belki gelecekte, keşfedecek bilimsel bir şeyimiz olacak.
Kendisi:
**Bu, kişisel olarak AI hakkında en çok heyecanlandığım şey. **Bence pek çok heyecan verici şey oluyor, büyük ekonomik faydalar, büyük sağlık faydaları. Ama aslında, yapay zeka şu anda imkansız olan bazı bilimsel keşifler yapmamıza yardımcı olabilir. Evrenin sırlarını ve hatta daha fazlasını öğrenmeyi çok isteriz. Bilimsel ve teknolojik ilerlemenin hayatı daha iyi ve dünyayı daha iyi bir yer haline getirmenin tek sürdürülebilir yolu olduğuna gerçekten inanıyorum.
Pek çok yeni bilimsel ve teknolojik ilerleme geliştirebilirsek, insanların başlangıcını çoktan gördüğümüzü düşünüyorum. Verimliliği artırmak için bu araçları kullanın. Ama "Hey, tüm hastalıkları iyileştirmeye yardım edebilirim" diyebileceğiniz ve tüm hastalıkları iyileştirmenize yardımcı olabilecek bir dünya hayal ederseniz, o dünya daha iyi bir yer olabilir. Bundan çok uzakta olduğumuzu düşünmüyorum.
ev sahibi:
Hastalıkların yanı sıra, çözülmesi çok zor olan bir diğer önemli sorun da iklim değişikliğidir. Ancak, gerçekten güçlü süper zeki sistemlere sahip olduğumuzda, iklim değişikliğiyle baş etmenin özellikle zor olacağını düşünmüyorum.
ilya:
Evet, çok fazla karbon yakalamaya ihtiyacınız var. Karbon yakalama için enerjiye ve onu inşa edecek teknolojiye ihtiyacınız var. Bilimi hızlandırabilirseniz, çok şey inşa etmeniz gerekir. İlerleme, güçlü yapay zekanın yapabileceği şeydir ve çok gelişmiş karbon yakalamayı çok daha hızlı gerçekleştirebiliriz. Çok ucuz elektriğe daha hızlı ulaşabilir, daha ucuz imalata daha hızlı ulaşabiliriz. Şimdi ucuz elektrik, ucuz üretim ve gelişmiş karbon tutmanın üçünü birleştirin ve şimdi bunlardan çok şey üretiyorsunuz ve şimdi tüm bu fazla CO2'yi atmosferden emiyorsunuz.
**Güçlü bir yapay zekanız varsa, bilim ve mühendislikteki ilerlemeyi büyük ölçüde hızlandıracaktır. **Bu, bugün planlamayı çok daha kolaylaştıracak. Bunun ilerlemeyi hızlandıracağına inanıyorum. Bu daha büyük hayaller kurmamız gerektiğini gösteriyor. Bir sistem tasarlayabilseydiniz, ondan size düşük maliyetle büyük miktarlarda temiz enerjiyi nasıl üreteceğinizi, karbonu verimli bir şekilde nasıl yakalayacağınızı söylemesini ve bunları yapacak bir fabrika inşa etmede size rehberlik etmesini isteyebileceğinizi hayal edebilirsiniz. . Bunları başarabilirseniz başka birçok alanda da başarı elde edebilirsiniz.
Harika ChatGPT
ev sahibi:
ChatGPT'nin bu kadar yaygın olacağını düşünmediğinizi duyduğuma göre, başka insanların onun değerine ve yeteneklerine gerçekten şaşırdığına dair herhangi bir örnek olup olmadığını merak ediyorum.
ilya:
Ailem, arkadaşlarının günlük hayatlarında ChatGPT'yi nasıl kullandığını söylediğinde çok şaşırdım ve çok sevindim. İnsan yaratıcılığının parlaklığını ve insanların bu güçlü araçtan nasıl yararlandığını gösteren pek çok sevimli hikayeden birini seçmek zor.
Eğitim alanında bizim için harika oldu ve bu kadar çok insanın hayatını değiştiren kelimeler yazdığını görmek benim için gerçekten dönüştürücü çünkü artık her şeyi öğrenebilirim, belirli şeyler öğreniyorum veya nasıl yapacağımı bilmediğim şeyler söylüyorum. daha önce yap, şimdi yaparım.
Şahsen, insanların yeni ve daha iyi bir şekilde öğrendiğini görmek ve bunun birkaç yıl sonra nasıl olacağını hayal etmek çok tatmin edici ve güzel. Bu gidişle bunun olmasını tam olarak beklemiyorduk ki bu gerçekten harika.
Sonra dün duyduğum ilginç bir hikaye var. Bir adamın her akşam iki saatini çocuklarıyla yatmadan önce hikayeler yazdığı söylenir. Bu hikayelerin hepsi çocukların en sevdiği şeylerdir ve özel bir an haline gelir. Her gece harika vakit geçirdiler.
İzleyicilerden gelen sorular:
Sam: Söyleyecek söz bulamıyorum...
ilya:
Açık kaynak ve açık kaynak olmayan modeller sorusuyla ilgili olarak, ikili siyah beyaz terimlerle düşünmek zorunda değiliz. Asla yeniden keşfedemeyeceğiniz gizli bir kaynak varmış gibi.
**Belki bir gün GPT-4'ün yeteneklerini kopyalayan bir açık kaynak modeli olacak, ancak bu süreç zaman alacak ve o zamana kadar böyle bir model büyük bir şirkette daha güçlü bir model haline gelebilir. **Bu nedenle, açık kaynak modeli ile özel model arasında her zaman bir boşluk olacaktır ve bu boşluk giderek artabilir. Böyle bir sinir ağı yapmak için gereken iş, mühendislik ve araştırma miktarı artmaya devam edecek.
Bu nedenle, **açık kaynak modelleri mevcut olsa bile, küçük bir grup özel araştırmacı ve mühendis tarafından giderek daha az yapılacak, yalnızca bir şirket, bir büyük şirket (açık kaynağa katkıda bulunan) olacak. **
Kendisi:
Bence bu çok yerinde ve önemli bir soru. İşimizin en zor kısmı, yapay zekanın sunduğu muazzam potansiyel ile beraberinde getirdiği ciddi riskleri dengelemek. Neden bu risklerle karşı karşıya olduğumuzu ve neden ilk sırada yer aldıklarını tartışmak için zaman ayırmamız gerekiyor.
Bugünün yaşam standartlarına ve insanlara karşı artan hoşgörümüze baktığımızda her şeyin daha iyi göründüğünü düşünüyorum. 500 veya 1000 yıl öncesine kıyasla insanların yaşam koşulları çok iyileşti. Kendimize soruyoruz, aşırı yoksulluk içinde yaşayan insanları hayal edebiliyor musunuz? Hastalıklardan muzdarip insanları hayal edebiliyor musunuz? Herkesin iyi eğitimli olmadığı bir durum hayal edebiliyor musunuz? Bunlar barbar zamanların gerçekleridir.
**Yapay zeka bazı riskler oluştursa da, onun yaşamlarımızı iyileştirme, bilimsel araştırmaları ilerletme ve küresel sorunları çözme potansiyelini de görüyoruz. **
Güvenlik ve etik kaygıların uygun şekilde ele alınmasını sağlamak için düzenleyici önlemler alarak yapay zekayı sorumlu bir şekilde geliştirmeye devam etmemiz gerekiyor. Amacımız yapay zekayı insanlığın ilerlemesi için bir tehdit değil, bir araç haline getirmek. Bu, yapay zekanın geliştirilmesi için sürdürülebilir ve etik bir çerçeve oluşturmak için teknik topluluk, hükümet ve toplumdaki tüm tarafların katılımı da dahil olmak üzere ortak çabalarımızı gerektirir.
Nasıl yapılır, bence durdurulamaz bir ilerleme gibi. Teknoloji durmuyor, gelişmeye devam ediyor. Bu nedenle, büyük bir şirket olarak, bununla birlikte gelen riskleri nasıl yöneteceğimizi bulmalıyız.
Bunun bir nedeni, riskin ve onu ele almak için gereken yaklaşımın olağanüstü olmasıdır. Geleneksel yapılardan farklı bir çerçeve oluşturmamız gerekiyordu. Bir kâr sınırımız var ve teşviklerin önemli bir faktör olduğuna inanıyorum. Doğru teşvikleri tasarlarsanız, genellikle istediğiniz davranışa yol açabilir.
Bu yüzden her şeyin iyi çalıştığından ve az ya da çok kar getirmediğinden emin olmaya çalışıyoruz. Facebook gibi bir şirket gibi bir teşvik yapımız yok ki bence harika, Facebook'ta insanlar teşvik edici bir yapıda ama bu yapının bazı zorlukları var.
AGI yoluyla deneyim biriktirmeye çalışıyoruz. İlya'nın sık sık bahsettiği gibi, şirketi kurarken ilk önce AGI'yi deneyimlemeye çalıştık ve ardından kar yapısını oluşturduk. Bu nedenle, hesaplamalı kaynak gereksinimleri ile göreve odaklanma arasında bir denge kurmamız gerekiyor. Tartıştığımız konulardan biri, nasıl bir yapının, canımızı en çok yakacak olsa bile, düzenlemeleri şevkle benimsememizi sağladığıdır.
Şimdi tam zamanı**, dünya genelinde üzerimizde en büyük etkiye sahip olacak düzenlemeleri yürütüyoruz. **Elbette kurallara uyuyoruz, bence insanlar risk altındayken iyi davranmaları daha kolay, amaç aramaları daha kolay. Bence bu önde gelen işletmelerin sahipleri şimdi bunu hissediyor ve onların sosyal medya şirketlerinden farklı tepkiler verdiğini göreceksiniz. Bence tüm şüpheler ve endişeler haklı. Her gün bu sorunla mücadele ediyoruz ve bunun kolay bir yanıtı yok.
ilya:
Bahsettiğiniz modeller arasındaki boşluk gerçekten bir problem.
Demek istediğim, artık GPT-4'ümüz var, eğitim verdiğimizi biliyorsunuz, GPT-4'e erişiminiz var** ve gerçekten bir sonraki gelecek model üzerinde çalışıyoruz. **
Bu boşluğu belki şu şekilde tanımlayabilirim: Gelişmiş yeteneklere sahip AI modelleri oluşturmaya ve iyileştirmeye devam ettikçe, daha uzun test süreleri ve süreleri gerektiren daha büyük bir boşluk var. Modelin sınırlamalarını anlamak için ekiple birlikte çalışıyoruz ve bildiğiniz tüm yolları mümkün olduğunca kullanıyoruz, ancak aynı zamanda modeli kademeli olarak genişletiyoruz.
Örneğin, artık GPT-4'ün görsel tanıma yetenekleri var ve siz (kullanmakta olduğunuz sürüm), son çalışma tamamlanmadığı için bu özelliği başlatmadınız. Ama yakında bunu başaracağız. Bence bu, sorunuzu yanıtlıyor, belki de çok uzak bir gelecekte değil.
*Not: Roko'nun Basilisk'i, gelecekteki süper zeka hakkında hipotezler içeren çevrimiçi bir tartışma ve düşünce deneyine bir göndermedir. *
*Bu süper zekanın, zaman yolculuğu veya insanların ona acı çektirdiği diğer yollarla bilgi edinebileceği ve doğumuna yardımcı olmayanları cezalandırabileceği söyleniyor. Dolayısıyla bu ima, etik bir ikilem ortaya çıkarıyor: gelecekte olası cezalardan kaçınmak için süper zekanın gelişiminin şimdi desteklenmesi ve teşvik edilmesi gerekip gerekmediği. *
ilya:
Rocco'nun Basilisk'i özellikle ilgilendiğimiz bir şey olmasa da, süper zeka konusunda kesinlikle çok endişeliyiz.
Muhtemelen herkes, hatta izleyicilerdeki herkes bile süper zeka ile ne demek istediğimizi anlamıyor.
Bahsettiğimiz şey, bir gün, herkesten daha akıllı ve deneyimli bilim adamları ve mühendislerden oluşan büyük ekiplerden daha hızlı bilim ve araştırma yapma yeteneğine sahip, GPU'lar biçiminde bir bilgisayar kümesi olan bir bilgisayar inşa etme olasılığıdır. .
Bu çılgınca ve çok büyük bir etkisi olacak.
AI sisteminin bir sonraki sürümünü tasarlayabilir ve çok güçlü bir AI oluşturabilir. Yani bizim konumumuz şu: **süper zekanın geniş kapsamlı etkileri var, çok olumlu etkileri olabilir ama aynı zamanda çok tehlikeli ve bu konuda dikkatli olmamız gerekiyor. **
Bahsettiğiniz IAEA (Uluslararası Atom Enerjisi Ajansı) yaklaşımının gelecekte çok gelişmiş son teknoloji sistemler ve süper zeka için devreye girdiği yer burasıdır. Bir süper zekanın gücünden beklentilerimizi karşılayacak, kendi yararımıza ve insanlığın yararına olacak şekilde yararlanmak için çok araştırma yapmamız gerekiyor.
Bu, insanlığın karşı karşıya olduğu nihai süper zeka sorunu olan süper zeka konusundaki pozisyonumuzdur.
İnsanın evrim tarihine bakıldığında, yaklaşık 4 milyar yıl önce tek hücreli bir eşleyici ortaya çıktı. Ardından, milyarlarca yıl boyunca, çeşitli farklı tek hücreli organizmalar ortaya çıktı. Yaklaşık bir milyar yıl önce çok hücreli yaşam ortaya çıkmaya başladı. Yüz milyonlarca yıl önce, yeryüzünde sürüngenler ortaya çıktı. Memeliler yaklaşık 60 milyon yıl önce ortaya çıktı. Yaklaşık 1 milyon yıl önce primatlar ortaya çıktı, ardından Homo sapiens ortaya çıktı. 10.000 yıl sonra yazı ortaya çıktı. Ardından Tarım Devrimi, Sanayi Devrimi ve Teknolojik Devrim geldi. Şimdi, nihayet süper zekanın finali ve nihai mücadelemiz olan AGI'ye sahibiz.
Kendisi:
Bilgisayar bilimi okumanın zaten değerli olduğunu düşünüyorum.
Kendim neredeyse hiç kod yazmasam da** bilgisayar bilimi okumayı şimdiye kadar yaptığım en iyi şeylerden biri olarak görüyorum. Bana nasıl düşüneceğimi ve problem çözeceğimi, her alanda çok faydalı olan becerileri öğretti. **
Bir bilgisayar programcısının işi bundan 10 ila 15 yıl sonra farklı görünse bile, nasıl öğrenileceğini öğrenmek, yeni şeyleri hızlı bir şekilde öğrenmek, gelecekteki eğilimleri tahmin etmek, uyarlanabilir ve dirençli olmak, başkalarının ihtiyaçlarını ve nasıl yapılacağını anlamak dahil olmak üzere en önemli becerilerden biridir. kullanışlı olmak.
Bu nedenle, işin doğasının değişeceğine şüphe yok, ancak insanların başkaları için değer yaratan bir şeyi ve bununla birlikte gelen tüm faydaları yapmak için zaman ayırmadığı bir dünya hayal edemiyorum. Belki gelecekte, kimin daha soğuk bir galaksiye sahip olduğunu önemseyeceğiz, ancak bazı iyi şeyler (değer yaratma gibi) değişmeyecek.
ilya:
Yani mümkün olan en iyi şekilde.