Amikor nem azon dolgozik, hogy egy mesterséges általános intelligencia (AGI) létrehozásával felgyorsítsa az emberiség rohanását a Szingularitás felé, Ben Goertzel a Jam Galaxy nevű jazz-rock zenekarban játszik, amelynek élén egy Desdemona nevű robot áll.
Ez egyike a számos mellékprojektjének, ami természetesen arra késztette, hogy a Pearl Jam és a Heart tagjaival megszólítsa a zenei üzletágat. Goertzel a hosszú élettartam kutatásán is dolgozik azáltal, hogy a Rejuve.ai nevű alkalmazáson keresztül jelképes jutalmakkal gyűjti össze az emberi egészségre vonatkozó adatokat. Ezt az információt azután összevonják az állatokkal és rovarokkal végzett vizsgálati adatokkal, és mesterséges intelligencia segítségével elemzik, hogy meghatározzák, a genom mely részei hosszabbíthatnak meg életünket, majd génterápiákkal stimulálják. „Volt néhány egészen feltűnő, áttörést jelentő felfedezés” – mondja. Ó, és közvetlenül az egyórás interjúnk vége előtt mellékesen megemlíti, hogy a decentralizált mesterséges intelligencia piacterére, a SingularityNET-re is készít egy stabil érmét, amely a környezeti fejlődés szintetikus indexéhez van kötve – mert az amerikai dollárhoz kötés lenne. "béna."
„A környezetvédelem terén elért haladás nagyon stabil. Soha nem megy sehova” – mutat rá.
"És ennek manipulálásához meg kell oldani a globális felmelegedést."
Pontosan ez az a fajta politikai megjegyzés, amely a csúcstechnológiás know-how-val találkozik, amit Goertzeltől elvárhat, aki úgy néz ki és úgy hangzik, mint egy hippi tudós, aki 1971-ben belebotlott egy időgépbe, és 2023-ban teljesen megformálódott. De ne tévesszen meg az állatmintás kalap, a hosszú haj és az Electric Kool-Aid savas utazási húzása: Ragyogó tudós, aki fényévekkel megelőzi a jövőt, és aki az emberiség által valaha is elképzelt legnagyobb elképzelésekkel küszködik. Mi a tudat? Hogyan hozzunk létre mesterséges életet, és mi történik, ha nem szeret minket, szélhámos lesz, és mindenkit lelő, mint Terminator 2?
Mi az általános mesterséges intelligencia?
Goertzel népszerűsítette a „mesterséges általános intelligencia” kifejezést, hogy megkülönböztessen egy valódi gondolkodó gépet, amely szinte bármit meg tud tanulni, az egy adott feladatra optimalizált mesterséges intelligenciáktól, mint például a Deep Blue számítógép, amely híresen legyőzte Garri Kaszparov sakkvilágbajnokot. Nyugodtan elismeri, hogy vannak kockázatok egy olyan gép megépítésében, amely bármit és mindent képes megtanulni, beleértve azt is, hogyan programozza át magát, hogy egy nagyságrenddel intelligensebb legyen minden embernél.
„Az AGI számos kockázatot és veszélyt rejt magában” – mondja Goertzel a nyüzsgő szingapúri bevásárlóközpontban található indiai étteremben. „Az egyik, amely a médiában nagy figyelmet kapott, az az, hogy az AGI ámokfutásba kezd, megsemmisíti az emberiséget, és átveszi az uralmat az univerzum felett. Teljesen lehetséges; nem zárhatja ki – mondja.
"Egy másik valószínűbb kockázat az, hogy a csúnya önző emberek a mesterséges intelligencia segítségével saját kapzsiságukat és mások feletti uralmukat gyakorolják."
Véleménye szerint nem valószínű, hogy a kormányok áttörést hoznak az AGI-ben, mivel „túl konzervatívak és ostobák”, bár megjegyzi, hogy Kína az AGI-munkát olyan cégeknek ad le, mint a Tencent és a Baidu. Közelebbről úgy gondolja, hogy a Google és a Facebook mesterséges intelligencia részlege sem fogja túllépni a határt, mivel túlságosan arra fognak koncentrálni, hogy a mesterséges intelligencia elérjen bizonyos mutatókat, ami nem kedvez a kreatív gondolkodásnak.
„Ahogyan a legzseniálisabb emberek nem csupán mások mérőszámait akarják szolgálni, úgy gondolom, hogy a mesterséges általános intelligencia sem feltétlenül akarja maximalizálni valakinek a weboldalán az átkattintást, igaz? Engedni kell, hogy kreatívan játszhasson.”
A szingularitás 1970 körül
Goertzel 15 évesen kezdte az egyetemet, 18 évesen szerzett diplomát, 22 évesen doktorált, 23 évesen pedig egy fiatal család. Talán szokatlan a mai korban, hogy nem csak egy matematikai zseni volt vagy tech zseni, aki a 70-es években összeforrasztott számítógépeket. de ugyanúgy érdekelte a filozófia, a kreatív írás és a zene.
Pályafutásának nagy részét számítástechnika, matematika és kognitív tudományok oktatásával és kutatásával töltötte a világ különböző egyetemein, miközben amikor csak tehette, az AI-technológián dolgozott. Egy sorozatalapító, aki nagyjából egy évtizeddel mindenki más előtt jár ötleteivel – amelyek az üzleti életben híresen egyenlő a tévedéssel – azon dolgozott, hogy mesterséges intelligencia segítségével előre jelezze a pénzügyi piacokat és a hosszú élettartamot, és a Hanson Robotics vezető tudósaként is dolgozott, ahol Sophia, a Robot mesterséges agyát adta.
Goertzel az 1970-es évek óta gondolkodik az exponenciális technológiai növekedésen, amikor először olvasta Gerald Feinberg A Prometheus projekt, amely azokról a gépekről szól, amelyek jobban tudnak gondolkodni, mint az emberek… nanotechnológiai gépekről, amelyek mikroszkopikusan kicsik, és meg fogjuk oldani az öregedést. Ez remekül illeszkedett a szingularitás feljövőben lévő koncepciójához, amely egy feltételezett jövőbeli pont, amikor a technológiai fejlődés ellenőrizhetetlenné és visszafordíthatatlanná válik, ami hatalmas változásokat eredményez az emberi civilizációban.
"Tehát, az emberek örökké élnek, akkor a kérdés az lesz, Mire használjuk ezeket a technológiákat, a gyors esztelen fogyasztásra, vagy a tudat bővítésére használjuk? És amit ő [Feinberg] javasolt, az az, hogy ezt tegyék demokratikus szavazásra.”
Évekkel később, amikor látta, hogy az AGI a kezünkben van, ez a „demokratikus szavazás” ihletet adott arra, hogy először nyílt forráskódú technológiát, majd később a blokkláncot használjuk annak érdekében, hogy egy együttműködő közösséget vezessenek a technológiaért.
„Egy bizonyos ponton rájöttem, hogy mesterséges intelligencia esetén a kód megnyitása nem elég” – mondja. "Valóban meg kell tanítania az AI-t egy barom adatra."
„Ez az a hely, ahol a blokklánc egy módja annak, hogy a mesterséges intelligencia feldolgozása és az alapjául szolgáló adatok decentralizálttá és közösségi forrásba kerüljenek, és irányítható legyen. És ez trükkösebbnek bizonyul, mint a kód nyílt forráskódú beszerzése.”
Goertzel 2008-ban alapította az OpenCog-ot, hogy egy nyílt forráskódú, tömeges forrásból származó mesterséges intelligencia keretrendszert építsen fel. 50 vállalat használta, köztük a Huawei és a Cisco, és hamarosan Hyperon néven jelentős frissítésre készül, amelynek célja, hogy 200-szorosára gyorsítsa fel. Az alfa verzió ebben a negyedévben várható, a béta jövőre várható.
A blokklánc alapvető, de menő
Goertzel számára a blokklánc technológia egy kicsit alapvető. Úgy írja le, mint néhány primitív elosztott algoritmust, amelyet a kriptográfiához adnak hozzá, de a „menő kombináció” lehetővé teszi, hogy a rendszerek központi vezérlés nélkül fussanak, így tökéletesen megfelel az ő igényeinek.
"Ha egy gondolkodó gépet készítesz, és elosztott nanoméretű számítástechnikai szövetet fogsz készíteni, nagyon jó lenne, ha ez mindenki és senki tulajdonában lenne, nem pedig felülről lefelé irányítva."
A blokkláncok túl lassúak ahhoz, hogy megbirkózzanak a feldolgozási követelményekkel és az érintett hatalmas mennyiségű adattal, ezért van valami versenyfutás a blokklánc megfelelő méretezésével, mielőtt az áttörést jelentő AGI-t kifejlesztik. Goertzel azt mondja, hogy bár a skálázási megoldások, például a nulla tudású összesítés jobbak, még mindig nincs elegendő sávszélességük a blokklánc korlátai miatt, amelyhez a tranzakciókat jelentik.
Társalapítója volt 2017-ben a SingularityNET-nek, amely egyrészt az AI-szolgáltatások és -technológiák decentralizált piaca, másrészt egy blokklánc-alapú koordinációs módszer a kutatók – vagy akár a mesterséges intelligencia – együttműködésére.
Jelenleg az Ethereum alapján úgy gondolja, hogy olyan messzire tolta a dolgokat, amennyire a blokkláncon a jelenlegi formájában el lehet jutni. Tehát amikor nem az AGI (vagy a zenekar, vagy a robotok vagy a hosszú élettartam) áttörésén dolgozik, akkor a blokklánc masszív skálázásán dolgozik, hogy biztosítsa a szükséges átviteli sebességet.
„Hacsak nem tudja radikálisan növelni a blokklánc méretezhetőségét, az AI belső működését nem tudja a láncba helyezni.”
Az AI közelebb van, mint gondolnád
2022 áttörést jelentett a mesterséges intelligencia technológián alapuló működő termékekben, beleértve a nyelvi alkalmazásokat (GPT-3, ChatGPT), a kódolást (GitHub Copilot) és a képgenerálást (DALL-E és Stable Diffusion). A Bing idén még azt is tervezi, hogy átvegye a Google keresési dominanciáját azáltal, hogy a ChatGPT technológiát beépíti keresőjébe.
Goertzel úgy gondolja, hogy az AGI-ig akár öt évre is el lehet jutni, és megjegyzi, hogy a területen a fejlesztések rövid, három-négy éves kitörésekben mennek végbe az áttörések sorozatában.
„A Computer Vision 2014-ben indult, aztán hirtelen, bumm, bumm, bumm, megoldódott a rejtély. Természetes nyelvi feldolgozás… miután a Google előállt a Bert modellel (2018-ban), GPT-3 volt. Valószínűleg ugyanazt a fejlődési ívet fogja látni az AGI-ben. Egy áttörést ér el, majd két éven keresztül nagy előrelépést fog elérni” – mondta.
„A különbség az áttörő előrehaladás, ebben az esetben egy olyan gépet eredményez, amely saját kódjának átírásával tovább tud fejlődni.”
Goertzel reméli, hogy az általa elindított projektek és együttműködések így valósulhatnak meg.
„Ha szerencsénk van, a következő három-öt évben elérjük ezt az áttörést a SingularityNET-en futó OpenCog Hyperonnal, amely Hypercycle-on fut” – mondja. – De ha kiderül, hogy nem nálunk van a titkos szósz, akkor valaki más megteszi.
Kár, hogy Vitalik nem volt informatikus
Goertzel megoldása a blokklánc skálázására meglehetősen radikális, és magában foglalja a Cardano oldalláncának vagy a „HyperCyle” 2. rétegének felturbózását.
„Ez valóban több, mint egy oldallánc. A HyperCycle együtt fog működni az Ethereummal és más blokkláncokkal is, de ott a Plutus interpretert fogjuk használni, de megszabadulunk a főkönyvtől.
A HyperCycle online-t úgy írta le, mint amely megoldja a „blokklánc-trilemmát”, a „decentralizáció kontra biztonság kontra teljesítményt” azáltal, hogy megszabadul a főkönyvtől, és modernebb/teljesen decentralizáltabb algoritmusokat és adatstruktúrákat, valamint egy kis mesterséges intelligencia- és hírnévrendszert használ.
A főkönyv a blokklánc-technológia középpontjában áll, de szerinte nevetségesen nem hatékony, ha a hálózat minden csomópontja minden tranzakciót replikál, és minden intelligens szerződést feldolgoz.
„A főkönyv egyszerűen rossz. Ha belegondolsz, ha a telefonkönyvedben lévő névjegyeid analógiájára gondolsz, úgy értem, hogy a főkönyv olyan, mintha 10,000 10,000 példányt vezetnél a Yellow Pagesből, és minden alkalommal frissíted őket, amikor valaki új érkezik, vagy ha valaki megváltoztatja a telefonszámát. Tényleg hülyeség XNUMX XNUMX példányt frissíteni a Yellow Pagesből.”
Olvassa el is
Az analógia HyperCycle változatában ahelyett, hogy mindenki tárolná és frissítené a sárga oldalakat, a névjegyzékben lévő személyek tárolják a címjegyzéked másolatát, és fordítva, az Ön privát kulcsával titkosítva.
„Kitaláltuk, hogyan tegyük a blokkláncot replikáló főkönyv nélkül működőképessé, így egészen lefelé. Minden blokkláncban részt vevő egyén megőrzi saját tranzakciós előzményeit, valamint megőrzi barátai és néhány barátja barátja tranzakciós előzményeit” – mondja.
„Ha teljesen lefelé dolgozunk, nincs szükség főkönyvre – nincs szükség adatbázistáblára. Ezek a dolgok túlságosan centralizáltak.”
Azt mondja, hogy néhány HyperCycle-csomópont már működik, de a teljes körű bevezetésre csak 2024 második felében kerülhet sor.
Hosszú időt töltünk azzal, hogy megvitassuk a blokklánc különböző megközelítéseinek különféle előnyeit, az Internet Computertől az Elastosig és a Celestiáig, amelyek nagy része meghaladja a fizetési osztályomat, és meghaladja a felvevőkészülékem azon képességét, hogy egy zajos étteremben pontosan rögzítsenek.
Befejezésül a következőket mondja: „Tehát úgy érzem, hogy ezek az architektúrák egyike sem elég radikális. Mindannyian túl közel vannak a Bitcoinhoz.”
„Addig, amíg minden intelligens szerződést minden csomóponton futtat, őrülten lassú lesz. Most, a HyperCycle-ben, ha egy intelligens szerződést öt csomóponton futtat, az legalább ötször olyan lassú, mint egy gépen – nem 10,000 XNUMX-szer lassabb.”
Akkor miért Cardano?
Goertzel barátságba lépett a Cardano alapítójával, Charles Hoskinsonnal, és a pár kötődik afrikai projektjeikhez. Úgy véli, Hoskinson „őszintén azon van, hogy megmentse a világot. Úgy értem, politikailag ő sokkal keményebb libertárius, mint én – én inkább anarchoszocialista vagyok –, de nem csak azért van benne, hogy pénzt keressen, vagy másokat kiszúrjon a pénzükből.”
A Cardano igazi vonzereje azonban az, hogy a Haskell programozási nyelvet használja, amelyért Goertzel 1993 óta rajong. Nagyon fáj neki, hogy az Ethereum társalapítója, Vitalik Buterin Gavin Wood Solidity intelligens szerződéses programozási nyelvét alkalmazta.
„Ha Vitalik több számítástechnikát ismert volna, rávette volna őket a Haskell vagy az F Sharp használatára, vagy valami ilyesmire, és sokkal kevesebb feltörése történt volna a blokkláncon” – mondja.
„Ha a világ gazdaságának nagy részét fogja működtetni, és dollárbilliókkal kereskedni valamilyen szoftverrendszeren, akkor jobb, ha ezt a szoftverrendszert olyan nyelven építi meg, amely nem hajlamos a hibákra, és ahol az algoritmusai formálisan is megtalálhatók. matematikai elmélettel igazolták. Ez a dolgok helyes módja.”
Stop-gap megoldás
Nem számít, milyen gyors lesz a blokklánc, amint az AGI egy nagyságrenddel okosabb és képességesebb lesz, mint az emberek, Goertzel szerint senki sem fogja tudni irányítani.
"Amikor egy AGI 100-szor okosabb az embereknél, akkor nem akarja, hogy mi irányítsuk, ahogyan nem egy csimpánz vagy egy szamár irányítana minket, igaz?"
„Akkor azt mondanám, hogy nem egyikünk irányítja a kérdést, hanem az, hogy jól áll-e hozzánk? Lehetővé teszi, hogy az emberek szabályozzák saját üzletüket, és menő eszközökkel és nano-összeszerelőkkel láthassunk el bennünket, hogy 3D-s nyomtatást végezhessünk, amit csak akarunk, és meggyógyíthatjuk a betegségeinket?”
„De az átmeneti időszak, amikor az AGI körülbelül ugyanolyan intelligenciával rendelkezik, mint az emberek, akkor a dolgok kényesebbek és érdekesebbek. És akkor a kérdés az: akar-e az AGI együttműködni az emberekkel? Vagy ez paranoiás, és irányítani akarja az embereket, mielőtt elpusztítanák?
Tanítsd jól gyermekeidet
Goertzel véleménye szerint a megoldás az, ha megtanítja az AGI-t a másokkal való törődésre, a kreativitásra és a művészetre. Itt jön be Desdemona, a robot a bandájában, és nővére, Grace – akit az idősek gondozására terveztek.
Úgy kerülheti el, hogy egy AGI terminátor Skynetévé váljon, ha eleve nem így építi fel.
„Természetesen a Skynet a filmben egy számítógépes biztonsági hálózat volt, amely ámokfutásban volt. Azért hozták létre, hogy megvédje magát az emberekkel szemben” – mondja.
„De ha megépíti az első AGI-t, amely idősgondozással, kreatív művészettel és oktatással foglalkozik, ahogy egyre okosabb lesz, akkor az emberek megsegítésére és nagyszerű dolgok létrehozására fog összpontosítani. Ha megépíted az első AGI-t, hogy megöld a rosszfiúkat… talán folytatni fogja ezeket a dolgokat.”
„Tehát, akár hasznos, akár nem, valójában attól függ, hogy milyen alkalmazásokat fejlesztett ki, és mire kapott ösztönzést.”
Úgy véli, hogy a mesterséges intelligencia robottestekbe való elhelyezése hasznos, mert segít elhelyezni őket a valós világban, nem pedig valami absztrakt matematikai univerzumban.
„Az AI-nak meg kell tanulnia az emberi és a fizikai világot. A világban való megtestesülés a megfelelő módja ennek” – mondja.
De amikor Sophiát, a Robotot nagy közönségnek mutatja be, a vizuális és hallási érzékelők könnyen túlterheltek, megzavarva az AI-t hangos és világos környezetben. Tehát a Sophia hamarosan elindul a metaverzumban, Sophiaverse néven. Felejtsd el a ChatGPT unalmas szövegalapú válaszait, Sophia egy 3D-s virtuális világban testesül meg, és tanulni fog az ottani emberekkel való interakcióból. Azonban figyelmezteti, hogy valószínűleg hülyeségeket fog mondani.
"Van egy neurális hálója, amely hasonló a GPT-3-hoz és így tovább, amelyek jelentős lehetőségeket kínálnak a kérdések megválaszolására, de bizonyos szempontból meglehetősen ostobák is."
Feliratkozás
A legvonzóbb olvasmányok a blokkláncban. Egyszer leszállítva a
héten.
Forrás: https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/