Az AI-algoritmusok szabályozásának okai egyszerűbbek, mint gondolnád

Félsz, hogy a mesterséges intelligencia elfoglalja a világ uralmát? Sokan igen. Elon Musktól, aki miatt aggódik A DeepMind legyőzi az embereket a Go fejlett játékában 2017-ben a Kongresszus tagjainak, az európai politikai döntéshozóknak (lásd A mesterséges intelligencia európai megközelítése), és az akadémikusok, az az érzés, hogy ez az az évtized, amikor komolyan kell venni a mesterséges intelligenciát, és ez egyre jobban érvényesül. Bár nem olyan okok miatt, amilyeneknek gondolnád, és nem a jelenlegi fenyegetés miatt.

Itt jönnek be az algoritmusok. Mi az az algoritmus, kérdezhetik? A legegyszerűbb úgy felfogni, mint egy utasításkészletet, amelyet a gépek megértenek és tanulhatnak belőle. Már utasíthatunk egy gépet strukturált, automatizált módon történő számításra, adatfeldolgozásra és érvelésre. A probléma azonban az, hogy az utasítások megadása után a gép követni fogja azokat. Egyelőre ez a lényeg. Az emberekkel ellentétben a gépek követik az utasításokat. Nem tanulnak olyan jól. De ha egyszer megtörténik, problémákat okozhatnak.

Nem akarok szenzációhajhász érvelést folytatni amellett, hogy a számítógépek egy napon felülmúlják az emberi intelligenciát, ismertebb nevén a szingularitási érv (lásd David Chalmers, a New York-i egyetem filozófusa). töpreng a témán.) Inkább a gyártás lehet a legjobb példa arra, hogy az AI-algoritmusok miért kezdenek fontosabbá válni a nagyközönség számára. Attól tartunk, hogy a gépek a mi költségünkön jelentősen felgyorsítják teljesítményüket. Nem feltétlenül valami fejlett érveléssel, hanem az algoritmus által elmondottak határain belüli optimalizálás miatt.

A gyártás arról szól, hogy dolgokat készítsünk. De amikor a gépek készítenek dolgokat, oda kell figyelnünk. Még akkor is, ha a gépek egyszerűek. Megmagyarázom miért.

Az esőcsizmától a mobiltelefonig és vissza

Tegyük fel, hogy egy gyár esőcsizmát gyárt. Imádom az esőcsizmát, mert Norvégia olyan részén nőttem fel, ahol sokat esik; Szeretek kint lenni, kitéve a természet sok elemének. A Nokia készítette azt az esőcsizmát, amiben felnőttem. Igen, az a Nokia, amelyet ma elektronikai cégként ismerünk, gumicsizmákat gyártott. Miért ez a kulcs? Mert ha egyszer elkészítesz valamit, akkor az a sorsod, hogy szeretnél javítani. Ennek van értelme. Mondhatni ilyen az emberi természet.

Ami a Nokiával történt, az köztudott, és valahogy így hangzik: kezdetben papírgyárként működött, gyerekkoromban a gumicsizmák (és a gumiabroncsok) gyártása különösen sikeres volt a cég számára. Láttak azonban további lehetőségeket. Ezért az 1980-as években valamikor áttértek az elektronikára, és gyorsan megváltoztatták a körülöttük lévő gyárakat, és egy nagy helyi beszállítói struktúrát építettek ki, amikor elkezdtek mobiltelefonokat gyártani. Ezzel beindult a mobilkommunikációs forradalom, amely Skandináviából indult ki, és átterjedt a világ többi részére is. Érthető, hogy sokan megírták a Nokia történetét az 1990-es években (lásd A finn csoda titkai: a Nokia felemelkedése).

A példám egyértelmű. Talán túl egyszerű. De gondold ezt így. Ha egy nagyvállalat gyorsan át tud térni a papírgyártásról az írásra, a csizmára, amely megkönnyíti az esőben való tartózkodást, akkor végül a mobiltelefonokra, amelyek megváltoztatják az emberek kommunikációját: milyen egyszerű lesz a következő lépés? Tegyük fel, hogy egy mobiltelefonokat gyártó cég úgy dönt, hogy nanobotokat gyárt, és talán ezek egy évtizeden belül felszállnak, megváltoztatva az emberiséget olyan apró gépekkel, amelyek autonóm módon futnak mindenhol, és képesek összeszerelni és megváltoztatni az emberi tapasztalatot. Mi van akkor, ha ez megtörténik anélkül, hogy figyelembe vennénk, hogyan akarjuk, hogy megtörténjen, kit akarunk irányítani, és a végső célokat?

Ha azt sugallják, hogy a robotok tudatosan segítették a Nokiát a mobiltelefonok gyártása mellett, túlzottan nehézkes lenne. De annak elismerése, hogy a technológiának szerepe volt abban, hogy az északi partján fekvő finn vidéki térség azt gondolja, hogy világuralmat szerezhet egy új iparágban, jelentős szerepet játszik.

A Nokia története nem volt olyan rózsás az elmúlt évtizedben, tekintve, hogy nem vették figyelembe a szoftveralapú iOS és Android operációs rendszerek megjelenését. Ennek eredményeként a Nokia már nem gyárt telefonokat. Kissé visszatérő történetként most már hálózati és telekommunikációs infrastruktúrát, hálózati biztonsági megoldásokat, Wi-Fi útválasztókat, intelligens világítást és okostévéket gyártanak (lásd A Nokia visszatérésének története). A Nokia még mindig csinál dolgokat, ez igaz. Az egyetlen észrevétel az, hogy a Nokia mindig szívesen keveri össze az általa készített dolgokat. Időnként még az emberi lények gyártási döntéseit is nehéz megérteni.

A gyártás azt jelenti, hogy a dolgokat és a dolgokat fejlődni kell. Általánosságban elmondható, hogy amit ma készítünk, az megváltozott az egy évtizeddel ezelőttihez képest. A 3D nyomtatók számos fejlett terméket decentralizáltan gyártanak, mind az iparban, mind a háztartásban. A 3D nyomtatás életet megváltoztató következményei még nem jelentkeztek. Nem tudjuk, hogy ez tartós lesz-e, de tudjuk, hogy az FDA a termékek gyártásának szabályozására összpontosít (lásd itt). Végső soron nem létezik politikai vita arról, hogy a 3D-s nyomtatásnak ezen túlmenően milyen negatív következményei lehetnek, és kevesen foglalkoztunk ezzel.

Nem állítom, hogy a 3D nyomtatás önmagában veszélyes. Talán ez egy rossz példa. Mindazonáltal az eleinte hétköznapinak tűnő dolgok megváltoztathatják a világot. Rengeteg példa van rá: a vadász/gyűjtögető fémből készült nyílhegy, amely háborúkat indít, rituális maszkok, amelyek megvédenek minket a COVID-19-től, szögek, amelyek felhőkarcolókat építenek, mozgatható típusú nyomdagépek, amelyek (még) megtöltik a gyárainkat nyomtatott papírral és energiával látják el. kiadói üzlet, villanykörték, amelyek lehetővé teszik az éjszakai betekintést és a benti munkát, folytathatnám. Senki, akit ismerek, az 1800-as évek végén leült, és azt jósolta, hogy a Nokia a papírról a gumira helyezi át a termelést az elektronikai gyártás felé, majd eltér a mobiltelefonoktól. Talán kellett volna.

Az emberek rossz előrejelzői a lépéses változásnak, annak a folyamatnak, ahol egy változás több változáshoz vezet, és hirtelen a dolgok gyökeresen megváltoznak. Még nem értjük ezt a folyamatot, mert kevés gyakorlati tudásunk van az exponenciális változásról; nem tudjuk elképzelni, kiszámítani vagy felfogni. Azonban újra és újra elér minket. Világjárványok, népességnövekedés, technológiai innováció a könyvnyomtatástól a robotikáig, jellemzően figyelmeztetés nélkül ér minket.

A futurizmus trükkje nem az, hogy ha, hanem mikor. Valójában meg lehet jósolni a változást, ha kiválasztunk néhány új gyártási módszert, és kijelentjük, hogy ezek a jövőben egyre elterjedtebbek lesznek. Ez elég egyszerű. A trükkös rész az, hogy pontosan kitaláljuk, mikor és főleg hogyan.

Nem a gemkapcsokkal van a probléma

Tekintsük újra a gyári példámat, de ezúttal képzeljük el, hogy a gépek számos döntést meghoznak, nem minden döntést, hanem a gyártási döntéseket, például az optimalizálást. könyvében szuperintelligencia, Az Oxfordi Egyetem disztópikus humanistája, Nick Bostrom híresen elképzelt egy mesterséges intelligencia-optimalizáló algoritmust, amely egy gemkapocsgyárat futtat. Egy bizonyos ponton, mondja, képzeljük el, hogy a gépi okok miatt racionális az egyre növekvő erőforrások feladatra való átirányításának megtanulása, ami végül fokozatosan gemkapcsokká változtatja világunkat, és ellenáll a kikapcsolási kísérleteinknek.

Annak ellenére, hogy okos srác, Bostrom példája elég buta és félrevezető (de emlékezetes). Egyrészt nem veszi figyelembe azt a tényt, hogy az emberek és a robotok többé nem különálló entitások. kölcsönhatásba lépünk. A legtöbb okos robot kobottá vagy együttműködő robottá fejlődik. Az embereknek sok esélyük lesz megjavítani a gépet. Ennek ellenére az alapja megmarad. Előfordulhat, hogy egy bizonyos ponton lépcsőzetes változás következik be, és ha ez a változás elég gyorsan és kellő felügyelet nélkül megtörténik, az irányítás elveszhet. De ez a szélsőséges eredmény kissé távolinak tűnik. Akárhogy is, egyetértek, szabályoznunk kell az ezeket a gépeket kezelő embereket, és elő kell írni, hogy a dolgozók megfelelő képzésükkel mindig a hurok alatt legyenek. Ez a fajta képzés nem megy jól. Jelenleg túl sokáig tart, és speciális készségekre van szükség mind a képzéshez, mind a képzéshez. Egy dolgot tudok. A jövőben mindenféle ember fog robotot működtetni. Aki nem, az elég tehetetlen lesz.

Az emberek bővítése jobb, mint az esztelen automatizálás, függetlenül attól, hogy soha nem egyesülünk teljesen a gépekkel. A két fogalom logikailag különbözik egymástól. Mind az emberek, mind a robotok megrekedhetnek az automatizálásban az automatizálás érdekében. Ez nagy károkat okozna a gyártásnak a jövőben. Még ha nem is gyárt gyilkos robotokat. Úgy gondolom, hogy az egyesülés még több száz év múlva van, de nem ez a lényeg. Még ha csak harminc év múlva is, a leegyszerűsített algoritmusokkal működő önjáró gépek elvesztik az irányítást, ez a forgatókönyv már a műhelyben megtörténik. Néhány ilyen gép harminc éves, és régi, szabadalmaztatott vezérlőrendszerekkel működik. A fő kihívás nem az, hogy fejlettek, hanem az ellenkezője. Túl egyszerűek ahhoz, hogy kommunikálni tudjanak. Ez nem probléma holnapra. Ez egy már meglévő probléma. Ki kell nyitnunk a szemünket rá. Gondoljon erre, amikor legközelebb beleül a gumicsizmába.

Még mindig megvan az 1980-as évekbeli Nokia csizmám. Van bennük egy lyuk, de megtartom őket, hogy emlékeztessem magam, honnan jöttem, és mennyit gyalogoltam. Az eső is folyamatosan esik, és amíg elég tiszta, nem akarok jobb javítást, mint az a csizma. Aztán megint ember vagyok. Egy robot feltehetően már továbbment volna. Vajon mi az esőcsizma mesterséges intelligencia verziója. Ez nem mobiltelefon. Ez nem esőérzékelő. Megzavarja az elmét.

A digitális csizmák ma azt jelentik, hogy személyre szabhatod őket, mert 3D-nyomtatott minták vannak rajtuk. Vannak virtuális cipők, amelyek csak NFT-ként (nem helyettesíthető tokenek) léteznek, amelyeket el lehet adni és értékesíteni lehet. A legjobb virtuális tornacipők manapság 10,000 XNUMX dollárt érnek (lásd Mi az NFT tornacipő, és miért ér 10,000 XNUMX dollárt?). Nem félek ezektől, de kellene? Ha a virtuális világot többre értékelik, mint a fizikai világot, talán én is meg fogom tenni. Vagy várjak az aggodalommal, amíg egy mesterséges intelligencia saját avatarja megveszi a saját NFT rendszerindítóját, hogy megbirkózzanak az „esővel”? Ha a saját képünkre építünk algoritmusokat, akkor valószínűbb, hogy egy mesterséges intelligencia jó lenne olyan dolgokban, amelyekben azt szeretnénk, ha jók lennénk, de általában nem, mint például részvények vásárlása, hűséges barátságok építése (talán gépekkel és emberekkel egyaránt), és emlékezés. dolgokat. Lehet, hogy az ipari metaverzum meglepően kifinomult – tele digitális ikrekkel, amelyek utánozzák a világunkat, és gyümölcsöző módon felülmúlják azt –, de lehet, hogy megdöbbentően egyszerű. Talán mindkettő. Csak még nem tudjuk.

Szabályoznunk kell az AI-algoritmusokat, mert nem tudjuk, mi van a sarkon. Ez elég ok, de hogy hogyan csináljuk, az egy hosszabb történet. Még egy gyors észrevételt engedjenek meg, talán az összes alapvető algoritmust nyilvánosan elérhetővé kellene tenni. Ennek oka az, hogy ha nem, akkor nem lehet tudni, mihez vezethetnek. A legfelsőek elég jól ismertek (lásd A 10 legjobb gépi tanulási algoritmus), de nincs világméretű áttekintés arról, hogy hol és hogyan szokják meg őket. Különösen a nem felügyelt algoritmusokra kell gondosan figyelni (lásd Hat hatékony felhasználási eset a gépi tanuláshoz a gyártásban), akár karbantartási vagy minőségi előrejelzésre, akár gyártási környezet szimulálására (pl. digitális ikrek), akár olyan új tervek létrehozására, amelyekre az ember soha nem gondolna. A mai környezetben ezek a felügyelet nélküli algoritmusok jellemzően úgynevezett mesterséges neurális hálózatok, amelyek az emberi agyat próbálják utánozni.

Elkezdtem aggódni a neurális hálók miatt, csak azért, mert nehezen értem a logikáját. A probléma az, hogy a legtöbb szakértő, még azok sem, akik telepítik őket, nem értik, hogyan mozognak ezek az algoritmusok lépésről lépésre vagy rétegről rétegre. Szerintem a gyakran használt „rejtett rétegek” metaforája nem túl találó vagy nagyon vicces. Kezdésként nem lehetnek rejtett rétegek a gyártásban, az automatizált adóbeszedésben, a felvételi döntésekben vagy a főiskolai felvételinél. Talán neked is érdemes lenne aggódnod? Egy dolog biztos: az emberek és a gépek, amelyek együtt készítenek dolgokat, megváltoztatják a világot. Már megvan, sokszor. A papírtól az esőcsizmáig és a mai mesterséges agy rétegeiig semmi sem maradhat feltáratlanul. Nem szabad elrejtőznünk attól az egyszerű ténytől, hogy sok apró változtatásból hirtelen egy nagyobb változás következhet be.