A mesterséges intelligencia etikája óvakodik az AI aszimmetriájának súlyosbodásával kapcsolatban

Néha a bot rossz végén jársz.

Az a köznyelv alkalmazható az aszimmetria fogalmára.

Igen, az aszimmetriáról fogok beszélni. Valószínűleg találkoztál már ebben a zűrzavaros világban, amelyben élünk, előfordulhat, hogy kevesebb tudásod van egy számodra viszonylag fontos kérdésben. Ezt formálisan úgy hívják Információs aszimmetria.

A lényeg az, hogy kevesebb tudással vagy információval rendelkezzen, mint azt szeretné, és határozottan kevesebbel, mint az ügyben érintett másik fél. Kifejezetten hátrányos helyzetben vagy a másik félhez képest. Tudnak valamit, amit te nem tudsz. Felhasználhatják azt, amit tudnak, különösen amiatt, amit te nem tudsz, és fölénybe kerülhetnek bármilyen durva tanácskozáson vagy tárgyaláson veled.

Nos, van egy új gyerek a városban, úgy hívják AI aszimmetria.

Ez a legújabb hívószó arra a lehetőségre utal, hogy szembeszállsz valakivel, aki MI-vel van felfegyverkezve, miközben te nem vagy felfegyverkezve.

Az MI az oldalukon van, míg te csak te. A dolgok ferdén állnak. Feltételezetten hátrányos helyzetben vagy. A másik oldal köröket futhat majd körülötted, mivel az AI kibővíti. Ez talán beletartozhat abba a híres mondásba, miszerint szerelemben és háborúban minden igazságos (egy régóta bevett közmondás Euphues John Lyly, 1578), bár a mesterséges intelligencia aszimmetriájának dinamikája és veszélyei kihívást jelentő etikai AI problémákat vetnek fel. A mesterséges intelligencia etikájával és az etikai AI-val kapcsolatos folyamatos és kiterjedt tudósításomat lásd az itt található link és a az itt található link, csak hogy néhányat említsek.

Mielőtt belevágnánk a mesterséges intelligencia birodalmába és a mesterséges intelligencia aszimmetriával kapcsolatos bőséges összetettségébe, először fedezzük fel a sima régi információs aszimmetria mindennapi, szokásos változatát. Ez megteremti a terepet a közmondásos mesterséges intelligencia új kölyökének a blokkba való belépéséhez.

Egy rövid és céltudatosan felvilágosító mese feldobhatja az étvágyat.

A minap útközben defektes abroncsom volt, és gyorsan kerestem egy megfelelő cserét, amelyet azonnal fel lehet szerelni. Okostelefonommal megnéztem az interneten a közeli gumiboltokat, hogy megtudjam, mekkora távolságot kell megtennem a defektes abroncsommal, és hogy nyitva vannak-e üzletek. Ezenkívül gyorsan kiértékeltem az online vásárlói véleményeiket, és megpróbáltam bármi hasznosat összegyűjteni azzal kapcsolatban, hogy mióta működtek az üzletben, és más olyan tényezőkről is, amelyek bemutathatják alkalmasságukat.

Az egyik gumibolt felhívásakor az ügyintéző szellős árajánlatot adott az abroncs és a beszerelés költségeire. Nem pont az abroncsra gondoltam, de az ügyintéző biztosított, hogy ők lesznek az egyetlen üzlet a környéken, amely azonnal el tudja végezni a munkát. Az ügyintéző szerint a többi közeli gumiboltban nem lenne ilyen abroncs raktáron, és legalább egy napba telne, amíg a versenyzők valamelyik féltávolabbi raktárból beszereznének egy megfelelő gumit.

Információs aszimmetria kellős közepén voltam.

Az ügyintéző bevallotta, hogy többet tud a gumiboltok helyi állapotáról, és különösen arról, hogy milyen típusú gumira van szükségem. Olyan területen jártam, amelyen csak átutaztam, és nem tudtam első kézből az adott földrajzi terület gumiboltjairól. Annyit tudtam, hogy a hivatalnok helytálló volt, és a kendőzetlen igazságot mondta nekem.

De vajon a jegyző ezt csinálta?

Talán igen, talán nem.

Lehetséges, hogy az ügyintéző őszintén elhitte mindazt, amit közöltek velem. A jegyző számára ez volt az igazság. Vagy lehet, hogy a hivatalnok kissé kifeszítette az igazságot. Lehetséges, hogy az elhangzottak igazak lehetnek, bár az ábrázolás módja azt sugallta, hogy ez a teljes és megcáfolhatatlan igazság. Persze az is lehetett, hogy teljes kopaszság volt, és a hivatalnok csak shillinget kért a gumiboltért, hogy beszerezze a vállalkozásomat. Lehet, hogy szaftos jutalék jöhet szóba?

Merem állítani, hogy senki sem szeret ilyen alulmaradt helyzetben lenni.

A helyzet tétje létfontosságú tényező abban, hogy mennyire számít az információs aszimmetria. Ha a szóban forgó kérdés élet-halál jellegű, akkor a kutyaházba ülni és a másik félre hagyatkozni abban, amit tud vagy tudni vél, vázlatos és nagyon nemkívánatos testhelyzet. Ha kicsi a tét , mint például ha megrendeli a vacsorát egy étteremben, és a felszolgáló azt mondja, hogy a halétel mennyei, de még soha nem evett ott, és alulinformált, akkor különösebb szorongás nélkül elviselheti ezt a csekély információs aszimmetriát (I Tegyük fel azt is, hogy arra is fogad, hogy a szerver nem kockáztatja meg, hogy savanyú tanácsokat adjon, és lemaradjon egy tisztességes borravalóról).

Visszatérve a kopott gumiabroncs-történethez (szójáték!), nem tudtam volna azonnal rájönni, hogy az ügyintéző megbízható és informatív betekintést nyújt-e. Talán kíváncsi vagy, mi történt. Úgy döntöttem, hogy felhívom a többi közeli gumiboltot.

Készen állsz arra, amit felfedeztem?

Az összes többi gumiboltban volt raktáron a kívánt gumi, és nem próbáltak kacsintással rávenni, hogy vegyek egy másik gumit (ahogyan az első ügyintéző próbálta). Ugyanabban az időkeretben is elvégezhetik a munkát, mint az első gumibolt, amelyet talán felhívtam. Nagyjából azonos áron.

Biztosíthatom Önöket, hogy megkönnyebbülten sóhajtottam.

Ironikus módon a balszerencse Murphy-törvényében az első hely, ahová felvettem a kapcsolatot, az volt az egyetlen, amelyik úgyszólván kint volt ebédelni. Örülök, hogy több információra vágytam. Ez csökkentette az információs aszimmetria rést. Megtapsoltam magam, amiért ragaszkodtam a fegyvereimhez, és nem léptem be az első helyre, ahova hívtam.

Ennek ellenére bizonyos költségekkel járt a további információk megszerzése. Körülbelül négy hívást intéztem, amelyek mindegyike körülbelül tizenöt-húsz percet vett igénybe. Ebben az értelemben körülbelül másfél órát használtam, miközben azon gondolkodtam, hova vigyem az autómat. Ha azonnal erre az első helyre vittem volna az autómat, már majdnem rajta lett volna az új gumi. Másrészt, szinte biztos, hogy később megbántam volna azt a gyors döntést, amelyet egy aljas információs aszimmetria-kötésben hoztam.

Néha össze kell csikorgatni a fogát, és úgy kell elfogadnia a rettegett információs aszimmetriát, ahogy jön. Csak abban reménykedsz, hogy bármilyen döntést is hozol, az elég jó lesz. Lehet, hogy nem „tökéletes” döntés, és később megbánhatja a döntését. A másik oldal az, hogy megpróbálhatja megerősíteni a saját oldalát az információs egyenletben, bár ez nem feltétlenül költségmentes, és értékes időt is elrághat, attól függően, hogy a dédelgetett idő a lényeg.

Most, hogy kétségtelenül megnyugtatja, hogy az autóm jól fut a vadonatúj és megfelelő gumiabronccsal, áttérhetek az AI aszimmetria megjelenésére.

Vegyünk egy mesterséges intelligencia-mesét a jajról.

Lakáshitelt keresel. Van egy online jelzáloghitel-kérelem-elemző, amelyet egy adott bank használ. Az online rendszer a mai fejlett AI-képességeket használja ki. Nem szükséges emberi kölcsönt nyújtó ügynökkel beszélni. Az AI mindent megtesz.

Az AI rendszer végigvezeti Önt egy sor utasításon. Ön kötelességtudóan tölti ki az űrlapokat, és válaszol az AI-rendszernek. Ez az AI nagyon beszédes. Míg Ön a múltban egy hagyományos számítógép-alapú űrlaprendszert használt, ez a mesterséges intelligencia-változat inkább az emberi ügynökkel való interakcióhoz hasonlít. Nem egészen, de eléggé ahhoz, hogy szinte el tudd hinni, hogy egy ember van ennek a tevékenységnek a másik oldalán.

Miután mindent megtett annak érdekében, hogy „megbeszélje” kérelmét ezzel az AI-val, a végén tájékoztatja Önt, hogy sajnos a hiteligénylést nem hagyják jóvá. Valahogy elgondolkodtat, hogy a mesterséges intelligencia bocsánatot kér, mintha jóvá akarná hagyni a kölcsönt, de a bankot felügyelő aljas emberek ezt nem engedik meg az MI-nek. Az állítólagos mesterséges intelligencia ilyen jellegű bocsánatkérésének félrevezetőiről szóló tudósításomat lásd az itt található link.

Tanácstalan vagy, hogy miért utasítottak vissza. Az AI nem ad magyarázatot. Lehet, hogy az MI hibázott, vagy elrontotta a számításait. Ami még rosszabb, tegyük fel, hogy a mesterséges intelligencia néhány erősen megkérdőjelezhető szempontot vett figyelembe, például az Ön faji vagy nemét, amikor a kölcsönről döntött. Csak annyit tud, hogy úgy tűnt, hogy elvesztegette az idejét, és közben rengeteg személyes adatot átadott az AI-nak és a banknak. A mesterséges intelligencia felülmúlta Önt.

Ez az AI aszimmetria példája lenne.

Te voltál a bank ellen. A bank mesterséges intelligenciával volt felfegyverkezve. Nem voltál egyformán felfegyverkezve. Megvolt az eszed és a kemény kopogtatási bölcsesség iskolája, de nem volt mesterséges intelligencia a hátsó zsebében. Elme a géppel szemben. Sajnos ebben az esetben a gép nyert.

mit kell tenned?

Először is társadalmi alapon fel kell ismernünk, hogy ez a mesterséges intelligencia aszimmetria növekszik és szinte mindenütt jelen van. Az emberek minden olyan rendszerben találkoznak MI-vel, amelyekkel naponta érintkezünk. Néha a mesterséges intelligencia az egyetlen elem, amellyel interakcióba lépünk, például ebben a kölcsönkéréssel kapcsolatos példában. Más esetekben előfordulhat, hogy egy ember abban a hurokban van, hogy az AI-re támaszkodik, hogy segítse őket egy adott szolgáltatás végrehajtásában. A kölcsön esetében előfordulhat, hogy a bank azt kéri Öntől, hogy egy emberi ügynökkel beszéljen ahelyett, hogy interakcióba lépne az MI-vel, de az emberi ügynök számítógépes rendszert használ az AI eléréséhez, amely irányítja az emberi ügynököt a hiteligénylési folyamat során. (és szinte mindig biztos lehetsz abban, hogy az emberi ügynök úgy viselkedik, mintha bebörtönözték volna, mert szigorúan meg kell tennie, amit a mesterséges intelligencia „utasít”.

Akárhogy is, a mesterséges intelligencia továbbra is a keverékben van.

Másodszor, meg kell próbálnunk biztosítani, hogy az AI aszimmetria legalább AI etikai alapon történjen.

Engedjék meg, hogy elmagyarázzam ezt a furcsának tűnő megjegyzést. Ha bizonyosak lehetünk abban, hogy a mesterséges intelligencia etikailag helyesen cselekszik, akkor némi vigasztalást kaphatunk a jelen lévő aszimmetriával kapcsolatban. Némileg analóg, de laza alapon azt mondhatjuk, hogy ha az első gumiabroncsbolt eladójával folytatott interakcióm során szigorú etikai irányelveket vezettek be és betartattak volna, akkor talán nem mondták volna el nekem azt a történetet, amit elmeséltek, vagy legalábbis én Lehet, hogy nem kellett volna azonnal megtudnom, hogy egy magas mesét adtak-e nekem.

Hamarosan többet fogok elmagyarázni az AI etikáról.

Harmadszor, keresnünk kell a mesterséges intelligencia aszimmetriájának csökkentésének módjait. Ha az Ön oldalán állt a mesterséges intelligencia, amely arra törekszik, hogy az edzője vagy védelmezője legyen, akkor lehet, hogy ezt a mesterséges intelligenciát arra használhatja, hogy ellensúlyozza azt a másik mesterséges intelligenciát, akivel fej-fej mellett halad. Ahogy mondani szokták, néha bőséges értelme van tűzzel harcolni.

Mielőtt a mesterséges intelligencia aszimmetriájának alapjául szolgáló vad és gyapjas megfontolások kapcsán további hús- és burgonyafélékkel foglalkoznánk, határozzunk meg néhány további alapvetést a mélyen lényeges témákról. Röviden bele kell merülnünk a mesterséges intelligencia etikájába, és különösen a Machine Learning (ML) és a Deep Learning (DL) megjelenésébe.

Lehet, hogy homályosan tisztában vagy vele, hogy manapság az egyik leghangosabb hang a mesterséges intelligencia területén és még az AI területén kívül is az etikus mesterséges intelligencia nagyobb látszatának követelése. Vessünk egy pillantást arra, hogy mit jelent a mesterséges intelligencia etikájára és az Ethical AI-ra hivatkozni. Ezen felül megvizsgáljuk, mire gondolok, amikor a gépi tanulásról és a mély tanulásról beszélek.

A mesterséges intelligencia etikájának egy bizonyos szegmense vagy része, amely a médiában nagy figyelmet kapott, a mesterséges intelligencia, amely nemkívánatos elfogultságokat és egyenlőtlenségeket mutat. Talán tudatában van annak, hogy amikor a mesterséges intelligencia legújabb korszaka beindult, hatalmas lelkesedés támadt az iránt, amit egyesek ma úgy hívnak. AI For Good. Sajnos ennek a tomboló izgalomnak a nyomában kezdtünk tanúi lenni AI For Bad. Például a különféle mesterséges intelligencia-alapú arcfelismerő rendszerekről kiderült, hogy faji és nemi előítéleteket tartalmaznak, amelyeket itt tárgyaltam. az itt található link.

Erőfeszítések, amelyek ellen harcolni kell AI For Bad aktívan zajlanak. A hangoskodáson kívül jogi A jogsértések megfékezésére irányuló törekvések jelentős erőfeszítéseket tesznek a mesterséges intelligencia etikájának elfogadása felé, hogy helyrehozzák a mesterséges intelligencia aljasságát. Az elképzelés az, hogy el kell fogadnunk és támogatnunk kell a kulcsfontosságú etikai mesterségesintelligencia-elveket a mesterséges intelligencia fejlesztése és terjesztése érdekében, ezzel aláásva AI For Bad és egyidejűleg hirdeti és hirdeti a jobbat AI For Good.

Ehhez kapcsolódóan én annak híve vagyok, hogy a mesterséges intelligencia megpróbálja a mesterséges intelligencia problémáinak megoldásának részeként használni a tüzet tűzzel oltva ilyen gondolkodásmódban. Például beágyazhatunk Ethical AI összetevőket egy mesterséges intelligencia rendszerbe, amely figyeli, hogy a többi AI hogyan csinálja a dolgokat, és így potenciálisan valós időben megragadja a diszkriminatív erőfeszítéseket. az itt található link. Lehetne egy külön mesterséges intelligencia-rendszer is, amely egyfajta AI-etikai monitorként működik. A mesterséges intelligencia rendszer felügyelőként szolgál annak nyomon követésére és észlelésére, ha egy másik mesterséges intelligencia az etikátlan szakadékba kerül (lásd az ilyen képességekről szóló elemzésemet itt: az itt található link).

Rövid időn belül megosztok veled néhány átfogó alapelvet, amelyek az AI etikájának hátterében állnak. Rengeteg ilyen lista lebeg itt-ott. Mondhatnánk, hogy még nincs egyetlen lista az egyetemes vonzerőről és az egyetértésről. Ez a sajnálatos hír. A jó hír az, hogy legalább vannak könnyen elérhető mesterséges intelligencia etikai listák, és általában meglehetősen hasonlóak. Mindent egybevetve ez arra utal, hogy az okolt konvergencia egyfajta formája révén megtaláljuk az utat az AI-etika általános közös vonása felé.

Először is tekintsünk át röviden néhány általános etikai mesterséges intelligencia előírást, hogy bemutassuk, minek kell létfontosságú szempontnak lennie bárki számára, aki mesterséges intelligenciát készít, dolgozik vagy használ.

Például, ahogy azt a Vatikán a Róma felhívás a mesterséges intelligencia etikájára és amint azt alaposan kifejtettem itt az itt található link, ez az általuk azonosított hat elsődleges AI etikai elv:

• Átláthatóság: Elvileg az AI-rendszereknek magyarázhatónak kell lenniük
• Befogadás: Minden ember szükségleteit figyelembe kell venni, hogy mindenki részesülhessen, és minden egyén számára a lehető legjobb feltételeket kínálhassuk önkifejezéshez és fejlődéshez.
• Felelősség: Az MI használatát tervezőknek és alkalmazóknak felelősségteljesen és átláthatóan kell eljárniuk
• Pártatlanság: Ne alkosson vagy cselekedjen elfogultság szerint, ezzel óvva a méltányosságot és az emberi méltóságot
• Megbízhatóság: Az AI-rendszereknek megbízhatóan kell működniük
• Biztonság és adatvédelem: Az AI-rendszereknek biztonságosan kell működniük, és tiszteletben kell tartaniuk a felhasználók magánéletét.

Amint azt az Egyesült Államok Védelmi Minisztériuma (DoD) kijelentette A mesterséges intelligencia használatának etikai alapelvei és amint azt alaposan kifejtettem itt az itt található link, ez a hat elsődleges AI etikai alapelvük:

• Felelős: A DoD személyzete megfelelő szintű ítélőképességet és gondosságot gyakorol, miközben felelős marad az AI-képességek fejlesztéséért, telepítéséért és használatáért.
• Igazságos: A minisztérium szándékos lépéseket tesz az AI-képességek nem szándékos torzításának minimalizálása érdekében.
• Nyomon követhető: A minisztérium mesterséges intelligencia-képességeit úgy fejlesztik és alkalmazzák, hogy az érintett személyzet megfelelő ismeretekkel rendelkezzen az AI-képességekre vonatkozó technológiáról, fejlesztési folyamatokról és működési módszerekről, beleértve az átlátható és auditálható módszereket, adatforrásokat, valamint a tervezési eljárást és dokumentációt.
• Megbízható: A minisztérium mesterséges intelligencia-képességeinek kifejezett, jól meghatározott felhasználási területei lesznek, és az ilyen képességek biztonsága, biztonsága és hatékonysága tesztelés és szavatosság tárgyát képezi a meghatározott felhasználási módokon belül, teljes életciklusuk során.
• Kormányozható: A minisztérium megtervezi és megtervezi a mesterséges intelligencia képességeit, hogy teljesítsék a tervezett funkcióikat, miközben képesek lesznek észlelni és elkerülni a nem kívánt következményeket, valamint képesek lekapcsolni vagy deaktiválni a nem szándékos viselkedést tanúsító telepített rendszereket.

Megvitattam a mesterséges intelligencia etikai elveinek különféle kollektív elemzéseit is, beleértve a kutatók által kidolgozott halmazt, amely számos nemzeti és nemzetközi AI etikai tétel lényegét vizsgálta és sűrítette a „The Global Landscape Of AI Ethics Guidelines” című cikkben (megjelent. ban ben Természet), és amit tudósításom a címen vizsgál az itt található link, ami ehhez a trapézkő listához vezetett:

• Átláthatóság
• Igazságosság és méltányosság
• Nem rosszindulat
• Felelősség
• Adatvédelem
• Jótékonyság
• Szabadság és autonómia
• Bízzon
• Fenntarthatóság
• Méltóság
• Szolidaritás

Amint azt közvetlenül sejtheti, rendkívül nehéz lehet az ezen alapelvek mögött meghúzódó sajátosságok meghatározása. Még ennél is keményebb dió az a törekvés, hogy ezeket a tág alapelveket valami teljesen kézzelfoghatóvá és kellően részletezetté alakítsák ahhoz, hogy az AI-rendszerek kidolgozásakor felhasználhatók legyenek. Könnyű összességében egy kis kézzel integetni arról, hogy mik is az AI etikai előírásai, és hogyan kell azokat általában betartani, míg az AI kódolásánál sokkal bonyolultabb a helyzet, ha a valódi guminak kell lennie, amely találkozik az úttal.

Az AI-etikai elveket az AI-fejlesztőknek kell alkalmazniuk, az AI-fejlesztési erőfeszítéseket irányítókkal együtt, sőt még azokkal is, amelyek végső soron az AI-rendszerek karbantartását és karbantartását végzik. Az összes érdekelt fél a mesterséges intelligencia fejlesztésének és használatának teljes életciklusa során beletartozik az etikus mesterséges intelligencia elfogadott normáihoz. Ez egy fontos kiemelés, mivel a szokásos feltevés az, hogy „csak a kódolóknak” vagy az AI-t programozóknak kell betartani az AI etikai elveit. Amint korábban említettük, egy falura van szükség a mesterséges intelligencia kidolgozásához és elindításához, és ehhez az egész falunak ismernie kell a mesterséges intelligencia etikai előírásait, és be kell tartania azokat.

Győződjünk meg arról is, hogy a mai mesterséges intelligencia természetét illetően egy oldalon vagyunk.

Ma nincs olyan mesterséges intelligencia, amely érző lenne. Nálunk ez nincs. Nem tudjuk, hogy az érző mesterséges intelligencia lehetséges lesz-e. Senki sem tudja pontosan megjósolni, hogy elérjük-e az érző MI-t, és azt sem, hogy az érző mesterséges intelligencia valamilyen csodálatos módon spontán módon létrejön-e számítógépes kognitív szupernóva formájában (általában szingularitásnak nevezik, lásd tudósításomat itt: az itt található link).

A mesterséges intelligencia azon típusa, amelyre összpontosítok, a ma létező nem érző MI-ből áll. Ha vadul akarnánk spekulálni arról érző AI, ez a vita gyökeresen más irányba mehet. Egy érző mesterséges intelligencia állítólag emberi minőségű lenne. Figyelembe kell vennie, hogy az érző mesterséges intelligencia az ember kognitív megfelelője. Sőt, mivel egyes feltételezések szerint szuperintelligens AI-val rendelkezünk, elképzelhető, hogy az ilyen mesterséges intelligencia okosabb lehet, mint az emberek (a szuperintelligens AI lehetőségének feltárásához lásd a tudósítás itt).

Maradjunk inkább a földön, és vegyük figyelembe a mai számítástechnikai, nem érző MI-t.

Vegye észre, hogy a mai mesterséges intelligencia nem képes az emberi gondolkodással egyenrangú módon „gondolkodni”. Amikor Alexával vagy Sirivel kommunikál, a társalgási képességek hasonlónak tűnhetnek az emberi képességekhez, de a valóság az, hogy számítási jellegű, és hiányzik az emberi megismerés. A mesterséges intelligencia legújabb korszaka széles körben alkalmazta a gépi tanulást (ML) és a mély tanulást (DL), amelyek kihasználják a számítási mintaillesztést. Ez olyan mesterséges intelligencia-rendszerekhez vezetett, amelyek emberszerű hajlamokat mutatnak. Eközben manapság nincs olyan mesterséges intelligencia, amely a józan észnek látszana, és az emberi gondolkodás kognitív csodáiból sem.

Az ML/DL a számítási mintaillesztés egyik formája. A szokásos megközelítés az, hogy egy döntési feladatról adatokat gyűjt össze. Az adatokat betáplálja az ML/DL számítógépmodellekbe. Ezek a modellek matematikai mintákat keresnek. Miután megtalálta az ilyen mintákat, ha igen, az AI rendszer ezeket a mintákat fogja használni, amikor új adatokkal találkozik. Az új adatok bemutatásakor a „régi” vagy történelmi adatokon alapuló mintákat alkalmazzák az aktuális döntés meghozatalához.

Azt hiszem, sejtheti, hová vezet ez. Ha az emberek, akik a mintaszerű döntéseket hozták, nemkívánatos elfogultságokat alkalmaztak, akkor valószínű, hogy az adatok ezt finom, de jelentős mértékben tükrözik. A Machine Learning vagy a Deep Learning számítási mintaillesztés egyszerűen megpróbálja matematikailag utánozni az adatokat ennek megfelelően. A mesterséges intelligencia által kialakított modellezésben önmagában semmi sem látszik a józan észnek vagy más érző szempontoknak.

Ezenkívül az AI-fejlesztők sem tudják, mi történik. Az ML/DL rejtélyes matematikája megnehezítheti a most rejtett torzítások kiszűrését. Joggal remélhető és elvárható, hogy a mesterséges intelligencia fejlesztői teszteljék a potenciálisan eltemetett torzításokat, bár ez bonyolultabb, mint amilyennek látszik. Jó esély van arra, hogy még viszonylag kiterjedt tesztelés mellett is lesznek torzítások az ML/DL mintaillesztési modelljeibe.

Használhatná némileg a híres vagy hírhedt közmondást, a szemetet a szemét kiszállításáról. A helyzet az, hogy ez inkább a torzításokhoz hasonlít, amelyek alattomos módon beszivárognak az AI-ba merülő torzítások miatt. Az AI algoritmus-döntéshozatala (ADM) axiomatikusan megterhelődik egyenlőtlenségekkel.

Nem jó.

Térjünk vissza a mesterséges intelligencia aszimmetriájára.

Egy gyors összefoglaló a fent említett három azonosított javaslatomról a következő:

1) Legyen tudatában annak, hogy az AI aszimmetria létezik és növekszik

2) Törekedjen annak biztosítására, hogy a mesterséges intelligencia aszimmetriáját az AI etika korlátozza

3) Próbáljon megküzdeni a mesterséges intelligencia aszimmetriájával úgy, hogy felfegyverkezik AI-val

A tűz elleni küzdelem utóbbi pontját fogjuk közelebbről megvizsgálni.

Képzelje el, hogy amikor kölcsönt keresett, olyan mesterséges intelligencia volt, amely az Ön oldalán dolgozott. Ez lehet egy mesterséges intelligencia-alapú alkalmazás az okostelefonon, amelyet kölcsönök megszerzésére terveztek. Ez nem az egyik bank által készített alkalmazás, hanem önállóan úgy lett kialakítva, hogy az Ön nevében járjon el. Az AI-alapú őrangyal-botokról szóló könyvemben részleteztem az ilyen típusú alkalmazásokat, lásd az itt található link.

A kölcsön igénylésekor hivatkozhat erre az alkalmazásra, mivel a másik AI végigvezeti Önt az igénylési folyamaton. Ez a két mesterséges intelligencia rendszer különbözik egymástól és teljesen elkülönül egymástól. Az okostelefonon lévő mesterséges intelligencia arra lett „kiképezve”, hogy ismerje a másik mesterséges intelligencia által használt összes trükköt. Ennek megfelelően a bank mesterséges intelligenciájába beírt válaszok azon alapulnak, amit a mesterséges intelligencia tanácsol Önnek.

Egy másik változat abból áll, hogy az Ön mesterséges intelligenciája válaszol a másik AI által feltett kérdésekre. Amennyire a másik MI meg tudja állapítani, Ön adja meg a válaszokat. Lehet, hogy ehelyett csak nézi, amint a két egymással küzdő mesterséges intelligencia-rendszer interakciói zajlanak. Ez lehetővé teszi, hogy megnézze, mit kínál az AI. Ezen túlmenően lehetősége van arra, hogy módosítsa MI-jét attól függően, hogy elégedett-e azzal, amit a mesterséges intelligencia az Ön nevében tesz.

Megjósoltam, hogy mindannyian fokozatosan felfegyverkeznek az AI-val, amely a mi oldalunkon lesz ezekben az AI aszimmetria helyzetekben.

Gondoljuk át, hogyan fog ez működni.

Ezek az általam megállapított AI aszimmetria-feltétel sarokkövei:

• Az AI aszimmetria simítása az Ön javára (felfelé visz téged, abban a reményben, hogy egyenlő szinteket érsz el)
• A mesterséges intelligencia aszimmetriájának ösztönzése az Ön javára (előnybe emelve, amikor már egyenlők)
• Az AI aszimmetria fokozása az Ön rendkívüli javára (szélesebb előnyre tesz szert, amikor már előnyben van)
• A mesterséges intelligencia aszimmetriájának szándékolatlan aláaknázása az Ön kényére (amikor már meglévő előnyöd volt, és az AI akaratlanul is lehúzott)

Itt az ideje, hogy mélyen elmerüljön ezekben az érdekes lehetőségekben.

A mesterséges intelligencia aszimmetriájának lapítása az Ön javára

A mesterséges intelligencia aszimmetriájának kiegyenlítése a legkézenfekvőbb és leggyakrabban megvitatott szempont, nevezetesen, hogy felvértezné magát mesterséges intelligenciával, hogy megpróbálja a másik fél által használt mesterséges intelligenciát az adott ügyben. A mesterséges intelligencia aszimmetria beállítása határozottan hátrányos helyzetbe került. Nem volt mesterséges intelligencia a sarokban. A dolgok alacsony oldalán álltál. A másik oldalon volt AI, és a magasabban voltak.

Így bölcsen felfegyverkezted magad mesterséges intelligenciával, amelynek célja, hogy Önt és a többi MI-t egyenlő feltételekbe hozzon.

Egy fontos és talán meglepő árnyalatot szem előtt kell tartani, hogy nem mindig lesz az, hogy az alkalmazott AI-rendszerek egyensúlyban lesznek egymással. Felvértezheti magát mesterséges intelligenciával, ami mondjuk kevésbé hatékony, mint a másik oldal által használt mesterséges intelligencia. Ebben az esetben szerencsére növelte a hátrányos helyzetét, bár most nem vagy teljesen egyenlő a másik oldallal és annak mesterséges intelligenciájával.

Ezért nevezem ezt az AI aszimmetria ellaposításának. Lehet, hogy csökkentheti a rést, bár nem zárja be teljesen. A végső cél az lenne, hogy az AI-t az oldaladon használd, amivel teljesen egyenlő testhelyzetbe tudsz hozni. A helyzet az, hogy ez megvalósítható vagy nem. A másik oldalon elképzelhető, hogy nagyon drága mesterséges intelligencia van, és Ön a mesterséges intelligencia anya és pop takarékos mart verziójával próbál versenyezni.

Nem minden AI egyforma.

A mesterséges intelligencia aszimmetriájának ösztönzése az Ön javára

Erről a körülményről ma nem sokat beszélnek, részben azért, mert jelenleg ritka. Egyszer ez mindennapossá válik. Az elképzelés az, hogy tegyük fel, hogy nincs mesterséges intelligencia, és ennek ellenére egyenlő pozícióban van azzal az oldallal, amelyik rendelkezik MI-vel.

Jó neked.

Az embereknek megvan a maguk esze hozzájuk.

De érdemes előnyt szerezni a másik oldallal szemben. Az AI-val való felfegyverkezés magasabb szintre visz. Most már a kezében van az esze és a megbízható mesterséges intelligencia. Olyan előnyre tettél szert, amely feltehetően érvényesülni fog a másik oldal mesterséges intelligenciájával szemben.

A mesterséges intelligencia aszimmetriájának növelése az Ön rendkívüli szívességére

Ha hasonló logikát használunk, mint az AI aszimmetria előmozdítása az Ön nevében, tegyük fel, hogy már felülmúlja az AI-t használó másik oldal képességeit. Ergo, nem egyenlő testhelyzetből indulsz. Szerencsére már a felső oldalon vagy.

Mindenesetre érdemes még nagyobb előnyt szerezni. Ezért felvértezed magad AI-val. Ez a fejét és a vállát a másik oldal fölé viszi.

A mesterséges intelligencia aszimmetriájának szándékolatlan alákínálása az Ön kényére

Kétlem, hogy hallani akar erről a lehetőségről. Kérjük, vegye figyelembe, hogy a mesterséges intelligencia kezelése nem csak rózsa és fagylalttorta.

Előfordulhat, hogy amikor felvértezi magát mesterséges intelligencia segítségével, akkor valójában alávágja magát. Ha már kisebb voltál, mint a másik oldal mesterséges intelligenciája, akkor most egy mélyebb gödörben vagy. Ha egyenlő feltételekkel élt, most hátrányba kerül. Ha a másik oldal fölött voltál, akkor most egyenlő vagy alatta vagy vele.

Hogyan történhetett ez?

Megdöbbenhet, ha elgondolkodik azon, hogy az Ön által elfogadott mesterséges intelligencia félrevezeti Önt. Ez könnyen előfordulhat. Csak azért, mert AI van a sarkában, még nem jelenti azt, hogy hasznos. Lehet, hogy Ön az MI-t használja, és olyan tanácsokat ad, amelyeket nem feltétlenül tart megfelelőnek, de úgy dönt, hogy mégis alkalmazza. Akkori logikája az volt, hogy mivel megtapasztalta a fáradságot, hogy megszerezze az AI-t, akár számíthat is rá.

Lehet, hogy az Ön által használt mesterséges intelligencia hibás. Vagy lehet, hogy rosszul van kitalálva. Számos oka van annak, hogy a mesterséges intelligencia bizonytalan tanácsokat ad. Azok, akik vakon elfogadnak bármit is, amit a mesterséges intelligencia mond, hogy a sérelmek világában találják magukat. Olyan nehéz helyzetekkel foglalkoztam rovatomban, mint pl az itt található link.

A lényeg az, hogy egyáltalán nincs garancia arra, hogy csak azért, mert felvértezi magát AI-val, nyerni fog az AI Asymmetry játékon.

Lehet, hogy egyenlő feltételekhez érkezel. Előnyt szerezhetsz. És sajnálatos módon óvatosnak kell lennie, mert előfordulhat, hogy lefelé süllyed, ha mesterséges intelligenciával fegyverkezik.

Bizonyos mértékig ezért olyan kulcsfontosságú téma a mesterséges intelligencia etika és az etikai AI. A mesterséges intelligencia etika előírásai éberségre késztetnek bennünket. Az AI-technológusokat időnként a technológia foglalkoztatja, különösen a csúcstechnológiák optimalizálása. Nem feltétlenül veszik figyelembe a nagyobb társadalmi következményeket. A mesterséges intelligencia etikai felfogása elengedhetetlen a megfelelő mesterséges intelligencia létrehozásához, és ennek szerves része a mesterséges intelligencia fejlesztéséhez és használatához.

A mesterséges intelligencia etikájának alkalmazása mellett felmerül a kérdés, hogy kellene-e törvények szabályozni az AI különféle felhasználásait. Szövetségi, állami és helyi szinten új törvényeket kötnek ki, amelyek a mesterséges intelligencia kidolgozásának körét és jellegét érintik. Az ilyen törvények kidolgozására és elfogadására irányuló erőfeszítések fokozatosak. A mesterséges intelligencia etika legalábbis megfontolt állomásként szolgál, és bizonyos mértékig bizonyos mértékig közvetlenül beépül az új törvényekbe.

Legyen tudatában annak, hogy egyesek határozottan azzal érvelnek, hogy nincs szükségünk az AI-t lefedő új törvényekre, és a meglévő törvényeink elegendőek. Valójában előre figyelmeztetnek arra, hogy ha bevezetünk néhány mesterséges intelligencia-törvényt, akkor megöljük az aranylibát azáltal, hogy visszaszorítjuk a mesterséges intelligencia fejlődését, amely hatalmas társadalmi előnyöket kínál. Lásd például a tudósításomat a címen az itt található link és a az itt található link.

Ennek a súlyos vitának a pillanatában lefogadom, hogy néhány szemléltető példára vágyik, amelyek bemutathatják ezt a témát. Van egy különleges és biztosan népszerű példasor, amely közel áll a szívemhez. Látod, a mesterséges intelligencia szakértőjeként, beleértve az etikai és jogi következményeket is, gyakran kérnek fel olyan reális példák azonosítására, amelyek bemutatják a mesterséges intelligencia etikai dilemmáit, hogy könnyebben megragadható legyen a téma némileg elméleti jellege. Az egyik legemlékezetesebb terület, amely élénken mutatja be ezt az etikus AI-problémát, az AI-alapú, valódi önvezető autók megjelenése. Ez praktikus használati esetként vagy példaként szolgál a témával kapcsolatos bőséges vitához.

Íme, egy figyelemre méltó kérdés, amelyen érdemes elgondolkodni: A mesterséges intelligencia-alapú valódi önvezető autók megjelenése felvilágosít valamit az AI aszimmetriájáról, és ha igen, mit mutat be ez?

Engedjen meg egy pillanatra, hogy kibontsa a kérdést.

Először is vegye figyelembe, hogy egy igazi önvezető autóban nincs emberi vezető. Ne feledje, hogy az igazi önvezető autókat mesterséges intelligencia vezetési rendszer vezeti. Nincs szükség emberi sofőrre a volánnál, és arra sem, hogy ember vezesse a járművet. Az autonóm járművekről (AV-k) és különösen az önvezető autókról szóló kiterjedt és folyamatos tájékoztatásért lásd az itt található link.

Szeretném még jobban tisztázni, mit kell érteni, amikor valódi önvezető autókra utalok.

Az önvezető autók szintjének megértése

Tisztázva, az igazi önvezető autók azok, ahol az AI teljesen önállóan vezeti az autót, és nincs emberi segítség a vezetési feladat során.

Ezek a vezető nélküli járművek 4-es és 5-ös szintnek minősülnek (lásd a magyarázatomat a következő helyen). ez a link itt), míg az olyan autókat, amelyekhez emberi vezető szükséges a vezetési erőfeszítések közös megosztására, általában 2. vagy 3. szinten tekintik. A vezetési feladatot közösen megosztó autók leírása félig autonóm, és általában különféle automatizált bővítmények, amelyeket ADAS-nak (Advanced Driver-Assistance Systems) neveznek.

Még nincs igazi önvezető autó az 5-ös szinten, és még azt sem tudjuk, hogy ez elérhető lesz-e, és azt sem, hogy mennyi időbe telik eljutni odáig.

Eközben a 4. szintű erőfeszítések fokozatosan próbálnak némi vonóerőt szerezni nagyon szűk és szelektív közúti próbák révén, bár vita folyik arról, hogy ezt a tesztelést önmagában engedélyezni kell-e (mindannyian életre-halálra menő tengerimalacok vagyunk egy kísérletben autópályáinkon és mellékutainkon zajlanak, egyesek azt állítják, lásd tudósításomat itt ez a link itt).

Mivel a félig autonóm autókhoz emberi sofőrre van szükség, az ilyen típusú autók elfogadása nem különbözik nyilvánvalóan a hagyományos járművek vezetésénél, tehát önmagában nincs sok új, hogy ezekkel a témákkal foglalkozzanak (bár, amint látni fogja) egy pillanat alatt a következő pontok általában alkalmazandók).

A félig autonóm autók esetében fontos, hogy a nyilvánosságot figyelmeztessék az utóbbi időben felmerülő zavaró tényezőkre, nevezetesen arra, hogy azoknak az emberi járművezetőknek ellenére, akik folyamatosan videókat tesznek közzé, hogy maguk alszanak a 2. vagy 3. szintű autó kormányához , mindannyian el kell kerülnünk, hogy félrevezetjük azt a hitet, hogy a sofőr félig autonóm autó vezetése közben elvonhatja figyelmét a vezetési feladatról.

Te vagy a felelős a jármű vezetési tevékenységeiért, függetlenül attól, hogy mekkora mennyiségű automatizálást lehet 2. vagy 3. szintre dobni.

Önvezető autók és mesterséges intelligencia aszimmetria

A 4. és 5. szintű valódi önjáró járműveknél nem vezethet embervezető a vezetési feladatba.

Minden utas utas lesz.

Az AI vezet.

Azonnal megvitatandó szempont azzal a ténnyel jár, hogy a mai mesterséges intelligencia-vezetési rendszerekben részt vevő mesterséges intelligencia nem érző. Más szavakkal, az AI összességében számítógépes programozás és algoritmusok összessége, és bizonyosan nem képes ugyanúgy érvelni, mint az emberek.

Miért van ez a hangsúly arra, hogy az AI nem érzékeny?

Mivel szeretném aláhúzni, hogy az AI hajtórendszer szerepének tárgyalásakor nem tulajdonítok emberi tulajdonságokat az AI-nek. Felhívjuk figyelmét, hogy manapság folyamatos és veszélyes tendencia van az AI antropomorfizálására. Lényegében az emberek emberi szerű érzékenységet tulajdonítanak a mai mesterséges intelligenciának, annak ellenére, hogy tagadhatatlan és vitathatatlan tény, hogy ilyen AI még nem létezik.

Ezzel a pontosítással elképzelheti, hogy az AI vezetési rendszer valahogy nem fogja „tudni” a vezetés szempontjait. A vezetést és mindazt, amit ez magában foglal, be kell programozni az önvezető autó hardverének és szoftverének részeként.

Merüljünk el abban a számtalan szempontban, amelyek eljátszanak ebben a témában.

Először is fontos felismerni, hogy nem minden AI önvezető autó egyforma. Minden autógyártó és önvezető technológiai cég alkalmazza a hozzáállását az önvezető autók kidolgozásához. Emiatt nehéz átfogó kijelentéseket tenni arról, hogy az AI-meghajtórendszerek mit fognak tenni vagy nem.

Továbbá, ha azt állítják, hogy az AI meghajtó rendszer nem végez bizonyos dolgokat, ezt később a fejlesztők megelőzhetik, akik valójában erre programozzák a számítógépet. Lépésről lépésre az AI meghajtó rendszereket fokozatosan fejlesztik és bővítik. A meglévő korlátozás ma már nem létezik a rendszer későbbi iterációjában vagy verziójában.

Remélem, ez elegendő kitételt biztosít ahhoz, hogy alátámassza azt, amit mondani készülök.

Vázoljunk fel egy forgatókönyvet, amely bemutatja a mesterséges intelligencia aszimmetriáját.

Gondolkodjon el azon a látszólag lényegtelen kérdésen, hogy hol fognak az önvezető autók utasokat felvenni. Ez egy teljesen ártalmatlan témának tűnik.

Először azt tegyük fel, hogy az AI önvezető autók egész városokban járnak majd. Bárki, aki szeretne egy önvezető autót kérni, lényegében egyenlő esélyekkel rendelkezik. Fokozatosan az AI kezdi elsősorban az önvezető autókat a város egy részén roamingolni. Ez a rész nagyobb pénzt keres, és az AI-t úgy programozták, hogy megpróbálja maximális a bevételek a közösségi használat részeként (ez aláhúzza az optimalizálás mögött meghúzódó gondolkodásmódot, nevezetesen, hogy csak egy adott mérőszámra összpontosítunk, és figyelmen kívül hagyjuk a folyamat többi döntő tényezőjét).

A város elszegényedett részein élő közösség tagjai kisebb valószínűséggel tudnak önvezető autóból ülni. Ennek az az oka, hogy az önvezető autók távolabb voltak, és a város magasabb bevételű részén kóboroltak. Ha egy kérés érkezik a város távoli részéből, minden más, közelebbi helyről érkező kérés magasabb prioritást kap. Végül a gazdagabb városrészen kívül szinte lehetetlen önvezető autóhoz jutni, elkeserítően azok számára, akik a ma erőforráshiányos vidékeken éltek.

Kiteljesednek azok a mindenki számára kiélezett mobilitás-álmok, amelyeket az önvezető autóknak kellene életre kelteni.

Kijelentheti, hogy a mesterséges intelligencia összességében a statisztikai és számítási torzítás egy formájára esett, ami hasonló a proxy diszkrimináció egy formájához (ezt gyakran közvetett diszkriminációnak is nevezik). Vegye észre, hogy az AI-t nem arra programozták, hogy elkerülje ezeket a szegényebb környékeket. Ebben az esetben ezt tisztázzuk. Nem, ehelyett pusztán a bevétel optimalizálására találták ki, ami egy elfogadhatónak tűnő cél, de ez megtörtént anélkül, hogy a mesterséges intelligencia fejlesztői más lehetséges következményeken gondolkodtak volna. Ez az optimalizálás pedig akaratlanul és elkerülhetetlenül nemkívánatos eredményhez vezetett.

Ha optimalizálási gondolkodásmódjuk részeként beépítették volna a mesterséges intelligencia etikai szempontjait, már előre rájöttek volna, hogy hacsak nem úgy alakítják ki a mesterséges intelligenciát, hogy megbirkózzanak az effajta túlméretezéssel egyetlen mérőszám alapján, akkor elkerülhették volna az ilyen kellemetlen eredményeket. Az önvezető járművek és az önvezető autók széles körben elterjedt elterjedésével kapcsolatos problémákkal kapcsolatos további információkért tekintse meg tudósításomat itt: ez a link itt, amely egy Harvard által vezetett tanulmányt ír le, amelynek társszerzője voltam ezekről a témákról.

Mindenesetre tegyük fel, hogy a ló már kint van az istállóból, és a helyzet nem alkalmas azonnal átfogó megoldásokra.

Mit tehetnek azok, akik használni szeretnék ezeket az önvezető autókat?

A legnyilvánvalóbb megközelítés az lenne, ha a közösség vezetőivel együttműködnének annak érdekében, hogy rávegyék az autógyártót vagy az önvezető technológiai céget, hogy gondolják át, hogyan hozták létre az AI-t. Talán nyomást gyakorolhat azokra az engedélyekre vagy engedélyekre, amelyeket ezeknek az önvezető autóknak az adott városban vagy településen történő telepítésére adtak. Ezek valószínűleg életképes eszközök a pozitív változások előidézésére, bár eltarthat egy ideig, mire ezek az erőfeszítések meghozzák gyümölcsüket.

Egy másik szög az lenne, ha felvértezné magát MI-vel.

Képzelje el, hogy valaki okosan kidolgozott egy mesterséges intelligencia-alapú alkalmazást, amely az Ön okostelefonján működik, és foglalkozik az autógyártó vagy flottaüzemeltető mesterséges intelligenciájával, amely fogadja az utazási kérelmeket. Előfordulhat, hogy az Ön által használt mesterséges intelligencia a másik mesterséges intelligencia kulcsfontosságú elemeit használja ki, így az Ön által önvezető autó iránti kérés kiemelt prioritást élvez. Ne feledje, hogy nem azt állítom, hogy valami illegális történik, hanem azt, hogy az Ön oldalán lévő mesterséges intelligencia a másik mesterséges intelligencia felfedezett „szolgáltatásai” vagy akár kiskapuin alapul.

Következtetés

Az önvezető autók flotta üzemeltetőjének mesterséges intelligencia elleni pimasz harcáról szóló sztori mesterséges intelligencia felfegyverkezésével további AI-etikai vitákat és megfontolásokat vet fel.

Például:

• Ha valaki kihasználja a mesterséges intelligenciát, hogy előnyt biztosítson neki egy másik rendszer mesterséges intelligenciájával szemben, meddig mehet el az AI etikai határainak esetleges átlépésében (meggyőzem az önvezető autókat, hogy jöjjenek hozzám és a barátaimhoz, az összes többi kizárásával)?
• Továbbá, van-e bármilyen látszólagos mesterséges intelligencia-etikai megfontolás arról, hogy ha valaki tud az MI-ről, vagy fel van fegyverkezve azzal, hogy harcba szálljon más MI-vel, akkor azokat a megmaradt embereket, akik nem rendelkeznek ezzel a kiegyensúlyozó MI-vel, valamilyen módon figyelmeztetni kell az AI-ra, és fel kell fegyverkezniük magukat ennek megfelelően is?

Végül mindez egy hátborzongatónak tűnő jövőbe vezet bennünket, amely egy mesterséges intelligencia fegyverkezési versenyéből áll. Kinek lesz meg az a mesterséges intelligencia, amelyre szüksége van a megkerüléshez és a túléléshez, és kinek nem? Mindig lesz még egy mesterséges intelligencia, amely felkelt egy ellensúlyozó mesterséges intelligencia iránti igényt?

Carl Sagan, a tisztelt tudós ezt a bölcs bölcsességet adta a különösen kataklizmát okozó fegyverkezési versenyekről: „A nukleáris fegyverkezési verseny olyan, mint két esküdt ellenség, akik derekasan állnak a benzinben, az egyiknek három gyufa, a másiknak öt gyufa van.

Határozottan törekednünk kell arra, hogy lábunkat szárazon és fejünket tiszta állapotban tartsuk, amikor egy folyamatosan fenyegető mesterséges intelligencia fegyverkezési versenyről van szó.