A mesterséges intelligencia etika körültekintően felméri, hogy a mesterséges intelligencia torzítása okos vagy hiábavaló dolog.

Wanted: AI elfogult vadászok.

Ez egy modern kori hirdetés lehet, amelyet látni fogsz a közösségi média csatornáin, és különféle online álláshirdetésekben fog megjelenni. Ez egy viszonylag új fogalom vagy szerep. Ez magában hordozza a vitákat. Egyes lelkes hívők hevesen érvelnek amellett, hogy ennek bőséges értelme van, és mindvégig meg kellett volna történnie, míg mások eléggé idegesen komoly fejvakarást végeznek, és nem biztos, hogy ez jó ötlet.

A szerep lényege abban áll, hogy az AI-ból kizárja a rejtett torzításokat vagy a beágyazott diszkriminatív gyakorlatokat. A lelkes és egykori mesterséges intelligencia elfogult vadászok jönnek a segítségre. Feltehetően számítógépes fejvadászok lennének. Sokkal inkább, remélhetőleg az AI-képességek mélységében.

Legyen nálad fegyver, utazz, és a mesterséges intelligencia-szakértő éles lövészet segítségével felfedd ezeket a kellemetlen és nemkívánatos mesterséges intelligencia elfogultságokat.

Ez egy csomó kényes kérdést vet fel azzal kapcsolatban, hogy mennyire érzékeny egy ilyen taktika alkalmazása a mesterséges intelligencia torzításainak felfedezésekor. Amint arról röviden beszélni fogok, kérjük, tudd, hogy az AI megjelenése magával hozta a mesterséges intelligencia torzításainak megjelenését is. Az AI torzítások özöne. A mesterséges intelligencia etikájával és az etikai AI-val kapcsolatos folyamatos és kiterjedt tudósításomat lásd az itt található link és a az itt található link, csak hogy néhányat említsek.

Hogyan fedezhetjük fel, hogy egy adott AI-rendszer torzításokkal rendelkezik?

Megbízhatja az AI-fejlesztőket, akik kidolgozták az AI-t. A helyzet az, hogy annyira belemerültek az előítéletekbe, hogy maguk sem ismerik fel a kitalált mesterséges intelligencia torzításait. Mindez jól néz ki nekik. Vagy lehet, hogy annyira izgatja őket a mesterséges intelligencia, és van egyfajta önbizalmuk vele kapcsolatban, hogy kritikus szemmel kellene megvizsgálniuk az elfogultságokat, és nehéz lenne, és valóban megbukna. Úgy tűnik, hogy számos egyéb ok hátráltathatja azt, hogy a mesterséges intelligencia fejlesztői vállalják ezt a feladatot, ideértve a beágyazott torzítások kiderítéséhez szükséges készségek hiányát, a projektben erre fordított idő hiányát stb.

Rendben, kérjen külső tanácsadókat, akik elvégzik helyette a piszkos munkát. Kiderült, hogy a tanácsadók boldogan megvizsgálják a mesterséges intelligencia elfogultságait, és ezért jókora fillért számolnak fel (sok-sok fillért). Vegye észre, hogy fizetnie kell azért, hogy felgyorsuljon az AI-rendszere. Utána turkálni kell velük, ami irdatlan számú költséges munkaórát vehet igénybe. Tanácsadók igénybevétele egy lehetőség, ha van rá költségvetése.

Az alattomos mesterséges intelligencia-elfogultság megtalálásának lehetséges „hézagába” a hősies és kirívó mesterséges intelligencia-elfogultság fejvadászok lépnek be.

Általában nem fizetsz előre. Megpróbálják saját idejükben megtalálni a mesterséges intelligencia torzításait, és ennek során saját számláikat kell állniuk. Csak akkor kapnak fizetést, ha sikeresen találnak elfogultságot. Feltételezem, könnyen kijelentheti, hogy megfelelő gondolkodásmód mellett ez a fejvadász hagyományos meghatározása. Fizessen, ha sikerül. Ne kapj fizetést, ha nem vagy sikeres. Időszak, a történet vége.

A jutalomprogramok már legalább a rómaiak idejében léteztek, így azt feltételezhetjük, hogy működnek, hiszen ezeken az éveken keresztül sikeresen bevált gyakorlatként.

Íme egy lenyűgöző történelmi trivia az Ön számára. Állítólag a Római Birodalom idején Pompeji városában közzétett üzenet azt hirdette, hogy fejvadászokra van szükség egy kis boltból eltűnt rézfazék megtalálásához. A rézfazék visszaszerzésének jutalma hatvanöt bronzérme lenyűgöző nyeremény volt. Sajnálattal kell azt mondanunk, hogy nem tudjuk, hogy egy fejvadász megtalálta-e a réz edényt és megszerezte-e a bronzérméket, de azt tudjuk, hogy a fejvadászat minden bizonnyal az ősidők óta folytatódik.

A modernebb időkben talán tisztában van azzal, hogy az 1980-as években jelentős jutalmakat ajánlottak fel a számítógépes hibák vagy a kész szoftvercsomagok hibáinak megtalálásáért, majd az 1990-es években a Netscape határozottan felajánlotta, hogy hibákat talált a webböngészőjében. (a nap egyik legjelentősebb cégévé vált). A Google és a Facebook 2010-től, illetve 2013-tól a hibák fejvadászata mellett döntött. Néhány évvel később, 2016-ban még az Egyesült Államok Védelmi Minisztériuma (DoD) is belekeveredett a „Hack the Pentagon” jutalomdíj-akcióba (megjegyzendő, hogy a nyilvánosan összpontosított jutalom a különféle, a Védelmi Minisztériumhoz kapcsolódó webhelyeken talált hibákért volt, és nem védelmi küldetéskritikus rendszerek).

Vágjunk bele mélyebben a bug bounty témába. Tisztában vagyok vele, hogy ebben a vitában elsősorban az AI-elfogultságról szeretnék beszélni a fejvadászatban, de van néhány meglehetősen releváns párhuzam a hibák fejvadászatával.

Vannak, akik bizonyíthatóan értetlenül állnak afelől, hogy bármelyik cég szeretne jutalmat ajánlani azért, hogy hibákat (vagy ebben az esetben mesterséges intelligencia-elfogultságokat) találjon a rendszerében.

A felszínen ez a „kéred ezt” típusú stratégiának tűnik. Ha tudatja a világgal, hogy szívesen látja azokat, akik esetleg lyukat próbálnak találni a szoftverében, az egyenértékűnek tűnik azzal, mintha azt mondaná a betörőknek, hogy menjenek előre, és próbáljanak meg betörni a házába. Még akkor is, ha már úgy gondolja, hogy elég jó riasztórendszere van, és senki sem férhet be a biztonságos otthonába, képzelje el, hogy megkéri és kéri a betörőket, hogy mindenki ereszkedjen le a lakóhelyére, és nézze meg, megtehetik-e. betörni. Ó, a bajok, amelyeket magunknak szőünk.

Ugyanez mondható el arról, hogy megkérjük a fejvadászokat, hogy találjanak elfogultságokat az AI-ban.

Először is, ez talán azt sugallja, hogy már hiszi, vagy akár egyenesen tudja, hogy a mesterséges intelligencia torzításokkal rendelkezik. Ez egy megdöbbentően őszinte, hallgatólagos beismerés, amelyre kevesen lennének hajlandók, és ami esetleg visszaüthet.

Másodszor, nem tudod biztosan, mit tehetnek azok a fejvadászok. Dönthetnek úgy, hogy elmondják az egész világnak, hogy torzításokat találtak az AI-ban. Feltételezzük, hogy ezzel elveszíthetjük a jutalmat, bár egyesek örülhetnek a figyelemnek, vagy meg akarják erősíteni státuszukat a tanácsadói fellépések és más bevételtermelő lehetőségek megszerzésében. Lehet, hogy teljesen altruista. Lehet, hogy ez az AI-aktivizmus egy formája. folytathatom.

Harmadszor, lehet egy alattomos csavar az egész ügyben. Egy fejvadász, aki azt állítja, hogy mesterséges intelligencia elfogultságait keresi, ördögien keresgélhet, hogy megtámadhassa a mesterséges intelligencia rendszerét. Az egész egy színjáték egy súlyos kibertámadásra. Feltételezhette volna, hogy segíteni próbálnak, miközben a szívükben vétkeznek. Szomorú, de lehetséges.

Negyedszer, ebben az ügyben még ravaszabb eltorzulhatunk. Egy fejvadász kínos és potenciálisan perre ösztönző mesterséges intelligencia elfogultságot talál. A fejvadász bizonyos összegű dollár, amelyet X-nek nevezünk. A fejvadász ahelyett, hogy igényt tartana a jutalomra, egyfajta furcsa ransomware-provokációt hajt végre. Ha fizet a fejvadásznak X tízszeresét, vagy esetleg a határt, akkor elmondják az AI torzításait. Vasárnap éjfélig van ideje válaszolni. Ezt követően az AI torzításait mindenki láthatja. Jaj, szörnyen nehéz helyzetben lenni.

Ötödször, a legújabbak azok az úgynevezett „hack to return” internetes szélhámosok, akik egy csomó online tészta ellopása után úgy döntenek, hogy megbánják a bűnbánatot, és visszaadják a jogosulatlanul szerzett zsákmány egy részét, amit megragadtak. A pénzét részben visszakapó cég ezután hajlandó a megmaradt ellopott összeget utólag jutalmaknak tekinteni a tolvajoknak. Úgy tűnik, mindenki "nyer" abban, hogy az alapok nagy részét visszaadják, és közben a kiberbűnözőket nem üldözik legálisan, ráadásul ők kapják a kalóz fejpénzt. Ez körültekintő, vagy alattomosan folytatja a jogellenes cselekményeket?

Tisztában vagyok vele, hogy néhányan azt mondják, hogy senkinek sem szabadna olyan mesterséges intelligenciát kiadnia, amely elfogultságot tartalmaz. Úgy tűnik, ez megoldja ezt az egész dilemmát, hogy alkalmazzák-e az AI-elfogultságokat a fejvadászok számára, vagy sem. Csak ne kerüljön jutalomhelyzetbe. Győződjön meg arról, hogy a mesterséges intelligencia fejlesztői helyesen cselekszenek, és ne engedjenek be AI torzítást AI rendszereikbe. Esetleg vegyen igénybe tanácsadókat az ellenőrzéshez. Lényegében tegyél meg mindent, amit csak kell, hogy ne gondolj arra, vagy ne kérd meg az AI-elfogult fejvadászokat, hogy jöjjenek az asztalhoz.

Igen, ez teljesen ésszerűnek tűnik. Az a baj, hogy kicsit álmodozó is. Sok mesterséges intelligencia-rendszer bonyolultsága olyan nagy, hogy annak biztosítása, hogy egy csepp mesterséges intelligencia torzítása se jelenjen meg, nehéz feladat lesz. Ráadásul egyes AI-rendszereket szándékosan úgy alakítottak ki, hogy közben alkalmazkodjanak és „tanuljanak”. Ez azt jelenti, hogy egy jövőbeni időpillanatban az Ön által kitalált mesterséges intelligencia, amely eleinte tisztán tisztanak és elfogultságoktól mentesnek tűnik, az előítéletek megtestesülése felé fog vonzódni (ezt nem antropomorf módon értem, amint azt a későbbiekben kifejtem. folytasd ezt a témát).

Azok, akik előnyben részesítik a szoftverhibákért folytatott fejvadászatot, hajlamosak azzal érvelni, hogy van értelme ilyen jutalmakat ajánlani. Megfontolhatjuk az indokaikat, és megnézhetjük, hogy ez vonatkozik-e az AI torzítások területére is.

A hibajavaslatok támogatói hangsúlyozzák, hogy ahelyett, hogy megpróbálnának úgy tenni, mintha nem lennének lyukak a rendszerben, miért ne ösztönözné a lyukak megtalálását, mindezt „ellenőrzött” módon? Ezzel szemben, ha nincs ilyen jutalom, csak reménykedhetsz és imádkozhatsz, hogy véletlenszerűen senki ne találjon lyukat, de ha ehelyett fejpénzt ajánlasz fel, és azt mondod azoknak, akik találnak egy lyukat, hogy jutalmat kapnak, az esély arra, hogy azután saját erőből megerősítse a lyukat, és megakadályozza, hogy mások titokban rátaláljanak egy későbbi időpontban.

Ugyanez mondható el a mesterséges intelligencia torzításainak használatáról. Ha elegendő jutalmat ajánl fel, remélhetőleg a fejvadászok felhívják a figyelmet az MI-elfogultságok felfedezésére. Ezután viszonylag csendesen és kimért módon megbirkózhat az AI torzításaival. Ez megelőzheti a későbbiekben egy sokkal nagyobb és ijesztőbb problémát, nevezetesen azt, hogy valaki más mesterséges intelligencia elfogultságot talál az Ön mesterséges intelligenciájában, és a mennyekbe kiáltja.

Általában egy olyan cég, amely lehetővé kívánja tenni a hibákra való fejvadászatot, bevezeti a Vulnerability Disclosure Policy-t (VDP). A VDP jelzi, hogy a hibákat hogyan kell megtalálni és jelenteni a cégnek, valamint azt, hogy a vadász hogyan kapja meg a jutalmat vagy a fejpénzt. Általában a VDP megköveteli, hogy a vadász aláírjon egy titoktartási megállapodást (NDA), hogy ne fedje fel másoknak, hogy mit talált.

Az NDA fejvadászokkal való használatának elképzelése ellentmondásos. Noha a jutalmat kínáló vállalat számára talán logikus, hogy meg akarja őrizni a talált kitettségeket, ez állítólag elfojtja az ilyen hibákkal kapcsolatos általános tudatosságot. Feltételezhető, hogy ha megengedik, hogy a szoftverhibákról beszéljenek, az potenciálisan elősegítené más cégek rendszereinek biztonságát, amelyek aztán megerősítenék a kitettségüket. Egyes fejvadászok nem írnak alá NDA-t, részben a nyilvánosság vágya miatt, részben pedig azért, mert megpróbálják elrejteni saját identitásukat. Ne feledje azt is, hogy az NDA szempont általában csak azután merül fel, amikor a vadász azt állítja, hogy talált egy hibát, és nem kéri azt előre.

Egyes VDP-k előírják, hogy az NDA csak korlátozott időtartamra szól, lehetővé téve a cég számára, hogy először megoldást találjon a látszólagos hiányosságra, majd ezt követően szélesebb körű nyilvánosságra hozatalt tegyen lehetővé. Miután a lyukat betömték, a cég engedélyezi az NDA fellazítását, hogy a világ többi része értesüljön a hibáról. Állítólag a fejvadászott hibák tipikus feloldási ideje körülbelül 15-20 nap, amikor egy cég azonnal be akarja dugni, míg más esetekben akár 60-80 napig is eltarthat. Ami a fejvadász kifizetését, az úgynevezett fizetési időt illeti, a lyuk tényleges létezésének igazolása után a fejpénz kifizetése állítólag a kisebb esetekben körülbelül 15-20 napon belül, és körülbelül 50-60 napon belül történik. nap a nagyobb példányok esetében (ezek folyamatosan változó iparági jelzések, és csak illusztrációként említik).

A mesterséges intelligencia elfogultságáért felelős fejvadászokat is meg kell kérni, hogy vegyenek részt egy VDP-ben és foglalkozzanak egy NDA-val?

Erre a kérdésre kaphat egy igent és egy nemet. Igen, néhány cégnek ezt az utat kell választania. Nem, lehet, hogy nem feltétlenül választja ezt az utat. A tényezők közé tartozik a mesterséges intelligencia mérete és jellege, az esetleges mesterséges intelligencia torzításainak kitettsége, valamint egy csomó egyéb etikai, jogi és üzleti megfontolás, amely felmerül.

Hozzátehetem, hogy a mesterséges intelligencia torzításaira irányuló fejvadászat létrehozása sokkal magasabb rend, mint első pillantásra gondolná.

Kezdjük azzal a félelmetes lehetőséggel, hogy elárasztják Önt az AI-elfogultság fejvadászai.

Jelenleg nehéz lenne sok embert találni, akinek ilyen névjegye lenne. Nem sokan vannak a környéken. Ebből a szempontból a vadnyugat napjai. De ha a fejvadászatban a mesterséges intelligencia torzításának fogalma begyűrűzik, különösen akkor, ha a jutalmak bőségesek és bőségesen kifizetődőek, akkor fogadhat, hogy mindenki beleveti magát az elfogultságvadászat medencéjébe.

Szeretnél mindenféle riffraffot, amely mesterséges intelligencia torzítást követne a mesterséges intelligencia rendszerében? Lesz néhány elfogadó, akik valóban szakértők az ilyesmiben. Kapsz másokat is, akik amatőrök, és rendetlenséget csinálhatnak, vagy farkast kiálthatnak. A következő dolog, amit megtudhat, bárki, aki tudja a „mesterséges intelligencia” szót, el fog ásni a mesterséges intelligencia rendszerének aranybányáját az értékes mesterséges intelligencia aranyrögök után. Indul az aranyláz. Lehet, hogy ez nem jó neked.

Alaposan át kell vizsgálnia a fejvadász beadványait. Sok „zaj” lesz a bejelentett állításokban, abban az értelemben, hogy az állítólagos mesterséges intelligencia elfogultságai közül sok nem létezik, bár a fejvadász ragaszkodik ahhoz, hogy találtak néhányat. Képzelje el, mennyi munkára lesz szükség saját mesterséges intelligencia-csapatainak a fejpénzigények megvizsgálásához, mindegyik érvényességének feltárásához, majd esetleg oda-vissza a fejvadászhoz, hogy felfedezzék-e az aranyat vagy sem.

Egyesek azt állítják, hogy ez egy újabb ok arra, hogy az egészet magad csináld. Óhatatlanul rájöhetsz, hogy a jutalom dolog nagyobb bajt jelent, mint amennyit ér.

Itt van még egy elgondolkodtató kérdés. Honnan fogják tudni a fejvadászok, hogyan néz ki a mesterséges intelligencia elfogultsága? Lényegében, anélkül, hogy bármi látszata lenne annak, hogy mit kell keresni, bármely fényes kőzetről azt lehetne állítani, hogy az mesterséges intelligencia torzítását mutatja a feltárt mesterséges intelligencia aranybányában.

Tegyük fel, hogy a régi Nyugat idejében jutalmat ajánlottál fel Billy, a kölyök (egy híres betyár) elfogásáért. Ha így tett, és nem mellékelt képet arról, hogyan nézett ki Billy, képzelje el, hány fejvadász rángathat be a seriff irodájába valakit, akiről azt remélték, vagy azt gondolták, hogy Billy, a kölyök. Lehet, hogy elárasztja a hamis Billy's. Ez rossz, mert feltehetőleg mindegyiket meg kell néznie, vizsgáló kérdéseket kell feltennie, és meg kell próbálnia megbizonyosodni arról, hogy az illető valóban Billy volt-e vagy sem.

A lényeg az, hogy a mesterséges intelligencia torzítására vonatkozó jutalmak felállításához okos lenne megpróbálni tisztázni, hogy szerinted miből állnak az AI torzítások. Ehhez Goldilocks típusú kalibrálásra van szükség. Nem akarsz annyira szűkölködni, hogy a fejvadászok figyelmen kívül hagyják a mesterséges intelligencia elfogultságát pusztán azért, mert nem férnek bele az Ön által meghatározott definícióba, és azt sem szeretné, ha azt kiabálnák, hogy „Eureka!” a mesterséges intelligencia elfogultság minden falatánál, amit esetleg találnak.

Pontosan a megfelelő Goldilocks-egyensúlyra lesz szüksége ahhoz, hogy miből áll az AI torzítás, és így lehetőleg kifejezett iránymutatást kell adnia ehhez.

A mesterséges intelligencia elfogultságainak nagy része a fejvadászat az AI-alapú gépi tanulási (ML) és a mélytanulási (DL) rendszerekre fog összpontosítani. Ez logikus, mivel az ML/DL terjedésének megjelenése egyre növekszik, és úgy tűnik, hogy a legvalószínűbb kihívások közé tartozik az indokolatlan mesterséges intelligencia torzítások feltárása.

Ezek a kutatók beazonosítják, hogy egy mesterséges intelligencia mennyire torzíthatja a fejvadászatot, különösen az ML/DL kontextusban: „Az idő múlásával a szoftver- és biztonsági közösségek „hibajuttatásokat” fejlesztettek ki, hogy megpróbálják hasonló dinamikát fordítani a rendszerfejlesztők és kritikusaik között. (vagy hackerek) az interaktívabb és produktívabb célok érdekében. A remény az, hogy azáltal, hogy szándékosan felkérik a külső feleket, hogy találjanak szoftver- vagy hardverhibákat rendszereikben, és gyakran pénzbeli ösztönzőket biztosítanak ennek érdekében, egészségesebb és gyorsabban reagáló ökoszisztéma alakul ki. Természetes, hogy az ML közösség hasonló „elfogultság-fejlődés” megközelítést fontolgat az elfogult vagy más nemkívánatos viselkedésű modellek és rendszerek időben történő felfedezésére és javítására. A szoftverhibák megtalálása helyett a külső felek felkérést kapnak arra, hogy találjanak torzításokat – például (demográfiai vagy egyéb) bemeneti alcsoportokat, amelyeken egy képzett modell alulteljesít –, és ezért jutalmat kapnak” (az „An Algorithmic Framework for Bias” című dokumentumban). Bounties” – Ira Globus-Harris, Michael Kearns és Aaron Roth).

A kutatási cikkben a szerzők egy javasolt megközelítést vázolnak fel arra vonatkozóan, hogy a fejvadászok milyen típusú mesterséges intelligencia torzításokat kereshetnek. Arra is utalás található, hogyan kell értékelni az így felfedezett állítólagos mesterséges intelligencia-elfogultsághoz kapcsolódó fejvadász-állításokat. Korábbi megjegyzéseim szerint az esélye annak, hogy hamis állításokat fog kapni, és el kell különítenie a mesterséges intelligencia torzítását a búzától a pelyvától.

Mielőtt még rátérnénk az AI-elfogultság-vadászat vad és gyapjas megfontolásaira, hozzunk létre néhány további alapvetést a mélyen szervesen összefüggő témákban. Röviden bele kell merülnünk a mesterséges intelligencia etikájába, és különösen a Machine Learning (ML) és a Deep Learning (DL) megjelenésébe.

Lehet, hogy homályosan tisztában vagy vele, hogy manapság az egyik leghangosabb hang a mesterséges intelligencia területén és még az AI területén kívül is az etikus mesterséges intelligencia nagyobb látszatának követelése. Vessünk egy pillantást arra, hogy mit jelent a mesterséges intelligencia etikájára és az Ethical AI-ra hivatkozni. Ezen felül megvizsgáljuk, mire gondolok, amikor a gépi tanulásról és a mély tanulásról beszélek.

A mesterséges intelligencia etikájának egy bizonyos szegmense vagy része, amely a médiában nagy figyelmet kapott, a mesterséges intelligencia, amely nemkívánatos elfogultságokat és egyenlőtlenségeket mutat. Talán tudatában van annak, hogy amikor a mesterséges intelligencia legújabb korszaka beindult, hatalmas lelkesedés támadt az iránt, amit egyesek ma úgy hívnak. AI For Good. Sajnos ennek a tomboló izgalomnak a nyomában kezdtünk tanúi lenni AI For Bad. Például a különféle mesterséges intelligencia-alapú arcfelismerő rendszerekről kiderült, hogy faji és nemi előítéleteket tartalmaznak, amelyeket itt tárgyaltam. az itt található link.

Erőfeszítések, amelyek ellen harcolni kell AI For Bad aktívan zajlanak. A hangoskodáson kívül jogi A jogsértések megfékezésére irányuló törekvések jelentős erőfeszítéseket tesznek a mesterséges intelligencia etikájának elfogadása felé, hogy helyrehozzák a mesterséges intelligencia aljasságát. Az elképzelés az, hogy el kell fogadnunk és támogatnunk kell a kulcsfontosságú etikai mesterségesintelligencia-elveket a mesterséges intelligencia fejlesztése és terjesztése érdekében, ezzel aláásva AI For Bad és egyidejűleg hirdeti és hirdeti a jobbat AI For Good.

Ehhez kapcsolódóan én annak híve vagyok, hogy a mesterséges intelligencia megpróbálja a mesterséges intelligencia problémáinak megoldásának részeként használni a tüzet tűzzel oltva ilyen gondolkodásmódban. Például beágyazhatunk Ethical AI összetevőket egy mesterséges intelligencia rendszerbe, amely figyeli, hogy a többi AI hogyan csinálja a dolgokat, és így potenciálisan valós időben megragadja a diszkriminatív erőfeszítéseket. az itt található link. Lehetne egy külön mesterséges intelligencia-rendszer is, amely egyfajta AI-etikai monitorként működik. A mesterséges intelligencia rendszer felügyelőként szolgál annak nyomon követésére és észlelésére, ha egy másik mesterséges intelligencia az etikátlan szakadékba kerül (lásd az ilyen képességekről szóló elemzésemet itt: az itt található link).

Rövid időn belül megosztok veled néhány átfogó alapelvet, amelyek az AI etikájának hátterében állnak. Rengeteg ilyen lista lebeg itt-ott. Mondhatnánk, hogy még nincs egyetlen lista az egyetemes vonzerőről és az egyetértésről. Ez a sajnálatos hír. A jó hír az, hogy legalább vannak könnyen elérhető mesterséges intelligencia etikai listák, és általában meglehetősen hasonlóak. Mindent egybevetve ez arra utal, hogy az okolt konvergencia egyfajta formája révén megtaláljuk az utat az AI-etika általános közös vonása felé.

Először is tekintsünk át röviden néhány általános etikai mesterséges intelligencia előírást, hogy bemutassuk, minek kell létfontosságú szempontnak lennie bárki számára, aki mesterséges intelligenciát készít, dolgozik vagy használ.

Például, ahogy azt a Vatikán a Róma felhívás a mesterséges intelligencia etikájára és amint azt alaposan kifejtettem itt az itt található link, ez az általuk azonosított hat elsődleges AI etikai elv:

• Átláthatóság: Elvileg az AI-rendszereknek magyarázhatónak kell lenniük
• Befogadás: Minden ember szükségleteit figyelembe kell venni, hogy mindenki részesülhessen, és minden egyén számára a lehető legjobb feltételeket kínálhassuk önkifejezéshez és fejlődéshez.
• Felelősség: Az MI használatát tervezőknek és alkalmazóknak felelősségteljesen és átláthatóan kell eljárniuk
• Pártatlanság: Ne alkosson vagy cselekedjen elfogultság szerint, ezzel óvva a méltányosságot és az emberi méltóságot
• Megbízhatóság: Az AI-rendszereknek megbízhatóan kell működniük
• Biztonság és adatvédelem: Az AI-rendszereknek biztonságosan kell működniük, és tiszteletben kell tartaniuk a felhasználók magánéletét.

Amint azt az Egyesült Államok Védelmi Minisztériuma (DoD) kijelentette A mesterséges intelligencia használatának etikai alapelvei és amint azt alaposan kifejtettem itt az itt található link, ez a hat elsődleges AI etikai alapelvük:

• Felelős: A DoD személyzete megfelelő szintű ítélőképességet és gondosságot gyakorol, miközben felelős marad az AI-képességek fejlesztéséért, telepítéséért és használatáért.
• Igazságos: A minisztérium szándékos lépéseket tesz az AI-képességek nem szándékos torzításának minimalizálása érdekében.
• Nyomon követhető: A minisztérium mesterséges intelligencia-képességeit úgy fejlesztik és alkalmazzák, hogy az érintett személyzet megfelelő ismeretekkel rendelkezzen az AI-képességekre vonatkozó technológiáról, fejlesztési folyamatokról és működési módszerekről, beleértve az átlátható és auditálható módszereket, adatforrásokat, valamint a tervezési eljárást és dokumentációt.
• Megbízható: A minisztérium mesterséges intelligencia-képességeinek kifejezett, jól meghatározott felhasználási területei lesznek, és az ilyen képességek biztonsága, biztonsága és hatékonysága tesztelés és szavatosság tárgyát képezi a meghatározott felhasználási módokon belül, teljes életciklusuk során.
• Kormányozható: A minisztérium megtervezi és megtervezi a mesterséges intelligencia képességeit, hogy teljesítsék a tervezett funkcióikat, miközben képesek lesznek észlelni és elkerülni a nem kívánt következményeket, valamint képesek lekapcsolni vagy deaktiválni a nem szándékos viselkedést tanúsító telepített rendszereket.

Megvitattam a mesterséges intelligencia etikai elveinek különféle kollektív elemzéseit is, beleértve a kutatók által kidolgozott halmazt, amely számos nemzeti és nemzetközi AI etikai tétel lényegét vizsgálta és sűrítette a „The Global Landscape Of AI Ethics Guidelines” című cikkben (megjelent. ban ben Természet), és amit tudósításom a címen vizsgál az itt található link, ami ehhez a trapézkő listához vezetett:

• Átláthatóság
• Igazságosság és méltányosság
• Nem rosszindulat
• Felelősség
• Adatvédelem
• Jótékonyság
• Szabadság és autonómia
• Bízzon
• Fenntarthatóság
• Méltóság
• Szolidaritás

Amint azt közvetlenül sejtheti, rendkívül nehéz lehet az ezen alapelvek mögött meghúzódó sajátosságok meghatározása. Még ennél is keményebb dió az a törekvés, hogy ezeket a tág alapelveket valami teljesen kézzelfoghatóvá és kellően részletezetté alakítsák ahhoz, hogy az AI-rendszerek kidolgozásakor felhasználhatók legyenek. Könnyű összességében egy kis kézzel integetni arról, hogy mik is az AI etikai előírásai, és hogyan kell azokat általában betartani, míg az AI kódolásánál sokkal bonyolultabb a helyzet, ha a valódi guminak kell lennie, amely találkozik az úttal.

Az AI-etikai elveket az AI-fejlesztőknek kell alkalmazniuk, az AI-fejlesztési erőfeszítéseket irányítókkal együtt, sőt még azokkal is, amelyek végső soron az AI-rendszerek karbantartását és karbantartását végzik. Az összes érdekelt fél a mesterséges intelligencia fejlesztésének és használatának teljes életciklusa során beletartozik az etikus mesterséges intelligencia elfogadott normáihoz. Ez egy fontos kiemelés, mivel a szokásos feltevés az, hogy „csak a kódolóknak” vagy az AI-t programozóknak kell betartani az AI-etika fogalmait. Amint korábban említettük, egy falura van szükség a mesterséges intelligencia kidolgozásához és elindításához, és ehhez az egész falunak ismernie kell a mesterséges intelligencia etikai előírásait, és be kell tartania azokat.

Győződjünk meg arról is, hogy a mai mesterséges intelligencia természetét illetően egy oldalon vagyunk.

Ma nincs olyan mesterséges intelligencia, amely érző lenne. Nálunk ez nincs. Nem tudjuk, hogy az érző mesterséges intelligencia lehetséges lesz-e. Senki sem tudja pontosan megjósolni, hogy elérjük-e az érző MI-t, és azt sem, hogy az érző mesterséges intelligencia valamilyen csodálatos módon spontán módon létrejön-e számítógépes kognitív szupernóva formájában (általában szingularitásnak nevezik, lásd tudósításomat itt: az itt található link).

A mesterséges intelligencia azon típusa, amelyre összpontosítok, a ma létező nem érző MI-ből áll. Ha vadul akarnánk spekulálni arról érző AI, ez a vita gyökeresen más irányba mehet. Egy érző mesterséges intelligencia állítólag emberi minőségű lenne. Figyelembe kell vennie, hogy az érző mesterséges intelligencia az ember kognitív megfelelője. Sőt, mivel egyes feltételezések szerint szuperintelligens AI-val rendelkezünk, elképzelhető, hogy az ilyen mesterséges intelligencia okosabb lehet, mint az emberek (a szuperintelligens AI lehetőségének feltárásához lásd a tudósítás itt).

Maradjunk inkább a földön, és vegyük figyelembe a mai számítástechnikai, nem érző MI-t.

Vegye észre, hogy a mai mesterséges intelligencia nem képes az emberi gondolkodással egyenrangú módon „gondolkodni”. Amikor Alexával vagy Sirivel kommunikál, a társalgási képességek hasonlónak tűnhetnek az emberi képességekhez, de a valóság az, hogy számítási jellegű, és hiányzik az emberi megismerés. A mesterséges intelligencia legújabb korszaka széles körben alkalmazta a gépi tanulást (ML) és a mély tanulást (DL), amelyek kihasználják a számítási mintaillesztést. Ez olyan mesterséges intelligencia-rendszerekhez vezetett, amelyek emberszerű hajlamokat mutatnak. Eközben manapság nincs olyan mesterséges intelligencia, amely a józan észnek látszana, és az emberi gondolkodás kognitív csodáiból sem.

Az ML/DL a számítási mintaillesztés egyik formája. A szokásos megközelítés az, hogy egy döntési feladatról adatokat gyűjt össze. Az adatokat betáplálja az ML/DL számítógépmodellekbe. Ezek a modellek matematikai mintákat keresnek. Miután megtalálta az ilyen mintákat, ha igen, az AI rendszer ezeket a mintákat fogja használni, amikor új adatokkal találkozik. Az új adatok bemutatásakor a „régi” vagy történelmi adatokon alapuló mintákat alkalmazzák az aktuális döntés meghozatalához.

Azt hiszem, sejtheti, hová vezet ez. Ha az emberek, akik a mintaszerű döntéseket hozták, nemkívánatos elfogultságokat alkalmaztak, akkor valószínű, hogy az adatok ezt finom, de jelentős mértékben tükrözik. A Machine Learning vagy a Deep Learning számítási mintaillesztés egyszerűen megpróbálja matematikailag utánozni az adatokat ennek megfelelően. A mesterséges intelligencia által kialakított modellezésben önmagában semmi sem látszik a józan észnek vagy más érző szempontoknak.

Ezenkívül az AI-fejlesztők sem tudják, mi történik. Az ML/DL rejtélyes matematikája megnehezítheti a most rejtett torzítások kiszűrését. Joggal remélhető és elvárható, hogy a mesterséges intelligencia fejlesztői teszteljék a potenciálisan eltemetett torzításokat, bár ez bonyolultabb, mint amilyennek látszik. Jó esély van arra, hogy még viszonylag kiterjedt tesztelés mellett is lesznek torzítások az ML/DL mintaillesztési modelljeibe.

Használhatná némileg a híres vagy hírhedt közmondást, a szemetet a szemét kiszállításáról. A helyzet az, hogy ez inkább a torzításokhoz hasonlít, amelyek alattomos módon beszivárognak az AI-ba merülő torzítások miatt. Az AI algoritmus-döntéshozatala (ADM) axiomatikusan megterhelődik egyenlőtlenségekkel.

Nem jó.

Most térjünk vissza az AI elfogultság-vadászat témájához.

Azok számára, akik a mesterséges intelligencia elfogultságra törekvő fejvadászatát fontolgatják, íme az általam javasolt hét kulcsfontosságú lépés a legjobb továbblépéshez:

1) Értékeljük. Mérje fel a mesterséges intelligencia előítéletes fejvadászatának alkalmasságát az Ön körülményeihez és AI-rendszereihez

2) Design. Tervezze meg a megfelelő mesterséges intelligencia-elfogult fejvadászat megközelítést

3) végrehajtja. Valósítsa meg és tegye közzé a mesterséges intelligencia elfogultságával kapcsolatos fejvadászatot

4) Mező. Adja meg a mesterséges intelligencia elfogultságára vonatkozó jutalomkérelmeket, és ennek megfelelően dolgozza fel

5) Rögzít. Javítsa ki vagy állítsa be a mesterséges intelligencia ezen felfedezett torzításainak megfelelően

6) Beállítani. Szükség szerint állítsa be a fejvadászat mesterséges intelligencia-elfogultságát

7) Abbahagy. Hagyja abba a mesterséges intelligencia elfogultság elleni fejvadászatát, amikor már nincs rá szükség

A fenti lépések sorozatában vegye figyelembe, hogy megemlítem, hogy feltehetően meg akarja majd javítani vagy módosítani az AI-t, mivel megbizonyosodik arról, hogy a mesterséges intelligencia állítólagos torzítása valóban létezik az AI-rendszerében. Ennek bőségesen van értelme. Szinte biztosan szeretné alátámasztani a talált mesterséges intelligencia torzításait. Ha nem így tesz, gondoljon a jogi (és etikai) következményekre. Egy dolog azt állítani, hogy nem tudta, hogy létezik egy mesterséges intelligencia-elfogultság, és ezért hagyta, hogy létezzen, míg sokkal ingatagabb az a tény, hogy tudomást szereztek az AI-elfogultságról, és nem tett semmit ellene.

A mesterséges intelligencia javításának vagy kiigazításának természete és mértéke természetesen attól függ, hogy mennyire jelentősek a mesterséges intelligencia torzításai, és milyen mélyen vannak beágyazva a problémák. Ha szerencséd van, talán az AI szerény módosításai helyrehozzák a dolgokat. A másik lehetőség az, hogy szükség lehet az AI teljes újraírására. Az ML/DL típusú mesterséges intelligencia esetében ehhez vissza kell térni a rajztáblához, és újra kell kezdeni egy teljesen új adatkészlettel és egy megtisztított ML/DL modellel. Beszéltem a mesterséges intelligencia kiürülésének vagy megsemmisítésének megjelenéséről, mint lehetséges jogorvoslatról a kellemetlen mesterséges intelligencia ellen, ld. az itt található link.

Az egyik azon a kérdésen kell gondolkodni, hogy szeretné-e, ha a fejvadászok többet tennének, mint pusztán a mesterséges intelligencia elfogultságának azonosítása. Például édesítheti a jutalmat azzal, hogy jelzi, hogy a javasolt javításokat is szívesen látjuk. AI torzítás talált egy fejvadász egy megjelölt jutalmat vagy díjat kaphat. Ha a fejvadász is tud kínálni egy életképes erősít a mesterséges intelligencia elfogultsága miatt további jutalmat kaphatnak.

Egyesek azt állítják, hogy ez a híd túl messze van. Azt mondják, hogy az AI-elfogultság fejvadászait kizárólag az AI-elfogultságok megtalálására kell összpontosítania. Egy csomó nemkívánatos káros következményt fog előidézni, ha felkéri őket, hogy javasoljanak javításokat. Legyen a dolgok egyszerűek. A cél az, hogy minél több további szemre kerüljön a mesterséges intelligencia torzításainak felfedezése, hogy eldönthesse, mit tegyen. Ne sározza be a vizet.

Egy kényes szempont, amelyet ki kell találni, magában foglalja azoknak a fejvadászoknak a jutalma vagy nyeremény nagyságát, akik valóban felfedezik a mesterséges intelligencia torzításait. Azt akarja, hogy a nyeremény demonstratív legyen. Elég magas jutalom nélkül nem lesz sok fejvadász, vagy nem lesznek különösebben lelkesedve az AI-rendszerek AI-elfogultságainak felkutatására. Ehelyett inkább más mesterséges intelligencia-elfogultság-díjazási törekvésekre koncentrálhatnak.

Továbbá, amint már említettük, meg akarja próbálni elfojtani a fejvadászok késztetését, hogy mesterséges intelligencia-elfogultság felfedezéseiket az arany más formáira fordítsák. Ha a jutalom csekélynek tűnik, a fejvadászokat más magasabb nyeremények keresésére késztetheti. Lehetséges, hogy zsarolóvírust alkalmaznak Önnel szemben. Kijelenthetik, hogy lédús mesterségesintelligencia-elfogultságuk van, amelyről egy versenytárs szívesen tájékozódna, és felhasználhatja az Ön cége ellen, ha azt hirdetik, hogy az AI-elfogultság létezik az Ön MI-jében. Így a felfedezett mesterséges intelligencia torzítást a legmagasabb ajánlatot tevőnek adják el. Stb.

Feltételezzük, hogy ha a jutalmat rendkívül magas tartományba állítja, akkor potenciális bajt is kér. Ez mindenféle őrült fejvadászt vonzhat. Ők viszont eláraszthatják a közösségi médiát olyan homályos állításokkal, miszerint sok mesterséges intelligencia-elfogultságot találtak, saját önreklámozásuk érdekében, anélkül, hogy ténylegesen bármilyen AI-elfogultságot kifejtettek volna. Bizonyos értelemben a megnövekedett jutalmad akaratlanul is fényt vet a mesterséges intelligenciádra, és egy rakás sértetlen lepkét ösztönöz, amelyek ennek megfelelően károsan vonzódnak az izzó fénysugárhoz.

Egy másik szempont az AI-hoz való hozzáférés.

A mesterséges intelligencia fejvadászatának lehetővé tételéhez a fejvadászoknak elegendő hozzáférést kell kapniuk az Ön mesterséges intelligenciájához. Nem lesz sok szerencséjük a mesterséges intelligencia torzításaiban, ha teljesen ki vannak zárva. De nem akarja feladni a kiberbiztonsági védelmet, mivel ezzel teljesen kompromittálhatja a mesterséges intelligencia rendszerét.

Megpróbálhatja megkérni a fejvadászokat különböző jogilag kötelező erejű nyilatkozatok aláírására, majd megadni nekik a szükséges hozzáférést. Egyes fejvadászok nem fogják szeretni ezt a fajta megközelítést. Álláspontjuk az, hogy csak azt fogják megtenni, amit bármely nyilvánosan elérhető és nyílt végű útvonal megenged. Mintha szabad mesterek, és nem szeretik, ha nyergelnek. Ha ráveszi őket, hogy aláírják a megfélemlítő jogi dokumentumokat, sokan elkerülik a mesterséges intelligencia torzításainak keresését az Ön mesterséges intelligenciájában. Vagy haragossá válhatnak az Ön jogi kesztyűjére, és úgy döntenek, hogy nyilvános úton meglátják, mit találnak, és ezt azzal a heves késztetéssel teszik, hogy megmutassák, mennyire sebezhető valójában.

Van még egy szögem, amitől megfordulhat a fejed.

Egy MI-hoz értő fejvadász dönthet úgy, hogy olyan mesterségesintelligencia-rendszert dolgoz ki, amely megvizsgálja a mesterséges intelligenciáját, és esetleg felfedezheti a mesterséges intelligencia torzításait. Ez a szerszámgyártó úgy dönt, hogy egy szerszámot készít a munka elvégzéséhez, ahelyett, hogy saját maga végezné el a kézi munkát. Az MI-ben jártas fejvadász ahelyett, hogy fáradságosan megvizsgálná a mesterséges intelligenciáját, azzal tölti az idejét, hogy kitalál egy AI-eszközt, amely ugyanezt teszi. Ezután az AI eszközt használják az Ön mesterséges intelligenciáján. A szépség az is, hogy feltehetően újra felhasználhatják az AI eszközt bárki másnál, aki szintén fejvadászási lehetőséget kínál a saját AI-n.

Tudom, hogy valószínűleg mire gondol. Ha ki lehet dolgozni egy AI-eszközt a mesterséges intelligencia torzításainak vizsgálatára, akkor a mesterséges intelligencia torzításainak vizsgálata alatt álló AI készítőjének vagy készítenie kell egy ilyen AI-eszközt, vagy vásárolnia kell egyet saját használatra. Elméletileg nem kell megküzdeniük az egész fejvadász karnevállal. Csak használja az AI-t, hogy megtalálja a mesterséges intelligencia torzításait.

Igen, ez egy olyan dolog, ami várhatóan fokozatosan megjelenik. Eközben ezeknek az erőfeszítéseknek a támasza valószínűleg az AI-fejlesztők fejvadászatából áll majd. Különféle eszközöket használhatnak erőfeszítéseik elősegítésére, de nem valószínű, hogy a közeljövőben egyszerűen csak ész nélkül beállítják az AI-eszközt, és úgy szunyókálnak, hogy az eszköz elvégezze helyettük a mesterséges intelligencia torzításának teljes részét.

Még nem tartunk ott.

Ennek a súlyos vitának a pillanatában lefogadom, hogy néhány szemléltető példára vágyik, amelyek bemutathatják ezt a témát. Van egy különleges és biztosan népszerű példasor, amely közel áll a szívemhez. Látod, a mesterséges intelligencia szakértőjeként, beleértve az etikai és jogi következményeket is, gyakran kérnek fel olyan reális példák azonosítására, amelyek bemutatják a mesterséges intelligencia etikai dilemmáit, hogy könnyebben megragadható legyen a téma némileg elméleti jellege. Az egyik legemlékezetesebb terület, amely élénken mutatja be ezt az etikus AI-problémát, az AI-alapú, valódi önvezető autók megjelenése. Ez praktikus használati esetként vagy példaként szolgál a témával kapcsolatos bőséges vitához.

Íme, egy figyelemre méltó kérdés, amelyen érdemes elgondolkodni: A mesterséges intelligencia-alapú valódi önvezető autók megjelenése felvilágosít-e valamit az AI-elfogult fejvadászat használatáról, és ha igen, mit mutat be ez?

Engedjen meg egy pillanatra, hogy kibontsa a kérdést.

Először is vegye figyelembe, hogy egy igazi önvezető autóban nincs emberi vezető. Ne feledje, hogy az igazi önvezető autókat mesterséges intelligencia vezetési rendszer vezeti. Nincs szükség emberi sofőrre a volánnál, és arra sem, hogy ember vezesse a járművet. Az autonóm járművekről (AV-k) és különösen az önvezető autókról szóló kiterjedt és folyamatos tájékoztatásért lásd az itt található link.

Szeretném még jobban tisztázni, mit kell érteni, amikor valódi önvezető autókra utalok.

Az önvezető autók szintjének megértése

Tisztázva, az igazi önvezető autók azok, ahol az AI teljesen önállóan vezeti az autót, és nincs emberi segítség a vezetési feladat során.

Ezek a vezető nélküli járművek 4-es és 5-ös szintnek minősülnek (lásd a magyarázatomat a következő helyen). ez a link itt), míg az olyan autókat, amelyekhez emberi vezető szükséges a vezetési erőfeszítések közös megosztására, általában 2. vagy 3. szinten tartják. Azokat az autókat, amelyek közösen osztják meg a vezetési feladatot, félig autonómnak nevezik, és jellemzően különféle automatizált kiegészítők, amelyeket ADA-nak neveznekADA
S (Advanced Driver-Assistance Systems).

Még nincs igazi önvezető autó az 5-ös szinten, és még azt sem tudjuk, hogy ez elérhető lesz-e, és azt sem, hogy mennyi időbe telik eljutni odáig.

Eközben a 4. szintű erőfeszítések fokozatosan próbálnak némi vonóerőt szerezni nagyon szűk és szelektív közúti próbák révén, bár vita folyik arról, hogy ezt a tesztelést önmagában engedélyezni kell-e (mindannyian életre-halálra menő tengerimalacok vagyunk egy kísérletben autópályáinkon és mellékutainkon zajlanak, egyesek azt állítják, lásd tudósításomat itt ez a link itt).

Mivel a félig autonóm autókhoz emberi sofőrre van szükség, az ilyen típusú autók elfogadása nem különbözik nyilvánvalóan a hagyományos járművek vezetésénél, tehát önmagában nincs sok új, hogy ezekkel a témákkal foglalkozzanak (bár, amint látni fogja) egy pillanat alatt a következő pontok általában alkalmazandók).

A félig autonóm autók esetében fontos, hogy a nyilvánosságot figyelmeztessék az utóbbi időben felmerülő zavaró tényezőkre, nevezetesen arra, hogy azoknak az emberi járművezetőknek ellenére, akik folyamatosan videókat tesznek közzé, hogy maguk alszanak a 2. vagy 3. szintű autó kormányához , mindannyian el kell kerülnünk, hogy félrevezetjük azt a hitet, hogy a sofőr félig autonóm autó vezetése közben elvonhatja figyelmét a vezetési feladatról.

Te vagy a felelős a jármű vezetési tevékenységeiért, függetlenül attól, hogy mekkora mennyiségű automatizálást lehet 2. vagy 3. szintre dobni.

Önvezető autók és mesterséges intelligencia elfogult fejvadászat

A 4. és 5. szintű valódi önjáró járműveknél nem vezethet embervezető a vezetési feladatba.

Minden utas utas lesz.

Az AI vezet.

Azonnal megvitatandó szempont azzal a ténnyel jár, hogy a mai mesterséges intelligencia-vezetési rendszerekben részt vevő mesterséges intelligencia nem érző. Más szavakkal, az AI összességében számítógépes programozás és algoritmusok összessége, és bizonyosan nem képes ugyanúgy érvelni, mint az emberek.

Miért van ez a hangsúly arra, hogy az AI nem érzékeny?

Mivel szeretném aláhúzni, hogy az AI hajtórendszer szerepének tárgyalásakor nem tulajdonítok emberi tulajdonságokat az AI-nek. Felhívjuk figyelmét, hogy manapság folyamatos és veszélyes tendencia van az AI antropomorfizálására. Lényegében az emberek emberi szerű érzékenységet tulajdonítanak a mai mesterséges intelligenciának, annak ellenére, hogy tagadhatatlan és vitathatatlan tény, hogy ilyen AI még nem létezik.

Ezzel a pontosítással elképzelheti, hogy az AI vezetési rendszer valahogy nem fogja „tudni” a vezetés szempontjait. A vezetést és mindazt, amit ez magában foglal, be kell programozni az önvezető autó hardverének és szoftverének részeként.

Merüljünk el abban a számtalan szempontban, amelyek eljátszanak ebben a témában.

Először is fontos felismerni, hogy nem minden AI önvezető autó egyforma. Minden autógyártó és önvezető technológiai cég alkalmazza a hozzáállását az önvezető autók kidolgozásához. Emiatt nehéz átfogó kijelentéseket tenni arról, hogy az AI-meghajtórendszerek mit fognak tenni vagy nem.

Továbbá, ha azt állítják, hogy az AI meghajtó rendszer nem végez bizonyos dolgokat, ezt később a fejlesztők megelőzhetik, akik valójában erre programozzák a számítógépet. Lépésről lépésre az AI meghajtó rendszereket fokozatosan fejlesztik és bővítik. A meglévő korlátozás ma már nem létezik a rendszer későbbi iterációjában vagy verziójában.

Remélem, ez elegendő kitételt biztosít ahhoz, hogy alátámassza azt, amit mondani készülök.

Rovataimon már hosszasan taglaltam a bug-orientált fejvadászok használatát az autonóm járművek és az önvezető autók birodalmában. Ez a megközelítés valóban megvalósult ebben a résben. A szokásos viták arról szólnak, hogy jó ötlet-e vagy sem. Az erőfeszítések általában korlátozott jellegűek voltak, gyakran viszonylag csendesek voltak.

Hasonló diskurzus alakulhat ki, amikor a hangsúly az AI-elfogultságok keresése felé tolódik el, nem pedig önmagában a rendszerhibák keresése. Egyesek szerint átkozott, ha megteszed, rohadt, ha nem találkozol.

Ezért van.

Először is, hogy egyértelmű legyen, számos mód van arra, hogy az önvezető járművek és az önvezető autók ki legyenek téve a mesterséges intelligencia torzításainak. az itt található link és a az itt található link, hogy csak néhányat említsünk. Az autógyártók és az önvezető autókat gyártó cégek bölcsnek tűnnek, ha megpróbálják megakadályozni, hogy ezek a mesterséges intelligencia torzítások megjelenjenek AI-rendszereikben. Az ilyen cégek elleni jogi és etikai tűzvihar kétségtelenül heves lesz.

Megfelelő megközelítés-e az MI-elfogultság fejvadászatára irányuló törekvés ebben a konkrét összefüggésben?

Az egyik válasz az, hogy igen, ez hasznos lesz, és rengeteg „ingyenes” új szemkészletet biztosít, amelyekkel megpróbálhatja megragadni az AI önvezető autók vagy hasonlók beágyazott mesterséges intelligencia torzításait. Az önvezető autókat építő mesterséges intelligencia-fejlesztők többsége azzal van elfoglalva, hogy olyan mesterséges intelligenciát készítsen, amely biztonságosan tud vezetni egy autót A pontból B pontba. Őket ez az alapvető képesség foglalkoztatja, és sem idejük, sem figyelmük nincs az AI torzításaira, amelyek valahol ott lehetnek. az AI-juk.

A másik válasz az, hogy nem, az autonóm járművek és önvezető autók fejvadászatának bármilyen alapon történő engedélyezését, legyen szó hibákról vagy mesterséges intelligencia elfogultságról, csak erősen el kellene kerülni. Az érv az, hogy ezek a járművek és az AI-k élet-halál kaliberűek. A mesterséges intelligencia bármilyen módon való összezavarása valamilyen módon tönkreteheti a mesterséges intelligencia működését, és befolyásolhatja a mesterséges intelligencia-vezető rendszer működését.

Az utolsó pont ellenérv az, hogy a fejvadászok állítólag nem tudják megváltoztatni az általuk vizsgált mesterséges intelligenciát. Így nem áll fenn annak a veszélye, hogy összezavarják az MI-t, és az AI ebben az összefüggésben hirtelen megbolondult mesterségesintelligencia-vezető rendszerré váljon. A fejvadászok csak olvasási hozzáféréssel rendelkeznek. Megengedni nekik, hogy továbbmenjenek, nagy hülyeség és óriási hiba lenne.

Az ellenérv ellenérv az, hogy ha megengedjük és bátorítjuk a fejvadászokat, hogy megvizsgálják az Ön mesterséges intelligenciáját, akkor az egész ügy kockaszerűvé válik. Ezek a fejvadászok kitalálhatják a talált hibák vagy elfogultságok kihasználásának módjait. Ezek a kizsákmányolások pedig csaló célokat szolgálhatnak. Jobban tennéd, ha úgymond nem hívnál be „betörőket” az otthonodba. Amint kiszedték az ízületet, végül egy halom bajban leszel.

Azok számára, akiknek az AI-rendszerük kisebb, mint az élet vagy a halál, az a meggyőződés, hogy a félresikerült fejvadászat következményei sokkal kevésbé kockázatosak. Talán. Másrészt, ha egy cég a pénzét egy mesterséges intelligencia-rendszerbe öntötte, amelyet a fejvadászoknak sikerül bitorolni, akkor feltételezheti, hogy a hírnév- és egyéb lehetséges károk továbbra is sértik.

Nincs ingyenes ebéd, ha az AI-elfogult fejvadászatról van szó.

Egyelőre egy gyors záró megjegyzés.

Amikor a hírhedt betyárt, Jesse Jamest megkeresték az ónyugat idején, egy „Wanted” plakátot nyomtattak, amelyen 5,000 dollár jutalmat ajánlottak az elfogásáért (az „élve vagy holtan”). Ez akkoriban meglehetősen hatalmas pénzösszeg volt. Saját bandája egyik tagja úgy döntött, hogy agyonlövi Jesse-t, és begyűjti a jutalmat. Feltételezem, hogy ez azt mutatja, mennyire hatékony lehet a jutalom.

Az AI elfogult fejvadászok használata jó, vagy rossz dolog lesz?

Ha úgy dönt, hogy egy mesterséges intelligencia elfogultságú fejvadász kísérletet indít, azt javaslom, tartsa tágra a szemét, és mindig nézzen a válla fölött. Ez körültekintő az Ön és a mesterséges intelligencia számára. Soha nem tudhatod, mi történhet, beleértve azt is, hogy egy ügyes fejvadász valamilyen módon titokban mesterséges intelligencia torzítást iktat be az AI-ba, és azt kiabálja a világnak, hogy gátlástalan AI-elfogultságot talált az AI-ban. Talán egy pimasz és túlméretezett kísérletet tettek a jutalom megszerzésére, és olyan hősnek kiáltották ki magukat, aki lényegében megkapta a dicsért Jesse Jamest.

Ha jobban belegondolunk, egy érző mesterséges intelligencia valószínűleg nem fog tetszeni a zavarba ejtő halott vagy élő rendelkezés gondolata, ahogy az ember bágyadtan feltételezi.