A mesterséges intelligencia etika és az elismert mesterséges intelligencia Uncanny Valley, amely az AI-alapú önvezető autókat is zörgeti

Néha vannak enyhén furcsa dolgok, amelyek felkeltik a figyelmedet, és ráébresztik az intuitív levet arra, hogy valami nem stimmel. A furcsaság nem kirívó, egyáltalán nem kirívó az arcodban. Lehet, hogy nem is tudod azonnal rátenni, hogy mi az összeférhetetlenség, vagy hogy lehet, hogy a közmondásos pókérzéked bizsergő.

Talán finom árulkodó nyomokat érzékelnek. Lehet, hogy a zsigereidben ráébredsz, hogy disszonancia létezik. Azt hiszem, azt mondhatjuk, hogy a visszafogott kísértetiesnek csak a legcsekélyebb jele van, és a finom emberi radar felfogja az egyébként rejtettnek tűnő jeleket.

Üdvözöljük a rejtélyes völgyben.

Ha még soha nem hallott a rejtélyes völgyről, amely a mesterséges intelligencia és különösen a robotika területén viszonylag népszerű téma, akkor egy kis csemege vár rád, mivel ez az a téma, amelyet itt részletesen tárgyalok és elemzek.

Az átfogó fogalom sok olyan dologra vonatkozhat, amit az életben megtapasztalunk, bár a kulcsfontosságú alapelvek és a kiinduló meghatározás AI-rendszereket és robotokat foglal magában. Először feltárjuk a rejtélyes völgy eredetét és kezdeti jelentését, majd folytatjuk a kiszélesítést, hogy meglássuk, hogyan tűnnek alkalmazhatónak a jelenségek nagyobb összefüggésekben.

Azt is hozzátehetem, hogy megfontoljuk, hogy létezik-e egyáltalán ez a rejtélyes völgy.

Egyes szkeptikusok és cinikusok azzal érvelnek, hogy az egész ügy egy kicsit kamu, és nem állja meg a helyét. Legyen óvatos, amikor felhozza a témát a hozzáértőknek. Egyesek vidáman mosolyognak, és hátba tapsolnak, hogy nagyon jól ismered a rejtélyes völgyet, míg mások határozottan kioktatják, hogy ez a disznóság nyársa, és egy habos mentális tisztító szappannal ki kell tisztítanod az elmédet. .

A jó hír az, hogy el kell döntenie, hogy a rejtélyes völgy valódi-e vagy sem, valamint, hogy van-e érdeme a tudatos alkalmazáshoz, vagy ehelyett szertartás nélkül a techno-ötletek szemétdombjára kell dobni. Ebben az értelemben Ön a vezetőülésben ül.

Mindez szorosan összefügg az Ethical AI feltörekvő területével és annak egyre növekvő felismerésével, hogy a társadalomnak komolyan és józanul kell figyelnie az AI etikájára. Mindjárt megkötjük.

A legjobb kiindulópont az, ha közvetlenül idézzük azt a professzort, aki kitalálta a rejtélyes völgy koncepciót, és egyenesen elnevezte ezt a meghirdetett jelenséget. 1970-ben Masahiro Mori professzor a Tokiói Technológiai Intézetben egy meglehetősen vékony cikket tett közzé egy kevésbé ismert folyóiratban, az ún. Energia (nem kifejezetten melegágya az AI és a robotika számára), és ezt mondta:

„Észrevettem, hogy a robotok emberi megjelenésének céljához való mászás során affinitásunk növekszik irántuk egészen addig, amíg el nem érünk egy völgybe, amit én a varázslatos völgynek nevezek.”

Felhívjuk figyelmét, hogy a fenti megfogalmazás angolul jelenik meg, bár az eredeti papír japánul készült. Az angol nyelvű fordítást a szerző felügyelte, és később megjelent a IEEE spektrum 2012-ben, és Masahiro Mori nevéhez fűződik a szerző. A lapot maga is elolvashatja, mivel nyíltan és szabadon elérhető az interneten. Ez egy határozottan gyors, körülbelül tíz perces olvasmány, és nem tartalmaz semmilyen technikás terminológiát.

Ennek ellenére érdekes és némileg elképesztő, hogy egy ilyen lendületes, 1970-ben megjelent cikk végül egy egész vizsgálódási arénát indított el, és számtalan kapcsolódó tanulmányt, projektet, kutatást, és időnként vitavihart indított arról, hogy vajon a bevezetett valóban létezik egy rejtélyes völgy fogalma. Feltételezem, hogy ez azt mutatja, hogy az érdekfeszítő és időnként nézőpontot megváltoztató ötleteket nem kell masszívan összefonni, vagy túlzsúfolni a zsargonnal és a magasztossággal. Egy szűkszavú ötlet lehet, hogy nem is erősebb, mint amilyennek látszik.

Bízom benne, hogy ez arra ösztönzi majd, hogy próbálja meg előmozdítani az új ötleteit, annak tudatában, hogy az édes és az egyszerű lehet olyan csodálatos, vagy néha inkább, mint bonyolult és összetett.

Ugorjunk vissza a rejtélyes völgybe.

Egy olyan robotrendszerrel találkozol, amelynek az arca egy emberinek látszó archoz hasonlít. Képzelje el, hogy ezt a robotarcot számos iteráció során alakították ki. A robotfejet összeállító mesterséges intelligenciafejlesztők fokozatosan arra törekedtek, hogy a robotizált arcrész egyre jobban hasonlítson egy valódi emberi archoz.

Az első próbálkozásuk rendkívül primitív volt. A robotarc ugyanolyan kinézetű volt, mint a sci-fi filmekben, amely teljesen fémből készült, és fogaskerekeket és vezetékeket mutat be. Azonnal tudja, ha ránéz a szerkezetre, hogy az egy robot. Nincs kérdés ezzel kapcsolatban.

A mesterséges intelligencia fejlesztőinek következő próbálkozása az volt, hogy néhány műanyagot tekertek a fémdarabok köré. Bár ez valamivel barátságosabbnak tűnik, mégis azonnal tudni fogja, hogy ez egy robotfej és egy robotarc. Ismét könnyű felismerni.

Az AI-fejlesztők eltökéltek, hogy ezt továbbra is folytatják. Faragják a műanyagot, és bőrszínt adnak neki. Olyan vonásokat adnak hozzá, amelyek nagyon hasonlítanak az emberi archoz, például anyajegyeket, hajat, foltokat és hasonlókat.

Első pillantásra azt hiheti, hogy ez egy emberi arc. Ha egy képet készítettek a robotarcról, és megkérik Önt, hogy azonosítsa, vajon a kép egy személyt ábrázol-e robotarccal szemben, akkor megzavarhatja, hogy azonnal meg tudja mondani, melyik az. Másrészt, ha az eszköz mellett állna, alapos szemléléssel valószínűleg észrevenné, hogy az nem ember, hanem egy robotmesterség.

A helyzet az, hogy mielőtt megkaptad volna a lehetőséget a közeli vizsgálat elvégzésére, volt valami az arcon, ami úgy tűnt, hogy nem teljesen illett. Biztosan úgy nézett ki, mint egy emberi arc. De valami nem stimmelt. Folyton feszülten kellett bámulnod újra és újra, hogy rámutasd az ujjadat arra, ami nem látszik egészen jól. Talán ez egy igazi arc. Aztán lehet, hogy mégsem. Az elméd ennek megfelelően forog.

A kísérteties látszata jut be az elmédbe.

Nem érezted ugyanazt a kísérteties látszatot, amikor megláttad a két korábbi verziót. Szünet és habozás nélkül észlelheti, hogy a robot robot volt. Csak egy gyereket téveszthetnek meg azzal, hogy elhiggye, hogy ezek közül bármelyik változat valódi személyről szól.

Ez a legújabb verzió azonban más volt. Még nem volt tökéletes, hogy emberi arcnak tűnjön. És nem is volt olyan messze a valóságtól, hogy nyilvánvaló legyen, biztos egy robotról van szó. Egyfajta zavaros talajt értek el.

Tegyük fel, hogy a fejlesztők tovább nyomultak a kutatási erőfeszítéseikbe, és mindent úgy alakítottak, hogy a robotarc szinte megkülönböztethetetlen volt az emberi arctól. Nem számít, mennyi ideig bámulod a dolgot, nem tudod biztosan, hogy ember-e vagy sem. Amikor megtudják, hogy ez a robotarc, ledöbbensz. Úristen, nagyszerű munkát végeztek, hogy valódinak tűnjön.

Figyeld meg, hogy eddig csak a megjelenésen alapuló robotikus szempontokat vetted figyelembe.

Az egyenlethez hozzáadhatnánk a mozgást is. Ez egy további dimenziót ad ahhoz, hogy meg tudja különböztetni, hogy a robot robot-e az emberrel szemben. Nem szeretném ezt teljes mértékben többdimenziós problémaként kezelni ebben a vitában, mivel ez bonyolultabbá teszi ennek a témának a feltárását (bár a többdimenziók elkerülhetetlenül összefonódnak). Mindenesetre képzelje el, hogy nemcsak a robot arcát látta, hanem azt is nézheti, ahogy a robot mozgatja az arcvonásait, mint például a száj, a szem, az orr stb. Nyilvánvalóan ezek is ajándékok lehetnek arról, hogy ez egy robot vagy ember.

Az egyik létfontosságú szempont, amelyet a rejtélyes völgy élvonalában kell tartani, az az, hogy az eredeti elképzelés az emberi rokonság aktusát hangsúlyozza. Az állítólagos jelenség az, hogy az affinitásod növekszik, ahogy látod a fokozatosan javuló robotarcokat, egészen addig a pontig, ahol a rejtélyes változat fel nem merül. Ebben a pillanatban az affinitás érzése drámaian csökken, és egy affinitás-szakadékba vagy völgybe zuhan.

Azzal a konkrét verzióval kapcsolatban, amely miatt azt gyanította, hogy valami nincs rendben, az affinitása állítólag gyökeresen csökkent. Továbbá, az elmélet szerint az affinitásod az egekbe szökhet, ha találkozol a fejlettebb változattal, amely majdnem azonos egy valóban emberi formával.

Íme bővebben arról, amit a szerző elmondott arról a szokásos hajlamunkról, hogy feltételezzük, hogy az élet aspektusai zökkenőmentesen növekednek: „A matematikai kifejezés monoton növekvő függvény olyan kapcsolatot ír le, amelyben a függvény y = ƒ (x) folyamatosan növekszik a változóval x. Például erőfeszítésként x növekszik, bevétel y növekszik, vagy az autó gázpedáljának lenyomásakor az autó gyorsabban halad. Ez a fajta kapcsolat mindenütt jelen van és nagyon könnyen érthető. Valójában, mivel az ilyen monotonan növekvő funkciók lefedik a mindennapi élet legtöbb jelenségét, az embereknek az az illúziója eshet, hogy minden viszonyt képviselnek. Ezt a hamis benyomást bizonyítja az a tény is, hogy sokan úgy küzdenek az életükön keresztül, hogy kitartóan nyomulnak anélkül, hogy megértenék a visszahúzódás hatékonyságát. Ez az oka annak, hogy az emberek általában értetlenül állnak, amikor olyan jelenséggel szembesülnek, amelyet ez a funkció nem tud képviselni. Ezt idézik a IEEE spektrum lefordított papír.

Ez a szinte univerzális feltételezés, miszerint mindig növekszik, megdőlhet, ha valami hibával találkozunk. A kísérteties és a gyanakvás az affinitás viszonylag hirtelen és drámai csökkenését okozza, az elmélet szerint például egy robotkéz, amelyet úgy döntöttél, hogy megrázza, és nem érezte az emberi kéz csontos jellemzőit: „Ha ez megtörténik, elveszítjük az érzékünket. az affinitás, és a kéz rejtélyessé válik. Matematikai értelemben ezt negatív értékkel is ábrázolhatjuk.”

Ha elfogadod azt az előfeltevést, hogy létezik egy rejtélyes völgy jelensége, akkor biztos vagyok benne, hogy azon tűnődsz, vajon mit használ neked, ha tudod, hogy a rejtélyes völgy látszólag létezik.

Ez minden idők klasszikusa "na és mi van?" gyakorlatiasság próbája.

Kiderült, hogy sokan sokféle értelmezést találtak ki arra vonatkozóan, hogy mit kell vagy tehetünk a rejtélyes völgy ellen. Rengeteg vélemény létezik. Hamarosan foglalkozni fogok ezzel.

Eközben Masahiro Mori a következőt kínálta: „Reméljük, hogy olyan robotokat és kézprotéziseket tervezünk és építünk, amelyek nem esnek bele a rejtélyes völgybe. Ezért az emberi hasonlóság fokának növelésére irányuló kísérletben rejlő kockázat miatt azt javaslom, hogy a tervezők inkább az első csúcsot vegyék célul, ami mérsékelt fokú emberi hasonlóságot és jelentős affinitásérzetet eredményez. . Valójában azt jósolom, hogy lehetséges az affinitás biztonságos szintjét létrehozni, ha szándékosan nem emberi tervezést folytatunk. Arra kérem a tervezőket, hogy gondolkodjanak el ezen.”

A magam részéről a tizenkét praktikus nadrágtartó szabály gyors összefoglalása arról, hogy mit kell tenni a rejtélyes völgytel kapcsolatban, így szól, különösen az AI-fejlesztők számára:

1) Légy tudatában a rejtélyes völgynek, és ennek megfelelően legyél résen

2) Feltehetően emberi affinitást szeretne elérni a mesterséges intelligencia iránt, amennyire csak lehetséges

3) Készüljön fel az emberi affinitás elvesztésére, ha mesterséges intelligencia a rejtélyes völgybe esik

4) Törekedj arra, hogy elkerüld a rejtélyes völgyet azáltal, hogy így alakítod ki az AI-t

5) Tiszteletre méltó egy olyan cél, amely nem éri el a rejtélyes völgyet

6) Lapozz fel a rejtélyes völgy szélére, de ne ess át a sziklán

7) Ne légy megszállottan a rejtélyes völgyön túl

8) Megvan az esélye, hogy mégis átugorja a rejtélyes völgyet

9) Ne legyen elfoglalva az ugrással, mert úgyis a völgybe eshet

10) A maximális emberi affinitást bevallottan úgy lehet elérni, ha túljutunk a rejtélyes völgyön

11) Ennek ellenére megfelelő és megfelelő affinitást találtunk a rejtélyes völgy előtt

12) Legyen folyamatosan szem előtt a rejtélyes völgy, és ne hagyja, hogy kicsússzon a fejéből

Ez a tucat mind általános előírás, amely a rejtélyes völgyről való tudás zárókövének vagy lehorgonyzási pontjának tekinthető. Azonnal elismerem, hogy vannak más pontok is, amelyek nem szerepelnek abban a szűk tucatban, amelyek ugyanolyan fontosak lehetnek. Azt is készséggel tudomásul veszem, hogy minden feltárt pontban nézeteltérések lesznek, és hosszan tartó heves vita alakulhat ki minden egyes megfogalmazott pontról.

Sőt, egyesek azt mondanák, hogy a tizenkét pont teljesen szemétség, mert eleve hamisságon alapulnak. Nem létezik olyan, hogy rejtélyes völgy, vitatkoznak. Mindez pusztán ciki és kitalált trükk, amely kizárólag és szomorúan vonzza a gyenge elméket (jaj, ez komolyan fáj!). A rejtélyes völgyre irányuló minden figyelmesség csak elfecsérelt levegő, és valakinek el kell jönnie, és egy éles elméleti karót kell tennie az ügy középpontjába (néhány kutató próbálkozott ezzel).

A vita kedvéért haladjunk az áramlással, és tegyük fel, hogy van egy rejtélyes völgy, és ez állítólag általában megegyezik azzal, amit eddig jeleztem. Azok, akik nem értenek egyet egy rejtélyes völgy fogalmával, zónázhatnak ki, vagy fogcsikorgatva, intellektuális dühük forr és forr (elnézést ezért) folytathatják az olvasást.

Íme, hogyan jelenik meg az Ethical AI és az etikus mesterségesintelligencia kidolgozásának és megvalósításának fókusza. Egyébként a mesterséges intelligencia etikájával kapcsolatos folyamatos és mélyreható feltárásaimért lásd a vitámat itt: ez a link itt és a ez a link itt, csak hogy néhányat említsek.

A rejtélyes völgy határozottan szeretet-gyűlölet kapcsolat az Ethical AI-val foglalkozók számára.

Először is, némi háttér szükséges. A mesterséges intelligencia egyik leghajmeresztőbb etikai kifogása az, hogy az embereket becsaphatják azzal, hogy azt higgyék, hogy egy mesterséges intelligencia rendszer érző. Kérjük, vegye figyelembe, hogy ma nincs olyan mesterséges intelligencia, amely távolról közel kerülne ahhoz, hogy érző legyen. Egyszerűen ez most nem történik meg. Látszólag „pimasz” állításom a szüntelen és harsány címszavak ellenére hangzik el, amelyek kijelentik, hogy ez a mesterséges intelligencia vagy hogy a mesterséges intelligencia vagy érző, vagy elég közeli ahhoz, hogy annak tekintsék. Malarkey. Nem vagyunk a mesterséges intelligencia felfogásában.

Nem tudjuk, hogyan juthatunk el oda. Nem tudjuk, hogy megtörténik-e. A mesterséges intelligencia érzéke egy érdemes álom és törekvés, bár ne ugorjon fegyvert, és ne gondolja, hogy a megvalósítás küszöbén állunk.

Természetesen sokan buzgón figyelmeztetnek arra, hogy ha valahogy sikerül kihozni a mesterséges intelligencia érzékét, akár szándékosan, akár véletlenül, akkor egzisztenciális kockázattal kell szembenéznünk. Ilyen gondolkodásmód szerint talán nem is annyira érdemes az MI-érzéket keresni. Fennáll a kockázata, hogy ez az érző mesterséges intelligencia eldöntheti, hogy az emberek nem érik meg, hogy a közelben legyenek. Összenyomódhatunk, mint egy bogár. Vagy válj az AI rabszolgáivá. Ez akkor fordulhat elő, ha a mesterséges intelligencia nyíltan ezt választja, vagy a mesterséges intelligencia a saját világvége-gépünk lesz, amely saját alkalmatlanságunkkal tesz tönkre minket. Az AI érzékének vagy szingularitásának aggasztó következményeiről szóló tudósításomat lásd az itt található link.

A mesterséges intelligencia etikai aggodalma az, hogy a mesterséges intelligencia fejlesztői és azok, akik a mesterséges intelligenciával foglalkoznak, időnként azt gondolják az emberekről, hogy az MI érző. Az a mód, ahogyan a mesterséges intelligencia megmutatja magát, például egy robotizált megfogalmazás vagy a társalgási interaktivitás révén, alattomos módon arra késztetheti az embereket, hogy feltételezzék, hogy az MI érző. Ez viszont egy potenciálisan rossz kankalin ösvényre vezet.

Ha abba a mentális csapdába esik, hogy azt gondolja, hogy egy mesterséges intelligencia rendszer érző, akkor valószínűleg rá fog hagyatkozni olyan dolgok megtételére, amelyeket az érző lények tennének. De még egyetlen mai mesterséges intelligencia sem építi be az emberhez hasonló minőséget. A jelenleg tapasztalt mesterséges intelligencia rendkívül törékeny és sekély, ha emberszerű képességekről van szó. Kellemetlen és veszélyes vizekre kerülhet, ha azt hiszi, hogy egy AI-rendszer érző.

Hogyan kapcsolódik ez a rejtélyes völgyhez?

Itt az üzlet.

Emlékezzünk vissza, hogy a rejtélyes völgy azt sugallja, hogy az emberi affinitás fokozatosan növekedni fog, ahogy egy mesterséges intelligencia-rendszer vagy egy robot egyre közelebb kerül egy emberszerű összetételhez. Egy olyan helyzetben, amikor a mesterséges intelligencia rendszer közeledik ahhoz a ponthoz, hogy elég közel legyen, de még mindig, még mindig nincs egészen ott, hátborzongató érzésünk támad, hogy valami nincs rendben. Egészen addig tudtuk, hogy az AI nem ember. Most nem vagyunk biztosak benne. Emberi affinitásunk csökken. Csak ha a mesterséges intelligencia vagy a robot teljesen meggyőzővé válik az emberhez hasonló képességeket illetően, akkor nyerjük vissza az eszközhöz való affinitásunk látszatát.

Azok a mesterséges intelligencia-fejlesztők, akik ezt a szívüket veszik, feltehetően megteszik szándékosan törekedjenek arra, hogy mesterséges intelligenciájukat távol tartsák a rejtélyes völgytől, és igyekezzenek megállni a mesterséges intelligencia jellemzőinek szempontjából, közvetlenül azelőtt, hogy beleesnének a rejtélyes szakadékba (emlékezzünk vissza, Masahiro Mori is ezt hangsúlyozta). A fejlesztők láthatóan ezt úgy tennék, hogy megbizonyosodnának arról, hogy még mindig léteznek bőséges árulkodó nyomok, amelyek egyértelművé teszik, hogy a mesterséges intelligencia kevésbé érző mesterséges intelligencia, tehát nem ember, vagy éppen úgy.

Az AI-etikusok általában örömmel fogadnák ezt a szívből jövő erőfeszítést.

Az indoklás egyértelmű. Azok a tájékozott és felkaroló MI-fejlesztők igyekeznek megbizonyosodni arról, hogy az AI-rendszer ne vezesse félre az embereket, hogy hamisan emberszerű létesítményeket tulajdonítsanak az MI-nek. Ez kétségtelenül jó hír. A fejlesztők szándékosan készítik el az AI-t, hogy megakadályozzák a merülést a rejtélyes völgyben. Az emberek azonnal rájönnek, hogy a mesterséges intelligencia nem érző.

Nem könnyű rávenni a mesterséges intelligencia fejlesztőit egy ilyen megközelítés elfogadására. Valójában ez ellentétes lehet a szokásos ösztöneikkel és ambícióikkal.

Sok állítás hangzik el arról, hogy a mesterséges intelligencia fejlesztőit és technikusait általában véve a célokkal töltik el. Látnak egy célt, és gyakran vakon, nagy kedvvel követik azt. Nincs idő megállni és megérezni a rózsák illatát. Menjünk a versenyekre, megyünk. A mesterséges intelligencia területén a normatív cél egy idealizált mesterséges intelligencia lenne, amely megkülönböztethetetlen az emberektől, mivel az MI intelligensen egyenlő paritású lehet. De még nem tartunk ott. Mint ilyen, a rejtélyes völgy másodlagos célt ad, az egyébként duzzasztó völgy előtt landol, és olyan céllá válik, amely ennek ellenére elfogadható. Persze nem az arany díjas gyűrű, de az ötlet az, hogy ez a "másodlagos" nyeremény rendben van, köszönöm szépen, és büszke lehetsz rá.

Megváltoztattuk a tönkretevő céltörekvés legfelsőbb ambícióját, és logikusan hangzó ésszerű alapot használtunk, hogy úgymond helyesen cselekedjünk.

Hurrá!

Nyerje meg az AI etikáját.

De várj egy második, spoiler figyelmeztetést, van még valami, amit szintén figyelembe kell vennünk.

Most, hogy azok a hozzáértő mesterséges intelligencia-fejlesztők tudnak a rejtélyes völgyről, eszükkel és technikus képességükkel szándékosan átugorhatják a szakadékot, de ezt a megtévesztés látszatát szem előtt tartva teszik. Tegye a mesterséges intelligenciát teljesen emberszerűnek, bár a fejlesztők tudják, hogy ez nem igaz.

A szélhámos gondolkodás így megy. Ne hagyja, hogy mesterséges intelligencia-rendszere megdöntse a kalapját, és az embereket elkapja a kísérteties megfoghatatlan hátterében. Vágja ki azokat a szempontokat, amelyek utalhatnak vagy utalhatnak arra, hogy a mesterséges intelligencia nem emberi képességekkel rendelkezik. Tedd ezt úgy, hogy közben titokban felismered és megbocsáthatatlanul tudva, hogy a mesterséges intelligencia nem emberi képességekkel rendelkezik, és ez az igazság elrejtése azoktól, akik kölcsönhatásba lépnek az MI-vel vagy attól függenek.

Micsoda ördögi tervek.

Ironikus módon a rejtélyes völgy egyfajta ébresztő lehet a mesterséges intelligencia fejlesztői számára, hogy ha igazán be akarják bolondítani az embereket, akkor elég ügyesnek kell lenniük ahhoz, hogy kimeneküljenek a mélységből. Ezt nem úgy teszik, hogy elérik a teljes mesterséges intelligenciát, hanem füstöt és tükröket állítanak fel, hogy a mesterséges intelligencia félrevezetőnek tűnjön, mint az ember. Ha a mesterséges intelligencia fejlesztői nem vették volna észre, hogy ez a rejtélyes völgy létezik, nagyjából beleestek volna. Ez jó az emberiségnek, mert az emberek elveszítenék affinitásukat a mesterséges intelligencia iránt, ha nem támaszkodnak túlságosan a mesterséges intelligencia mai minőségére.

Sajnálatos módon a csapda létezésének tudatában a mesterséges intelligencia-fejlesztők, akik körül akarnak lopódni, kártékonyan okos módszereket fognak találni erre.

Szerezz ütést az Ethical AI előírásai ellen.

Látod, hogyan teremt ez szeretet-gyűlölet kapcsolatot a mesterséges intelligencia-etikusok között a rejtélyes völgyről?

Átkozott, ha megteszed, rohadt, ha nem.

Tisztában vagyok vele, hogy ez egy kissé felemelt szemöldök vizsgálata volt a rejtélyes völgynek, és lehet, hogy mindennapi példákra vágyik. Van egy különleges és biztosan népszerű példasor, amely közel áll a szívemhez. Látod, a mesterséges intelligencia szakértőjeként, beleértve az etikai és jogi következményeket is, gyakran kérnek fel olyan reális példák azonosítására, amelyek bemutatják a mesterséges intelligencia etikai dilemmáit, hogy könnyebben megragadható legyen a téma némileg elméleti jellege. Az egyik legemlékezetesebb terület, amely élénken mutatja be ezt az etikus AI-problémát, az AI-alapú, valódi önvezető autók megjelenése. Ez praktikus használati esetként vagy példaként szolgál a témával kapcsolatos bőséges vitához.

Íme, egy figyelemre méltó kérdés, amelyen érdemes elgondolkodni: A mesterséges intelligencia-alapú valódi önvezető autók megjelenése felvilágosít-e valamit a rejtélyes völgyről, és ha igen, mit tegyünk ez alapján?

Engedjen meg egy pillanatra, hogy kibontsa a kérdést.

Először is vegye figyelembe, hogy egy igazi önvezető autóban nincs emberi vezető. Ne feledje, hogy az igazi önvezető autókat mesterséges intelligencia vezetési rendszer vezeti. Nincs szükség emberi sofőrre a volánnál, és arra sem, hogy ember vezesse a járművet. Az autonóm járművekről (AV-k) és különösen az önvezető autókról szóló kiterjedt és folyamatos tájékoztatásért lásd az itt található link.

Szeretném még jobban tisztázni, mit kell érteni, amikor valódi önvezető autókra utalok.

Az önvezető autók szintjének megértése

Tisztázásképpen: az igazi önvezető autók azok, amelyekben az AI teljes egészében egyedül hajtja az autót, és a vezetési feladat során nincs emberi segítség.

Ezek a vezető nélküli járművek 4-es és 5-ös szintnek minősülnek (lásd a magyarázatomat a következő helyen). ez a link itt), míg az olyan autókat, amelyekhez emberi vezető szükséges a vezetési erőfeszítések közös megosztására, általában 2. vagy 3. szinten tekintik. A vezetési feladatot közösen megosztó autók leírása félig autonóm, és általában különféle automatizált bővítmények, amelyeket ADAS-nak (Advanced Driver-Assistance Systems) neveznek.

Még nem létezik egy valódi önvezető autó az 5. szinten, amelyet még csak nem is tudunk, hogy ezt el lehet-e érni, és hogy mennyi ideig tart is eljutni oda.

Eközben a 4. szintű erőfeszítések fokozatosan próbálnak némi vonóerőt szerezni nagyon szűk és szelektív közúti próbák révén, bár vita folyik arról, hogy ezt a tesztelést önmagában engedélyezni kell-e (mindannyian életre-halálra menő tengerimalacok vagyunk egy kísérletben autópályáinkon és mellékutainkon zajlanak, egyesek azt állítják, lásd tudósításomat itt ez a link itt).

Mivel a félig autonóm autókhoz emberi sofőrre van szükség, az ilyen típusú autók elfogadása nem különbözik nyilvánvalóan a hagyományos járművek vezetésénél, tehát önmagában nincs sok új, hogy ezekkel a témákkal foglalkozzanak (bár, amint látni fogja) egy pillanat alatt a következő pontok általában alkalmazandók).

A félig autonóm autók esetében fontos, hogy a nyilvánosságot figyelmeztessék az utóbbi időben felmerülő zavaró tényezőkre, nevezetesen arra, hogy azoknak az emberi járművezetőknek ellenére, akik folyamatosan videókat tesznek közzé, hogy maguk alszanak a 2. vagy 3. szintű autó kormányához , mindannyian el kell kerülnünk, hogy félrevezetjük azt a hitet, hogy a sofőr félig autonóm autó vezetése közben elvonhatja figyelmét a vezetési feladatról.

Te vagy a felelős a jármű vezetési tevékenységeiért, függetlenül attól, hogy mekkora mennyiségű automatizálást lehet 2. vagy 3. szintre dobni.

Önvezető autók és a rejtélyes völgy

A 4. és 5. szintű valódi önjáró járműveknél nem vezethet embervezető a vezetési feladatba.

Minden utas utas lesz.

Az AI vezet.

Azonnal megvitatandó szempont azzal a ténnyel jár, hogy a mai mesterséges intelligencia-vezetési rendszerekben részt vevő mesterséges intelligencia nem érző. Más szavakkal, az AI összességében számítógépes programozás és algoritmusok összessége, és bizonyosan nem képes ugyanúgy érvelni, mint az emberek.

Miért van ez a hangsúly arra, hogy az AI nem érzékeny?

Mivel szeretném aláhúzni, hogy az AI hajtórendszer szerepének tárgyalásakor nem tulajdonítok emberi tulajdonságokat az AI-nek. Felhívjuk figyelmét, hogy manapság folyamatos és veszélyes tendencia van az AI antropomorfizálására. Lényegében az emberek emberi szerű érzékenységet tulajdonítanak a mai mesterséges intelligenciának, annak ellenére, hogy tagadhatatlan és vitathatatlan tény, hogy ilyen AI még nem létezik.

Ezzel a pontosítással elképzelheti, hogy az AI vezetési rendszer valahogy nem fogja „tudni” a vezetés szempontjait. A vezetést és mindazt, amit ez magában foglal, be kell programozni az önvezető autó hardverének és szoftverének részeként.

Merüljünk el abban a számtalan szempontban, amelyek eljátszanak ebben a témában.

Először is fontos felismerni, hogy nem minden AI önvezető autó egyforma. Minden autógyártó és önvezető technológiai cég alkalmazza a hozzáállását az önvezető autók kidolgozásához. Emiatt nehéz átfogó kijelentéseket tenni arról, hogy az AI-meghajtórendszerek mit fognak tenni vagy nem.

Továbbá, ha azt állítják, hogy az AI meghajtó rendszer nem végez bizonyos dolgokat, ezt később a fejlesztők megelőzhetik, akik valójában erre programozzák a számítógépet. Lépésről lépésre az AI meghajtó rendszereket fokozatosan fejlesztik és bővítik. A meglévő korlátozás ma már nem létezik a rendszer későbbi iterációjában vagy verziójában.

Bízom benne, hogy ez elegendő litániai figyelmeztetést ad ahhoz, hogy alátámasszam azt, amit most el fogok mondani.

Most készen állunk arra, hogy mélyen elmerüljünk az önvezető autók és az etikus mesterséges intelligencia kérdések terén, amelyek magukban foglalják a rejtélyes völgyet.

Az üggyel kapcsolatban négy szempont van, amelyeket itt tárgyalunk:

1. Az önvezető autók összképe

2. Az önvezető autók „kinézetének” kérdése

3. Önvezető autók mesterséges intelligencia vezetési műveletei

4. Robotok, amelyek az önvezető autók elérésének eszközeként vezetnek

További szempontok is életképesek, de a helyszűke miatt ez a négy téma elegendő lesz ahhoz, hogy megvilágítsa a rejtélyes völgy irányát az AI-alapú önvezető autókkal kapcsolatban.

1. Az önvezető autók általános megjelenése

Fogadok, hogy látott már képeket vagy videókat az önvezető autók mai próbatételeiről. Emiatt észrevehette, hogy a legtöbb jármű hagyományos megjelenésű autó, amely további speciális felszerelésekkel van felszerelve. Például lehet egy tetőcsomagtartó, amely egy csomó elektronikus érzékelőt tartalmaz. Az érzékelők között időnként videokamerák, radaregységek, LIDAR eszközök, ultrahangos érzékelők és hasonlók találhatók.

A futurisztikus dizájn azt sugallja, hogy eltérhetünk a hagyományos megjelenésű autóktól, és helyette az autókat mind a belső, mind a külső téren áttervezzük, hogy önellátóbbak legyenek. Jelenleg az az általános elképzelés, hogy egyszerűbb hagyományos autókat használni, és nem pazarolni az energiát azzal, hogy egyidejűleg szokatlan külsejű autókkal bütyköljem a törekvést (ez alól az általános álláspont alól van néhány kivétel, lásd tudósításomat itt: az itt található link).

A lényeg jelenleg az, hogy ha az úton haladunk, és egy közeli önvezető autóval találkozunk, szinte mindig azonnal észrevehetjük, hogy valószínűleg önvezető autóról van szó, ha csupán észreveszi az autonóm járműre szerelt érzékelők töredékét. Ez egy gyors vizuális ajándék. Természetesen nem lehet biztosan tudni, hogy önmagában önvezető, mivel ebben a pillanatban a vezetési kezelőszervek általában még mindig érintetlenek, és egy emberi tartalék sofőr ülhet a volánnál.

Egyfajta gondolkodásmód szerint különösen hasznos, ha az önvezető autók fizikailag látszanak kiemelkedni, és vizuálisan is könnyen észreveszik őket a közeli, ember által vezetett autókban közlekedő sofőrök és a közelben lévő gyalogosok is. Az a felismerés, hogy egy önvezető autó kóborol a közelben, hasznos támpont lehet az éberséghez, és arra késztet, hogy legyen óvatos és figyeljen arra, hogy az MI vezeti vagy vezetheti a járművet.

Tegyük fel, hogy az önvezető autók ugyanolyanok, mint a hagyományos, ember által vezetett autók. Ez reálisan legalább kétféleképpen megvalósítható. Először is, az érzékelők potenciálisan elrejthetők vagy olyan alakúak lehetnek, hogy az alkalmi szemrevételezés során ne legyenek olyan nyilvánvalóak. Másodszor, előfordulhat, hogy minden autót, beleértve a hagyományos, ember által vezetett autókat is, fokozatosan felszerelik a hasonló érzékelőkkel, még akkor is, ha a jármű továbbra is túlnyomórészt ember által vezetett autó marad. Lásd további tudósításomat itt: ez a link itt.

Ha figyelmesen elgondolkodik ezen a megfontoláson, hogy az önvezető autók megjelenésében megegyezhetnek-e a hagyományos, ember által vezetett autókkal, akkor arra a gondolatra juthat, hogy ebben a pörköltben egy rejtélyes völgy lapulhat.

Tudja, az önvezető autóknak látszó autókat úgy lehet jellemezni, mint amelyek egy olyan csomópontban vannak, amely nem messze van a rejtélyes völgytől. Alapvetően „tudod”, hogy ez egy robot vagy egy robot típusú rendszer. Ez egy olyan ítélet, amelyre szinte azonnal ráugorhatsz.

Amikor az önvezető autók ugyanúgy néznek ki, mint az ember által vezetett autók, ez talán azt sugallja, hogy az autonóm járművek robotszerű megjelenésüket tekintve átugrottak a rejtélyes völgyön. Van-e mégis középút a két fizikai megjelenés között, amely a rejtélyes völgybe juttat bennünket?

Talán észrevesz egy önvezető autót az utcán, és úgy tűnik, hogy valószínűleg önvezető autó, másrészt a megjelenés sem nem szigorúan autonóm, sem nem szigorúan embervezérelt. Lehet vitatkozni azzal, hogy az önvezető autó most hátborzongató vagy nyugtalanító állapotban van.

Az önvezető autó látszólag belemerült a rejtélyes völgybe.

Ennek ellenére nem mindenki ért egyet ezzel a kategorizálással. Egyesek azt állítanák, hogy a fizikai megjelenésnek semmi köze a rejtélyes völgyhez. Egyesek természetesen azt is állítják, hogy nincs semmi, amit reálisan neveznének a rejtélyes völgynek.

Amint azt korábban említettük, ezzel kapcsolatban nyugodtan meghozhatja saját döntését.

2. Kérdés, hogy hol keresnek az önvezető autók

Sokakat foglalkoztat az önvezető autókkal kapcsolatban, hogy általában hiányzik belőlük emberi vezető a vezetőülésben, és ezért nehéz kitalálni, hogy a „sofőr” merre néz az autó vezetése közben.

Általában az emberi sofőrökre pillant, hogy kémkedjen, amerre néznek. Például lehet, hogy Ön egy gyalogos a kereszteződésnél, és egy autó közeledik az átkelőhelyhez. Figyelmesen nézi a vezetőülésben ülő személyt, és megpróbálja felismerni, hová fordul a feje, és hová néz a szeme. Ha úgy gondolja, hogy az emberi sofőr látta Önt, kényelmesebben kelhet át az utcán. Ezzel szemben, ha úgy tűnik, hogy az emberi sofőr nem látja Önt, jogosan aggódik az átkelés miatt.

Egyes városokban egyfajta macska-egér gambit uralkodik ezekben a szempontokban. Egy adott városban sajátos kulturális norma lehet, hogy ha szemkontaktust létesítünk egy sofőrrel, a sofőr „győzik”, és látszólag joga van továbbhaladni, függetlenül a vezetési helyzet jogszerűségétől. Más városokban ennek teljesen az ellenkezője lehet, nevezetesen, hogy a kulturális norma az, hogy a szemkontaktus során a gyalogos „győz”, az emberi sofőrnek pedig engedelmeskednie kell a gyalogos cselekedeteinek.

Úgy tűnik, átvettük ezt a szokást az autók városaink és közösségeink közepette való viszonylag hosszú ideje alatt. Az önvezető autók megjelenésével az a probléma, hogy nincs emberi sofőr a vezetőülésben, így a gyalogosok vagy a közelben lévő emberi sofőrök, akik általában az autósok fejét és szemét használják a vezetési szándék kulturális mutatójaként nincs szerencseje; szerencsetlen.

Az autógyártók és az önvezető autók fejlesztői nagyon tisztában vannak ezzel a felmerülő problémával. Az egyik javasolt megoldás az, hogy az önvezető autó villogtatja az autonóm jármű fényszóróit, vagy esetleg dudál. Egy másik elképzelés az, hogy az önvezető autónak van egy hangszóróváltozata, és elmondhatja a közelben lévőknek, hogy mi a „szándékai” az AI-vezetési rendszernek. Ezeknek az elképzeléseknek mindegyikének van jelentős árnyoldala.

Egy másik javaslat azonban azt jelenti, hogy olyasmit kell megtenni, amit elsőre nevetségesnek hinhet. A javaslat abból áll, hogy szemgolyószerű gömböket helyezzenek el az autonóm jármű külsején. Ezek a gömbök nagyjából emberi szemnek tűnnének abban a látszatban, hogy képesek előre-hátra forogni, azonnali jelzést adva, ami azt sugallja, hogy a mesterséges intelligencia „látott téged” (ezt úgy értelmeznéd, hogy a szemgolyó az adott irányba néz). Ezt a megközelítést elemeztem itt az itt található link.

Mi lenne a reakciója, ha látna egy önvezető autót lefelé haladni az úttesten, és a motorháztetőre vagy a háztetőre felszerelni ezeket a hatalmas, furcsa szemgolyókat?

Gondolom, azt gondolhatja, hogy hátborzongató, talán hátborzongató.

Egyesek azt sugallják, hogy a kísérteties abból fakad, hogy az olyan jól felszerelt önvezető autó a rejtélyes völgyben van. Mások hevesen érvelnek amellett, hogy ennek semmi köze a rejtélyes völgyhöz. Az ilyen szakértők közül néhányan azt mondanák, hogy van egy kísérteties, amely lehet kísérteties anélkül, hogy a rejtélyes völgyben kellene megrögzülnie (azaz a rejtélyes völgy látszólag mindig kísértetiességet kelt, de nem minden kísérteties keletkezik kizárólag a rejtélyes völgyön keresztül). A másik szempont az, hogy a gömböket feltehetően úgy tervezték meg, hogy kevésbé nézzenek ki szemgolyót, és inkább robotszerűnek tűnjenek, vagy hogy mindannyian elkerülhetetlenül elfogadjuk ezeknek a gömböknek a megjelenését, és a kezdeti megdöbbentő reakció alábbhagy.

3. Az önvezető autók mesterséges intelligencia vezetési tevékenységei

Az önvezető autók mai tesztelései közül sok bebizonyította, hogy a meglévő mesterséges intelligencia vezetési rendszereket általában úgy programozzák, hogy meglehetősen langyos és kissé szigorú törvényi módokon vezessenek. Az AI vezetési rendszer általában teljesen megállítja az önvezető autót a Stop tábláknál. A mesterséges intelligencia vezetési rendszere nem hajt végre merész futást a kereszteződéseken, amikor a közlekedési jelzés hamarosan pirosra vált. Ezek az önfejű vezetési gyakorlatok az emberi sofőrök hatáskörébe tartoznak.

Mondhatni szinte sejteni lehetett, hogy az önvezető autó a bemutatott vezetési stílus alapján önvezető autó. Még akkor is, ha az autonóm jármű vizuálisan egy hagyományos, ember által vezetett autónak tűnik, megfigyelheti a vezetési műveleteket, és logikusan arra következtethet, hogy valószínűleg egy mesterséges intelligencia-rendszer vezeti.

Egyesek úgy vélik, hogy a mesterséges intelligencia vezetési rendszereit olyanná kell tennünk, hogy jobban hasonlítsanak az emberi járművezetők bohóckodásaihoz, hogy hatékonyan beleolvadjanak a vezetés normatív megközelítésébe. Gondolom, ezt úgy is felfoghatod, mint a tüzet tűzzel.

Van ennek értelme?

Legyen tudatában annak, hogy a szókimondó szkeptikusok és kritikusok irtóznak az ötlettől. Erősen vitatkoznának amellett, hogy azt akarjuk, hogy az AI-vezetőrendszerek megfelelően és óvatosan működjenek. Potenciálisan önvezető autók millióinak hozzáadása az utakra, amelyek úgy vannak beprogramozva, hogy olyanok legyenek, mint a tévelygő emberi sofőrök, óriási rémálomnak tűnne. Ezt a vitatott javaslatot itt tárgyaltam az itt található link.

Fogalmazzuk meg újra a dilemmát a rejtélyes völgy kihasználásával.

Amikor a mesterséges intelligencia vezetési rendszere szigorúan legális a vezetési tevékenységei miatt, ez talán árulkodó nyom, hogy valószínűleg robotrendszerről van szó (annak ellenére, hogy az emberi vezetők bevallottan megteszik ezt, bár a mai világban távolinak tűnnek a kettő között). Ha a mesterséges intelligencia vezetési rendszerei olyan furcsa módon vezetnek, mint az emberi sofőrök, akkor ez átugrik a rejtélyes völgyön, vagy beleesik a rejtélyes völgybe?

Gondold át ezt.

4. Robotok, amelyek önvezető autók elérésének eszközei

Ez az utolsó elem a legmegdöbbentőbb a négy közül.

Lehet, hogy egyáltalán nem tud arról, hogy egyes mesterséges intelligencia-fejlesztők olyan robotokat próbálnak létrehozni, amelyek autókat vezetnének. A robot több szempontból is emberre hasonlít, robotlábai és robotkarjai lehetnek a végtagjai. Ha azt szeretné, hogy bármely hagyományos, ember által vezetett autó önvezető autó legyen, egyszerűen csak helyezze be ezt a speciális mesterséges intelligencia-vezető robotot az autó vezetőülésébe. Lásd a fogalom elemzését itt: az itt található link.

Miért akarunk vezető robotokat?

Egy ilyen robot szépsége abban rejlik, hogy az összes mai ember által vezetett autó bizonyos értelmezés szerint önvezető autóvá válhat, szinte egyik napról a másikra. Egyszerűen vesz, lízingel vagy szerez magának egy vezetőrobotot. A robotot a vezetőülésbe kell helyezni, amikor vezetési útra indul. A robot elviszi a célodhoz. Ha embervezetésre szeretne váltani, vegye ki a robotot a járműből, esetleg a csomagtartóba rakja be későbbi használatra.

Ma körülbelül 250 millió hagyományos autó van az Egyesült Államokban. Egyesek úgy vélik, hogy az önvezető autók megjelenésével ezek végül tönkremennek. Ahelyett, hogy ezeket a hagyományos autókat tönkretennénk, talán megpróbálhatnánk utólag önvezető autókká alakítani őket, bár ez valószínűleg meglehetősen költséges ötlet. A látszólag körültekintőbb megközelítés a vezetőrobotok elérhetővé tétele lenne.

Ha látna egy hagyományos kinézetű autót jönni a környékbeli utcákon, és egy robot lenne a volánnál, mi lenne a reakciója?

Valószínű kísérteties.

Az egyik vitatható állítás az, hogy ez a kísérteties annak tudható be, hogy a hagyományos autót vezető robot lemerül a híres vagy hírhedt, rejtélyes völgybe.

Következtetés

Az etikus mesterséges intelligencia szemszögéből nézve a rejtélyes völgy egy érdekes rejtvényt mutat be.

Vannak az AI-ban, akik teljes mértékben hisznek a rejtélyes völgyben, és vannak, akik nem. De akár hiszel a rejtélyes völgyben, akár nem, maga a téma mégis körbejárható. Nem rejtheti el a fejét, és nem tehet úgy, mintha maga a konstrukció nem létezne. A konstrukció mint ötlet él, és bizonyos látszat szerint vírusosan erős. Gyűlöld vagy szeresd, az átkozott vagy talán magasztos téma továbbra is fennáll.

Korábbi diskurzusom szerint a rejtélyes völgy érdemeiről a mesterséges intelligencia etikája szempontjából, a szerelem és a gyűlölet párbaj viszonya van benne. Az etikus mesterséges intelligencia birodalmában élők elfogadják-e a rejtélyes völgyet, vagy röviden elutasítják a rejtélyes völgyet, vagy maradjanak valamelyest semlegesek az igazságot illetően, és ehelyett a vele kapcsolatos, folyamatosan eltérő hiedelmek miatt felhalmozódó hatásra összpontosítsanak.

Ez a kihívás felveti a kiváló közgazdászt, Adam Smitht, amint egyszer azt mondta (parafrazálva), hogy a szkepticizmus városából induló úton át kell haladni a kétértelműség völgyén.