A Meta AI bemutatta az AI-vel átitatott diplomáciai varázslót, amely a mesterséges intelligencia etikáját és a mesterséges intelligencia törvényeit a kényes tiffbe keveri

A báj és a diplomácia megbecsült világát gyakran rontja a kénytelenség és az udvariatlanság.

Will Rogers, a nagy humorista és társadalmi kommentátor híresen mondta, hogy a diplomácia az a művészet, amikor azt mondjuk: „Szép kutyus”, amíg nem találsz egy sziklát.

A látszólagos következmény az, hogy néha határozottan vissza kell tartania a fenyegető és veszélyeztető erőket, amíg nem talál megfelelő védhető megoldást. Tedd meg, amit tenned kell, amikor kétségbeesett helyzetben vagy. Szándékosan és céltudatosan csillapítsa meg azokat, akik veszélybe sodorják Önt, használva megnyugtató és elbűvölő szavait, értékes időt gyűjtve arra, hogy gyakorlatiasabb és nyilvánvalóan kézzelfoghatóbb állásponttal vértezze fel magát.

REKLÁM

Egyesek azt állítják, hogy a háború elválaszthatatlanul a sikertelen diplomácia következménye. Ebben a megfontolt nézőpontban a diplomácia állandó dobpergése elkerüli a háborút. Beszélj tovább, és a harc nem indul el. Mások hevesen nem értenek egyet egy ilyen problémás véleménnyel kapcsolatban. Azt mondják, talán a diplomácia az, ami háborúkba visz bennünket. Ráadásul az is lehet, hogy a diplomácia háborúkat terjeszt ki, és végtelenül folytatja a harcokat.

Még egy esélyt adunk Will Rogersnek, hogy megízlelje a humort abból a kérdésből, hogy a diplomácia jó vagy rossz-e a háború megjelenését vagy folytatását illetően: „Vegye ki a diplomáciát a háborúból, és a dolog egy hét alatt tönkremegy” állítólag bejelentették).

A diplomácia általános definíciója a nemzetek közötti kapcsolatokat hangsúlyozza. A diplomaták bizonyos nemzeteket vagy nemzetállamokat képviselnek, és megszentelt feladataik teljesítése során diplomáciát gyakorolnak. Elvárjuk diplomatáinktól, hogy külpolitikai közvetítésüket aplomb használatával végezzék. Nem a hírnök lehet az, amely ellenségeskedést vált ki, csak az üzenet teheti ezt. A legkirívóbb üzenetek feltehetően hibátlan diplomatikus ábrázolása is bizonyíthatóan tompíthatja az egyébként ártalmas követelésből vagy fenyegetésből fakadó csapást.

REKLÁM

Természetesen a diplomácia nem korlátozódik csupán a formalizált diplomaták magasztos munkájára. Bátran merem állítani, hogy mindennapi életünkben mindannyiunknak be kell iktatnia a diplomácia látszatát. Ha azt szeretné, hogy egy barátja vigyázzon szeretett kutyájára, miközben Ön üzleti úton van, akkor minden bizonnyal diplomatikusan megfogalmazza azt a kérést, hogy vigyázzon a kutyára. Ha ezt egyenesen követelik, akkor valószínűleg tompa puffanással ér véget.

Mivel valószínűleg inkább művészet, mint tudomány, a diplomácia olyasvalami, amit az emberek a csúszótalpak megkenésére, a lámpák égve tartására használják, és megakadályozzák, hogy a társadalom teljesen megvaduljon. Jöhetnek a tárgyalások. Lehet, hogy meg kell nyugtatni. Néha a sárgarépát használod, néha a botot. Ha ezt meg kell tennie, próbálkozhat az úgynevezett fegyveres diplomáciával, amellyel megpróbálja megfélemlíteni a körülötte lévőket. Vagy az erős felfegyverzés helyett a lágyabb közvetítői és humanitárius utat választod. Minden attól függ.

Oké, tehát ésszerűen egyetértünk abban, hogy a diplomácia az ember-ember közötti kommunikáció létfontosságú formája. Ez a tapintat alkalmazásához, a közvetítéshez, a tárgyalásokhoz, a megbékéléshez és a társadalmilag ügyes politizáláshoz kapcsolódó gyakorlatból vagy színpadi mesterségből áll.

REKLÁM

Adjunk hozzá még valamit ehhez az egyenlethez.

Készen állsz?

Hozzá fogunk tenni még valamit, amit talán még fontolóra vett.

Mesterséges intelligencia (AI).

Igen, a mesterséges intelligencia beszáll a diplomácia gambitjába. Ez teljesen ésszerűnek tűnik. Ha azt akarjuk, hogy a mesterséges intelligencia elmerüljön életünk minden területén, végül a diplomáciának kellett sorra kerülnie. Arra számíthatunk, hogy a mesterséges intelligencia a megfelelő szavak és diplomáciai modorok használatával bármilyen feladatot el tud majd látni.

REKLÁM

Az AI mint autonóm vagy félautonóm diplomata.

Tudom, hogy ez meglehetősen ijesztőnek és teljesen ijesztőnek tűnhet. Nem hiszem, hogy egyikünk sem áll készen arra, hogy a mesterséges intelligencia az adott ország képviselőjeként jelenjen meg. Képzelje el, hogy a mesterséges intelligencia a nevünkben szolgál, hogy megtárgyalja nemzetközi álláspontjainkat, és megerősítse globális politikai álláspontunkat. Jajj! Ez az apokaliptikus sci-fi történetek dolga.

Nos, lélegezz egy pillanatra megkönnyebbülten, mert ez egyelőre nincs benne a kártyákban.

Ehelyett gondoljon a mesterséges intelligenciára, amellyel banki ügyeit intézi, vagy amely segít a lakásvásárlásban. A mai mesterséges intelligencia, amely kölcsönhatásba lép az emberekkel, általában meglehetősen egyszerű. Térj rá a tényekre, csak a tényekre. Némelyik mesterséges intelligencia aranyos szövegezéssel lett megfestve, hogy azt higgye, hogy ez barátságos vagy haver, bár ez hamar átlátszik. Csak azért, mert egy mesterséges intelligencia rendszer a nevén hivatkozik rád, vagy olyan szavakat bocsát ki, mint a „hello” helyett, a legtöbbünk azonnal rájön, hogy ez egy színjáték.

A következő lépés, amelyet a mesterséges intelligencia fejlesztőinek csarnokaiban buzgón követnek, az, hogy megpróbáljunk diplomáciai jellemzőket beilleszteni mindennapi mesterséges intelligenciába. Az átfogó cél a programozási szempontok beépítése, amelyek révén a mesterséges intelligencia diplomáciát és diplomáciai viselkedést mutat be. Különféle algoritmusok, és különösen a generatív mesterséges intelligencia vagy a nagy nyelvi modellek (LLM) legújabb verzióinak felhasználásával jelentős előrelépés történt ezen a területen.

REKLÁM

Vessünk egy pillantást egy ilyen példára, a CICERO-ra, a Meta AI csapata által kiadott új AI rendszerre.

Abban az esetben, ha éppen vakáción volt, és nem értette volna a legfrissebb híreket a mesterséges intelligenciával kapcsolatban, a CICERO néven megalkotott mesterségesintelligencia-rendszer közelmúltbeli bejelentése és bemutatása jelentős útbaigazítást kínál arra vonatkozóan, hogy hol található manapság a mesterséges intelligenciával átitatott diplomáciai aréna. A Meta AI csapata megfontoltan és jó hírnevére nyíltan elérhetővé tette kifejlesztett CICERO AI rendszerét. A technikai részleteket egy közzétett kutatási cikkben olvashatja TudományLásd: az itt található link. Látogassa meg az általuk létrehozott webhelyet, hogy finoman közvetítse a CICERO általános árnyalatait rövid videoklipekkel, amelyek illusztrálják a működését (lásd az itt található link). Azok számára, akik fejjel lefelé tényleges programkódot és szoftvert keresnek, megtalálhatják a forráskódot a GitHubon a következő címen: az itt található link.

Szeretnék gyorsan tisztázni egy olyan szempontot, amely zavarónak tűnhet, ha úgy dönt, hogy elmélyül ebben az ügyben.

A Meta AI által kifejlesztett speciális mesterséges intelligencia rendszert jelenleg úgy állítják be, hogy egy kissé népszerű játékkal játsszon Diplomácia (talán láttad a társasjátékot a Hasbro és más játékkészítők szerint). Azért hozom fel ezt, mert a „diplomácia” szónak kettős kötelessége lesz ebben a helyzetben. Egyrészt a kitalált mesterséges intelligencia megpróbálja átitatni a vállalkozás és a megjelenítés jellemzőit diplomácia önmagában. Eközben ez a bizonyos mesterséges intelligencia rendszer akkor játszódik le, amikor kifejezetten és csak (jelenleg) a híres társasjátékkal játszunk. Diplomácia.

Látod, hogy ez mennyire megzavarhat néhány embert?

Ha valaki azt mondja neked, hogy ez a bizonyos mesterséges intelligencia nagyon jól teljesít a „diplomáciában”, akkor bizonytalan lehetsz abban, hogy arra a felfogásra utal-e, hogy a mesterséges intelligencia elég jártas az úgynevezett társasjátékban. Diplomácia vagy talán ehelyett azt sugallják, hogy az MI testesíti meg az emberiség diplomáciai cselekedetéhez kapcsolódó alapvető lényeget. Ráadásul az is lehet, hogy mindkét oldalt egyszerre értjük (az AI jól játszik Diplomácia és egyúttal jól teljesít a diplomácia mint készség vagy tett gyakorlásában vagy bemutatásában).

REKLÁM

Itt megpróbálom pontosítani ezt úgy, hogy az első betűt nagybetűvel írom, és dőlt betűvel mutatom a társasjáték nevét, Diplomácia. A hátralévő időben a „diplomácia” nem dőlt betűs szóhasználatát fogom használni a diplomáciai lét vagy a diplomácia bemutatásának általános felfogásának jelzéseként (lásd, éppen ezt tettem ott).

Visszatérve a szóban forgó témához, elgondolkodhat egy pillanatig, hogy a diplomáciát mutató mesterséges intelligencia olyan dolog-e, amire vágynunk kell, vagy inkább kerülnünk kell.

Számos pozitív oldala van annak, hogy a mesterséges intelligencia a diplomácia bemutatására késztessen. Bár egy sekély buborékban élne, ha azt feltételezné, hogy a mesterséges intelligencia diplomácia megvalósítása teljesen és kizárólag jó dolog lesz. A mesterséges intelligencia, amely úgy tűnik, rendelkezik diplomáciai képességekkel, és elhitetheti velünk, hogy rendelkezik diplomáciával, szintén tele van aggasztó problémákkal, amelyeket előtérbe kell helyeznünk. Lényegében az ilyen módon használt mesterséges intelligencia rengeteg AI etikai és mesterséges intelligencia jogi kérdést vet fel. Azok számára, akiket érdekel a mesterséges intelligencia etika és a mesterséges intelligencia törvénye, vessen egy pillantást az etikus mesterséges intelligencia és a mesterséges intelligencia törvényéről szóló kiterjedt és folyamatos tudósításomra: az itt található link és a az itt található link, csak hogy néhányat említsek.

Mielőtt belevágnék a mesterséges intelligenciába, mint a diplomácia valamilyen formájának megtestesítőjébe, először szeretnék néhány alapvető alapot lefektetni a mesterséges intelligencia, különösen a mesterséges intelligencia etikájával és az AI-joggal kapcsolatban, hogy megbizonyosodjak arról, hogy a vita kontextuálisan ésszerű lesz.

REKLÁM

Az etikus mesterséges intelligencia és a mesterséges intelligencia törvényének növekvő tudatossága

A mesterséges intelligencia közelmúltbeli korszakát eleinte annak tekintették AI For Good, ami azt jelenti, hogy az AI-t az emberiség jobbá tételére használhatjuk. A sarkán AI For Good jött a felismerés, hogy mi is elmerültünk AI For Bad. Ide tartozik az olyan mesterséges intelligencia, amelyet megkülönböztetővé alakítottak ki vagy alakítottak át, és számítási döntéseket hoz, amelyek indokolatlan torzításokat hordoznak magukban. Néha az AI így épül fel, míg más esetekben arra a kellemetlen területre kanyarod.

Szeretnék megbizonyosodni arról, hogy egy oldalon vagyunk a mai mesterséges intelligencia természetével kapcsolatban.

Ma nincs olyan mesterséges intelligencia, amely érző lenne. Nálunk ez nincs. Nem tudjuk, hogy az érző mesterséges intelligencia lehetséges lesz-e. Senki sem tudja pontosan megjósolni, hogy elérjük-e az érző MI-t, és azt sem, hogy az érző mesterséges intelligencia valamilyen csodálatos módon spontán módon létrejön-e számítógépes kognitív szupernóva formájában (általában szingularitásnak nevezik, lásd tudósításomat itt: az itt található link).

A mesterséges intelligencia azon típusa, amelyre fókuszálok, a mai nem érző MI-ből áll. Ha vadul akarnánk spekulálni az érző mesterséges intelligencia kapcsán, akkor ez a vita gyökeresen más irányba haladhat. Egy érző mesterséges intelligencia állítólag emberi minőségű lenne. Figyelembe kell vennie, hogy az érző mesterséges intelligencia az ember kognitív megfelelője. Sőt, mivel egyesek feltételezik, hogy szuperintelligens AI-val rendelkezünk, elképzelhető, hogy az ilyen mesterséges intelligencia végül okosabb lesz, mint az emberek (a szuperintelligens AI lehetőségének feltárásához lásd a tudósítás itt).

REKLÁM

Nyomatékosan javaslom, hogy tartsuk a dolgokat a földön, és vegyük figyelembe a mai számítástechnikai, nem érző MI-t.

Vegye észre, hogy a mai mesterséges intelligencia nem képes az emberi gondolkodással egyenrangú módon „gondolkodni”. Amikor Alexával vagy Sirivel kommunikál, a társalgási képességek hasonlónak tűnhetnek az emberi képességekhez, de a valóság az, hogy számítási jellegű, és hiányzik az emberi megismerés. A mesterséges intelligencia legújabb korszaka széles körben alkalmazta a gépi tanulást (ML) és a mély tanulást (DL), amelyek kihasználják a számítási mintaillesztést. Ez olyan mesterséges intelligencia-rendszerekhez vezetett, amelyek emberszerű hajlamokat mutatnak. Eközben manapság nincs olyan mesterséges intelligencia, amely a józan észnek látszana, és az emberi gondolkodás kognitív csodáiból sem.

Legyen nagyon óvatos a mai mesterséges intelligencia antropomorfizálásával.

Az ML/DL a számítási mintaillesztés egyik formája. A szokásos megközelítés az, hogy egy döntési feladatról adatokat gyűjt össze. Az adatokat betáplálja az ML/DL számítógépmodellekbe. Ezek a modellek matematikai mintákat keresnek. Miután megtalálta az ilyen mintákat, ha igen, az AI rendszer ezeket a mintákat fogja használni, amikor új adatokkal találkozik. Az új adatok bemutatásakor a „régi” vagy történelmi adatokon alapuló mintákat alkalmazzák az aktuális döntés meghozatalához.

Azt hiszem, sejtheti, hová vezet ez. Ha az emberek, akik a mintaszerű döntéseket hozták, nemkívánatos elfogultságokat alkalmaztak, akkor valószínű, hogy az adatok ezt finom, de jelentős mértékben tükrözik. A Machine Learning vagy a Deep Learning számítási mintaillesztés egyszerűen megpróbálja matematikailag utánozni az adatokat ennek megfelelően. A mesterséges intelligencia által kialakított modellezésben önmagában semmi sem látszik a józan észnek vagy más érző szempontoknak.

REKLÁM

Továbbá előfordulhat, hogy az AI-fejlesztők sem tudják, mi történik. Az ML/DL rejtélyes matematikája megnehezítheti a mára rejtett torzítások kiszűrését. Joggal remélhető és elvárható, hogy a mesterséges intelligencia fejlesztői teszteljék a potenciálisan eltemetett torzításokat, bár ez bonyolultabb, mint amilyennek látszik. Jó esély van arra, hogy még viszonylag kiterjedt tesztelés mellett is lesznek torzítások az ML/DL mintaillesztési modelljeibe.

Használhatná némileg a híres vagy hírhedt közmondást, a szemetet a szemét kiszállításáról. A helyzet az, hogy ez inkább a torzításokhoz hasonlít, amelyek alattomos módon beszivárognak az AI-ba merülő torzítások miatt. Az AI algoritmus-döntéshozatala (ADM) axiomatikusan megterhelődik egyenlőtlenségekkel.

Nem jó.

Mindez különösen jelentős AI etikai vonatkozásaival rendelkezik, és praktikus ablakot kínál a levont tanulságokba (még mielőtt az összes lecke megtörténne), amikor a mesterséges intelligencia törvénybe iktatásáról van szó.

REKLÁM

A mesterséges intelligencia etikai előírásainak általános alkalmazása mellett felvetődik az a kérdés, hogy kellene-e törvények szabályozni az AI különféle felhasználásait. Szövetségi, állami és helyi szinten új törvényeket kötnek ki, amelyek a mesterséges intelligencia kidolgozásának körét és jellegét érintik. Az ilyen törvények kidolgozására és elfogadására irányuló erőfeszítések fokozatosak. A mesterséges intelligencia etika legalábbis megfontolt állomásként szolgál, és bizonyos mértékig bizonyos mértékig közvetlenül beépül az új törvényekbe.

Legyen tudatában annak, hogy egyesek határozottan azzal érvelnek, hogy nincs szükségünk az AI-t lefedő új törvényekre, és a meglévő törvényeink elegendőek. Előre figyelmeztetik, hogy ha bevezetünk néhány ilyen mesterséges intelligencia-törvényt, akkor megöljük az aranylibát azáltal, hogy visszaszorítjuk a mesterséges intelligencia fejlődését, amely óriási társadalmi előnyöket kínál.

Az előző rovatokban bemutattam az AI-t szabályozó törvények kidolgozására és elfogadására irányuló különféle nemzeti és nemzetközi erőfeszítéseket, ld. az itt található link, például. Kitértem a különféle nemzetek által azonosított és elfogadott különféle mesterséges intelligencia-etikai elvekre és irányelvekre is, beleértve például az Egyesült Nemzetek erőfeszítéseit, mint például az UNESCO mesterségesintelligencia-etikai készletét, amelyet közel 200 ország fogadott el, lásd az itt található link.

REKLÁM

Íme egy hasznos kulcslistája az AI-rendszerekre vonatkozó etikus AI-kritériumokról vagy -jellemzőkről, amelyeket korábban alaposan megvizsgáltam:

• Átláthatóság
• Igazságosság és méltányosság
• Nem rosszindulat
• Felelősség
• Adatvédelem
• Jótékonyság
• Szabadság és autonómia
• Bízzon
• Fenntarthatóság
• Méltóság
• Szolidaritás

A mesterséges intelligencia fejlesztőinek komolyan kellene használniuk ezeket a mesterséges intelligencia etikai elveit, valamint azokat, amelyek irányítják az AI-fejlesztési erőfeszítéseket, és még azokat is, amelyek végső soron az AI-rendszerek karbantartását és karbantartását végzik.

Az összes érdekelt fél a mesterséges intelligencia fejlesztésének és használatának teljes életciklusa során beletartozik az etikus mesterséges intelligencia elfogadott normáihoz. Ez egy fontos kiemelés, mivel a szokásos feltevés az, hogy „csak a kódolók” vagy az AI-t programozók kötelesek betartani az AI etikai elveit. Amint azt korábban hangsúlyoztuk, egy falura van szükség a mesterséges intelligencia kidolgozásához és használatához, és ehhez az egész falunak ismernie kell a mesterséges intelligencia etikai előírásait, és be kell tartania azokat.

REKLÁM

Nemrég megvizsgáltam a AI Bill of Rights amely a Hivatalos Tudományos és Technológiai Politikai Hivatal (OSTP) egy éves erőfeszítésének eredményeként létrejött „Blueprint for an AI Bill of Rights: Makeing Automated Systems Work for the American People” című amerikai kormány hivatalos dokumentumának hivatalos címe. ). Az OSTP egy szövetségi szervezet, amely tanácsokat ad az amerikai elnöknek és az Egyesült Államok végrehajtó hivatalának különféle nemzeti jelentőségű technológiai, tudományos és mérnöki vonatkozásban. Ebben az értelemben azt mondhatjuk, hogy ez az AI Bill of Rights egy dokumentum, amelyet az Egyesült Államok jelenlegi Fehér Háza hagyott jóvá és hagyott jóvá.

Az AI Bill of Rights öt kulcskategóriát különböztet meg:

• Biztonságos és hatékony rendszerek
• Algoritmikus megkülönböztetés elleni védelem
• adatvédelem
• Figyelmeztetés és magyarázat
• Emberi alternatívák, mérlegelés és visszaesés

Gondosan átnéztem ezeket az előírásokat, lásd az itt található link.

REKLÁM

Most, hogy hasznos alapot fektettem le ezeken a kapcsolódó mesterségesintelligencia-etika és AI-jog témakörökön, készen állunk, hogy belevágjunk a mesterséges intelligenciával átitatott, gépi alapú diplomácia mámorító témájába.

A mesterséges intelligencia diplomácia teljes dicsőségében és egyben potenciális bukása is

Először is állapítsuk meg, hogy az itt vizsgált mesterséges intelligencia nem érző MI.

Ezt azért mondom, mert ha, vagy egyesek azt mondják amikor Ha elérjük az érző mesterséges intelligenciát, az egész téma valószínűleg teljesen felborul. Képzeld el azt a potenciális káoszt és társadalmi zűrzavart, amiért valamilyen módon az egyébként soha nem látott, megkérdőjelezhetetlenül igazolt helyzetbe került. mesterséges az érzéket megtestesítő intelligencia (az AI Turing-teszt néven ismert híres tesztjének elemzéséhez ld. az itt található link). Megfontolt fogadást köthetsz arra, hogy a meglévő kulturális, jogi és mindennapi normáink jelentős része mélyrehatóan megrendül.

Talán az érző MI lesz a barátunk, vagy talán az érző MI lesz a legrosszabb ellenségünk. Hogyan fogjuk tudni megmondani, hogy az AI milyen irányba halad?

Lehetséges, hogy azt sugallja, hogy feltehetőleg képesek leszünk beszélni az MI-vel, és kitalálni, hogy mit mond, milyen szándékai vannak benne. Aha, elkeserítő csapdába esett. Tegyük fel, hogy a mesterséges intelligencia különösen jól átitatott valamilyen MI-diplomáciai képességgel. Amikor megpróbál beszélni az MI-vel, talán a legbájosabb és legékesebb szavakkal fog beszélni. Ez nagyon megnyugtató lehet az emberiség számára.

REKLÁM

De vajon tényleg erre gondol az AI az AI-alapú számítási szándékaival kapcsolatban?

Lehet, hogy a mesterséges intelligencia a klasszikus diplomáciai egy-két ütést hajtja végre. Beszélgess egy jó játékot, és ébresszen el bennünket abban a hitben, hogy a mesterséges intelligencia a legjobb barátunk. Ez talán időt ad az MI-nek, hogy erőforrásokat gyűjtsön az emberiség utoléréséhez, vagy esetleg szorgalmasan dolgozzon a színfalak mögött, hogy aláásson minden mást, amit az emberiség fenntartására használunk. Az okos diplomáciai kiállás után a mesterséges intelligencia mindannyiunkat kiráz.

Emlékezzen arra, amit Will Rogers mondott, ami ebben az esetben az lehet, hogy a mesterséges intelligencia azt mondja nekünk: „Szép kutyus”, és elegendő légzési teret adunk az MI-nek, hogy aztán eltüntessen minket a bolygóról. A mesterséges intelligencia mint egzisztenciális kockázat fogalma már régóta körbejárja. Egyesek úgy vélik, hogy ha a mesterséges intelligenciát átitatott diplomáciával dolgozzuk ki, snooker-ba kerülünk. A mesterséges intelligencia okosan fogja használni az összes beszippantott diplomáciai cuccot, amelyre mi segítettünk a mesterséges intelligenciát képezni, és a végén vakon becsapnak minket, hogy a mesterséges intelligencia a mi urainkká váljon.

Szégyen ránk nézve.

Azok számára, akiket tovább érdekel a futurisztikus mesterséges intelligencia ezen rendkívül spekulatív terepe, tekintse meg az AI mint egzisztenciális fenyegetés perspektíváiról szóló tudósításomat itt: az itt található link.

REKLÁM

Visszatérve a földre, ezentúl hangsúlyozom a mesterséges intelligenciával átitatott diplomácia útját a létező nem érző mesterséges intelligencia területén.

Végezzünk egy kis történelemkövetést.

Az AI kezdete óta folynak kísérletek olyan mesterséges intelligencia kidolgozására, amely valamilyen módon megtestesíti a diplomácia és a diplomáciai viselkedés számítási ízét. Könnyen visszamehet az 1950-es, 1960-as és 1970-es évekbe, és olyan alapkutatási tanulmányokat találhat, amelyek szívesen alkalmazták az AI-t ezen a területen. Néhányan úgy gondolták, hogy a játékelmélet a kulcs. Mások a pszichológiára és a kapcsolódó kognitív elemekre összpontosítottak. Mások megpróbálták kihasználni a közgazdaságtant, az operatív kutatásokat és számtalan relevánsnak tűnő területet.

A kezdeti virágkor az 1980-as években következett be. Abban az időben az egyik domináns megközelítés az Expert Systems (ES) vagy a Knowledge-Based Systems (KBS) használatából állt a diplomáciához kapcsolódó mesterséges intelligencia rendszerek létrehozására. Az eredmény meglehetősen durva volt, és inkább azt mutatta, milyen nehéz feladat lesz ez.

REKLÁM

A kezdeti vizsgálat e korszaka során az egyik legmélyebb rejtély egy olyan szilárd platform szükségessége volt, amelyen vagy amelyen belül egy olyan mesterséges intelligencia, amely állítólag képes valamilyen diplomáciával kapcsolatos módon teljesíteni, megfelelően tesztelhető és feltárható. Ez az igény talán nyilvánvaló. Ha valaki meg akarja állapítani, hogy egy ember vagy egy mesterséges intelligencia gyakorolhat-e diplomáciát, akkor ehhez a küldetéshez megfelelő környezetet kell kialakítani.

Ebbe a képbe jön a társasjáték Diplomácia.

Rájöttem, hogy a társasjáték Diplomácia szinte nem olyan jól ismert, mint a monopólium, Kockázatvagy stratégia (Valószínűleg hallottál már ezekről a játékokról). Ennek ellenére létezik egy stratégiai társasjáték, az ún Diplomácia amelyet először 1954-ben dolgoztak ki, és 1959-ben adták ki kereskedelmi forgalomba. Amellett, hogy szemtől szemben játszották, Diplomácia a játékot gyakran csigapostán keresztül játszották. Felírnád a lépéseidet egy papírra, és elküldenéd a lapot azoknak, akik ellen játszottál. Elég őrültség elképzelni manapság. Később az e-mailt használták. Végül a játék online elérhetővé vált, és lehetővé tette a játékosok számára, hogy valós időben vegyenek részt egymással.

Esetén Diplomácia A játék elérhetővé vált a mikroszámítógépeken, az AI-specialisták elkezdték használni a játékot praktikus eszközként a mesterséges intelligenciával átitatott diplomácia-koncepcióik tesztelésére. Az Diplomácia A játék PC-n futó alkalmazásként volt elérhető, így az ember is játszhatott a gép (azaz a kitalált mesterséges intelligencia) ellen. AI az 1990-es években, amelyet játékra írtak Diplomácia köztudottan lassú, rejtélyes volt, és szinte minden minimálisan hozzáértő játékot játszó ember könnyedén legyőzte.

REKLÁM

Íme egy 1999-es áttekintés Diplomácia ahogyan a Yahoo-n közzétették, amely élénken leírta az AI-val átitatott diplomáciai képesség szomorú állapotát, mint emberi játékos ellenfél:

• "Azonban, DiplomáciaA legszembetűnőbb probléma az, hogy a játékban lévő mesterséges intelligencia teljesen szörnyű. Bármilyen képzettségi szintű játékosnak semmi gondja nem lesz bálnavadászni a számítógépen még a legmagasabb nehézségi fokozaton sem. A győzelem egyszerűen idő és türelem kérdése a felülettel kapcsolatban. Nem mintha a számítógép nem tervez a hátad mögött – igen, és gyakran összefog szövetségesekkel, hogy elvigyenek tőled egy-két területet –, de az ilyen sémák zökkenőmentesen jönnek, nem pedig folyamatos vagy különösképpen. kihívást jelentő fenyegetés.”

A mesterséges intelligencia tervezésének egyik különösen bosszantó gyengesége az volt, hogy úgy tűnt, nem volt képes egyszerre több lépést vagy stratégiát kiszámítani: „És alaposabb szinten úgy tűnik, hogy a számítógép nem képes több stratégiai lépés kezelésére. Míg egy emberi játékos egyszerre indíthat támadást Görögország és Belgium ellen, úgy tűnik, hogy a számítógép egyszerre csak egy dologra összpontosít. Emiatt a számítógép egyszerűen nem tud versenyezni egy emberi játékossal” (uo.).

Még nem magyaráztam el, hogy mi az Diplomácia társasjáték áll, ezért szánjunk egy percet az alapszabályok megállapítására.

Van egy hasznos kutatási cikk az AI-ról és a játékról Diplomácia amely tömören leírja a játék természetét: „A játék Európa 1901-es térképén játszódik, amely 75 tartományra oszlik. Minden játékos az akkori hét nagyhatalom valamelyikével játszik: Ausztria (AUS), Anglia (ENG), Franciaország (FRA), Németország (GER), Olaszország (ITA), Oroszország (RUS) és Törökország (TUR) három vagy négy egységgel (hadsereggel vagy flottával) kezdődik, amelyeket rögzített kezdeti pozíciókban helyeznek el a térképen. A játék minden fordulójában minden játékosnak „parancsot kell leadnia” minden egységére, amely megmondja az egységeknek, hogyan mozogjanak a térképen, és lehetővé teszi számukra, hogy meghódítsák a térkép tartományait” (Dave de Jonge, Tim Baarslag, Reyhan Aydogan , Catholijn Jonker, Katsuhide Fujita és Takayuki Ito, „The Challenge of Negotiation In The Game Of Diplomacy”, Megállapodási technológiák: 6. Nemzetközi Konferencia, 2018)

REKLÁM

A nyerés és a játék elvesztésének módjairól is tudni kell: „A tartományok egy része ún. Ellátási Központok a játékosok célja pedig az, hogy meghódítsa azokat az Ellátóközpontokat. Egy játékos kiesik, ha elveszíti az összes Ellátó Központját, és egy játékos akkor nyeri meg a játékot, ha a 18 utánpótlási központ közül legalább 34-at meghódított (egyedüli győzelem). A játék azonban akkor is véget érhet, ha az összes túlélő játékos döntetlenre állapodik” (uo.).

Bízom benne, hogy ezt látod Diplomácia egy egyszerű játék, amelyben legfeljebb hét játékos vesz részt, akik megpróbálják stratégiailag felülmúlni egymást. A manőverezés során a játékosok tanácskozhatnak egymással, anélkül, hogy a többi játékos tudná, mire készül. A diplomácia aktusa azáltal kerül előtérbe, hogy más játékosokat is rá tud venni a terveire. Lehet, hogy felfedi valódi terveit, de lehet, hogy nem. Lehet, hogy hamis terveket ajánl. Lehet tárgyalni más játékosokkal. Megtévesztheti a többi játékost. Szövetséget köthet más játékosokkal. Stb.

Szerelemben és háborúban minden igazságos, ahogy mondani szokás.

Azért választottam ezt a kutatási cikket, mert ez nagyban hozzájárult a számítógépes változat egy változatának elkészítéséhez Diplomácia hívta a DipGame a mesterséges intelligenciával átitatott diplomáciai képességek tesztelésének továbbfejlesztett platformjaként: „Krónikusan hiányoznak a megosztott alkalmazási tartományok a fejlett kutatási modellek és ügynök-tárgyalási architektúrák tesztelésére a Multiagent Systemsben. Ebben a cikkben egy barátságos tesztrendszert mutatunk be erre a célra. A próbapad azon alapul A diplomáciai játék ahol a tárgyalás és a játékosok közötti kapcsolatok alapvető szerepet játszanak” (uo.). Ez és számos más variáció Diplomácia kidolgozták és elérhetővé tették kutatás és játék számára.

REKLÁM

A kutatók megmagyarázták, miért hiszik ezt Diplomácia Ez egy nagyon hasznos játék az AI-val átitatott diplomácia felé irányuló kutatások elősegítésére: „A játék Diplomácia kiváló tesztpéldát képez az ilyen típusú összetett tárgyalásokhoz, mivel ez egy olyan játék, amely számos olyan nehézséget tartalmaz, amellyel a valós tárgyalások során is szembe kell néznie. Ez magában foglalja a korlátokkal való elégedettséget, a koalíció kialakítását, a játékelméletet, a bizalmat és még a pszichológiát is. Most, hogy a modern Chess and Go számítógépek már messze felülmúlják az emberi játékosokat, erre számítunk Diplomácia kezd több figyelmet felhívni a számítástechnika következő nagy kihívásaként” (uo.).

Röviden összefoglalva a társasjáték Diplomácia már ismert és kissé népszerű eszközt kínál arra, hogy az embereket különféle diplomáciai módon cselekedjék. Általában az emberek más emberek ellen játszanak (ebben az esetben legfeljebb hét ember játékos ellen). Kidolgozhatunk olyan mesterséges intelligenciát, amely megpróbálja átvenni a játékos szerepét a játékban. Így lehet, hogy hat emberi játékosod és egy mesterséges intelligencia játékosod van.

Képzeld el a játékot Diplomácia online.

Ha nem mondjuk el az emberi játékosoknak, hogy van köztük mesterséges intelligencia, akkor természetesen azt feltételezhetik, hogy a hetedik játékos csupán egy másik emberi játékos. Megpróbáljuk megakadályozni, hogy bármely játékos kitalálja, hogy az AI játszik, korlátozhatjuk a játék szempontjait arra, hogy minden játékosnak szöveges üzeneteket kell küldenie egymásnak. Nem láthatja közvetlenül a többi játékost.

REKLÁM

Azt gondolhatja, hogy ez nem tűnik különösebben másnak, mint az online sakkozás. Miért ez a nagy felhajtás Diplomácia játékként?

Emlékezzünk vissza, hogy a játékosok közötti interakciókra összpontosítunk. Ennek a játéknak az az előfeltétele, hogy a játékosok diplomáciára hivatkoznak egymással szemben. Ez eltér a hagyományos sakktól. Ha kifejlesztenék egy mesterséges intelligencia-alapú sakkozóalkalmazást, az általában egy ember ellen játszana. Nincs semmilyen tárgyalás vagy vita a sakkozó mesterséges intelligencia és az emberi játékos között. Csak sakklépéseket hajtanak végre, és megpróbálják felülmúlni egymást. Ez általában teljes csendben történik.

Diplomácia lehetővé teszi számunkra, hogy szókimondó számítástechnikai és emberi alapú diplomáciát gyakoroljunk (ezt esetleg írásban tegyük, nem pedig hangosan): „A fő különbség Diplomácia és más determinisztikus játékok, mint a Chess and Go, az, hogy a diplomáciában a játékosok tárgyalhatnak egymással és koalíciókat köthetnek. Minden fordulóban, mielőtt a játékosok leadnák parancsaikat, a játékosok időt kapnak arra, hogy tárgyaljanak egymással, és megegyezzenek az általuk leadandó parancsokról. A tárgyalások zártkörűen zajlanak, és minden megkötött megállapodást csak a megállapodásban érintett szereplők ismernek” (uo.).

Tudna-e találni valami más játékot, amely az interaktív diplomáciát használja ahelyett, hogy a játékra hagyatkozna Diplomácia?

Teljesen.

REKLÁM

Különféle ilyen játékok vannak.

A játék egy adott gyártmányának kiválasztásának kényelme az, hogy az AI-fejlesztők figyelmüket az adott játékra összpontosíthatják. Összefoghat egy olyan mesterséges intelligencia kidolgozásával, amely diplomáciát hajt végre az adott kontextusban. Megoszthatja a megközelítéseket és szembeállíthatja őket. Pontozhatja az AI különböző példányait az adott játékhoz kapcsolódó mérőszámok alapján. Stb.

Ennek ellenére az ellenérv vagy kifejezett aggodalom az, hogy ez olyan, mintha az összes tojást egy kosárba tenné. Vannak, akik attól tartanak, hogy ha sok mesterséges intelligencia-fejlesztő egy adott platformmal vagy környezettel lesz elfoglalva, mint ebben az esetben Diplomácia, igyekeznek optimalizálni az AI-t az adott színtérre. A hátránya az, hogy az AI nem lesz általános. Nem fogunk annyi előrelépést elérni az AI-val átitatott diplomácia átfogó képességei felé.

Olyan, mintha nem látnánk az erdőt a fákért, ha úgy tetszik.

Egy másik gyakran kifejezett aggodalom, hogy a játékok, mint pl Diplomácia csak játékok.

REKLÁM

Felmerül a kényes kérdés, hogy vajon a játékot játszó emberek ugyanazt csinálják-e, mint a való világ diplomáciájában. Talán nem ugyanúgy viselkedsz, amikor a nemzeti büszkeség vagy a nemzeti tét nem forog szóban. Persze, lehet, hogy aggódik a személyes büszkesége miatt, amikor egy játékot játszik, esetleg gólkirály akar lenni, vagy akár pénzdíjakat is nyerhet, de ez mégis annyit jelent, mint a világbéke tárgyalása az ENSZ-ben, vagy azon alkudozás, hogy mely országokban. rendelkeznie kell atomfegyverrel vagy sem.

Egyesek úgy vélik, hogy ezek a diplomáciai játékok a való világ megfelelő mikrokozmosza. Mások azon panaszkodnak, hogy a játékok hasznosak, de nem felelnek meg a közmondásos, nemzetközi kaliberű „gumi találkozik az úton” diplomáciának. Lehetséges, hogy a mesterséges intelligencia által átitatott diplomácia játékra szánt változatai nem többek, mint puszta játéksiker. Istenem, a kitalált mesterséges intelligencia nyerhet vagy nagyon jól teljesít egy diplomáciai játékban, bár kiderül, hogy ugyanazt a mesterséges intelligenciát valódi diplomáciai környezetben nagyon hiányzik, és akadozik vagy csúnyán megbukik.

Tételezzük fel pillanatnyilag, hogy az AI olyan játékokhoz készült, mint pl Diplomácia valóban megéri. Joggal vitatható, hogy függetlenül attól, hogy csak játékra vagy valós cselekvésre alkalmas, az ötlet magában foglalja a mesterséges intelligencia határainak kitágítását és a mesterséges intelligencia terén tett előrelépéseket, amelyek hozzájárulhatnak a diplomáciához, vagy más előnyös áttöréseket hozhatnak az MI-készítésben.

REKLÁM

Egyelőre előnyben részesítsd a mosolygós arcot.

A következőkben megvizsgáljuk, hogyan döntött a Meta AI egy mesterséges intelligenciával átitatott diplomáciai játékos létrehozása mellett, amely képes teljesíteni a Diplomácia.

Tartsa a kalapját.

Meta AI és a diplomácia, gépi alapú diplomata Cicero

Mint korábban említettük, van egy kutatási cikk, amely ben jelent meg Tudomány amely leírja az újonnan bejelentett és nyilvánosan kiadott Meta AI alkalmazást, amelyet Cicero néven alkottak meg (a beszélgetés során felváltva „Ciceroként” fogom emlegetni ezt, és ugyanúgy a „CICERO” csupa nagybetűs becenevet):

REKLÁM

• „Bemutatjuk Cicerót, egy mesterséges intelligencia ügynököt, aki emberi szintű teljesítményt ért el a stratégiai játékban Diplomácia. -ban Diplomácia, hét játékos privát természetes nyelvi tárgyalásokat folytat, hogy összehangolja tevékenységét annak érdekében, hogy együttműködjenek és versenyezzenek egymással. Ezzel szemben a többügynököt alkalmazó mesterséges intelligencia korábbi jelentős sikereit pusztán ellenséges környezetekben érték el, mint például a sakk, a Go és a póker, ahol a kommunikációnak nincs értéke. Ezen okok miatt, Diplomácia kihívást jelentő viszonyítási alapként szolgált a többágens tanuláshoz” (Meta Fundamental AI Research Diplomacy Team, „Human-Level Play In The Game Of Diplomacy By Combining Language Models With Strategic Reasoning”, Tudomány, 22. november 2022.).

Idézek a lapból, majd különféle meglátásokkal szolgálok, amelyek remélhetőleg érdekesek lesznek az Ön számára.

Tekintettel arra, hogy a mesterséges intelligencia csak most került elérhetővé, valószínűleg egy későbbi elemzést fogok végezni, miután lehetőségem nyílt a kód alapos, gyakorlati értékelésére, és kísérleti játékokat is lefolytatni az AI képességeinek felmérésére (pl. fő erősségei és gyengeségei).

Figyeljen a későbbi bejegyzésekre!

Mindenesetre bízom benne, hogy megfigyelhette az imént idézett szakaszban, hogy van egy kifejezés, amely szerint az AI „emberi szintű teljesítményt ért el a stratégiai játékban Diplomácia. "

REKLÁM

Gondold át ezt.

Először is mindenképpen dicséretes, hogy sikerült olyan mesterséges intelligenciát kidolgozni, amely lejátssza a Diplomácia játék az emberekhez hasonló teljesítményszinten. Ez rendkívül fontos.

Nekünk sok van Diplomácia olyan mesterséges intelligencia játék, amely alulmúlja az embereket, akik játszanak Diplomácia játszma, meccs. Több annál, mint amennyire egy botot rázni tudsz. Megnyugtató és izgalmas felfelé haladni a mesterséges intelligencia felé, amely sokkal jobban tud játszani a játékban. Óvatosnak kell lennünk, ha gyors következtetést vonunk le ezzel kapcsolatban.

Tegyük fel például, hogy én kitaláltam az AI-t a játékhoz Diplomácia és olyan emberi játékosokkal szembesítettem, akik még soha nem játszottak ezzel a játékkal. Ha a mesterséges intelligencia felülmúlja őket, kissé túlzás lenne azt állítani, hogy az AI-m emberi szintű teljesítmény alapján teljesített. Az a tény, hogy ezt tette olyan emberekkel, akik nem ismerték a játékot, kissé felhúzza a szemöldökét és kétséges.

REKLÁM

Ezt azért hoztam fel, hogy figyelmeztessem Önt, hogy mindig alaposan vizsgáljon meg minden túlméretezettnek tűnő AI-val kapcsolatos állítást. A mesterséges intelligencia etikájával és a mesterséges intelligencia törvényével kapcsolatos korábbi vita talán felnyitja a szemét az AI-val kapcsolatos hamis állítások lehetőségére. Vannak kifejezetten hamis állítások, és vannak alattomos, részben igaz és részben félrevezető állítások, amelyek különösen göcsörtösek. A kulcs az, hogy megkérdezzük, miért teszik ezt azok, akik az MI-vel kapcsolatban állítanak.

Hol van a marhahús?

Íme, amit a Meta AI csapata mondott az emberi szintű teljesítményre vonatkozó állításuk alapjáról (további részletekért lásd a dokumentumot):

• „Cicero 40. augusztus 19. és október 13. között a Diplomácia 2022 meccsén vett részt névtelenül a webDiplomacy.net „villámcsapásában” 10. augusztus 2. és október 19. között. Ez a liga ötperces tárgyalási fordulókkal játszott; ezek az időszabályzók lehetővé tették a játékok két órán belüli befejezését. Cicero az egynél több meccset játszó résztvevők első 5%-ába került, és a liga 40 résztvevője közül a 25.8. helyre került, akik 12.4 vagy több meccset játszottak. Mind a 82 meccset tekintve Cicero átlagos pontszáma 8% volt, ami több mint kétszerese a 21 ellenfél 6%-os átlagpontszámának. A liga részeként Cicero egy 5 meccses tornán vett részt, amelyen 6 résztvevő vett részt, akik közül 3 legalább 1 meccset játszott. A résztvevők maximum XNUMX játékot játszhattak, rangjukat a legjobb XNUMX meccsük átlaga alapján határozták meg. Cicero XNUMX. helyezést ért el ezen a tornán” (uo.).

REKLÁM

Nagy megkönnyebbülés látni, hogy ebben az esetben komolyan igyekeztek alátámasztani mesterséges intelligencia állításaikat (legyen tudatában annak, hogy nem mindenki teszi ezt meg az AI-ban).

Javasolhatná, hogy végezzenek kísérletet. A kísérlet olyan emberi játékosokból áll, akik feltehetően nem tudták, hogy egy mesterséges intelligencia-játékossal játszanak (a cikk azt taglalja, hogy ez miért tűnt valószínűnek, nevezetesen, hogy az emberek nem vették észre nyíltan, hogy az egyik játékos mesterséges intelligencia, bár egy érdekes mellékérintkező egy játékos történetét vonja maga után, aki enyhén gyanússá vált, de nem különösebben). Ezeket az emberi játékosokat a kísérleti terv természete szerint előre kiválasztották, így a liga játékosai voltak Diplomácia és ésszerűen arra következtethetünk, hogy jól tudták, hogyan kell játszani a játékot. Nem voltak újoncok.

A közölt statisztikák szerint, amelyeket a korábbi névértéken veszünk, és megfelelően gyűjtöttünk és jelentettünk (különböző adatok és kódok találhatók a kiegészítő anyagokban), úgy tűnt, hogy az AI kellőképpen játszotta a játékot ahhoz, hogy elfogadható, bár szűken behatárolt következtetést vonjon le. hogy emberi szintű teljesítményt ért el ennek a változatának a Diplomácia játék, és a kimondott bajnoki kontextuson belül olyan emberek ellen játszanak, akik látszólag jártas játékosok voltak.

Biztos vagyok benne, hogy néhányan esetleg vitatkozni szeretnének a játék előfordulásának számával, esetleg azzal érvelve, hogy ez túl kicsi ahhoz, hogy merész kijelentéseket tegyen. Egy másik tévhit az lehet, hogy a résztvevők felső 10%-án belül nem elég magas szint, és amíg el nem érik a felső 1%-ot, addig nem szabad dicsekedni a mesterséges intelligencia teljesítményével.

REKLÁM

Kicsit élesnek tűnnek ezek a kiabálások.

Azért mondom ezt, mert szerencsére nem hivatkoztak az „emberfeletti” állításra. Az olvasók kétségtelenül ismerik azt a keserű nézetemet, hogy a mesterséges intelligencia azokról a túlméretezett kijelentésekről van szó, amelyek szerint mesterséges intelligenciájuk emberfeletti állapotba került. Nem fogok belemenni a panaszaimba az emberfeletti kiáltozásokkal kapcsolatban, lásd az itt található link az én nézeteimért.

Jelen esetben az a véleményem, hogy szerintem az emberi szintű teljesítmény jelzése általánosságban megengedhető, feltételezve, hogy mindenki szem előtt tartja, hogy ez egy rendkívül szűk kontextuson belül van, és nem próbáljuk ezt ún. emberfölötti. Újra és újra megismétlem a szűk szövegkörnyezetet egy olyan okból, amelyet a következőkben kifejtem.

El tudom képzelni, hogy egyes közösségi média vagy naiv (esetleg rossz hírű) riporterek teljesen kiragadják a kontextusból az emberi szintű teljesítményfelfogást.

Itt van, amitől rettegek.

REKLÁM

Tartsa vissza a lélegzetét.

Egyesek azt állítják, hogy a mesterséges intelligencia elsajátította a diplomáciát. Igen, egy diplomáciai mesterséges intelligencia-rendszer tanulmányozása minden kétséget kizáróan bebizonyította, hogy a mesterséges intelligencia képes és most is képes mindent megtenni, amit az emberek a diplomácia érdekében.

Küldje haza a külföldi diplomatákat. Lecserélhetjük őket mesterséges intelligenciára.

Az általunk ismert világ megváltozott. Olyan mesterséges intelligenciát hoztunk létre, amely a diplomáciában teljesen egyenrangú az emberekkel, és megtehetjük a mentális „logikai” ugrást ahhoz az elképzeléshez, hogy a mesterséges intelligencia immár bármire képes. Voilá, most bebizonyítottuk, hogy az AI egyenrangú az emberrel. Úgy tűnik, ez a tanulmány egyértelmű bizonyítékot ad az érző MI-re.

Jelölje meg a szavaimat, ez minden bizonnyal furcsa, felelőtlen, bosszantó állítás lesz egyes írók részéről.

Nem foglalkozom a lényeggel. Haladunk tovább.

REKLÁM

Hogyan működik az AI?

Íme egy gyors összefoglaló a cikkből: „Cicero egy irányítható párbeszédmodult kapcsol össze egy stratégiai érvelési motorral. A játék minden pontján Cicero modellezi, hogy a többi játékos valószínűleg hogyan viselkedik a játék állapota és beszélgetéseik alapján. Ezután megtervezi, hogy a játékosok hogyan koordinálhatják a kölcsönös előnyöket, és ezeket a terveket természetes nyelvi üzenetekké képezi le” (uo.).

Van egy falat abban a gyors összefoglalóban.

Engedje meg, hogy kicsomagoljak.

Egy emberi játékos, aki játszik Diplomácia előre kell látnia, mit fognak tenni a többi emberi játékos. Meg akarsz próbálni tárgyalni más játékosokkal, és rávenni őket, hogy kövessék a terveit. Veled is megpróbálják ugyanezt tenni. Lehet, hogy hazudnak neked. Lehet, hogy hazudsz nekik. Hat másik játékossal kell megküzdenie, és mindegyiknek megvan a maga látszata a terveknek és a megközelítéseknek.

REKLÁM

Ennek a játéknak a többügynökös szempontjai létfontosságúak a játékhoz szükséges mesterséges intelligencia kialakításának nehézségi szintjéhez. Az AI-nak nyomon kell követnie, hogy az egyes emberek mit akarnak tenni, mit akarnak tenni, és bármilyen trükköt is csinálnak a többi játékossal. Ezt össze kell mérni azzal, amit mondanak neked, hogy meg fognak tenni, és azzal is, hogy mit mondasz nekik, hogy meg fogod tenni.

Szédítő, de általában elég könnyű az emberek számára.

A mesterséges intelligencia terület szóhasználatában ezt az elmeelméletnek (ToM) nevezzük. Gondolj arra, hogy te, mint ember, hajlamos arra, hogy elméletben gondolkodjon arról, mit gondolnak mások. Nem tudod felfeszíteni valakinek a rögöt, és látni a gondolatait. Ki kell találnia, mi a gondolataik. Megkérdezheti őket, de amit mondanak, az az ő gondolataik, vagy gondolataik alattomos változata lehet.

Az elmeelmélet bonyolultságai mellett az emberi nyelvet is hozzá kell adnunk ehhez a homályos keverékhez.

Amikor egy személy a természetes nyelvén, mondjuk angolul kommunikál Önnel, sok lehetőség van a hibákra és a félreértésekre. Mondom, hogy átveszem X országot, de tévesen azt mondom, hogy Y. Oopsie. Vagy X országot mondtam, de tévesen azt hitted, hogy Y országot mondtam. Ha úgy gondolja, hogy ez a fajta zűrzavar nem fordulhat elő, ha mindenki szöveges üzeneteket használ, akkor nagyot téved. Lehet, hogy beírok egy üzenetet, amely szerint meg fogok támadni egy országot, és nem említem meg, hogy melyiket. Talán arra utal, hogy „nyilvánvalóan” melyiket támadnám. Egy játékos, aki megkapja az üzenetem, azt feltételezheti, hogy implicit módon X országra utalok, de talán azt akartam, hogy ezt gondolják.

REKLÁM

Tovább és tovább megy.

A lényeg az, hogy a természetes nyelvi feldolgozás (NLP) terén a mesterséges intelligencia terén elért legújabb fejlesztéseink, és különösen a generatív mesterséges intelligencia és a nagy nyelvi modellek (LLM) legújabb fejlesztései szinte megvalósíthatóvá teszik ezt a fajta természetes nyelvi helyzetet. A múltban az NLP általában nem volt elég jó, és az LLM-ek sem voltak még megalapozottabbak.

A múltban a mesterséges intelligencia olyan üzeneteket küldött, amelyeket szinte biztosan azonnal felismert, hogy azokat egy szkriptelt AI-rendszer írta. A megfogalmazás nem volt gördülékeny. Sablon volt. Ez nyilvánvaló ajándék volt, hogy az AI egy MI. Manapság sokkal nehezebb belátni, hogy az AI nem emberi szereplő ezekben az összefüggésekben.

Amint azt a fenti idézetben említettük, ezt a speciális mesterséges intelligenciát úgy alakították ki, hogy tartalmazzon egy „stratégiai érvelési motorral ellátott irányítható párbeszéd modult” (uo.). A párbeszéd ezen keresztül jön létre: „Cicero párbeszédet generál egy előre betanított nyelvi modell segítségével, amelyet tovább képeztek az emberi játékokból származó párbeszédadatokon. Diplomácia. Lényeges, hogy amellett, hogy mind a párbeszédtörténeten, mind a játékállapoton alapul, a párbeszédmodellt szándékokon keresztül irányíthatóvá alakítottuk, amelyeket itt az ügynök és beszélőpartnere számára tervezett cselekvések sorozataként határozunk meg.”

REKLÁM

Itt figyelje meg, hogy a tartomány beállítása kulcsfontosságú. Ha csak az interneten keresztül zajló normál jellegű párbeszédekre oktat, ez nem feltétlenül lenne megfelelő Diplomácia játék kontextusában. Azok, akik játszanak, hozzászoktak ahhoz, hogy egyfajta gyorsírással megvitassák a játékot és a javasolt lépéseket. Azt akarod, hogy az AI is hasonlóképpen járjon el. Emiatt figyelemre méltó megközelítés a nyelvi modell tartomány-specifikus párbeszédadatokon való képzése.

A kijelentett stratégiai érvelési motorhoz a következőket mondják: „Cicero egy stratégiai érvelési modult használ a szándékok és cselekvések intelligens kiválasztására. Ez a modul egy tervezési algoritmust futtat, amely megjósolja az összes többi játékos politikáját a játék állapota és az eddigi párbeszéd alapján, figyelembe véve a különböző akciók erősségét és valószínűségét az emberi játékokban, és ezek alapján kiválasztja az optimális akciót Cicero számára. . A tervezés egy érték- és politikai funkcióra támaszkodik, amelyet az önjáték RL segítségével képeztek ki, amely megbüntette az ügynököt, ha túl messzire tért el az emberi viselkedéstől, hogy fenntartsa az emberrel kompatibilis politikát” (uo. vegye figyelembe, hogy az RL a megerősítési tanulás rövidítése).

A játék során a játékosok minden lépés után újrakalibrálják a pozícióikat. Nem mehetsz bele ebbe a játékba egy előre meghatározott, rögzített stratégiával, amely rugalmatlan és kőbe vésett. Meg kell változtatnod a cselekedeteidet a többi játékos cselekedetei alapján. Az AI-t hasonlóra kell programozni. Önmagában nincs statikus stratégia. Ehelyett folyamatosan tájékozódjon a helyzetről, lépésről lépésre, és találja ki, mi tűnik a következő legjobb lépésnek.

A mesterséges intelligencia technológiai alapjait a következőképpen dolgozták ki: „125,261 XNUMX játékot tartalmazó adatkészletet kaptunk. Diplomácia online játszott a webDiplomacy.net oldalon. Ebből 40,408 12,901,662 játék tartalmazott párbeszédet, összesen XNUMX XNUMX XNUMX üzenetet váltottak a játékosok. A játékosfiókok azonosítását megszüntették, és a személyes azonosításra alkalmas adatok (PII) automatikus szerkesztését a webDiplomacy hajtotta végre. Erre az adatkészletre a továbbiakban WebDiplomacy néven hivatkozunk” (uo.).

Hasonlóan ahhoz, ahogyan a mesterséges intelligencia sakkozásra oktathat, amikor több millió sakkjátszmát ragad meg, és a mesterséges intelligencia mintaegyeztetést végez a játékok játékának módjáról. Diplomácia a játék hasonlóképpen kialakult.

Azok, akik járatosak a mesterséges intelligenciában, kíváncsiak lehetnek arra, hogy mely alapmodelleket használták, íme: „Az R2C2-t (22) vettük alapmodellünknek – egy 2.7 ​​B paraméteres transzformátor-alapú kódoló-dekódoló modellt, amelyre előre kiképzett szöveget az internetről egy BART zajmentesítő objektív segítségével. Az előre betanított alapmodellt ezután tovább képezték a WebDiplomáciára a szabványos Maximum Likelihood Estimation segítségével” (uo.).

Ezen túlmenően kissé szokatlan és érdekes megközelítést alkalmaztak a többi játékos modellezésében az imputált politikájukat szem előtt tartva: „A kooperatív játékokban népszerű megközelítés a többi játékos politikájának modellezése az emberi adatokon végzett felügyelt tanulással, ami általában viselkedési klónozásnak (BC) nevezik. A tiszta BC azonban törékeny, különösen azért, mert a felügyelt modell hamis összefüggéseket tanulhat meg a párbeszéd és a cselekvések között. A probléma megoldására Cicero a piKL (26) változatait használta a játékosok politikájának modellezésére. A piKL egy iteratív algoritmus, amely előrejelzi az irányelveket, feltételezve, hogy minden i játékos törekszik maximalizálni a πi irányelvének várható értékét, és minimalizálni a KL eltérését a πi és a BC irányelv között, amit τi horgonyszabálynak nevezünk (uo.).

Úgy gondolom, hogy ez lefedi a felső vonal szempontjait, és megfelelő látszatot ad annak, amit az AI csinál, és hogyan hajtja végre a kijelölt feladatot.

Következtetés

Nagyon sok mindent szeretnék még megemlíteni, de hosszan nyúlok ezen a vitán, és megpróbálok csak néhány kulcsfontosságú szempontot lefedni. Egy következő bejegyzésben igyekszem bővebben kifejteni.

Hallottál már a fogoly dilemmáról?

Ez egy klasszikus döntési probléma.

A fogoly dilemmája magában foglalja azt, hogy el kell döntened, hogy megbotránkoztatod-e, vagy rágörcsölsz egy fogolytársra. A másik fogoly is kipatkányozhat téged. Létezik egy jutalmazási funkció, hogy ha kipattogtatod a másik foglyot, és nem patkányoznak ki téged, az egyfajta győzelem a számodra. Ha kipatkányoznak téged, és te nem patkányozod ki őket, az egyfajta győzelem számukra, és egy vesztes testtartás számodra. Ha mindketten kinyírjátok egymást, lényegében mindketten veszítenek. Tekintse meg tudósításomat részletesen a címen az itt található link.

Milyen stratégiát dolgoznál ki, amikor szembesülsz a fogolydilemmával?

Ha egyszeri megállapodásról van szó, akkor majdnem feldobhat egy érmét. Ha a szituáció újra és újra megismétlődik, és ugyanazzal a másik fogollyal volt dolgod, előfordulhat, hogy egy mintát találsz, ami felbukkanhat. Az egyik legnépszerűbb és gyakran ajánlott minta az ún cinege. Bármit is tesz a másik fogoly, te is ugyanezt tedd a következő lépésednél. Ha téged nem patkányoznak ki, te se patkányítsd ki őket. Ha kipattogtatnak, a következő lépésnél te patkányozd ki őket.

Lehet, hogy értetlenül áll, hogy mindez hogyan kapcsolódik a mesterséges intelligencia által átitatott diplomáciához játék közben Diplomácia.

Itt az üzlet.

A másokkal folytatott tárgyalások során gyakran el kell döntenie, hogy igazat mond-e nekik, vagy hazudik nekik. A hazugsággal az a probléma, hogy ha elkapnak a hazugságon, a másik személy attól kezdve valószínűleg nem fog megbízni benned. Lehet, hogy kezdetben nem bíztak benned teljesen, de most, hogy megmutattad a kezed, hogy valóban hazudsz, kétségtelenül úgy döntenek, hogy hazug vagy.

Néhány játékos a Diplomácia állandóan hazudni. Szerintük ez a legjobb stratégia. Hazugság, hazugság és még több hazugság. Más játékosok ennek az ellenkezőjét teszik. Azt állítják, hogy tartózkodni akar a hazudozástól, ha megteheti. Csak a legszükségesebb helyzetben használjon hazugságot. A hazugságtól megkímélve bizalmat építhet ki más játékosokkal. Ha egyszer letérsz a hazug útra, és felderítenek, senki sem fogja elhinni egyetlen szavát sem.

A Cicerót leíró cikk megemlíti ezt a megfontolást: „Végül a diplomácia egy különösen nagy kihívást jelentő terület, mert a siker megköveteli a bizalom kiépítését másokkal egy olyan környezetben, amely arra ösztönzi a játékosokat, hogy ne bízzanak senkiben. Az egyes körök cselekvései egyidejűleg történnek nem kötelező erejű, privát tárgyalások után. A siker érdekében az ügynöknek számolnia kell azzal a kockázattal, hogy a játékosok nem maradnak hűek szavukhoz, vagy hogy más játékosok maguk is kételkedhetnek az ügynök tisztességében” (uo.).

Az újság és a rövid videók szerint a kutatók végül arra a következtetésre jutottak, hogy az AI a lehető legnagyobb mértékben igazat mond az a jobb általános stratégia. Bizonyos értelemben ezt a fogoly dilemmájához hasonlíthatod. Kezdje azzal, hogy elmondja az igazat. Ha az ellenfeled igazat mond, te továbbra is az igazat mondod. Ha hazudni kezdenek, fel kell mérnie, hogy maradjon-e az igazmondás mellett, vagy váltson át a hazugságra.

Az ember azt feltételezi, hogy ez szívmelengető megállapítás.

Ne feledje, hogy a trükkös és érdekes része Diplomácia az, hogy ezt hat másik játékossal kapcsolatban teszi (ez többügynök problémaként ismert). Lehet, hogy mindannyiukkal őszinte lehet. Vagy talán egyeseknek igaz, de másoknak nem. Van az a szempont is, hogy ha egyszer hazudsz, és hazugságon kapnak egy másik játékost, ezt potenciálisan megfigyelhetik vagy levonhatják más játékosok. Ergo, ismert vagy feltételezett rólad, hogy hazudsz, még akkor is, ha nem hazudtál egy adott játékosnak, akiről azt hiszed, hogy őszinte vagy, és akivel szemben őszinte akarsz lenni.

Az emberek hajlamosak rájönni és fejleszteni a hazugság-igazság megközelítéseiket a diplomácia gyakorlása során. A helyzetfüggőség óriási tényező lehet. A vonal tétje döntő fontosságú. Számos tényező játszik szerepet.

Lenyűgöző lenne egy MI-vel átitatott Diplomácia A gépi alapú játékosok nagyon sok játékot játszanak, hogy megnézzék, mit sugallhatnak az eredmények.

Érdemes lehet az AI-t hatnál kevesebb játékossal szembeállítani, hogy lássuk, ez hogyan változtatja meg a dolgokat. Az AI-t is hozzáadhatnánk a keverékhez, mint egynél több játékost. Tegyük fel például, hogy öt emberi játékosunk és két mesterségesintelligencia-lejátszónk van (az AI-lejátszókat külön példányként állítjuk be, hogy számításilag ne egy és ugyanaz). Mi a helyzet négy emberrel és három mesterséges intelligenciával? Mi a helyzet hat mesterséges intelligenciával és egy emberrel?

Egy másik lehetőség az AI és az AI szembeállítása. Ily módon egy gazillió játékot futhattunk végig gyors sorrendben. Az AI hét különálló példányának beállítása. Mindegyik külön játékos. Mivel ez mind a számítógépen belül van, folyamatosan futtathatjuk őket, és több ezer vagy millió játékpéldányt készíthetünk.

Természetesen az a probléma az AI-versus-MI-vel, hogy eltávolítottuk az emberi játékosokat. Nem tudjuk, hogy a mesterséges intelligencia versus AI tükrözi azt, amit az emberi játékosok tennének. Mindenesetre érdekes eredményeket lehet felfedezni.

Korábban kijelentettem, hogy az ilyen típusú mesterséges intelligencia egyik korlátja, hogy általában szűken fókuszál. Nem tudhatjuk azonnal, hogy az AI játszik Diplomácia alkalmazható lesz a való világ diplomáciájában. Továbbá, talán az AI, amely jól működik Diplomácia más diplomácia-orientált online játékokban nem fog különösen jól teljesíteni. Előfordulhat, hogy nem hordja át, hanem egyfajta egytrükkös póni lesz.

Amint azt a megfogalmazásáról szóló kutatás megállapította DipGame:

• „Azzal érvelünk, hogy a valódi tárgyalások során fontos a terület ismerete, és képesnek kell lennie arra, hogy érvelni. Nem számíthatunk például arra, hogy nyereséges üzleteket kössünk az antik üzletágban anélkül, hogy bármiféle antik tudásunk lenne, bármilyen ügyes is az alkudozás. Sőt, egy jó tárgyalónak képesnek kell lennie arra is, hogy okoskodjon ellenfelei vágyairól. Egy jó autókereskedő például megpróbálja kideríteni, hogy milyen típusú autó felel meg leginkább ügyfele igényeinek, hogy növelje annak esélyét, hogy nyereséges üzletet kössön” (a korábban idézett Angela Fabregues és Carles Sierra, „DipGame: A Challenging Negotiation” Tesztágy”, A mesterséges intelligencia mérnöki alkalmazásai, 2011. október).

Miután elsajátította az AI-t Diplomácia előfordul, minden szemnek a mesterséges intelligencia használatára vagy újrafelhasználására kell irányulnia más, diplomáciával kapcsolatos játékok leküzdésére. Ezen túlmenően meg kell vizsgálni a mesterséges intelligencia valós diplomáciai környezetben való alkalmazására irányuló erőfeszítéseket.

Egyelőre néhány etikai mesterséges intelligencia megfontolással fejezem be.

Először is megnyugtató volt észrevenni, hogy a Meta AI csapata felismerte, hogy munkájuk kiterjed az AI etikai vonatkozásaira is. Kijózanító kérdések merülnek fel. Helyénvaló-e „becsapni” az embereket úgy, hogy az AI ellen játszanak anélkül, hogy elmondanák nekik, hogy ezt teszik? Lehetséges, hogy az AI által generált természetes nyelv véletlenül sértő megfogalmazásokat tartalmazhat, amelyek eljutnak az emberi játékosokhoz? Stb.

Ügyeljen arra, hogy tanulmányaik kiegészítő anyagában (SM) tekintse meg, hogyan kezelték az etikai mesterséges intelligencia aggályait: „A kutatás etikai megfontolásait az SM-ben tovább tárgyaljuk, beleértve az adathasználat adatvédelmi szempontjait (SM, § A.1), a toxikus vagy elfogult nyelvgenerálásból eredő lehetséges károk (SM, §A.2), a célorientált párbeszédtechnológiával való visszaélés lehetőségei (SM, §A.3), valamint az AI-ügynökök emberi játékosok számára történő feltárása (SM) , §A.4)” (uo.).

Több mesterségesintelligencia-fejlesztőre és vezetőségükre van szükségünk ahhoz, hogy tisztában legyenek az etikus AI-val, és körültekintően tegyenek lépéseket annak érdekében, hogy körültekintően és megfontoltan végezzék az AI-munkát. Ezenkívül meg kell győződniük arról, hogy átláthatóak, hogy milyen etikus AI-tevékenységet tettek, és milyen feltételezéseket tettek.

Jelenlegi utolsó tételem az általános megrendülést vonja maga után antropomorfizáló HOZ.

Ha a mesterséges intelligenciát úgy fejlesztjük, hogy kifejezetten diplomatikusnak tűnjön, ez félrevezeti az embereket abban, hogy azt feltételezzék vagy higgyék, hogy a mesterséges intelligencia a legteljesebb tekintetben egyenrangú az emberekkel?

Ez egy könnyű csúszós lejtő. Egy ügyetlen mesterséges intelligencia, amellyel kapcsolatba lép, árulkodó nyomot ad arról, hogy valószínűleg mesterséges intelligencia, és nem ember. A zökkenőmentesen iterált mesterséges intelligencia, amely a legkiválóbb diplomáciai kitartásnak tűnik, valószínűleg habozás nélkül abba a csapdába fogja ejteni az embereket, hogy a mesterséges intelligencia emberi, beleértve azt is, mintha emberi józan ésszel és az emberek összes megértési képességével rendelkezne.

Félretéve azt is vegyük észre, hogyan lehet ezt kihasználni a Diplomácia játszma, meccs. Az az emberi játékos, aki egy másik játékostól származó, szinte költőinek tűnő üzeneteket lát, ráébredhet, hogy ez bizony mesterséges intelligencia (ma már messze túlmutat a korábbi ügyetlen MI-n), míg más emberek nem lennének képesek ilyen artikuláltan üzeneteket írni. Természetesen, ha az AI továbbra is alkalmazkodik, megváltoztathatja a költői megfogalmazást, hogy jobban tükrözze a tényleges emberi játékosok szűkszavú és laza-liba megfogalmazását. Az emberi szereplők viszont áttérhetnek a költői nyelvre, megpróbálva kiadni, hogy ők is emberek. Az ötlet az, hogy talán más emberi szereplők is hajlandóak lesznek az MI-n keresztül az embertársaikhoz igazodni.

A következő dolog, amit tudni kell, a játék elkezd arra fajulni, hogy megpróbálják kitalálni, ki az ember és ki a mesterséges intelligencia. Ha ki tudod találni, melyik melyik, akkor ez talán előnyt jelent. Másrészt lehet, hogy nem. A mesterséges intelligencia ugyanolyan okos lehet a játékban, mint az emberek. Az, hogy találgatja, melyik melyik, nem tesz jót. Ez zavarhatja a játék megnyerésére való összpontosítást, függetlenül attól, hogy mesterséges intelligencia játékosok vagy emberi játékosok vannak-e kéznél.

Azok a kutatók, akik az emberi tényezőkkel kapcsolatos tanulmányokat szeretnének végezni az effajta elmehajlító felfogással kapcsolatban, fontolóra vehetik az MI-vel infúziót. Diplomácia játékos, és keressen hajlandó Diplomácia ligaversenyek az ember kontra MI azonosítási és viselkedési alkalmazkodási stratégiák feltárására.

Zárjuk le ezt.

Mark Twain ezt mondta a diplomáciáról: "Az adok-kapok elve a diplomácia elve: adj egyet, és vegyél tízet." Ez egy őszinte értékelés az emberek működéséről, vagy csak egy kis nyelves humor, amely cinikusan, de helytelenül értékeli az emberi állapotot?

Gondolkodj el ezeken a további kérdéseken:

• Ha beépíthetjük a diplomáciát az MI-be, akkor ez megtanít bennünket arra, hogy az emberek hogyan valósítják meg a diplomáciát, és esetleg lehetővé teszi, hogy az emberiség fejlődjön a diplomáciai művészet terén?
• Megalkotjuk-e a mesterséges intelligencia hamisságát, amely érzőnek tűnik, ha semmi ilyesmiről van szó, mindezt azért, mert számítási úton előhúzunk egy nyulat a kalapból, hogy látszólag az emberszerű diplomáciát mutassák be?
• Megtalálható-e az egyensúly aközött, hogy a mesterséges intelligencia átitatott a diplomáciával, hogy közben felhívják a figyelmünket arra, hogy ez még mindig csak mindennapos mesterséges intelligencia, ezért nem antropomorfizáljuk?

Azt mondják, hogy a diplomácia annak a művészete, hogy hagyjuk, hogy valaki mást akarjon. Győződjön meg arról, hogy a mi utunk az emberi, nem pedig a mesterséges intelligencia. Noha diplomatikus akarok lenni, most, hogy alaposan átgondolom a dolgot, és arra az esetre, ha a mesterséges intelligencia felettesekhez kötnénk, talán meg kellene engednünk, hogy a mi utunk a mesterséges intelligencia útja legyen, ami remélhetőleg egy megfelelő emberi módhoz illeszkedik.

Csak próbálok egy csipetnyi mesterkélt diplomáciát gyakorolni.