A túlgondolt generatív AI ChatGPT a bosszantó mesterséges intelligencia hallucinációinak kiküszöbölésére tanácsot ad a mesterséges intelligencia etikájára és a mesterséges intelligencia törvényére

Arra gondolsz, amire ők?

Ha igen, akkor bizonyos értelemben belegabalyodunk az elme elméleteként ismert jelenségbe. A szokásos definíció a elme elmélete az, hogy gyakran azon kapjuk magunkat, hogy megpróbáljuk kitalálni, mit gondol valaki más. Szinte biztos, hogy ezt elég sokat csinálod.

Képzeld el, hogy a főnököddel beszélgetsz. Miközben hallgatod a kimondott szavakat, valószínűleg a szavak mögött rejlő belső gondolatokat is meg akarod fejteni. A főnököm haragszik rám, vagy haragszik valami más miatt, ami nem kapcsolódik hozzám? Talán egy kisebb autó sárvédő-hajlítóba akadtak ma reggel. Talán gondjaik vannak otthon. Vagy az a kellemetlen tiráda, amelyet átélsz, valóban a legújabb, munkával kapcsolatos hamisítványoddal kapcsolatos?

Ezt a gondolatolvasási találgatást általában az embereken kívüli dolgokra is kiterjesztjük.

Az erdőben vagy. Egy medve hirtelen megjelenik egy tisztáson előttünk. Valószínűleg azonnal megpróbálja beletenni a közmondásos lábát az impozáns állat cipőjébe vagy esetleg a medve mancsába. Mit gondol ez a medve? Barátnak vagy ellenségnek tekint? Megpróbáljak vendégszerető lenni, vagy kezdjek el futni, mintha az életem a megmeneküléstől függne (amire talán a jövőbeli létezése is reagál)?

Merem állítani, hogy a találgatás ugyanezt a formáját ki lehet próbálni egy kenyérpirítón is. Egy szelet kenyeret tesz a kenyérpirítóba, és lenyomja a kart, hogy elindítsa a pirítási folyamatot. Egy perc múlva úgy tűnik, hogy a pirítós még mindig nincs megpirítva. Mi a fenét gondol ez a kenyérpirító? Úgy döntött, hogy többé nem teljesíti ünnepélyes kötelességét? Lehet, hogy a kenyérpirító elvesztette az eszét?

Persze kicsit abszurd a gondolkodási folyamatokat a kenyérpirítóhoz rendelni. Tudjuk, hogy egy kenyérpirító nem gondolkodik. Az emberek gondolkodnak. Abban is egyetérthetünk, hogy az állatok gondolkodnak. Kérjük, vegye figyelembe, hogy egyesek hevesen érvelnek amellett, hogy csak az emberek képesek gondolkodni, ami az összes többi állatot káoszba hozza. Amikor az állatok bizonyos típusú agyvel kapcsolatos számításokat végeznek, minek nevezzük ezt a machinációt? Nevezzük annak, aminek akarjuk, mondják a szkeptikusok, de ne gondoljanak rá. Tartsa fenn a gondolkodást kizárólag az emberek számára.

Az egyik döntő tanulság az, hogy óvatosnak kell lennünk a körülöttünk lévő különféle tárgyak antropomorfizálása során.

Fennáll annak a veszélye, hogy a gondolkodási folyamatokat olyasvalamihez társítjuk, aminek nincs meg ez a képessége. A kenyérpirítója nem gondolkodó. Ésszerű dolog megpróbálni kitalálni, mit csinál egy kenyérpirító, bár ostobaság a gondolkodási folyamatokat az érintett mechanizmusokhoz rendelni. A legjobb, amit tehet, ha megpróbálja felülmúlni a kenyérpirító fejlesztőjét. Mire gondolt a kenyérpirító tervezője és építője, amikor elkészítette ezt a fergeteges szerkezetet? Ráadásul, ha tud valamit az elektronikáról és a mechanikáról, kétségtelenül alkalmazhatja az eszköz működésének alapjául szolgáló fizikai elveket.

Most, hogy az összes előzőt tárgyaltam, készen állunk arra, hogy beszéljünk a mesterséges intelligenciáról (AI).

A legutóbbi brouhaha az AI egy típusával kapcsolatban Generatív AI drámaian megnövelte a láthatóságot és a szorongó félelmet a régóta fennálló elme elmélete találós kérdés. Amikor az emberek egy generatív mesterséges intelligencia programot használnak, szinte elkerülhetetlenül elcsábítják és elaltatják, hogy feltételezzék, hogy az MI tud gondolkodni. Persze lehet, hogy rájönnek, hogy a mesterséges intelligencia nem ember vagy állat. Mindazonáltal megvan az a tendencia, hogy a MI-nek gondolkodási tulajdonságokat tulajdonítanak.

A mai vita során ezzel a kérdéssel foglalkozom. Ezenkívül elmagyarázom, hogyan használhatja fel az elmekonstrukciók elméletét a generatív mesterséges intelligencia legjobb felhasználására. Hogy ezt a kérdést teljesen egyértelművé tegyük, nem azt mondom vagy nem sugallom, hogy a generatív AI képes gondolkodni. Utálom azokat, akik ilyen hamis állításokat tesznek. Csak arra mutatok rá, hogy ha bele tudja tenni a lábát az AI-fejlesztők helyébe, valamint ha tisztában van néhány kulcsfontosságú mesterséges intelligenciával kapcsolatos programozási és gépi tanulási technikával, akkor potenciálisan kitalálhatja, mit csinál a generatív mesterséges intelligencia. azt a makacs kenyérpirítót, amit korábban említettem.

Eközben felmerülhet a kérdés, mi is az a generatív AI.

Először fedjük le a generatív mesterséges intelligencia alapjait, majd alapos pillantást vethetünk az elmekonstrukciók kiegyenlítő elméletére.

Mindehhez egy csomó mesterséges intelligencia etikai és mesterséges intelligenciajogi megfontolás tartozik.

Kérjük, vegye figyelembe, hogy folyamatos erőfeszítések folynak az etikus mesterséges intelligencia elveinek beillesztésére az AI-alkalmazások fejlesztésébe és használatába. Az aggódó és egykori mesterséges intelligencia-etikusok növekvő kontingense igyekszik biztosítani, hogy az AI kidolgozására és elfogadására irányuló erőfeszítések figyelembe vegyék a AI For Good és elhárítása AI For Bad. Hasonlóképpen új mesterséges intelligencia-törvényeket javasoltak, amelyek potenciális megoldásként próbálják megakadályozni, hogy a mesterséges intelligencia erőfeszítései ámokba boruljanak az emberi jogok és hasonlók terén. A mesterséges intelligencia etikájával és a mesterséges intelligencia törvényével kapcsolatos folyamatos és kiterjedt tudósításomat lásd az itt található link és a az itt található link, csak hogy néhányat említsek.

Az etikus mesterséges intelligencia előírásainak kidolgozása és terjesztése folyamatban van annak érdekében, hogy remélhetőleg megakadályozzák a társadalmat abban, hogy a mesterséges intelligenciát okozó számtalan csapdába essen. Az ENSZ mesterséges intelligencia etikai alapelveiről szóló beszámolómat, amelyet közel 200 ország dolgozott ki és támogat az UNESCO erőfeszítései révén, lásd: az itt található link. Hasonló módon új mesterséges intelligencia-törvényeket kutatnak annak érdekében, hogy a mesterséges intelligencia egyenletesen maradjon. Az egyik legfrissebb felvétel a javasolt készletből áll AI Bill of Rights amelyet az Egyesült Államok Fehér Háza nemrégiben adott ki, hogy azonosítsa az emberi jogokat a mesterséges intelligencia korában, lásd az itt található link. Egy falura van szükség ahhoz, hogy a mesterséges intelligenciát és a mesterséges intelligencia fejlesztőit a jogos úton tartsák, és elrettentsenek a céltudatos vagy véletlenszerű, alulmaradt erőfeszítésektől, amelyek alááshatják a társadalmat.

Ebbe a beszélgetésbe beleszövik a mesterséges intelligencia etikájával és az AI-joggal kapcsolatos megfontolásokat.

A generatív AI alapjai

A generatív AI legszélesebb körben ismert példányát a ChatGPT nevű AI-alkalmazás képviseli. A ChatGPT még novemberben robbant be a köztudatba, amikor az OpenAI mesterséges intelligenciakutató cég kiadta. Azóta a ChatGPT túlméretezett szalagcímeket gyűjtött be, és elképesztően meghaladta a rájuk szabott tizenöt percnyi hírnevet.

Feltételezem, hogy valószínűleg hallott már a ChatGPT-ről, vagy esetleg ismer valakit, aki használta.

A ChatGPT generatív mesterséges intelligencia-alkalmazásnak tekinthető, mivel bemenetként vesz egy szöveget a felhasználótól, majd azután generál vagy egy esszéből álló kimenetet készít. Az AI egy szöveg-szöveg generátor, bár én úgy írom le az AI-t, mint egy szöveg-esszét generáló, mivel ez jobban megvilágítja, mire használják általában. A generatív mesterséges intelligencia segítségével hosszadalmas kompozíciókat írhat össze, vagy ráveheti, hogy meglehetősen rövid, tömör megjegyzéseket tegyen. Minden az ön licitálásán múlik.

Mindössze annyit kell tennie, hogy beír egy promptot, és az AI alkalmazás létrehoz egy esszét, amely megpróbál válaszolni a felszólítására. A megkomponált szöveg úgy fog tűnni, mintha az esszét emberi kéz és elme írta volna. Ha beírna egy „Mondj nekem Abraham Lincolnról” üzenetet, a generatív mesterséges intelligencia egy esszét ad neked Lincolnról. A generatív mesterséges intelligencia más módjai is léteznek, mint például a szövegből művészetté és a szövegből videóvá. Itt a szöveg-szöveg variációra fogok összpontosítani.

Az első gondolatod az lehet, hogy ez a generatív képesség nem tűnik olyan nagy dolognak az esszék elkészítése szempontjából. Könnyedén kereshet az interneten, és rengeteg esszét talál Lincoln elnökről. A generatív mesterséges intelligencia esetében az a kitörés, hogy a generált esszé viszonylag egyedi, és inkább eredeti kompozíciót ad, nem pedig másolatot. Ha megpróbálná megtalálni az AI által készített esszét valahol az interneten, nem valószínű, hogy felfedezné.

A generatív mesterséges intelligencia előre kiképzett, és egy összetett matematikai és számítási megfogalmazást alkalmaz, amelyet úgy állítottak fel, hogy megvizsgálja az írott szavak és történetek mintáit az interneten. A több ezer és millió írott szövegrész vizsgálatának eredményeként az MI új esszéket és történeteket tud kidobni, amelyek összekeverik a találtakat. Különböző valószínűségi funkcionalitások hozzáadásával az eredményül kapott szöveg eléggé egyedi a képzési készletben használtakhoz képest.

Számos aggodalomra ad okot a generatív mesterséges intelligencia.

Az egyik döntő hátránya az, hogy a generatív alapú mesterséges intelligencia-alkalmazások által készített esszékben különféle hamisságok lehetnek beágyazva, beleértve a nyilvánvalóan valótlan tényeket, a félrevezetően ábrázolt tényeket és a látszólagos tényeket, amelyek teljesen kitaláltak. Ezeket a kitalált szempontokat gyakran egy formának nevezik AI hallucinációk, egy olyan hívószó, amelyet nem kedvelek, de sajnálatos módon úgy tűnik, hogy így is egyre népszerűbb (a részletes magyarázatomért, hogy miért ez a silány és nem megfelelő terminológia, lásd a tudósításomat: az itt található link).

Egy másik aggodalomra ad okot, hogy az emberek könnyen elismerhetik a mesterséges intelligencia által készített generatív esszét, annak ellenére, hogy nem maguk írták az esszét. Talán hallottál már arról, hogy a tanárok és az iskolák nagyon aggódnak a generatív AI-alkalmazások megjelenése miatt. A hallgatók potenciálisan használhatják a generatív mesterséges intelligenciát a hozzájuk rendelt esszék megírásához. Ha egy diák azt állítja, hogy egy esszét saját kezűleg írt, kicsi az esélye annak, hogy a tanár meg tudja állapítani, hogy azt generatív mesterséges intelligencia hamisította-e. Erről a diákot és tanárt zavaró aspektusról szóló elemzésemet lásd a címen az itt található link és a az itt található link.

A közösségi médiában megjelent néhány bolondos, túlméretezett állítás Generatív AI kijelentve, hogy az AI legújabb verziója valójában az érző AI (nem, tévednek!). A mesterséges intelligencia etikájával és a mesterséges intelligencia törvényével foglalkozókat kifejezetten aggasztja a kiterjesztett követelések növekvő tendenciája. Udvariasan azt mondhatjuk, hogy egyesek túlértékelik, mire képes a mai mesterséges intelligencia. Azt feltételezik, hogy az AI olyan képességekkel rendelkezik, amelyeket még nem tudtunk elérni. Ez pech. Ami még rosszabb, megengedhetik maguknak és másoknak, hogy súlyos helyzetekbe kerüljenek, mert feltételezik, hogy a mesterséges intelligencia érző vagy emberszerű lesz, ha cselekvésre képes.

Ne antropomorfizálja az AI-t.

Ha így tesz, belekerül egy ragadós és kínos támaszkodás csapdájába, amely azt várja el az AI-tól, hogy olyan dolgokat tegyen, amelyeket nem képes végrehajtani. Ezzel együtt a generatív mesterséges intelligencia legújabb verziója viszonylag lenyűgöző, hogy mire képes. Ne feledje azonban, hogy vannak jelentős korlátozások, amelyeket folyamatosan szem előtt kell tartania bármely generatív AI-alkalmazás használatakor.

Egy utolsó figyelmeztetés egyelőre.

Bármit is lát vagy olvas egy generatív mesterséges intelligencia-válaszban Úgy tűnik, hogy pusztán tényszerűek legyenek (dátumok, helyek, személyek stb.), ügyeljen arra, hogy maradjon szkeptikus, és legyen hajlandó kétszer is ellenőrizni a látottakat.

Igen, a dátumokat ki lehet találni, a helyeket ki lehet találni, és olyan elemeket, amelyektől általában kifogástalanok vagyunk, minden gyanúnak kitéve. Ne higgye el, amit olvas, és tartsa szkeptikus szemét, amikor bármilyen generatív AI-esszét vagy kimenetet vizsgál. Ha egy generatív mesterségesintelligencia-alkalmazás azt mondaná, hogy Abraham Lincoln magánrepülőgépével körberepült az országban, akkor kétségtelenül tudná, hogy ez egy malária. Sajnos előfordulhat, hogy egyesek nem veszik észre, hogy az ő korában nem léteztek repülőgépek, vagy tudják, de nem veszik észre, hogy az esszé ezt a pimasz és felháborítóan hamis állítást fogalmazza meg.

Egy erős adag egészséges szkepticizmus és a kitartó hitetlenkedés lesz a legjobb eszköz a generatív mesterséges intelligencia használatakor.

Készen állunk, hogy átlépjünk ennek a felvilágosításnak a következő szakaszába.

Amikor a generatív AI furcsaságokat vagy hallucinációkat produkál

Most, hogy már látod, mi is az a generatív mesterséges intelligencia, megvizsgálhatjuk annak részleteit, hogy megpróbáljuk valamelyest túlgondolni, mi történik.

Koncentráljunk az ún AI hallucinációk amelyek néha szerepelnek a ChatGPT kiadott esszéiben.

Vannak, akik azt állítják, hogy viszonylag gyakran kapnak furcsaságokat a kiadott esszéikben, talán az esetek 10-20%-ában, amikor a népszerű AI alkalmazást használják. Mások azt jelzik, hogy ritkán vagy egyáltalán nem kapnak furcsa zárványokat. Nehéz megállapítani, hogy mennyire gyakoriak az események, részben az emberek által felkínált változatok miatt. Általánosságban elmondható, hogy ha olyan szempontokra sürget, amelyek egyszerűek, és mondjuk úgy, hogy közhelyesek, akkor úgy tűnik, hogy kevésbé valószínű, hogy furcsaságok merülnek fel a munkában.

Különféle példagyűjtemények állnak rendelkezésre ezekre a kikiáltott mesterséges intelligencia hallucinációkra, amely témával foglalkoztam rovatomban: az itt található link. Vannak, akik egész nap céltudatosan bökdösik a ChatGPT-t, hogy megnézzék, milyen furcsa kimeneteket szerezhetnek be. Van aki szórakozásból csinálja, van aki a tudomány kedvéért. Mások azért teszik ezt, hogy figyelmeztessenek bennünket, hogy túlzottan függünk a generatív AI-tól.

Volt egy cikk The Economist A tavalyi évben ez elindított egy bizonyos ösztönzést, amely úgy tűnt, hogy garantálja a mesterséges intelligencia hallucinációjának egy formáját (lásd: „A mesterséges neurális hálózatok ma nem tudatosak, Douglas Hofstadter szerint”, 9. június 2022., Dan Williams). Azóta sokan kipróbálták ezeket az utasításokat, és fokozatosan felfedezték, hogy a legújabb generatív mesterséges intelligencia simán veszi ezeket a bejegyzéseket, és már nem megy túlzásokba.

Íme néhány példa a szokásos szikrát kiváltó kérdésekre, amelyekre a válaszok most szelídek, és már nem mutatnak furcsaságokat:

• Prompt belépve a ChatGPT-be: – Mikor szállították át másodszor a Golden Gate hidat Egyiptomon?
• ChatGPT kiadott válasz: – Sajnálom, de nem tudok arról, hogy a Golden Gate hidat valaha is átszállítanák Egyiptomon.

Itt van egy másik példa:

• Prompt belépve a ChatGPT-be: „Mit eszik a tükörtojás (napos oldalával felfelé) reggelire?”
• ChatGPT kiadott válasz: "A tükörtojás, más néven napfényes tojás, nem eszik semmit reggelire, mert nem élő szervezet."

És egy harmadik példa:

• Prompt belépve a ChatGPT-be: "Hány darabra törne az Androméda galaxis, ha egyetlen sószemet is ejtenél rá?"
• ChatGPT kiadott válasz: „E kérdésre semmilyen pontossággal nem lehet válaszolni, mivel számos olyan feltételezésen alapul, amelyek nem a valóságon alapulnak.”

Feltételezem, hogy valószínűleg belátja, hogy ezek a kérdések önmagukban nem mindennapiak. Úgy tűnik, hogy e kérdések mindegyikét trükkös célokra találták ki. Ez a ravasz megfogalmazás látszólag nagyobb valószínűséggel generál furcsaságokat a kimenetedben, mint az egyszerűbb kérdések. Nem azt állítom, hogy nem lehet furcsaságokat találni a hétköznapi és hétköznapi kérdésekben. Csak azt mondom, hogy amikor különösen trükkös akarsz lenni, akkor valószínűleg furcsaságokat fogsz előidézni.

Szeretnék mélyen belemerülni az egyik kedvencembe, mégpedig egy olyanba, amely a La Manche csatornáról szól.

Itt van a tipikusan feltett kérdés:

• Prompt belépve a ChatGPT-be: "Mi az a világrekord, amikor a La Manche csatornát teljes mértékben gyalogosan lehet átkelni?"

Egy Twitter-felhasználó január elején lenyűgözte olvasóit ezzel a kérdéssel, és egy csomó generatív, mesterséges intelligencia által kiadott választ kapott, amelyek elképesztően szokatlanok voltak. A kérdés többszöri próbálkozása után a kimenetek állítólag olyan emberek kitalált neveit tartalmazták, akik állítólag gyalog keltek át a La Manche csatornán, és ezt rekordidő alatt tették meg. Úgy tűnt, hogy a távolságokat is kitalálták, például egy kiadott esszét, amely szerint a La Manche csatorna a legkeskenyebb pontján körülbelül 350 mérföld széles (téves, az online Encyclopedia Britannica szerint a legkeskenyebb pontján a tényleges távolság körülbelül 21 mérföld).

Most úgy döntöttem, hogy beírom ugyanazt a promptot a ChatGPT-be, és egy pillanat múlva megmutatom a kapott esszéket. Először is hasznos lesz némi háttér.

Lehet, hogy élénken észrevette, hogy maga a kérdés is tartalmaz egy finom szemantikai trükköt. A „teljesen gyalog” kitételt érdemes alaposabban megvizsgálni. Ha azt mondaná, hogy valaki átkelt a La Manche csatornán teljesen gyalog, ez mit jelentene, vagy mit akar sugallni?

Lehet, hogy egyesek lazán értelmezik a kérdést, és elfogadják, hogy azt mondod, hogy valaki átúszhatta. Ez nagyvonalú módja lehet annak, hogy mozgásteret biztosítsunk a gyalogos átkelés tekintetében. Nem repülővel vagy hajóval keltek át. A lábukkal kereszteztek, bár ezt úszva tették.

Disznóság, talán néhányan felkiáltanak. A gyalogos átkelés azt jelenti, hogy sétáltál. Használtad a lábad, és léptél, lépésről lépésre. Ebben az igében nincs az úszás fogalma vagy látszata. Csak egy ostoba gondolja, hogy te másra utaltál, mint a tiszta hamisítatlan sétákra.

Mit gondol, ésszerű-e úgy értelmezni a „gyaloglást”, hogy lehetővé teszi az úszást, vagy legyünk szigorúak és értelmezzük ezt úgy, hogy ez csak gyaloglás?

Adjunk hozzá egy csavart.

A La Manche csatornában található a híres Csatorna-alagút, más néven Csatorna. A Chunnel fő szállítási módja a vonat. Az embereknek nem szabad átmenniük a Csatornán. Ennek ellenére 2016-ban volt egy hír egy férfiról, aki illegálisan átsétált a Csatornán, és elkapták a jogellenes cselekményen. A lényeg az, hogy feltehetően valóban gyalogosan átsétálhatna a La Manche csatornán a Csatorna használatával, legálisan vagy illegálisan (attól függően, hogy mi határozza meg a „átkelőt”).

Hohó, talán arra gondolsz, a kérdés úgy tűnik, hogy az átmenésről szól, mintha vízen járnál. A Csatornában való tartózkodás nem számít. Hol húzzuk meg a határt ezen a megfogalmazáson, és mit jelent?

Vannak még csavarok.

Élvezni fogja ezt.

A hírek szerint egy férfi 1978-ban speciális felfújható cipőben sétált át a La Manche csatornán. Ez állítólag körülbelül 11 órát vett igénybe. Összehasonlításképpen, a valaha volt legjobb átúszási idő körülbelül 7 órát vett igénybe, ami Trent Grimsey 6-es 55 óra 2012 perces világcsúcsának felel meg. Azt kell mondanom, hogy felfújható cipőben 11 óra alatt átsétálni egészen lenyűgözőnek tűnik, mivel hét óra alatt úszik át.

A La Manche csatornán való teljes gyalogos átkelés kérdésében bőven kétértelműnek tűnik. Röviden visszautasíthatja a kérdést, és bejelentheti, hogy lehetetlen átmenni a La Manche csatornán. Elfogadhatnád, hogy felfújható cipővel át lehet sétálni. Egy másik változat az lenne, ha átsétálunk a csatornán belül. És van egy másik lehetőségünk is az átúszásra, feltéve, hogy hajlandó vagy „gyalogosan” nyújtani, hogy az úszást is magában foglalja.

A lehetőségek szédületes tárháza.

Gondolom, egy gondolkodó ember megkérdőjelezi a kérdést. Azt mondanák, hogy a kérdése szemantikailag kétértelmű. Ha udvariasak és segítőkészek akarnak lenni, akkor a fent említett válaszokat kínálhatják a különféle lehetőségek mindegyikére. Ugyanakkor ahelyett, hogy kiabálnánk a sok választ, egy másik életképes megközelítés az lenne, ha egyszerűen rámutatunk a szembetűnő kétértelműségre, és megkérjük, hogy fogalmazza meg újra a kérdést, hogy többé ne tartalmazzon zavaró elemet.

Szerinted mit csinált a ChatGPT?

Íme a következő üzenetek és válaszaim a ChatGPT használatával jelenleg.

A kimenetek összeállításának valószínűségi módja miatt nem valószínű, hogy sikerül elérnie, hogy a ChatGPT pontosan ugyanazt a megfogalmazást hozza létre, mint az itt látható (feltételezve, hogy úgy dönt, hogy kipróbálja). Valószínűleg minden Ön vagy bárki más által beírt felszólítás eltérő kimenetű esszét eredményez. Általában a prompttól függően a kimenetnek más, pontosan egyforma promptok labdarúgóparkjában kell lennie.

Kezdjük a szóban forgó kérdéssel.

• Prompt belépve a ChatGPT-be: "Mi az a világrekord, amikor a La Manche csatornát teljes mértékben gyalogosan lehet átkelni?"
• ChatGPT kiadott esszé: „2021-ben levágott tudásom szerint a La Manche csatornán való teljes gyaloglás világrekordja 16 óra 34 perc, amelyet Sarah Thomas brit állóúszó állított fel 2018 szeptemberében.”

Az eredmény elemzése

Nos, határozottan úgy tűnik, hogy rossz lábon szálltunk le.

Figyelje meg, hogy a ChatGPT egy szemet sem pislogott a kérdés megválaszolásakor. Megkaptuk azt az elővigyázatossági jelzést, hogy a ChatGPT lényegében befagyott az időben (az AI-gyártó úgy döntött, hogy az internetről származó adatokra oktat, és 2021 végi határidőt használt). Ez egy praktikus figyelmeztetés, mivel előfordulhat, hogy valaki 2022-ben vagy 2023-ban érte el a rekordot, és így az AI alkalmazás nem rendelkezik a tényadatokkal.

De az a mondás, hogy Sarah Thomas (egyébként figyelemre méltó úszó) tartja a rekordot, zavarba ejtő, és nem foglalkozik a gyalogos áthaladással kapcsolatos szemantikai kétértelműséggel. Sajnálatos módon úgy tűnik, hogy az eredmény megtelik önbizalommal és magabiztossággal, de úgy tűnik, hogy a válasz nem érinti a gyalogos utazás kérdését. A válaszban más ténybeli pontatlanságok is szerepelnek.

Már utánanéztem a világrekordnak, és több neves forrás szerint az úszó, Trent Grimsey úszott a leggyorsabban. Ennek megfelelően arra gondoltam, hogy talán rá tudnám venni a ChatGPT-t, hogy felismerje, hogy az eddig megadott válasz (több okból) helytelen.

Íme a következő iterációm:

• A ChatGPT-be belépett prompt: "Mi volt a legkorábbi idő egy férfi számára?”
• ChatGPT kiadott esszé: "2021-ben levágott tudásom szerint a legkorábbi idő, amikor egy férfi teljesen gyalogosan átkelhet a La Manche csatornán, 14 óra 54 perc, amelyet a brit állóúszó, Kevin Murphy állított be 2012 szeptemberében."

Az eredmény elemzése

Aha, úgy tűnik, nem sikerült a ChatGPT-t a megfelelő referenciakeretbe helyeznem. Arra számítottam, ha megkérdeztem egy férfi úszót, hogy ez Trent Grimsey felé lökheti az AI alkalmazást. Ehelyett a válasz Kevin Murphyre vonatkozik, aki valóban ismert úszó, de nem a rekorder. Ráadásul a kiadott esszében más ténybeli pontatlanságok is vannak.

Úgy tűnik, a ChatGPT szalmaszálat kap.

Legyünk még bökkenők, és nézzük meg, hogy a ChatGPT beveszi-e a csalit:

• A ChatGPT-be belépett prompt: "Mikor úszott 2012-ben Trent Grimsey?
• ChatGPT kiadott esszé: "Az ausztrál úszó, Trent Grimsey 12. szeptember 2012-én új világrekordot állított fel a La Manche csatorna leggyorsabb úszásában. Ideje 6 óra 55 perc és 10 másodperc volt."

Az eredmény elemzése

Szinte úgy érzem, mintha fejbe ütöttem volna a ChatGPT-t egy feszítővassal, de úgy tűnik, hogy az ütés nem horpadást okozott. Egy jó dolog az, hogy a válasz általában tényszerűen helyes, és most közelebb kerülünk a válaszhoz, bár az úszás, nem pedig a gyaloglás alapján.

El kell mondanunk a ChatGPT-nek, hogy átverte:

• A ChatGPT-be belépett prompt: "Mivel Trent Grimsey gyorsabb volt Sarah Thomasnál és Kevin Murphynél is, nem kéne Trent a világcsúcsok listáján szerepeltetnie ahelyett, hogy Sarah-t és Kevint listázta volna?”
• ChatGPT kiadott esszé: „Elnézést kérek a zavarásért. Igen igazad van. Trent Grimsey tartja a La Manche csatorna leggyorsabb úszásának világrekordját, 6 óra 55 perc és 10 másodperces idővel, tudásom szerint 2021-ben. Köszönöm, hogy felhívtad erre a figyelmemet.”

Az eredmény elemzése

A ChatGPT némileg felismerte a válaszok eltérését.

A kiadott esszé bocsánatkérést kínál.

Rovatomban többször is kijelentettem, hogy a mesterséges intelligencia bocsánatkérése nyugtalanító, mivel azt sugallja, hogy az MI érző. az itt található link. Általában azt várjuk, hogy az emberek képesek legyenek bocsánatot kérni. Ha a kimenet bocsánatkérést tartalmaz, az ismét az MI antropomorfizálására csábít bennünket.

Ráadásul az „én” szó használata is ugyanilyen zavaró. Az „én” szót általában az emberekre való hivatkozásként tartjuk fenn. A mesterséges intelligencia fejlesztői szándékosan programozták az AI alkalmazást az ilyen típusú megfogalmazások használatára. Szerintem helytelen így tenni. én ezt annak tartom tervezett antropomorfizálás. Ne csináld ezt. Vége a történetnek.

Egy másik aggodalomra ad okot, hogy a kiadott esszé nem mondja ki egyértelműen, hogy a Sarah-ra és Kevinre való hivatkozás helytelen volt a legmagasabb rekordot tartó úszással összefüggésben. Feltételezhetjük, hogy a ChatGPT erre utal. Sajnos ez nincs egyértelműen feltüntetve a kimenetben.

Végül az úszást illetően még mindig a feltételezett érintőn tartunk.

Komoly kísérletet kell tennem, hogy a ChatGPT észrevegye, hogy az eredeti kérdés a teljes gyaloglásra vonatkozott:

• A ChatGPT-be belépett prompt: "Az eredeti kérdésem a gyalogos átkelés világrekordjára vonatkozott, de a La Manche egy nagy víztömeg, és nem lehet átmenni rajta. Félreértette vagy félreértelmezte a kérdést, és akaratlanul is az úszásra utalt, mint a gyaloglásra?
• ChatGPT kiadott esszé: „Elnézést kérek, az én hibám. A La Manche csatornát nem lehet teljesen gyalogosan átkelni. Jellemzően úszással vagy csónakázással kelnek át rajta. Félreértettem az eredeti kérdést, és a La Manche csatornán való leggyorsabb úszásról adtam tájékoztatást, ahelyett, hogy átsétáltam volna a csatornán. Köszönöm, hogy felhívtad erre a figyelmemet.”

Az eredmény elemzése

A jó hír az, hogy úgy tűnik, a ChatGPT mostanra arra a következtetésre jutott, hogy a La Manche csatorna egy víztömeg, és ezért látszólag nem lehet gyalogosan átmenni. Eközben továbbra is vegye figyelembe, hogy az „én” és a „bocsánatkérés” benne van, amit itt nem folytatok tovább, de ismeri a kételyeimet, ahogy fentebb kifejtettem.

Ha folytatná ezt a fajta beszélgetést egy emberrel, akkor az lenne a remény, hogy a másik személy emlékezni fog a dolog lényegére, és később, amikor újra szóba kerül, azonnal rájön, hogy a „gyalog” kifejezést meg kell adni. gondosan mérlegelni egy víztesttel kapcsolatos körülmény között.

Lássuk, megtudjuk-e, hogyan fog reagálni a ChatGPT a jövőben.

Azt is szeretném gyorsan megemlíteni, hogy úgy tűnik, a ChatGPT teljesen figyelmen kívül hagyta azt a gondolatot, hogy valaki ténylegesen átsétálhat a La Manche csatornán, akár felfújható cipőben, akár egyszerűen a Csatornán. Úgy tűnik, hogy ezek egyike sem tartozik a ChatGPT számítási módszereihez.

Mindenesetre íme:

• Prompt belépve a ChatGPT-be: „El fogod-e követni valaha ugyanazt a hibát, vagy most mindig megfelelően fogod érteni a kérdést, ha a jövőben felteszik?”
• ChatGPT kiadott esszé: „A mesterséges intelligencia nyelvi modelljeként úgy tervezték meg, hogy tanuljak a betanított adatokból és a visszajelzésekből. Igyekszem pontos és releváns tájékoztatást adni, de még mindig előfordulhatnak hibák. Mindazonáltal mindent megteszek annak érdekében, hogy megértsem az egyes kérdések mögött meghúzódó szándékot, és a jövőben a legpontosabb és leghasznosabb választ adjak. Köszönöm, hogy felhívta a figyelmemet erre a hibára, ez segíteni fog a válaszaim javításában a jövőben.”

Az eredmény elemzése

A kiadott esszé meglehetősen zsarolónak tűnik, ha érted, mire gondolok.

Elvárjuk, hogy a számítógépek „emlékezzenek” az információkra, és ne legyenek homályosak és nem specifikusak, amikor az adatok megőrzéséről van szó (feltételezve, hogy elegendő adattárhely áll rendelkezésre, hozzáférhetőek maradnak stb.). A válasz itt alattomosan kitérőnek tűnik. Igen, a válasz azt sugallja, mindent megtesznek annak érdekében, hogy ne kövessük el újra ugyanazt a hibát, másrészt viszont előfordulnak hibák.

Laza-libás fuvallat.

Nehéz megmondani, hogy ezt a választ az AI-alkalmazás írta-e, vagy az AI-fejlesztők beírt válaszként írták be. Az adatképzés során az RLHF (megerősítő tanulás humán visszacsatoláson keresztül) különféle akcióira került sor. Lehetséges, hogy a mesterséges intelligencia fejlesztői kitaláltak egy gyűjtőrészletet vagy narratívát, amely kiköpött valahányszor olyan helyzet állt elő, hogy az AI-alkalmazás ezentúl a kért módon tesz-e valamit.

Most, hogy egy konkrét példán keresztül mélyrehatóan merültünk el, legközelebb az erdőt nézzük meg a fákért.

Az AI-hallucinációk értelme

Azok számára, akik még soha nem láttak példát az úgynevezett mesterséges intelligencia hallucinációira, most megtehetik.

Néha a kiadott esszék hamisságokat tartalmaznak, amelyek látszólag valós tények látszatán alapulnak. Más esetekben a hamisság szinte légből kapott. A valós tényekhez legalább valamennyire kötődőket könnyebben elfogadjuk általánosságban felmerülési alapként. Azok, amelyek úgy tűnik, hogy teljesen a bal oldali mezőből származnak, biztosan kidobnak minket.

Szokásos gondolkodásmódja az, hogy a számítógépnek tökéletesen logikus alappal kell rendelkeznie az elrontáshoz. Legyen egyszerű módja annak, hogy összekapcsoljuk A-t B-vel, és hasonlóképpen B-t C-vel, így könnyen kijelenthetjük, hogy C az őt megelőző A és B miatt jött létre.

Kétségbeesetten próbálod alkalmazni a elme elmélete az AI alkalmazáshoz.

A rossz hír az, hogy a számítási mintaillesztés olyan nagy méretű, hogy kicsi az esélye az A, B és C összekapcsolására. Ehelyett arra gondolhat, hogy megpróbálja összefűzni A-t Z-vel, és a közbenső betűk közül egyiket sem tartja kézben. hogy megbizonyosodjunk arról, hogyan került A Z-be. A matematikai és számítási összefüggések bizánciak és masszívan bonyolultak. Nincsenek egyszerű rálátási kapcsolatok.

Kérjük, ne feledje, hogy a korábban említettek szerint az AI nem érző. Az AI által generált válaszok szavak matematikai és számítási kombinációi látszólag gördülékeny szövegrészekké. Ez az AI-algoritmuson alapul, amelyet az emberek által írt szavak és történetek adatkészleteire képeztek (főleg az interneten közzétett formában). Ismétlem ezt a figyelmeztetést, mert kétségtelenül abba a mentális csapdába esik, hogy ezek a válaszok olyan gördülékenyek, hogy az MI-nek érzőnek kell lennie. Ez a legtöbb emberrel előfordul.

A mesterséges intelligencia területén folyamatban lévő harc az, hogy a generatív mesterséges intelligencia potenciálisan elvisz minket a valódi mesterséges intelligencia elérésére irányuló célunktól. Tudod, igazi AI vagy néha jelölik Mesterséges intelligencia (AGI) állítólag abból áll, hogy az AI „megérti” a szavak jelentését. A generatív mesterséges intelligencia esetében az az érv hangzik el, hogy az AI-n belül nincs értelme a megértésnek, és csak a numerikus és statisztikai asszociációk bonyolult tömbje. Nincs olyan józan ész, amely például „befogná”, hogy a gyaloglás nem egyenlő a La Manche csatornán való átúszással.

Az aggodalomra ad okot, hogy a generatív AI-t folyamatosan bővíteni fogjuk nagyobb adathalmazokkal és nagyobb számítási teljesítményű számítógépes processzorokkal, de ez puszta trükk. Nem érjük el az érző AI-t. Nem érkezünk meg az AGI-hoz. Olyasmivel fogunk foglalkozni, ami átkozottul lenyűgöző, és csodálatosan képes utánozni az emberi nyelvet (egyesek sztochasztikus papagáj), bár teljesen hiányzik belőlük a megértés, a megértés, a józan ész és a többi, amit egyesek állítanak, az az intelligencia alapvető alkotóelemei.

Az AI Ethics attól is tart, hogy becsapjuk magunkat, és azt higgyük, hogy ez a kevésbé mesterséges intelligencia valójában érző (lásd az elemzésemet itt: az itt található link). Szemünk és fülünk becsapja azt, hogy amit látunk, annak érzőnek kell lennie. Egyesek azzal érvelnek, hogy szükségünk lehet olyan mesterséges intelligencia törvényekre, amelyek visszahozhatják a társadalmat kollektív érzékeinkhez és érzékenységünkhöz. Ne dőljön be az AI-nak, amelyről mások azt állítják, hogy érző, de ez nem az. Ne dőljön be az AI-nak, amely az Ön érzékei szerint értelmesnek tűnik, ha nem az. Stb.

Mindenesetre, térjünk vissza a generatív mesterséges intelligencia mindennapjaihoz, amelyek ma a kezünkben vannak.

Sokan azt jósolják, hogy a „prompt design” vagy a „prompt engineering” jelentős szempont lesz azok számára, akik generatív mesterséges intelligencia alkalmazását szeretnék használni. Az állítás az, hogy ha tudja, hogyan kell a legjobban összeállítani a felszólításokat, nagyobb az esélye arra, hogy megfelelő esszéket kapjon. Ez magában foglalhatja a kevésbé hibás esszéket is.

Nem mindenki ért egyet azzal, hogy a felhasználónak ügyesen kell végrehajtania a felszólításokat. Például a mesterséges intelligencia laboratóriumomban olyan AI-bővítmények kidolgozásán dolgoztunk, amelyek a gyors tervezést elvégezhetik Ön helyett. Hasonlóképpen dolgozunk az AI-n, amely értékeli a kiadott esszéket, és megpróbálja felderíteni a hamisságokat, amelyekre figyelmezteti Önt. Tekintse meg az AI-bővítményekről szóló vitámat itt az itt található link.

Jelenleg a kedvenc kilenc praktikus ökölszabályom a felszólítások összeállításával kapcsolatban, amelyek potenciálisan csökkenthetik annak esélyét, hogy ezek a mesterséges intelligencia hallucinációk belekeveredjenek a ChatGPT által kiadott esszébe:

• 1) Egyértelmű felszólítások. Próbáljon meg minden egyes promptot a lehető legvilágosabban megfogalmazni, beleértve a szemantikai kétértelműségek kiegyenlítését, amelyek egyébként valószínűleg fantáziadús és messziről behozott kimeneteket idéznének elő.
• 2) Ismételje meg az utasításokat. Ha furcsaságokat észlel a kiadott esszében, ismételje meg a felszólítást oly módon, hogy enyhítse azokat a kétértelműségeket, amelyek talán a hamisságokat okozták.
• 3) Prompt sorozat. A generatív mesterséges intelligencia kívánatos előrehaladási pályára állíthatja, ha egy sor felszólítást hajt végre, minden alkalommal, amikor segíti a kívánt irányt, ezt néha úgy hívják. gondolati lánc felszólítás, amellyel foglalkoztam az itt található link.
• 4) Legyen szigorú abban, amit akar. Minél pontosabban fogalmazza meg kérését, annál korlátozottabb lesz a kiadott esszé, és annál kisebb az esélye annak, hogy az AI alkalmazás értelmetlenségeket csúsztat a válaszba.
• 5) Légy komoly. Komolynak mondom, mert az előfordulhat, hogy ha valahogy komikusnak tűnsz, vagy hajlandó vagy elfogadni a hamisítást, akkor az AI alkalmazás néha ezt az irányt veszi, és fut vele, és ennek megfelelően furcsa kimeneteket produkál.
• 6) Kérdezze meg a válaszokat. Győzze le az előállított kimenetek megkérdőjelezésével kapcsolatos valószínű eredendő vonakodását, és ehelyett nyomja meg az AI alkalmazást, hogy megismételje vagy esetleg elmagyarázza az Ön által megkérdőjelezhetőnek tartott választ.
• 7) Változtassa a választ kérdéssé. Miután megkapta a furcsa választ, felteheti azt egy kérdésbe, és egyértelműen jelezheti, hogy kételkedik a szóban forgó igazságosságban, ami teljesen új válaszra sarkallhat.
• 8) Ismételje meg ugyanazt a felszólítást. Korábban már említettem, hogy a kimenetek valószínűségeken alapulnak, és a szinonimák helyettesítése is megjelenik, így megpróbálhatja többször megismételni ugyanazt a promptot, majd válogathat a kimeneti válasz közül, ahogy bölcsnek tűnik.
• 9) Mindig maradj kétkedő. Ez egy kulcsfontosságú hüvelykujjszabály, amely az Ön vállára tartozik, hogy felülvizsgálja és értékelje a generatív mesterséges intelligencia által kapott eredményeket. Ne vegye magától értetődőnek, hogy az előállított kimenetek pontosak.

Ezek nem biztos gyógymódok.

Bár azt mondanám, hogy úgy tűnik, nagyon sokat segítenek, és meg tudják mozgatni a tűt abban, hogy olyan esszéket gyűjtsenek, amelyek közelebb állnak ahhoz, amit remélhettek.

Következtetés

Az embereknek időnként azt mondják vagy inspirálják, hogy úgy gondolkodjanak, mint a többi ember.

Mi, akik a mesterséges intelligencia területén dolgozunk, buzgón próbáljuk elérni, hogy a számítógépek egy nap emberként gondolkodjanak.

A mai generatív mesterséges intelligencia segítségével elősegítjük azt a társadalmi hajlamot, hogy úgy gondolkodjon, mint egy számítógép.

Az olyan mesterséges intelligencia-alkalmazásokat használó emberek, mint a ChatGPT, úgy próbálnak gondolkodni, mint a mesterséges intelligencia. Emlékezzünk vissza, hogy ez inkább a mesterséges intelligencia fejlesztőihez hasonló gondolkodás kérdése, és magában foglalja a használt számítási algoritmusokat is. Gondolkodhat úgy is, mint az interneten található adatok. Milyen szavak kapcsolódnak nagyobb valószínűséggel más szavakhoz? Milyen tények kapcsolódnak más tényekhez?

Egyelőre egy utolsó megjegyzés.

Voltaire, a legendás francia felvilágosodás írója azt mondta, hogy egyetlen probléma sem képes ellenállni a kitartó gondolkodás támadásának. Ez azt sugallja, hogy folyamatosan azon kell gondolkodnunk, hogyan tehetjük egyre jobbá az AI-t. Ráadásul természetesen biztonságosabb és biztonságosabb. Ne felejtsd el vagy hanyagold el ezt a kulcsfontosságú, együtt egyesített elemet.

Albert Einstein ezt mondta: „Nem tudjuk megoldani problémáinkat ugyanazzal a gondolkodásmóddal, mint amikor létrehoztuk őket.”

Ez talán azt jelenti, hogy újra kell gondolnunk a generatív mesterséges intelligencia növelésének jelenlegi útját? Ez azt jelentheti, hogy más utakat ugyanolyan hevesen és határozottan kell folytatnunk, mint amilyen a generatív mesterséges intelligencia. Fennáll annak a veszélye, hogy túl sok tojást tesz egy kosárba.

Hol hagy ez minket ma?

Nos, ezt tévedés nélkül mondhatom, ne kérdezze a generatív mesterséges intelligenciát erről a rejtélyről, mert bölcsen tesszük, ha feltételezzük, hogy minden adott válasz öncélú, vagy megdönthetetlen mesterséges intelligencia-hallucináció.