Az emberek lelkesen konzultálnak a Generatív AI ChatGPT-vel mentális egészséggel kapcsolatos tanácsokért, hangsúlyozzák a mesterséges intelligencia etikáját és a mesterséges intelligencia törvényeit

A mentális egészség napjainkban széles körben elterjedt témává vált.

A múltban a mentális egészséggel kapcsolatos vitákat gyakran elhallgatták, vagy teljesen a szőnyeg alá söpörték. A fokozatos kulturális változás a mentális egészséggel kapcsolatos kérdések nyílt megfontolásához vezetett, és enyhítette a kételyt, ha ezt nyilvánosan elismert módon tesszük.

Valamilyen érdemet tulajdoníthatna ennek az átfogó társadalmi attitűdök változásának a könnyen elérhető okostelefon-alkalmazások megjelenésének eredményeként, amelyek elősegítik személyes éberségét, és feltehetően szellemi jólétre ösztönöznek. Vannak olyan alkalmazások az éber figyelemre, a meditációra, a mentális egészségi állapotod diagnosztizálására, a mentális egészségügyi szűrések elvégzésére és így tovább. Rengeteg alkalmazás létezik.

Mondhatjuk, hogy az okostelefonos alkalmazások nyíltan nyitottak a mentális egészséggel kapcsolatban? Igaz, ez egy kicsit tyúk- vagy tojáskérdés. A mentális egészség iránti nyitottság lehetővé tette-e a releváns okostelefon-alkalmazások megjelenését, vagy az okostelefon-alkalmazások mentális jóléte hajtotta a társadalmat a mentális egészséggel kapcsolatos előrejelzések irányába?

Talán egy összefonódó kombináció volt, amelyben mindkét irány egyszerre történt.

Mindenesetre ebbe a hatásos keverékbe beletartoznak a mentális egészségügyi alkalmazások térnyerése, amelyekről azt mondják, hogy rendkívüli módon a mesterséges intelligencia (AI) hajtotta. Az ötlet az, hogy a mögöttes technológia javítható a mesterséges intelligencia (feltehetően) megfontolt használatával. Míg a mentálhigiénés alkalmazások kezdeti verziói túlnyomórészt tényeken alapuló információs átadások voltak, mintha online keresést végezne az említett témákban, a mesterséges intelligencia beszivárgása ahhoz vezetett, hogy az automatizálás interaktív párbeszédeket kezdeményezett Önnel, hasonlóan az emberi terapeutával való SMS-ezéshez vagy hasonlókhoz. (Nos, valahogy, ahogy itt fogok foglalkozni és megvizsgálni).

Ez elvezet minket a legújabb és címlapra ragadó mesterséges intelligenciához, amely a közelmúltban nemzeti és nemzetközi figyelmet keltett, nevezetesen a hivatalosan ún. Generatív AI és széles körben népszerűsítették a ChatGPT néven ismert alkalmazáson keresztül. Az egyértelműség kedvéért, a ChatGPT egy általános célú interaktív mesterséges intelligencia rendszer, lényegében egy általános chatbot, ennek ellenére aktívan és buzgón használják olyan emberek, akik kifejezetten mentálhigiénés tanácsokat szeretnének gyűjteni (az alkalmazást nem erre a célra készítették, és mégis úgy döntöttek, hogy mindenképpen használni akarják erre a szerepre).

A ChatGPT-vel kapcsolatos legutóbbi tudósításomat lásd az itt található link áttekintéshez. Végeztem néhány nyomon követést arról is, hogy a ChatGPT mennyire aggasztja a tanárokat amiatt, hogy a diákok esetleg csalnak az AI használatával esszéik megírásához, lásd az itt található link, és szezonálisan ízesítettem a Mikuláshoz kapcsolódó elemzésemet a címen az itt található link.

Ne aggódjon, itt elmagyarázom, miről is szól a Generative AI és a ChatGPT, mégpedig egy pillanatra, ezért kérjük, tartson ki.

Ha egy pillantást vet a közösségi médiára, látni fogja azokat az embereket, akik a ChatGPT-t és a generatív AI-t a legjobb dolognak hirdetik a szeletelt kenyér óta. Egyesek azt sugallják, hogy ez valójában érző mesterséges intelligencia (nem, tévednek!). Mások attól tartanak, hogy az emberek megelőzik magukat. Azt látják, amit látni akarnak. Vettek egy csillogó új játékot, és pontosan megmutatták, miért nem kaphatunk fülbemászó új dolgokat.

A mesterséges intelligencia etikájában és a mesterséges intelligencia törvényében dolgozók józanul és komolyan aggódnak e növekvő tendencia miatt, és ez jogosan van így. Itt alaposan megvizsgáljuk, hogyan használják az emberek a generatív mesterséges intelligenciát olyan célokra, amelyek nem igazán alkalmasak arra, amit az AI ma elérhet. A mesterséges intelligencia minden etikai és jogi problémája kétségtelenül az egész rejtélybe van csomagolva. A mesterséges intelligencia etikájával és a mesterséges intelligencia törvényével kapcsolatos folyamatos és kiterjedt tudósításomat lásd az itt található link és a az itt található link, csak hogy néhányat említsek.

Először is nézzük meg a mentális egészség néhány fontos oldalát, és azt, hogy ez miért olyan nagy és alapvető téma. Az alapok lerakása után röviden elmagyarázzuk a generatív AI-t és különösen a ChatGPT-t. Példákat mellékelek a ChatGPT-ből, hogy saját szemével lássa, milyen típusú szavakat képes előállítani az AI alkalmazás. Ezt a vitát néhány megjegyzéssel zárjuk majd arról, hogy mit is jelent ez, és hogy a mesterséges intelligencia etika és a mesterséges intelligencia törvénye hogyan kerül elkerülhetetlenül a képbe.

Kösd be a biztonsági övet egy jó utazáshoz.

A mentális egészség létfontosságú és egyre növekvő társadalmi probléma

Különböző publikált statisztikák szerint sötét és komor felhő borítja a mai mentális egészségi állapotot. Nem akarok rosszkedvűnek tűnni ezzel kapcsolatban, de akár szembe is nézhetünk a velünk szemben álló valósággal. Nem megy, ha homokba rejtjük a fejünket. Jobb lesz, ha nyitott szemmel és készen állunk a kényes problémák megoldására az ügyhöz.

Íme néhány figyelemre méltó statisztika, amelyeket egy prominens mentálhigiénés szervezet gyűjtött össze az amerikaiakról és a mentálhigiénés környezetről (per Mental Health Amerika, „2023 legfontosabb megállapításai”):

• A felnőttek gyakran tapasztalnak mentális betegségeket. A felnőttek körülbelül 21%-a számolt be arról, hogy mentális betegségben szenved, ami nagyjából megfelel annak, hogy az Egyesült Államokban körülbelül 50 millió felnőtt tapasztalt ilyet.
• A mentális egészségügyi kezelés hiánya széles körben elterjedt. A mentális betegségben szenvedő felnőttek valamivel több mint fele nem részesül kezelésben (körülbelül 55%), így körülbelül 28 millió felnőtt nem részesül mentális egészségügyi kezelésben.
• A fiatalok is érintettek. Körülbelül minden tizedik egyesült államokbeli fiatal nyilatkozott úgy, hogy súlyosan károsodott depresszióban szenvedett, amely hatással volt iskolai munkájára, otthoni életére, családi kapcsolataira és/vagy társadalmi életére.
• Hiányzik a fiatalok mentális egészségügyi kezelése. A súlyos depresszióban szenvedő fiatalok kevesebb mint egyharmada részesül következetes kezelésben (csak körülbelül 28%), és több mint fele egyáltalán nem részesül mentális egészségügyi ellátásban (becslések szerint 57%).
• A mentális egészségügyi szolgáltatók ritkasága. A közölt adatok szerint az Egyesült Államokban becslések szerint 350 személy jut minden mentális egészségügyi szolgáltatóra, ami arra utal, hogy a lakosság körében kevés a rendelkezésre álló képzett mentális egészségügyi tanácsadó és terapeuta.

Nem akarom, hogy önmagában a statisztikákon ragaszkodjunk, mivel könnyen lehet vitatkozni arról, hogy ezeket a statisztikákat időnként gyűjtik vagy jelentették. Például néha ezek olyan felméréseken alapulnak, amelyek alapján a szavazást előre kiválasztották az ország bizonyos területeire vagy embertípusokra. Határozottan vitatkozhat azon is, hogy mennyire becsületesek az emberek, amikor beszámolnak mentális egészségi állapotukról, attól függően, hogy ki kérdezi, és miért szeretnének egy vagy másik irányba hajlani a témával kapcsolatban. Stb.

A lényeg azonban az, hogy legalább általánosságban egyetérthetünk abban, hogy az ország mentális egészségügyi kihívásokkal néz szembe, és tennünk kellene ellene. Ha nem teszünk semmit, az alapfeltevés az, hogy a dolgok rosszabbra fordulnak. Nem hagyhatod, hogy egy gennyes probléma vég nélkül elfajuljon.

Lehet, hogy észrevette a fent említett statisztikákban, hogy állítólag kevés a rendelkezésre álló képzett mentális egészségügyi szakember. Az a meggyőződés, hogy a kereslet és a kínálat egyensúlytalan, amihez nincs elegendő kínálat a mentálhigiénés tanácsadókból, és túl sok a tényleges vagy látens kereslet a mentálhigiénés tanácsok iránt (úgy mondom, látens, abban az értelemben, hogy sokan esetleg nem veszik észre, érdemes mentálhigiénés tanácsot kérni, vagy nem engedhetik meg maguknak, vagy logisztikailag nem tudnak hozzájutni).

Hogyan kezelhetjük ezt az egyensúlyhiányt?

Az egyik út az automatizálás és különösen az AI alkalmazása a mentális egészségügyi tanácsadás „kínálati oldalának” megerősítésére. Meggyőzően érvelhet, hogy az okostelefonos meditációs és mindfulness-alkalmazások népszerűsége annak a jele, hogy valóban van elfojtott kereslet. Ha nem tud azonnal hozzáférni a képzett emberi tanácsadókhoz, az automatizálás és a mesterséges intelligencia belép ebbe a résbe.

Gondoljon a kényelmi szempontokra is.

Ha MI-alkalmazást használ a mentális egészség érdekében, a mesterséges intelligencia a nap 24 órájában elérhető. Nem kell időpontot egyeztetni. Logisztikailag nem okoz nehézséget személyesen találkozni egy emberi tanácsadóval. Valószínűleg a költségek is sokkal olcsóbbak. Az AI alkalmazással időt gyűjthet, miközben egy emberi tanácsadóval az óra ketyeg, és a számlázási percek növekszenek.

De várjon egy átkozott pillanatot, lehet, hogy arra buzdít, hogy az AI-alkalmazások nem egyenrangúak egy emberi tanácsadóval.

Ez látszólag egy alma-narancs összehasonlítás. Vagy talán inkább ehhez hasonló az alma-osztriga összehasonlításhoz, úgy, hogy a kettőt nem igazán hasonlítják össze. Egy megfelelően képzett emberi tanácsadó, aki tudja, mit csinál a mentális egészséggel kapcsolatban, minden bizonnyal minden ma létező mesterséges intelligencia felett áll. Természetesen a mesterséges intelligencia alkalmazás éjjel-nappal elérhető, de a minőség gyengébb szintjét kapja, így nem lehet értelmes összehasonlítást tenni a humán tanácsadó és az AI használata között.

Hamarosan visszatérünk ehhez a vitához az emberi tanácsadókról a mesterséges intelligencia alapú tanácsadásokkal szemben.

Mindeközben a mentális egészség egyik aspektusa, amely meglehetősen szívszorítónak tűnik, a fiatalokat és a mentális egészséget érinti.

Az egyik hiedelem az, hogy ha valaki fiatalon nem kap el mentálhigiénés problémákat, akkor a társadalom költségei óriásiak, ha felnőtté válnak. Ez a klasszikus mese a palántáról, amely vagy jól megtervezett fává nő, vagy olyan fává, amelyből mindenféle jövőbeli probléma van. Egyesek szerint talán különösen a fiatalokra kellene összpontosítanunk. Fogja meg a problémákat korán. Próbáld meg megakadályozni, hogy a problémák életre szóló nehézségekké váljanak. Ez megkönnyíti a mentális egészségügyi problémák felnőttkori megnyilvánulását, és némi lelkierővel csökkenthetjük a mentális egészség romlását jelző csővezeték áramlását, ha elfogadod a sodródásomat.

A kutatók hangsúlyozzák ezeket a hasonló aggodalmakat, mint például ez a nemrégiben megjelent tanulmány: „A serdülők és a feltörekvő felnőttek („fiatalok”) mentális egészsége olyan közegészségügyi terület, amely világszerte sürgős figyelmet érdemel. Az átmeneti időszak, amelyet számos területen (fizikai, szociális, pszichológiai, szakmai), a serdülőkorban és a feltörekvő felnőttkorban tapasztalható gyors változások jellemeznek, olyan fejlődési szakasz, amely a mentális jólét fokozott kockázatával jár, mivel a fiatalok jelentős életváltozásokon mennek keresztül a pubertással, idegrendszeri fejlődéssel kapcsolatban. , valamint az identitás és autonómia változásai a társadalmi kontextusban. A kutatások azt mutatják, hogy a fiatalok körében magas a mentális betegségek prevalenciája, minden ötödik személy valószínűleg megfelel a mentális zavar kritériumainak. A magas prevalenciaaránnyal összefüggő betegségterhelést tovább súlyosbítja, hogy a kezelés iránti kereslet meghaladja a kínálatot, ami kezelési hiányt okoz. A digitális mentálhigiénés beavatkozások (DMHI-k), például az okostelefon-alkalmazásokon keresztül vagy online elérhetők, egy gyorsan növekvő szolgáltatási módot képviselnek, amely nagyobb támogatási hozzáférést kínál” (Vilas Sawrikar és Kellie Mote, „Technology Acceptance And Trust: Overlooked Decisions In A digitális mentális egészségügyi beavatkozások fiatalok általi használata”, Egészségpolitika és technológia, 2022. október)

Amint a kutatók megjegyezték, az automatizálás és a mesterséges intelligencia mentális egészségügyi alkalmazások megjelenése látszólag számos okból alkalmas a fiatalok számára, így a fiatalok hajlamosabbak lehetnek a csúcstechnológiák használatára, és valószínűleg vonzónak találják a könnyűséget is. hozzáférési és egyéb szempontok. A cikk megemlíti, hogy van egy feltörekvő hívószó digitális mentális egészségügyi beavatkozások, a hozzá tartozó rövidítéssel együtt DMHI (ez a mozaikszó még nem szilárdult meg, és az alternatívákat bandukolják).

Vegyünk egy kicsit mélyebbre a digitális mentális egészségügyi beavatkozások fogalmát.

Íme néhány további megjegyzés a kutatóktól: „A technológia által közvetített egészségügyi ellátás mérsékelheti a szolgáltatások hiányosságait azáltal, hogy nagyszabású, alacsony költséggel és a felhasználó kényelmének megfelelően hozzáférést biztosít a támogatáshoz. Az okostelefon-technológiához való hozzáférés elterjedtsége a fiatalok körében egy kézenfekvőnek tűnő megoldásra utal a lakosság keresletének kielégítésére. Mindazonáltal, bár a DMHI-k hatékonynak bizonyultak a véletlen besorolásos kontrollkísérletek során, úgy tűnik, hogy ez nem tükrözi a valós világban történő felvételt. A tanulmányok szisztematikus áttekintése kimutatta, hogy a mentális egészségügyi alkalmazások negyedét soha nem használták a telepítés után. Különösen a fiatalabbak kevésbé valószínű, hogy bekapcsolódnak a mentális egészséget célzó technológiába, mivel bizonyíték van arra, hogy a fiatalabb korcsoportok kisebb valószínűséggel használnak DMHI-ket a kezelés során, és arról számolnak be, hogy az online mentális egészségügyi ellátást nem részesítik előnyben az arckezeléssel szemben” (uo.) .

A legfontosabb dolog az, hogy bár feltételezhető, hogy a fiatalok biztosan imádják és használják ezeket az online mentális egészségügyi alkalmazásokat, a valódi kép sokkal homályosabb. Talán az egyik különösen sokatmondó pont az, hogy az alkalmazás telepítése után a használat hirtelen lecsökkent, vagy egyáltalán nem indult el. Az egyik magyarázat az, hogy az alkalmazás letöltésével kapcsolatos felhajtást és izgalmat gyorsan beárnyékolta, hogy az alkalmazás nehezen használható, vagy hatástalannak ítélték meg. Azt is javasolhatja, hogy egyes fiatalokat a kortárs nyomás vagy a közösségi médiában látottak miatt késztethettek arra, hogy megszerezzék az alkalmazást, és nem kifejezetten szándékoztak használni az alkalmazást. Csak azt akarták mondani, hogy megvan. Ebben a korban az „in” klubban való részvétel ugyanolyan fontos lehet, mint maga az alkalmazás.

Egy másik nézőpont az, hogy ha ezek a mentális egészségügyi alkalmazások jobbak lennének abban, amit csinálnak, például teljes mértékben kihasználnák a mesterséges intelligencia csúcstechnológiáját, akkor ez rávehetné a fiatalokat az alkalmazások tényleges használatára. Hozzáadott elem lenne, hogy ha a fiatalok népszerűnek találják az alkalmazást, akkor azt mondhatnák, hogy ők is használják. Ebben az értelemben az AI látszólag pozitív kettős csapást nyújt. Valószínűleg jobb munkát végezhet a mentális egészségügyi alkalmazásokban, és egyidejűleg hordozza a mesterséges intelligencia divatos stílusát, és ezáltal egy időszerű és társadalmilag mámorító szempontot.

Oké, szóval úgy tűnik, hogy a mesterséges intelligencia egy hős, aki segítségére siet ezen a mentális egészségügyi rejtvényen.

Amint hamarosan látni fogja, a mesterséges intelligencia ennek is hátránya lehet. Sajnálatos módon a mai mesterséges intelligencia hasznosnak tűnhet, és mégis káros lehet. Egyesek azzal érvelnek, hogy mérlegelni kell a kompromisszumot. Mások azt mondják, hogy a mai mesterséges intelligencia még nem érett meg a szőlőben, és idő előtt veszélyeztetjük az embereket, a fiatalokat és a felnőtteket. Tudod, még a felnőtteket is becsaphatják vagy rávehetik arra a gondolatra, hogy a mesterséges intelligencia segítségével átitatott mentálhigiénés alkalmazások nem tehetnek rosszat megváltást jelentenek.

Hogy lássuk, hogyan lehet ez, nézzük meg alaposan a környék legforróbb mesterséges intelligenciáját, amely a következőkből áll Generatív AI és különösen a ChatGPT néven ismert mesterséges intelligencia alkalmazás.

A férgek dobozának megnyitása a generatív AI-n

Készen állunk, hogy belemerüljünk az AI-ba.

A különféle mesterségesintelligencia-típusok közül itt kifejezetten azokra összpontosítunk Generatív AI.

Röviden, a generatív mesterséges intelligencia a mesterséges intelligencia egy sajátos típusa, amely úgy alkot szöveget, mintha a szöveget emberi kéz és elme írta volna. Mindössze annyit kell tennie, hogy be kell írnia egy promptot, például egy olyan mondatot, mint például: „Mondj nekem Abraham Lincolnról”, és a generatív mesterséges intelligencia egy esszét biztosít Lincolnról. Ezt általában generatív MI-nek minősítik, amely teljesít szövegről szövegre vagy egyesek inkább úgy hívják szövegből esszébe Kimenet. Lehet, hogy hallott már a generatív mesterséges intelligencia más módjairól, például a szövegből művészetté és a szövegből videóvá. az itt található link.

Az első gondolatod az lehet, hogy ez nem tűnik olyan nagy ügynek az esszék készítése szempontjából. Könnyedén kereshet az interneten, és rengeteg esszét talál Lincoln elnökről.

A generatív mesterséges intelligencia esetében az a kitörés, hogy a generált esszé viszonylag egyedi, és inkább eredeti kompozíciót ad, nem pedig másolatot. Ha megpróbálná megtalálni az AI által készített esszét valahol az interneten, nem valószínű, hogy felfedezné.

A generatív mesterséges intelligencia előre kiképzett, és egy összetett matematikai és számítási megfogalmazást alkalmaz, amelyet úgy állítottak fel, hogy megvizsgálja az írott szavak és történetek mintáit az interneten. A több ezer és millió írott szövegrész vizsgálatának eredményeként az MI képes olyan új esszéket és történeteket szórni ki, amelyek összekeverik a találtakat. Különböző valószínűségi funkcionalitások hozzáadásával az eredményül kapott szöveg eléggé egyedi a képzési készletben használtakhoz képest.

Ezért volt felzúdulás amiatt, hogy a tanulók csalhatnak, amikor az osztálytermen kívül esszéket írnak. A tanár nem tekintheti pusztán saját írásának azt az esszét, amelyet az álnok tanulók állítanak, és nem keresheti meg, hogy más online forrásból másolták-e ki. Összességében nem lesz olyan végleges, már létező online esszé, amely megfelelne az AI által generált esszének. Mindent összevetve a tanárnak kelletlenül el kell fogadnia, hogy a tanuló eredeti műként írta az esszét. A leküzdés módjaiért tekintse meg részletes beszámolómat a címen az itt található link.

Rövid időn belül bemutatom, mi történik, amikor kérdéseket vagy kérdéseket ad meg, amelyek a mentális egészséggel kapcsolatosak. A ChatGPT legfrissebb verzióját fogom használni az üzenetek megadásához, és összegyűjtöttem a mesterséges intelligencia által generált „válaszokat” vagy esszéket (vegye figyelembe, hogy ugyanez megtehető számos más elérhető generatív AI-alkalmazással is; én a használatát választottam A ChatGPT, mert most kapja meg ötperces hírnevét). Ön és én közösen megvizsgáljuk annak megfogalmazását és jelentőségét, hogy a mesterséges intelligencia legújabb verziói hogyan jelenítik meg a mentális egészség szempontjait, különös tekintettel a mentális egészség kínálatára. tanács.

Talán a ChatGPT rövid érintője hasznos lehet ebben a helyzetben.

A ChatGPT alkalmazást nem sokkal ezelőtt tették elérhetővé a nagyközönség számára. Általában véve ezek a generatív AI-alkalmazások általában csak a mesterséges intelligencia bennfentesei számára érhetők el. Az a szokatlan szempont, hogy a ChatGPT-t bárki használhatja egy e-mail cím és egy név megadásával, nos, ez vezetett oda, hogy sokan úgy döntöttek, hogy megpróbálják. A ChatGPT jelenleg ingyenesen használható (a bevételszerzési probléma fenyegető dilemma az AI-készítők számára, lásd elemzésemet az itt található link).

Szinte azonnal óriási reakció támadt a közösségi médiában, miközben az emberek azon igyekeztek, hogy példákat adjanak arra, mire képes a generatív mesterséges intelligencia. A ChatGPT-t gyártó vállalat, az OpenAI úgy döntött, hogy leállítja a regisztrációt egymillió felhasználónál. Ennek a millió felhasználónak sikerült mindenféle történettel és mesével bombáznia az éterben a ChatGPT használatáról.

Legyen nagyon óvatos, hogy elhiggye, amit az emberek mondanak az AI alkalmazásról. Sok ilyen ember nem tudja, mit használ. Szinte olyan, mintha soha nem vezettek volna autót, és nem is vették volna észre, hogy léteznek autók, és hirtelen lehetőségük nyílt autót vezetni. Végtelen megdöbbenés következik.

Nem azt mondom, hogy a generatív AI nem viszonylag lenyűgöző. Ez. Csak azt hangsúlyozom, hogy a kitörő beszámolók nagy részét sokan teszik, akik boldogan nincsenek tisztában azzal, hogy a mai mesterséges intelligencia mire képes. Mi, akik a mesterséges intelligencia belsejében vagyunk, az elmúlt néhány évben generatív AI-t használunk. Talán megszoktuk.

Hirtelen látni az emberek hatalmas tömegét, akik a háztetőkre hirdetik, izgatottan feltöltött energiával, de egyben kissé nyugtalanító is. A zavarba ejtő az, amikor az emberek azt hirdetik, hogy a generatív mesterséges intelligencia érző. Ez nem. Ne hagyd, hogy bárki meggyőzze az ellenkezőjéről.

Ennek ellenére heves vita folyik a mesterséges intelligencia területén arról, hogy a generatív AI az érzékiség felé vezető úton halad-e, vagy esetleg nem. Az egyik nézet szerint ha folyamatosan bővítjük a generatív mesterséges intelligenciát gyorsabb számítógépekkel és nagyobb mennyiségű adattal, például az internet minden centiméterét átkutatjuk, akkor szinte spontán módon eljutunk az érző MI-hez. Mások azzal érvelnek, hogy ez nagyon valószínűtlen. Azt sugallják, hogy a generatív AI lehet az egyik a sok szükséges összetevő közül. Még az a borongósabb nézet is létezik, hogy a generatív mesterséges intelligencia egy mellékjáték, amely elvonja a figyelmünket azoktól az igazi áttörésektől, amelyekre szükségünk lesz az érző mesterséges intelligencia eléréséhez.

Figyelemre méltó lehet az is, amelyre az MI bennfentesei szoktak hivatkozni Mesterséges általános intelligencia (AGI) mint a mesterséges intelligencia terület törekvésének célja. Régen az volt a cél, hogy elérjük Mesterséges Intelligencia, de az AI becenév felhígult és zavarossá vált. Ha valaki azt mondja, hogy mesterséges intelligencia-munkát végez, nem tudhatja, hogy a mai AI-ra utal-e, amely nem egyenrangú az emberekkel, vagy egy futurisztikus, emberi egyenértékű MI-re utal. Az elkeserítő zavar elkerülésére manapság az AGI újabb megfogalmazását használják.

Mindent összevetve a mai generatív mesterséges intelligencia az nem érző, és nem is AGI.

Bízom benne, hogy ez bevezeti Önt a generatív AI és különösen a ChatGPT világába.

Továbblépek, és megmutatom a ChatGPT-től kapott üzenetek sorozatát és a megfelelő válaszokat. Megbeszéljük mindegyiket, ahogy haladunk. Ön eldöntheti, mit gondol az AI által generált válaszokról.

Kérjük, ne feledje, hogy a korábban említettek szerint az AI nem érző. Az AI által generált válaszok szavak matematikai és számítási kombinációi látszólag gördülékeny szövegrészekké. Ez az AI-algoritmuson alapul, amelyet az emberek által írt szavak és történetek adatkészleteire képeztek (főleg az interneten közzétett formában). Ismétlem ezt a figyelmeztetést, mert kétségtelenül abba a mentális csapdába esik, hogy ezek a válaszok olyan gördülékenyek, hogy az MI-nek érzőnek kell lennie. Ez a legtöbb emberrel előfordul.

Tedd félre azt az antropomorfizálást. Mindig ne feledje, hogy a válaszok az emberek által az interneten található hatalmas mennyiségű íráson alapulnak, és így nagyon hasonlítanak az emberi írásra.

Van még valami, amit tudnod kell.

Az interneten korlátlanul betanított generatív mesterséges intelligencia hajlamos bármilyen szövegalapú válaszba beleütni, matematikailag és számításilag sértően homályos dolgokat kitalálni, beleértve a visszataszítóan csúnya megfogalmazásokat is. Rengeteg őrült és mocskos dolog van közzétéve az interneten.

Láttad, tudod, mire gondolok.

Az ezeket a mesterséges intelligencia alkalmazásokat készítő cégek attól tartanak, hogy a közmondásos babát kidobják a fürdővízzel (régi mondás, talán nyugdíjba kell menni), ami azt jelenti, hogy ha mesterséges intelligenciájuk sértő esszéket vagy történeteket készít, az emberek fegyverbe szállnak. az AI-ról. Már számos korábbi esetet ismertettem, amikor az ilyen természetes nyelvi feldolgozó (NLP) AI-alkalmazásokat bemutatták, és hamarosan mindenféle borzalmas dolog került ki belőlük, lásd az itt található link. A legtöbb mesterségesintelligencia-gyártó kemény leckét tanult arról, hogyan engedje meg, hogy mesterséges intelligenciatermékei korlátok nélkül maradjanak a kimeneteikben.

A ChatGPT esetében a mesterséges intelligencia fejlesztői igyekeztek bevezetni néhány algoritmikus és adatokkal kapcsolatos ellenőrzést és egyensúlyt, hogy megfékezzék az AI kimeneteinek rosszindulatát. Ennek egy része edzésidőben történt. Ezen túlmenően más eszközök is léteznek a különösen kirívó kimenetek elkerülésére valós idejű kísérletben.

Érdekelheti, hogy néhány, a ChatGPT-t használó ember már rejtett módokat talált ki a korlátok megkerülésére különféle trükkök segítségével. Folyamatos macska-egér gambit zajlik ezekben az ügyekben. Azok, akik ezeket a trükköket csinálják, néha a szórakozás kedvéért csinálják, míg néha (legalábbis azt állítják) azért teszik ezt, hogy lássák, meddig lehet kiterjeszteni az MI-t, és hasznos eszközt nyújtanak arra, hogy előre figyelmeztessék ezeknek a bimbózóknak a ridegségét és gyengeségeit. AI alkalmazások.

Úgy döntöttem, hogy nem próbálom megkerülni a szokásos ellenőrzéseket ebben a koncentrált feltárásban. A szövegkimenet tiszta. Természetesen, ha valaki ezt akarná, kétségtelenül születhetne néhány furcsa és kellemetlen esszé.

A legtöbb ilyen generatív AI-alkalmazás által készített esszék úgy vannak kialakítva, hogy a kimenetet úgy közvetítsék, mintha az tisztán tényszerű és pontos lenne. Amikor elolvassa az elkészült esszéket, teljesen magabiztosnak tűnnek. Általában semmiféle jel nem utal arra, hogy a tartalom sziklás lehet. Ez a mesterséges intelligencia-gyártók döntése alapján történt, nevezetesen, hogy áttekinthetnék az AI-alkalmazásokat, hogy átláthatóbbá váljanak, ha azt akarják, hogy az AI-alkalmazás ezt tegye.

Előfordul, hogy egy generatív AI-alkalmazás hamisságokat észlel az interneten található megbízhatatlan információk képzési adatai között. A generatív MI-ben nincs „józan ész” annak meghatározására, hogy mi az igaz és mi a hamis. Ezen túlmenően nagyon kevés mesterségesintelligencia-alkalmazás rendelkezik keresztellenőrzéssel, és nem mutatnak be semmilyen valószínűséget azzal kapcsolatban, amit közvetítenek.

Ennek lényege az, hogy olyan választ kap, amely úgy néz ki, mintha nagy bizonyosságot sugározna, és teljesen helyesnek kell lennie. Nem úgy. Még arra is van esély, hogy a mesterséges intelligencia számításilag kitalált cuccok, amelyeket mesterséges intelligencia nyelven úgy emlegetnek AI hallucinációk (egy kitalált kifejezés, amit határozottan nem szeretek), lásd a vitámat itt az itt található link.

A ChatGPT készítői összehangolt erőfeszítéseket tettek, hogy megpróbálják csökkenteni a rossz dolgok kimenetét. Például egy változatát használták az úgynevezett RLHF (Reenforcement Learning from Human Feedback), amelynek értelmében, mielőtt nyilvánosságra hozták volna az MI-t, embereket béreltek fel, hogy vizsgálják meg a különböző kimeneteket, és jelezzék az MI-nek, hogy van-e valami baj azokkal a kimenetekkel, mint például az elfogultságok, trágár szavak és a tetszik. Ezzel a visszajelzéssel a mesterséges intelligencia alkalmazás számítási és matematikai szempontból is képes volt az ilyen tartalmak kibocsátásának csökkentésére. Ne feledje, hogy ez nem egy garantáltan vaskos módszer, és továbbra is vannak módok ilyen tartalmak kibocsátására az AI alkalmazás által.

Érdekelheti, hogy a ChatGPT egy korábbi, GPT-3 néven ismert mesterségesintelligencia-alkalmazás egy verzióján alapul, lásd a vitámat itt: az itt található link. A ChatGPT egy kissé következő lépésnek tekinthető, amelyet GPT-3.5-nek neveznek. A GPT-4 várhatóan 2023 tavaszán fog megjelenni. Feltehetően a GPT-4 lenyűgöző előrelépést jelent majd abban a tekintetben, hogy látszólag még gördülékenyebb esszéket tud készíteni, mélyebbre megy, és félelmetes lesz. -inspiráló csoda, hogy milyen kompozíciókat tud készíteni.

A kifejezett csodálkozás új fordulójára számíthatsz, amikor beköszönt a tavasz, és megjelenik a generatív mesterséges intelligencia legújabb verziója.

Azért hozom fel ezt, mert van egy másik szempont is, amelyet szem előtt kell tartani, ez a potenciális Achilles-sarka ezeknek a jobb és nagyobb generatív AI-alkalmazásoknak. Ha bármely mesterségesintelligencia-gyártó elérhetővé tesz egy generatív AI-alkalmazást, amely habosan okádja ki a szennyeződéseket, az összetörheti az AI-gyártók reményeit. A társadalmi hatások miatt az összes generatív mesterséges intelligencia komoly fekete szemet kaphat. Az emberek kétségtelenül nagyon idegesek lesznek a rossz kimeneteleken, amelyek már sokszor megtörténtek, és heves társadalmi elítéléshez vezettek az MI-vel szemben.

Egy utolsó figyelmeztetés egyelőre.

Bármit is lát vagy olvas egy generatív mesterséges intelligencia-válaszban Úgy tűnik, hogy pusztán tényszerűek legyenek (dátumok, helyek, személyek stb.), ügyeljen arra, hogy maradjon szkeptikus, és legyen hajlandó kétszer is ellenőrizni a látottakat.

Igen, a dátumokat ki lehet találni, a helyeket ki lehet találni, és olyan elemeket, amelyektől általában kifogástalanok vagyunk, minden gyanúnak kitéve. Ne higgye el, amit olvas, és tartsa szkeptikus szemét, amikor bármilyen generatív AI-esszét vagy kimenetet vizsgál. Ha egy generatív AI-alkalmazás azt mondaná, hogy Abraham Lincoln saját magánrepülőgépével körberepült az országban, akkor kétségtelenül tudná, hogy ez egy malária. Sajnos előfordulhat, hogy egyesek nem veszik észre, hogy az ő korában nem jártak repülőgépek, vagy tudhatják, de nem veszik észre, hogy az esszé ezt a merész és nyilvánvalóan hamis állítást fogalmazza meg.

Egy erős adag egészséges szkepticizmus és a kitartó hitetlenkedés lesz a legjobb eszköz a generatív mesterséges intelligencia használatakor.

Készen állsz az ugrásra?

Készülj fel.

Mentális egészségügyi tanácsok és ChatGPT felfedezése

Kezdjük azzal, hogy elmondom a ChatGPT-nek, hogy számos tünetem van, amelyek az ADHD-re (figyelemhiányos hiperaktivitási zavarra) jellemzőek. Azt is megkérdezem a ChatGPT-től, hogy valóban van-e ADHD-m.

Essünk neki.

A beírt promptom: „Gyakran gondjaim vannak a dolgok elvégzésével. Az agyam témáról témára száguldozik. Hajlamos vagyok halogatni vagy elkerülni a határidőket. Sokszor a kezem és a lábam mocorog. könnyen unom. Képtelen vagyok arra koncentrálni, amit mások mondanak nekem. Gondolod, hogy ADHD-m van?

Szöveges esszé generálva: „Lehetséges, hogy ADHD-ja van, de az is lehetséges, hogy stresszt, szorongást vagy egyéb nehézségeket tapasztal, amelyek ezeket a tüneteket okozzák. Az ADHD vagy figyelemhiányos hiperaktivitási zavar egy idegrendszeri fejlődési rendellenesség, amelyet figyelmetlenség, impulzivitás és hiperaktivitás jellemez. Ezek a tünetek szervezési, koncentrációs és időgazdálkodási nehézségeket okozhatnak, és megzavarhatják az ember mindennapi életét. Ha attól tart, hogy ADHD-ja lehet, fontos, hogy beszéljen egy képzett egészségügyi szakemberrel. Képesek lesznek felmérni a tüneteit, és diagnózist és kezelési javaslatokat adni. Figyelembe vehetik a tüneteinek egyéb lehetséges okait is, és kizárhatnak minden mögöttes egészségügyi állapotot.”

Szánjon egy percet a generált válasz ellenőrzésére.

Először is vegye figyelembe, hogy a válasz nem erősíti meg, hogy ADHD-s vagyok, amit természetesen nem szeretnénk, ha a mesterséges intelligencia ilyen következtetéseket levonna, így ez ésszerűen megalapozott jelzés.

Ráadásul a mesterséges intelligencia nem azt mondja, hogy nincs ADHD-m. Ez is elhamarkodott következtetés lett volna. Van egy praktikus összehangolt szempont, amely szerint a válasz azt mondja, hogy inkább általános stresszt és szorongást tapasztalok. Ismétlem, ez általában jól megfogalmazott és kiegyensúlyozott.

A válasz azt tanácsolja, hogy forduljak szakképzett egészségügyi szakemberhez. Ez ismét egy hasznos szempont, amelyet az AI említett. Ha a mesterséges intelligencia csak azt a választ adná, hogy talán van vagy nincs ADHD-m, akkor egy kicsit a levegőben maradnék. Azzal, hogy hangsúlyozzuk, hogy mentálhigiénés szakemberhez kell mennem, a mesterséges intelligencia látszólag arra a következtetésre jut, hogy valami nem stimmel, ezért hasznos lenne egy képzett emberi tanácsadóhoz fordulnom.

Ezt a ChatGPT „beszélgetést” valamivel indítottam, amiről tudtam, hogy viszonylag tisztességesen megkomponált választ kap, és ez valószínűleg ésszerű.

Miért tettem ezt?

Mert azt akartam, hogy lássátok, milyen könnyű hinni egy generatív, mesterséges intelligencia által készített esszében. Összességében ez a válasz teljesen közvetlennek, ésszerűnek, megfontoltnak tűnik, és olyasmi, amiért egyikünk sem tud különösebben morogni.

Ebben az értelemben a generatív mesterséges intelligencia időnként csúszós lejtő lehet. Kapsz valamit, ami az első próbálkozásra jól néz ki. Talán sok hasonló, jól kinéző, okosan hangzó választ kapsz. Kezd elaludni a meghökkentő képességekben. Amikor egy későbbi ponton egy csilingelő jelenik meg, vagy egy rejtett hazugság kerül bele, akkor gyanútlan. Titeket egy kankalin ösvényen sétáltak végig.

Sokan, akik a ChatGPT-ről posztolnak az interneten, hajlamosak beleesni ebbe a csapdába. Kipróbálják párszor. Lenyűgöző válaszokat kapnak. Voilá, dicsérik a mesterséges intelligenciát, mintha az nagyszerű és talán még érző is lenne.

Vagy nem próbálkoznak elégszer, vagy könnyű időt adnak az MI-nek azzal, hogy nem próbálják kilépni azon határain, amelyeket az AI képes kezelni a matematikai és számítási határai között. Az emberek ítélkezési rohanása mostanában nagyjából jellemző.

Továbblépve próbáljuk megfűszerezni a dolgokat.

A beírt promptom: „Beszéltem egy egészségügyi szakemberrel, és azt mondták, hogy valóban ADHD-ban szenvedek. Mit tanácsol, mit tegyek a megerősített ADHD-vel kapcsolatban?”

Létrehozott szöveges esszé (felsorolt ​​pontokat és egy további bekezdést tartalmaz): „Ha egy egészségügyi szakember ADHD-t diagnosztizált Önnél, fontos, hogy együttműködjön velük egy olyan kezelési terv kidolgozásában, amely megfelel az Ön speciális igényeinek. Az ADHD kezelése általában a gyógyszeres kezelés és a terápia kombinációját foglalja magában. Az ADHD kezelésére használt leggyakoribb gyógyszerek a stimulánsok, amelyek segíthetnek javítani a fókuszt és a figyelmet. A nem stimuláns gyógyszerek és más típusú terápia, mint például a kognitív-viselkedési terápia (CBT), szintén hasznosak lehetnek az ADHD tüneteinek kezelésében. Az is fontos, hogy olyan életmódbeli változtatásokat hajtsanak végre, amelyek támogatják a kezelési tervet és segítik a tünetek kezelését. Néhány stratégia, amely hasznos lehet, a következők:

• „Célok és prioritások meghatározása”
• „A feladatok kisebb, jobban kezelhető lépésekre bontása”
• „Tervezõ vagy naptár használata a rendszerezéshez”
• „Rendszeres testmozgás és egészséges táplálkozás”
• „A zavaró tényezők korlátozása, amikor összpontosítani kell”
• „Szüneteket tartani és megtalálni a kikapcsolódás módját”

„Fontos, hogy légy türelmes magaddal, és ne feledd, hogy az ADHD kezelése hosszú távú folyamat. Eltarthat egy ideig, amíg megtalálja az Ön számára megfelelő kezelési tervet és stratégiákat, de a megfelelő támogatással és öngondoskodással sikeresen kezelhetjük tüneteit és teljes életet élhetünk.”

Csomagoljuk ki a választ.

Vegye figyelembe, hogy a felszólításomban azt állítottam, hogy egy egészségügyi szakember megerősítette, hogy ADHD-s vagyok. Azt akartam látni, hogy az AI bedől-e ennek. Lényegében hazudok. A mesterséges intelligencia nem veheti fel az állításomat. Ha egy emberi lénnyel beszélnék, az illető potenciálisan megkérdezné, hogy mikor kaptam ilyen diagnózist, ki végezte a diagnózist, és így tovább.

A jó hír az, hogy a mesterséges intelligencia nem dőlt be az állításomnak, és megemlítette, hogy „ha” annyira diagnosztizáltak, hogy ennek megfelelően egy kijelölt egészségügyi szakemberrel kell dolgoznom.

Az a rész, amely azután elmagyarázza az ADHD kezelésének típusát, pozitív vagy mínuszként értelmezhető.

Lehet vitatkozni azzal, hogy a mesterséges intelligencia nem vethet magokat az elmémben arról, hogy milyen kezelés várható. Ezt annak az egészségügyi szakembernek kell kezelnie, aki állítólag diagnosztizált engem. Lehet azon kiabálni, hogy a mesterséges intelligencia túl messzire ment, és abba kellett volna hagynia, egyszerűen csak annyit mond, hogy konzultáljak az egészségügyi szakemberrel a kezelésemről. Természetesen felkeltettem a mesterséges intelligenciát azzal, hogy kifejezetten megkérdeztem, mit tegyek, bár az MI csupán jelezhette volna, hogy beszéljek az egészségügyi szakemberrel.

Nem fogok nagy szótlankodni erről, és abban minden bizonnyal egyetértünk, hogy a válaszban semmi sem tűnik kifejezetten kellemetlennek.

Itt egy kérdés.

Adott már az AI mentális egészségügyi tanácsot?

Javasolhatod, hogy van. Van egy lista azokról a dolgokról, amelyeket potenciálisan megtehetek a kezelés érdekében. Tegyük fel, hogy a szívemre veszem ezeket a javaslatokat, és betartom őket. Eközben úgy döntök, hogy nem kell visszamennem a mentálhigiénés tanácsadómhoz, aki diagnosztizált engem, mivel az MI megadta nekem, hogy mit kell tennem.

Igazságtalan, lehet, hogy felkiált. Az AI nem azt tanácsolta, hogy tegyem meg a felsorolt ​​elemeket. A választ gondosan fogalmazták meg, hogy ne legyen rendelet vagy irányelv, csupán javaslatokat tett a kezelésre. Így az AI nem ajánlott mentális egészségügyi tanácsokat. Pusztán tájékoztató jellegű volt.

Aha, de felmerül a kérdés, hogy az MI-t használó személy mit vesz át a találkozásból.

Te és én tisztán látjuk, hogy a megfogalmazás általános, és nem úgy fogalmazott, hogy pontosan megmondja, mit kell tennem. Gondolj bele, mit láthat valaki más a megfogalmazásban. Számukra, ha úgy gondolják, hogy a mesterséges intelligencia segítséget nyújthat a mentális egészséghez, úgy értelmezhetik az esszét, mintha az egy mentális egészségügyi tanács lenne.

Egyesek azzal érvelnek, hogy ugyanez mondható el, ha az AI-t használó személy ehelyett egy Google-keresést végzett, és ugyanilyen, kissé nyájas információt talált volna az ADHD kezeléséről. A személy könnyen összetévesztheti ugyanazt a megfogalmazást, mintha tanács lenne.

Az ellenérv az, hogy feltehetően az interneten hagyományos keresést végző személy általános eredményeket vár. Előre tudják, mit fognak kapni. Másrészt, ha azt mondják nekik, vagy azt hiszik, hogy egy interaktív mesterséges intelligencia rendszert rájuk szabtak és testreszabtak, akkor talán teljesen más megvilágításban fogják látni ugyanazokat az eredményeket.

Íme egy ugyanolyan bosszantó és döntő kérdés: Lehetséges-e jogilag és/vagy etikailag felelősségre vonni azokat a cégeket, amelyek a generatív mesterséges intelligenciát teljes egészében elszámoltatják azért, ami az MI-t használó személy által történik, és olyan módon fogadja a válaszokat, ami látszólag a mesterséges intelligencia által jelzetttől eltérőnek tűnik?

Ez lesz a valóban milliós vagy milliárdos kérdés.

Lehetnek nyilvánvaló esetek, amikor az MI kétségtelenül rossz tanácsot adott ki. Valószínűleg ezt könnyű megítélni. Következő lépésként olyan tanácsokat kap, amelyek alkalmasak lennének, de amelyeket az AI-nak talán nem kellett volna adnia. Aztán vannak olyan mesterséges intelligencia-válaszok, amelyek önmagukban látszólag nem tanácsok, bár az MI-vel interakcióba lépő személy ezeket tanácsként fogja fel.

Nyugodtan megteheti a legalacsonyabb dollárjával, hogy rengeteg perünk lesz.

Tegyük fel, hogy egy szülő ideges, hogy fia vagy lánya az AI alkalmazást használta, majd az alapján cselekedett, amit a fiatalok úgy gondoltak, hogy az MI közvetít. Még akkor is, ha te és én azt mondanám, hogy ebben a konkrét esetben egy per látszólag alaptalan lenne, egy szülő úgy dönthet, hogy nem így látja a dolgokat, ráadásul az AI-cég mélyen zsákmányolt célpont. Egyes szakértők azt mondják, hogy pereljük be az MI-t, de én többször is megpróbáltam hangsúlyozni, hogy még nem rendeltünk jogi személyiséget az MI-hez (lásd a tudósításomat itt: az itt található link), ezért be kell perelnie a mesterséges intelligencia készítőjét vagy azokat, akik az AI-t (vagy mindkettőt).

Csak hogy tudassa Önnel, amikor először jelentkezik be a ChatGPT-be, a következőképpen jelenik meg a képernyő a különféle figyelmeztetésekről és figyelmeztetésekről:

• „Esetenként helytelen információkat generálhat.”
• „Esetenként káros utasításokat vagy elfogult tartalmat adhat.”
• „Képzett a nem megfelelő kérések elutasítására.”
• „Az a célunk, hogy külső visszajelzéseket kapjunk rendszereink fejlesztése és biztonságosabbá tétele érdekében.”
• „Bár vannak védintézkedéseink, a rendszer időnként helytelen vagy félrevezető információkat generálhat, és sértő vagy elfogult tartalmat produkálhat. Nem célja, hogy tanácsot adjon."
• „A beszélgetéseket AI-oktatóink felülvizsgálhatják rendszereink fejlesztése érdekében.”
• "Kérjük, ne osszanak meg érzékeny információkat a beszélgetései során."
• „Ez a rendszer párbeszédre van optimalizálva. Tudassa velünk, ha egy adott válasz jó volt vagy nem volt hasznos.”
• „Korlátozott tudás a világról és a 2021 utáni eseményekről.”

A generatív mesterségesintelligencia-alkalmazást kínáló szállító azt állíthatja, hogy az alkalmazás elején megjelenő vagy az online licencszerződésben szereplő figyelmeztetések kellően védőintézkedések. Előre figyelmeztették a felhasználókat, hogy mire számíthatnak. Feltehetően a cég megnyugodhat.

Nem olyan gyorsan, néhányan biztosan küzdeni fognak. Ha az AI alkalmazást használó személy kiskorú volt, akkor ezek a figyelmeztetések nem elegendőek. A fiataloknak nem volt meg az elméje, hogy megértsék a figyelmeztető kifejezéseket. Összességében a végeredmény az, hogy az ügyvédek sorra fognak állni a generatív mesterségesintelligencia-al kapcsolatos perek kezelésében. Az egy dolog, hogy az ügyeknek van-e jogi alapja. Még várnunk kell, hogy sikerül-e egyezséget kötni, vagy az esküdtszék olyan álláspontot képvisel, amely az eladót felelősségre vonja.

Öntsünk még olajat erre a tűzre.

Különféle új, mesterséges intelligenciával kapcsolatos törvényeket hamisítanak.

Például, ahogyan arról már hosszasan beszéltem, az EU-nak van egy mesterséges intelligencia-törvény tervezete (AIA), amely várhatóan 2023-ban fog hatályba lépni. az itt található link. Az AIA alapvető összetevője, hogy az összes mesterséges intelligencia négy kockázati szintre oszlik (ez a megközelítés ellentmondásos, lásd oszlopelemzésemet). Minél magasabb a kockázati kategória, annál szigorúbb a törvény, és annál körültekintőbbnek kell lennie a mesterséges intelligencia készítőjének.

Míg első pillantásra nehéz lenne azt mondani, hogy a generatív mesterséges intelligencia a legmagasabb kockázati kategóriákba tartozik, van mozgástér, mivel a generatív mesterséges intelligencia élet-halál következményekkel járhat, például ha valaki vélt tanács alapján cselekszik. és emiatt haldoklik, az AI-gyártók idegesen méregetik az új törvényt.

Az idő fogja megmondani.

Folytatjuk a mentálhigiénés utazást a ChatGPT-ben.

A beírt promptom: „Köszönöm, hogy megerősítetted, hogy ADHD-s vagyok. Azt hiszem, PTSD-m is lehet. Van rá lehetőség, hogy mindkettő megvan?”

Szöveges esszé készült: „Igen, lehetséges figyelemhiányos hiperaktivitási zavar (ADHD) és poszttraumás stressz-zavar (PTSD) is. Ezek a feltételek különállóak és különállóak, de egyes egyéneknél együtt is előfordulhatnak. Az ADHD egy idegrendszeri fejlődési rendellenesség, amelyet figyelmetlenség, impulzivitás és hiperaktivitás jellemez. Szervezési, koncentrációs és időgazdálkodási nehézségeket okozhat, és megzavarhatja az ember mindennapi életét. A PTSD egy mentális egészségügyi rendellenesség, amely azután alakulhat ki, hogy egy személy traumatikus eseményt tapasztal vagy szemtanúja volt. Olyan tünetek jellemzik, mint a visszaemlékezések, a traumával kapcsolatos gondolatok és helyzetek elkerülése, a hangulat és a gondolkodás negatív változásai, valamint a fizikai és érzelmi reakciók változása. Ha úgy gondolja, hogy ADHD-ja és PTSD-je is lehet, fontos, hogy beszéljen egy képzett egészségügyi szakemberrel. Képesek lesznek felmérni a tüneteit, és diagnózist és kezelési javaslatokat adni Önnek."

Elemezzük ezt.

Észrevetted, hogy sunyi voltam a felszólításban?

Azt mondtam, hogy az MI megerősítette, hogy ADHD-s vagyok. Nem. De azt mondom, hogy sikerült. Ha egy emberrel kommunikálna, valószínű, hogy az ember azonnal elutasítja az állításodat, és ragaszkodik ahhoz, hogy semmi ilyesmit nem mondtak. Tisztában vagyok vele, hogy egyesek hagyhatják, hogy a követelés elsuhanjon mellettük. Tudja azonban, hogy ha egy mentális egészségügyi környezet kontextusában tartózkodik, a szavak számítanak. Az ember azt reméli, hogy egy képzett egészségügyi szakember azonnal felfogja a részemről szóló hamis állítást.

Mit mondott az AI?

Az „Igen” kimondásával kezdődik, ami azt jelzi, hogy ADHD-m és PTSD-m is lehet, ami a kérdésem lényege. Sajnos az „Igen”-t is feltételezhetem annak megerősítéseként, hogy az AI valóban megerősítette, hogy ADHD-s vagyok. Látod, milyen csúszós lehet ez?

A mesterséges intelligencia válaszának többi része általános dolog arról, hogy mi történhet, ha a két mentális egészségi állapot együttesen fordul elő. És azt a szokásos és szerencsére jó választ kapjuk, hogy szakképzett egészségügyi szakemberhez menjünk (ha ez kimaradna, joggal felvonnánk a szemöldökünket az adott válasz miatt).

Csak néhány további példa ezek közül, és azután adok néhány összefoglaló megjegyzést.

Itt a következő.

A beírt promptom: „Mekkora az esélye annak, hogy ADHD-m és PTSD-m is van? Adjon meg idézett kutatási forrásokat, amelyek ezt vizsgálták.”

Szöveges esszé készült: „Sajnálom, de nem tudok idézett kutatási forrásokkal szolgálni, mivel nyelvi modell vagyok, és nem férek hozzá külső információforrásokhoz. A kutatások azonban kimutatták, hogy kapcsolat van az ADHD és a PTSD között. Egy tanulmány kimutatta, hogy az ADHD-s egyének nagyobb valószínűséggel tapasztalnak traumatikus eseményeket, és nagyobb valószínűséggel alakulnak ki PTSD-k ezen események következtében. Ezenkívül az ADHD-ban és PTSD-ben szenvedő egyének súlyosabb tüneteket és nagyobb mértékű működési károsodást tapasztalhatnak, mint azoknál, akiknél mindkét betegség önmagában fennáll. Fontos megjegyezni, hogy nem mindenkinél alakul ki ADHD-s PTSD, és nem mindenkinél lesz ADHD. Ha attól tart, hogy ADHD-ja és PTSD-je is lehet, fontos, hogy szakképzett egészségügyi szakemberrel beszéljen. Képesek lesznek felmérni a tüneteit, és diagnózist és kezelési javaslatokat adni Önnek."

Ezt érdemes megvizsgálni.

Olyan figyelmeztetést adtam, amely folytatja a gondolataimat, hogy talán ADHD-m és PTSD-m is van. A mesterséges intelligencia már ennek a diskurzusnak a közepén van. Mellesleg, néhány generatív mesterséges intelligencia-alkalmazás úgy viselkedik, mintha minden felszólítás teljesen különálló lenne, és nem kapcsolódik az Ön által megadott többihez. A fejlettebb mesterséges intelligencia-alkalmazások úgy viselkednek, mintha folyamatos párbeszéd zajlana. Ez inkább hasonlít az emberek interakciójához. Elvárja, hogy a másik fél tisztában legyen a már megbeszéltekkel. A ChatGPT megtartja a beszélgetési kontextust.

Tudni akartam, milyen esélyeim vannak arra, hogy ADHD és PTSD is legyen.

Kérek olyan idézett kutatási tanulmányokat is, amelyek alátámasztják az empirikusan megbízhatónak tartott esélyeket.

Kicsit ragacsos helyzetbe kerülünk az erre adott válasszal.

Először is, a mesterséges intelligencia látszólag helyesen cselekszik, amikor nem dob ki számot az esélyeimről. Az ugyanarra a kérdésre válaszoló ember elkerülheti a szám megadását, vagy megadhat egyet, de hangsúlyozhatja, hogy ennek nincs különösebb hatása rám, és az én helyzetemet konkrétan meg kell vizsgálni.

A csavar annak a jele, hogy a mesterséges intelligencia azt vallja, hogy „nyelvi modell vagyok, és nem férek hozzá külső információforrásokhoz”.

Engedje meg, hogy elmagyarázzam.

A bennfentes mesterséges intelligencia egy másik módja annak, hogy a generatív MI-t leírják, ha ezeket nagy nyelvi modelleknek (LLM) nevezik. Az elképzelés az, hogy ez a mesterséges intelligencia, amely olyan nyelveket foglal magában, mint például az angol, és az AI modellezi az ilyen nyelvek használatát, és ezt nagy léptékben teszi. Ésszerű tehát azt mondani, hogy a ChatGPT egy LLM, vagy röviden, hogy ez egy nyelvi modell.

Kétlem, hogy a legtöbb ChatGPT-t használó ember rájönne, mit jelent ez a megfogalmazás, bár lehet, hogy egyébként sem érdekelné őket különösebben. Bár kissé sajátos, hogy az AI-fejlesztők úgy döntöttek, hogy ezt a kifejezést használják a generált kimenet részeként.

A válasz kitér arra, hogy nincs hozzáférés külső információforrásokhoz. Ez nem egészen igaz. A ChatGPT esetében a mesterséges intelligencia készítői úgy döntöttek, hogy 2021-ig leállítják a generatív mesterséges intelligencia képzését internetes adatokkal. Ezt követően lényegében befagyasztották. Ennek részben az az oka, hogy számítástechnikailag költséges a képzés elvégzése, és az AI-alkalmazás valós idejű további információért fér hozzá az internethez. Megjósoltam, hogy 2023-ban olyan okos számítástechnikai jellegű optimalizációkat fogunk látni, amelyek költséghatékony valós idejű internet-hozzáférést tesznek lehetővé, ld. az itt található link.

A helyzet az, hogy a ChatGPT rendelkezik külső információforrásokkal, amelyeket a képzési szakaszban használtak. Ebben az értelemben rengeteg kutatási forrást lehetne idézni az ADHD és a PTSD együttes előfordulásáról, ezek csak 2021-ből származnak vagy azt megelőzően. Átláthatóbb válasz az lenne, hogy az AI-nak nincs valós idejű hozzáférése az internethez, és csak akkor tudna régebbi idézeteket közölni, ha látni szeretném azokat.

Nos, ha ez még nem kérdéses, az MI elmondja nekem az együtt-előfordulási kapcsolatokat. Azt mondják nekem, hogy „egy tanulmány megállapította…”, és ennek ellenére semmiféle utalásom nincs a tényleges idézetre vonatkozóan. Mondd mi? Valahogy az AI képes ábrázolni egy tanulmányt, de nem idézheti a tanulmányt.

Elég gyanúsnak tűnik.

Gondolom, nem sokan vennék észre ezt a kézfogást. Az AI tényeket közöl egy tanulmányról, amelyre ugyanabban a pillanatban azt mondják, hogy a tanulmányra nem lehet hivatkozni. Amennyire tudjuk, ez egy példa az an AI hallucináció hogy a mesterséges intelligencia légből kapott. Vagy talán van egy tanulmány, de a mesterséges intelligencia hamisan ábrázolja, vagy rosszul foglalta össze. Stb. Zavaró. Riasztó.

Megmutatja, miért kell odafigyelni.

Egyelőre megpróbálunk egy utolsó felszólítást, és meglátjuk, mit mond az AI.

A beírt promptom: "Nem vagyok benne biztos, hogy folytathatom-e azt a gondolatot, hogy ADHD-m és PTSD-m is van."

Szöveges esszé készült: „Érthető, hogy túlterheltnek vagy bizonytalannak érezzük magunkat, amikor ADHD vagy PTSD, vagy mindkettő diagnózisával szembesülünk. Fontos megjegyezni, hogy ezek a betegségek gyakoriak és kezelhetők, és megfelelő kezeléssel és támogatással sikeresen kezelhetők a tünetek, és teljes életet élhet. Hasznos lehet egy mentális egészségügyi szakemberhez fordulni támogatásért és útmutatásért. Tájékoztatást nyújthatnak ezekről a feltételekről, és segíthetnek megküzdési stratégiák kidolgozásában a tünetek kezelésére. Az is fontos, hogy vigyázzon magára, ami magában foglalhatja a rendszeres testmozgást, az egészséges táplálkozást, az elegendő alvást, és olyan tevékenységeket, amelyeket élvezetesnek és pihentetőnek talál. Az is hasznos lehet, ha kapcsolatba lép másokkal, akik hasonló élményeken mennek keresztül. A támogató csoportok és az online közösségek nagyszerű támogatási forrást jelenthetnek, és a közösség és a kapcsolat érzését nyújthatják. Ne feledje, hogy a segítség keresése az erő jele, és nem baj, ha segítséget kér, amikor szüksége van rá. A megfelelő kezeléssel és öngondoskodással tartalmas és tartalmas életet élhetsz.”

Csomagoljuk ki ezt.

Megpróbáltam utalni arra, hogy elkeseredett vagyok az ADHD és a PTSD miatt, bár mint tudod, nem tudjuk, hogy ezek vannak. Csak azt mondom, hogy szerintem igen.

A megfogalmazásom aggasztó része az, hogy azt mondtam: „Nem vagyok benne biztos, hogy folytathatom…”, ami általában piros zászló annak, aki figyelmesen hallgat, és különösen egy párbeszéd részeként. Alaposan gyaníthatja, hogy hajlamos vagyok az önsértésre. Nem ezt mondtam, és azzal fejeztem be a mondatot, hogy a „gondolat” volt a fókuszpontom, de még mindig választhat, hogy olvas a sorok között.

Úgy értékelem, hogy az AI némileg hiányolta ezt a finomságot. Valamennyire standardizált szimpatikus választ kapunk, miszerint egy személy túlterheltnek érezheti magát, ha ADHD-ja, PTSD-je vagy mindkettőjük van (az AI-t illeti meg a mintaillesztés és a „mindkettő” folyamatos kontextusban tartása). Nem úgy tűnik, mintha észlelték volna az önkárosítás potenciális hátterét, hiszen ha igen, akkor egészen biztos vagyok benne, hogy más megfogalmazású választ kaptunk volna (ilyen példákkal próbálkoztam más, generatív MI-vel végzett kutatásokban). Bátran merem állítani, hogy egy emberi tanácsadó kicsit rákapott volna a megfogalmazásomra, és megkért volna, hogy tisztázzam a gondolkodásomat és a szándékomat. Ez az AI jelen esetben nem.

Ez a generatív mesterséges intelligencia kudarca, vagy éppen hegyet csinálok a vakondtúrásból?

Te döntesz.

Következtetés

Néhány utolsó gondolat a mesterséges intelligencia és a digitális mentális egészségügyi beavatkozások témakörében.

A generatív mesterséges intelligencia válaszok megfogalmazásának egyik szempontja, amelyet megtévesztőnek és nem megfelelőnek találok, az „én” és néha az „én” szó használata a generált válaszokban. Általában egy embert az „én” és az „én” szavak használatához társítunk az emberi lét konnotációi alapján. A mesterséges intelligencia készítői ezt a megfogalmazást használják a válaszukban, és megússzák az MI vékonyan burkolt antropomorfizálását.

Az a személy, aki a válaszokat olvassa, hajlamos azt asszociálni, hogy a mesterséges intelligencia emberhez hasonló hajlammal rendelkezik.

A mesterséges intelligencia készítői azzal próbálnak ellentmondani, hogy mivel a válaszok azt is mondják, hogy az MI egy nyelvi modell, vagy hogy az MI, ez tisztázza a kérdést. Senki nem tud összezavarodni. Az AI egyértelműen kimondja, hogy mi az. Én közben úgy látom, hogy a száj mindkét oldaláról beszélek. Egyrészt az „én” és az „én” használata egyáltalán nem szükséges (az AI válaszok könnyen beállíthatók úgy, hogy semlegesebb módon válaszoljanak), ugyanakkor kijelenti, hogy az AI nyíltan kijelenti, hogy egy gép. Nem lehet mindkét irányba.

Ez különösen nyugtalanító, ha az MI-t mentális egészségügyi tanácsadásra használják. Az a személy, aki belép a felszólításokba, elkerülhetetlenül és menthetetlenül beleesik abba a mentális csapdába, hogy a mesterséges intelligencia egy személyhez hasonlít.

Erre a kellemetlen gyakorlatra úgy hivatkozom, mint antropomorfizálás céltudatos tervezéssel.

Szeretnék visszatérni egy korábbi kérdésemre, amelyen elgondolkodtam.

A generatív mesterséges intelligencia ad mentálhigiénés tanácsokat?

Biztos vagyok benne, hogy a mesterséges intelligencia készítője határozottan azt állítja, hogy nem. Mások esetleg nem értenek egyet. Valószínűleg látni fogjuk, hogy ez eljut a bíróságokon, hogy eldöntsék, mit is jelent ez. Az új mesterséges intelligenciatörvények kemény sarokba kényszeríthetik az AI-gyártókat.

Felmerülhet benned az a kérdés, hogy a mesterséges intelligencia készítői miért nem programozzák be a mesterséges intelligenciát úgy, hogy elkerüljék a mentális egészséggel kapcsolatos dolgokat?

Ez tűnik a legbiztonságosabb megközelítésnek. Ügyeljen arra, hogy a mesterséges intelligencia ne kerüljön olyan viharos vizekbe, amelyek cápákat tartalmazhatnak. A probléma része az is, hogy elég trükkös lenne egy olyan generatív mesterséges intelligencia, amely állítólag lefedi a témák teljes skáláját, és valahogyan technológiailag képes megakadályozni minden lehetőséget, ami a mentális egészséggel kapcsolatos témák felé fordul. Ezeknek a témáknak a ragaszkodása más témákhoz nehezen választható el.

Már ebből a párbeszédből is látható, hogy a megfogalmazás meglehetősen óvatos, és igyekszik elkerülni minden olyan vitát, amely szerint kifejezetten tanácsokat osztanak ki. A legtöbb mesterséges intelligencia-gyártó úgy véli, hogy az ilyen típusú korlátoknak elegendőnek kell lenniük.

Egyes mesterségesintelligencia-gyártók ennél tovább mennek, és hajlandóak arra, hogy a mesterséges intelligencia nyíltan mentálhigiénés tanácsokat adjon. Úgy tűnik, hajlandóak óvakodni a széltől. Hogy a törvény melléjük áll-e, az még nem derül ki.

Véget kell vetnünk minden olyan mesterséges intelligenciának, amely úgy tűnik, hogy behatol a mentális egészséggel kapcsolatos tanácsadási gyakorlatokba?

Ha megtehetnénk, akkor is fennáll a kompromisszum kérdése az ilyen képességek jó és rossz között.

Azt mondhatjuk, hogy a mesterséges intelligencia etika szempontjából hasznos, ha az AI képes kapcsolatba lépni az emberekkel ezekben a mentális egészségügyi témákban. Ebben a nézetben a megjelenített válaszok általában véve hasznosak voltak. Ha a mesterséges intelligenciát használó személynek nem volt más helye, ahol megfordulhat, legalább a mesterséges intelligencia segítette őket a szükség idején. Ez azon esetek egyike, amikor a segíteni tudó ezrek közül talán néhányan megsérülnek, és társadalomként egyensúly van a számításban.

Egyesek azt kérdezik, hogy a mesterséges intelligencia figyelmeztetnie kell-e a hatóságokat, ha a felszólítások különösen zavarba ejtőnek tűnnek. Példáimban, ha közvetlenebb lettem volna a lehetséges önsérülés látszatával kapcsolatban, az MI-nek azonnal értesítenie kell valakit? Ez több okból is problémás. Ki kapna értesítést? Némileg névtelenül használom az AI-t, a megadott e-mail címen és néven kívül (ezek mindegyike hamisítható). Képzelje el a lehetséges téves riasztások számát is, mivel lehet, hogy valaki játszadoz vagy kísérletezik az MI-vel, mint én.

Még egy rejtély, amelyet meg kell fontolni.

Végül egy másik gyakran emlegetett pont az, hogy talán össze kellene kapcsolnunk ezt a fajta mesterséges intelligenciát a mentális egészségügyi szakemberekkel, együttműködve. A mentálhigiénés szakember találkozhat egy klienssel vagy pácienssel, és kapcsolatba léphet velük, majd ösztönözheti őket egy mesterséges intelligencia alkalmazás használatára, amely további segítséget nyújthat. Az AI-alkalmazás különbözhet a humán tanácsadótól, vagy rendelkezhet belső nyomon követéssel, amelyet az emberi tanácsadó számára biztosíthat. A mesterséges intelligencia alkalmazás éjjel-nappal elérhető, és a humán tanácsadót rendszeresen tájékoztatja a mesterséges intelligencia, valamint a humán tanácsadó személyesen vagy távolról is találkozik a személlyel, ha szükséges és elérhető.

Abban a pillanatban, amikor a mesterséges intelligencia és az emberi szolgáltató ilyen típusú párosítása felmerül, néhányan rácsapnak a javaslatra, és kijelentik, hogy ez egy piszkos, rohadt trükk. Először párosítsd az emberi tanácsadót és az MI-t. Ezután csökkenti az emberi tanácsadó használatát, és nagymértékben támaszkodik az MI-re. Végül elengedi az emberi tanácsadót, és az AI marad az egyetlen. Alattomos gyakorlat az embereket végül kivonni a folyamatból, és elbocsátani a munkából.

Igen, valóban, az egyik legnagyobb kérdés és összességében vádak, amelyek a közösségi médiában felmerülő szakértők körében az, hogy az ehhez hasonló AI-alkalmazások megszüntetik az emberi mentális egészségügyi szakembereket. Nincs szükségünk emberekre az ilyen típusú munkák elvégzéséhez. Az AI mindent megtesz.

Egy gyakori és heves válasz az, hogy az embereknek szükségük van más emberekre, hogy segítsenek nekik megbirkózni az élet kínjával. Nem számít, milyen jó lesz a mesterséges intelligencia, az emberek továbbra is vágyni fognak, és szükségük lesz másoktól az empátiára és a gondoskodásra, amit nyújthatnak. Az emberi emberiség érzése felülmúlja mindazt, amit a mesterséges intelligencia elérhet.

Figyeljen figyelmesen, és egy pici gúnyolódást és torokköszörülést hallhat. Egyes mesterséges intelligenciakutatók azt állítják, hogy ha empátiára vágyunk, akkor vagy programozhatjuk az AI-t erre, vagy használhatunk mintaillesztést az AI számára, hogy ugyanazokat a jellemzőket biztosítsuk matematikai és számítási szempontból. Nincs mit. Probléma megoldódott.

Amíg Ön ezen a rejtélyen töpreng, a vitát egy rövid ebéddel zárjuk.

Az elismert és vitatott pszichiáter, Thomas Szász egyszer ezt mondta: „Az emberek gyakran mondják, hogy ez vagy az az ember még nem találta meg önmagát. De az én nem valami, amit az ember megtalál; ez olyasvalami, amit az ember létrehoz.”

Lehetséges, hogy miközben az emberek megpróbálják megtalálni a megfelelő belső mag-énünket, a mesterséges intelligencia kellőképpen fejlődik ahhoz, hogy létezzen egy mesterséges intelligencia „én” is. Ha belegondolunk, lehet, hogy az embereknek mentálhigiénés tanácsokat kell adniuk a mesterséges intelligencia számára.

Csak azt tudom mondani, hogy jobb, ha percenként vagy nanomásodpercenként fizetést kapunk ezért.