A generatív AI ChatGPT zavaróan felfalhatja személyes és bizalmas adatait – figyelmeztet a mesterséges intelligencia etikájára és a mesterséges intelligencia törvényére

Most látja az adatait, most nem.

Időközben értékes adatai a kollektíva részévé váltak.

Olyan szempontra utalok, amely meglehetősen meglepő lehet azok számára, akik lelkesen és komolyan használják a mesterséges intelligencia (AI) legújabb eredményeit. Az AI-alkalmazásokba bevitt adatok potenciálisan egyáltalán nem teljesen magánjellegűek az Ön és csak Ön számára. Előfordulhat, hogy az Ön adatait az AI-gyártó feltehetően AI-szolgáltatása javítására fogja felhasználni, vagy ők és/vagy akár szövetséges partnereik is felhasználhatják őket különféle célokra.

Önt most előre figyelmeztették.

Az Ön adatainak ilyen átadása a legártalmatlanabb módon történik, és potenciálisan több ezer vagy milliós nagyságrendben történik. Hogy hogy? Létezik a generatív mesterséges intelligencia egy olyan típusa, amely a közelmúltban nagy hírlapokat kapott és a nagyközönség elragadtatott figyelmét. A létező generatív AI-alkalmazások közül a legfigyelemreméltóbb a ChatGPT, amelyet az OpenAI cég fejlesztett ki.

Állítólag körülbelül egymillió regisztrált felhasználója van a ChatGPT-nek. Úgy tűnik, hogy ezen felhasználók közül sokan örömmel próbálják ki ezt a legmenőbb és legújabb generatív AI alkalmazást. A folyamat rendkívül egyszerű. Beír egy szöveget promptként, és íme, a ChatGPT alkalmazás szöveges kimenetet generál, amely általában esszé formájában van. Vannak, akik ezt szöveg-szövegnek nevezik, bár én inkább szöveg-esszéként jelölöm, mivel ennek az igekötőnek mindennapibb értelme van.

Eleinte egy kezdő felhasználó valószínűleg valami szórakoztató és gondtalan dologba fog belépni. Meséljen nekem George Washington életéről és idejéről, esetleg valaki felszólításként belép. A ChatGPT ezután esszét készítene legendás első elnökünkről. Az esszé teljesen gördülékeny lenne, és nehéz lenne észrevenni, hogy egy AI-alkalmazás készítette. Izgalmas dolog történni.

Valószínűleg egy kis játék után a kezdő felhasználók egy része jóllakott, és valószínűleg úgy dönt, hogy abbahagyja a ChatGPT-vel való játékot. Mostanra leküzdötték a FOMO-jukat (a kihagyástól való félelmet), miután kísérleteztek az AI alkalmazással, amelyről úgy tűnik, szinte mindenki fecseg. A tett megtörtént.

Néhányan azonban elkezdenek gondolkodni a generatív AI használatának más és komolyabb módjain.

Esetleg használja a ChatGPT-t annak a feljegyzésnek a megírásához, amelynek megírására a főnöke felszólított. Mindössze annyit kell tennie, hogy megadja az Ön által szem előtt tartott pontokat tartalmazó promptot, és a következő dolog, amiről tudja, hogy a ChatGPT egy teljes feljegyzést generált, amitől a főnöke büszke lesz rád. Kimásolja a kiadott esszét a ChatGPT-ből, beilleszti a cég hivatalos sablonjába a szövegszerkesztő csomagjába, és e-mailben elküldi az előkelő feljegyzést a menedzserének. Egymillió dollárt érsz. És arra használtad az agyadat, hogy találj egy praktikus eszközt a nehéz munka elvégzéséhez. Veresd meg magad a vállon.

Ez nem minden.

Igen, van több is.

Ne feledje, hogy a generatív mesterséges intelligencia számos más, írással kapcsolatos feladatot is el tud végezni.

Tegyük fel például, hogy írt valamiféle narratívát egy értékes ügyfélnek, és nagyon szeretné átnézni az anyagot, mielőtt az kimenne.

Easy-peasy.

Beilleszti a narratíva szövegét egy ChatGPT promptba, majd utasítja a ChatGPT-t, hogy elemezze az Ön által írt szöveget. Az eredményül kapott esszé mélyen elmélyülhet a megfogalmazásodban, és kellemes meglepetésedre megpróbálja látszólag megvizsgálni az általad elmondottak jelentését (a helyesírás-ellenőrző vagy a nyelvtani elemző szerepén túlmutatóan). Az AI alkalmazás hibákat észlelhet az elbeszélés logikájában, vagy olyan ellentmondásokat fedezhet fel, amelyekről nem is gondolta, hogy a saját írásodban vannak. Ez majdnem olyan, mintha egy ravasz emberi szerkesztőt bérelt volna fel, hogy szemügyre vegye a vázlatot, és hasznos javaslatokkal és észrevételezett aggályokkal szolgáljon (jó, szeretném határozottan kijelenteni, hogy nem próbálom antropomorfizálni az AI alkalmazást, nevezetesen, hogy egy emberi szerkesztő ember, míg az AI alkalmazás csupán egy számítógépes program).

Hála istennek, hogy a generatív mesterséges intelligencia alkalmazást használta az értékes írott narratíva alapos vizsgálatára. Kétségtelenül jobban szeretné, ha a mesterséges intelligencia megtalálná a nyugtalanító írásbeli problémákat, nem pedig azután, hogy elküldte volna a dokumentumot a nagyra becsült ügyfelének. Képzeld el, hogy valakinek írtad a narratívát, aki felbérelt egy nagyon fontos ábrázolás kidolgozására. Ha átadta volna az eredeti verziót az ügyfélnek, mielőtt elvégezte volna az AI-alkalmazás felülvizsgálatát, nagy zavarba kerülhet. Az ügyfélben szinte biztos, hogy komoly kétségei támadnának az Ön készségeivel kapcsolatban, hogy elvégezze a kért munkát.

Emeljük fel az ante.

Fontolja meg a jogi dokumentumok létrehozását. Ez nyilvánvalóan különösen súlyos ügy. A szavak és azok összetétele lendületes jogi védelmet vagy szomorú jogi csapást jelenthet.

Folyamatos kutatásaim és tanácsadásaim során rendszeresen kapcsolatba lépek sok ügyvéddel, akik élénken érdeklődnek a mesterséges intelligencia felhasználása iránt a jog területén. Különféle LegalTech programok kapcsolódnak az AI-képességekhez. Az ügyvéd a generatív mesterséges intelligencia segítségével szerződéstervezetet vagy egyéb jogi dokumentumokat állíthat össze. Ezen túlmenően, ha az ügyvéd maga készítette el a kezdeti tervezetet, átadhatja a szöveget egy generatív AI-alkalmazásnak, például a ChatGPT-nek, hogy megnézze, milyen lyukakat vagy hiányosságokat észlelhet. Ha többet szeretne megtudni arról, hogy az ügyvédek és a jogászok hogyan választják az AI használatát, lásd a vitámat a címen az itt található link.

Ennek ellenére készen állunk a dörzsölésre.

Az ügyvéd elővesz egy szerződéstervezetet, és bemásolja a szöveget a ChatGPT-kérdésbe. Az AI alkalmazás felülvizsgálatot készít az ügyvéd számára. Kiderült, hogy a ChatGPT több botlást is talált. Az ügyvéd felülvizsgálja a szerződést. Arra is kérhetik a ChatGPT-t, hogy javasolja számukra a megkomponált szöveg átfogalmazását vagy újraírását. A szerződés új és jobb verzióját a generatív AI alkalmazás készíti el. Az ügyvéd felkapja a kiírt szöveget, és bedobja egy szövegszerkesztő fájlba. A küldetés az ügyfelükhöz megy. Küldetés teljesítve.

Kitalálod, mi történt most?

A színfalak mögött és a motorháztető alatt a szerződést úgy nyelhette el, mint egy halat a bálna szájába. Bár ez a mesterséges intelligencia-használó ügyvéd nem biztos, hogy észreveszi, a szerződés szövegét, amelyet a ChatGPT-ben felkért, felfalhat az AI alkalmazás. Ez most a mintaillesztés és az AI-alkalmazás egyéb számítási bonyodalmai számára készült. Ezt viszont többféleképpen is fel lehetne használni. Ha vannak bizalmas adatok a tervezetben, az is potenciálisan a ChatGPT korlátai közé tartozik. Az AI-alkalmazásnak adott üzenet most már látszólag valamilyen módon a kollektíva része.

Ezenkívül a kiadott esszét is a kollektíva részének tekintik. Ha arra kérte a ChatGPT-t, hogy módosítsa az Ön helyett a tervezetet, és mutassa be a szerződés új verzióját, akkor ez egy kiadott esszének minősül. A ChatGPT kimenetei is egyfajta tartalom, amelyet az AI-alkalmazás megtarthat vagy más módon átalakíthat.

Jaj, lehet, hogy ártatlanul adott ki személyes vagy bizalmas információkat. Nem jó. Ráadásul nem is tudná, hogy ezt tette. Nem emeltek zászlót. Egy kürt nem dörrent. Egyetlen villogó fény sem gyulladt ki, hogy valósággá rázzon.

Előreláthatjuk, hogy a nem ügyvédek könnyen elkövethetnek ilyen hibát, de szinte elképzelhetetlen, hogy egy járatos ügyvéd elkövetje ugyanezt az újonc hibáját. Mindazonáltal valószínű, hogy jelenleg jogi szakemberek követik el ugyanezt az esetleges baklövést. Fennáll a veszélye, hogy megsértik az ügyvéd-ügyfél kiváltság egy figyelemre méltó elemét, és esetleg megsértik az Amerikai Ügyvédi Kamara (ABA) szakmai magatartási szabályait (MRPC). Különösen: „Az ügyvéd nem fedhet fel az ügyfél képviseletével kapcsolatos információkat, kivéve, ha az ügyfél tájékoztatáson alapuló beleegyezését adja, a nyilvánosságra hozatalt hallgatólagosan a képviselet végrehajtása érdekében engedélyezi, vagy a nyilvánosságra hozatalt a b) pont lehetővé teszi” az MRPC, és amelyre a b) alszakaszhoz kapcsolódó kivételek úgy tűnik, nem terjednek ki egy generatív mesterséges intelligencia alkalmazás nem biztonságos módon történő használatára).

Egyes ügyvédek azzal próbálhatják mentegetni kihágásukat, hogy nem technológiai varázslók, és nem lettek volna készen arra, hogy megtudják, hogy bizalmas információk bevitele egy generatív AI-alkalmazásba valamiféle szabályszegés lehet. Az ABA egyértelművé tette, hogy az ügyvédek kötelessége magában foglalja a mesterséges intelligencia és a technológia jogi szempontból való naprakészségét: „A szükséges ismeretek és készségek megőrzése érdekében az ügyvédnek lépést kell tartania a jogszabályok és gyakorlatának változásaival, beleértve a a vonatkozó technológiával kapcsolatos előnyök és kockázatok, folytatni kell a tanulást és az oktatást, és be kell tartaniuk az ügyvédre vonatkozó minden jogi továbbképzési követelményt” (MRPC szerint).

Több rendelkezés is belefér a jogi kötelezettség e látszatába, beleértve az ügyfelek bizalmas információinak megőrzését (1.6 szabály), az ügyfél tulajdonának, például adatoknak a védelmét (1.15 szabály), az ügyféllel való megfelelő kommunikációt (1.4 szabály), az ügyfél tájékoztatáson alapuló hozzájárulásának megszerzését (1.6 szabály), valamint az ügyfél nevében az illetékes képviselet biztosítása (1.1. szabály). És ott van az ABA által elfogadott, kevéssé ismert, de rendkívül figyelemreméltó, mesterséges intelligencia-központú állásfoglalás is: „Az Amerikai Ügyvédi Kamara sürgeti a bíróságokat és az ügyvédeket, hogy foglalkozzanak a mesterséges intelligencia ('AI') használatával kapcsolatos felmerülő etikai és jogi problémákkal. a joggyakorlatban, beleértve: (1) a mesterséges intelligencia által hozott automatizált döntések elfogultságát, megmagyarázhatóságát és átláthatóságát; (2) a mesterséges intelligencia etikus és előnyös használata; és (3) a mesterséges intelligencia és az AI-t biztosító szállítók ellenőrzése és felügyelete.”

Szavak a bölcsekhez jogi barátaimhoz és kollégáimhoz.

A dolog lényege az, hogy szinte bárki belezavarhatja magát a generatív AI használata során. A nem ügyvédek ezt a jogi érzékük feltételezett hiánya miatt tehetik meg. Az ügyvédek is megtehetik, ha rajonganak a mesterséges intelligenciaért, vagy nem vesznek mély lélegzetet, és nem gondolkodnak el azon, milyen jogi következményekkel járhat a generatív mesterséges intelligencia használata.

Valószínűleg mindannyian ugyanabban a csónakban vagyunk.

Azt is tudnia kell, hogy a ChatGPT nem az egyetlen generatív AI-alkalmazás a blokkon. Vannak más generatív AI-alkalmazások is, amelyeket használhat. Valószínűleg ugyanabból a szövetből vágják őket, nevezetesen, hogy a felszólításként megadott bemenetek és a generált kimeneti esszékként kapott kimenetek a kollektív részének tekintendők, és az AI-készítő felhasználhatja azokat.

A mai rovatban azt fogom kibontani, hogy a bevitt adatok és a generatív mesterséges intelligencia által kapott adatok hogyan kerülhetnek veszélybe az adatvédelem és a titoktartás tekintetében. Az AI-gyártók elérhetővé teszik licencelési követelményeiket, és bölcs dolog, ha elolvasná ezeket a létfontosságú feltételeket, mielőtt aktívan használni kezdene egy mesterséges intelligencia-alkalmazást bármilyen látszólagos valós adattal. Végigvezetek egy példán az ilyen licencelésre, a ChatGPT AI alkalmazáshoz.

Mindehhez egy csomó mesterséges intelligencia etikai és mesterséges intelligenciajogi megfontolás tartozik.

Kérjük, vegye figyelembe, hogy folyamatos erőfeszítések folynak az etikus mesterséges intelligencia elveinek beillesztésére az AI-alkalmazások fejlesztésébe és használatába. Az aggódó és egykori mesterséges intelligencia-etikusok növekvő kontingense igyekszik biztosítani, hogy az AI kidolgozására és elfogadására irányuló erőfeszítések figyelembe vegyék a AI For Good és elhárítása AI For Bad. Hasonlóképpen új mesterséges intelligencia-törvényeket javasoltak, amelyek potenciális megoldásként próbálják megakadályozni, hogy a mesterséges intelligencia erőfeszítései ámokba boruljanak az emberi jogok és hasonlók terén. A mesterséges intelligencia etikájával és a mesterséges intelligencia törvényével kapcsolatos folyamatos és kiterjedt tudósításomat lásd az itt található link és a az itt található link, csak hogy néhányat említsek.

Jelentős etikai AI árnyalatok és rendelkezések kapcsolódnak ahhoz, hogy a mesterséges intelligencia készítői hogyan kezelhetik vagy kezelhetik azokat az adatokat vagy információkat, amelyek felhasználóik számára privátnak vagy bizalmasnak tűnnek. Valószínűleg Ön is tudja, hogy egy csomó létező törvény ütközik a technológiai entitások adatkezelésének lényegével. Nagy az esély arra is, hogy az újonnan javasolt mesterséges intelligenciatörvények is átnyúlnak ugyanarra a területre. Lásd például a tudósításomat a AI Bill of Rights és más, az AI-val kapcsolatos jogi viták, at az itt található link.

Íme a legfontosabb kivonat ebből a vitából:

• Legyen nagyon-nagyon-nagyon óvatos azzal kapcsolatban, hogy milyen adatokat vagy információkat helyez el a promptokban, amikor generatív AI-t használ, és ehhez hasonlóan legyen rendkívül óvatos, és számítson rá, hogy milyen típusú esszéket kaphat, mivel a kimeneteket is fel lehet venni.

Ez azt jelenti, hogy nem szabad generatív AI-t használni?

Nem, egyáltalán nem ezt mondom.

Használja a generatív AI-t kedved szerint. A lényeg az, hogy ügyeljen arra, hogyan használja. Nézze meg, milyen engedélyezési feltételek kapcsolódnak a használathoz. Döntse el, hogy képes-e élni ezekkel a feltételekkel. Ha van mód arra, hogy tájékoztassa a mesterséges intelligencia készítőjét arról, hogy bizonyos típusú hozzáadott védelmet vagy engedményeket kíván igénybe venni, mindenképpen tegye meg.

Megemlítek egy másik szempontot is, amelyről tudom, hogy néhány embert megőrjít. Itt megy. Bármilyenek is legyenek az engedélyezési feltételek, azt is feltételezni kell, hogy fennáll annak a lehetősége, hogy ezeket a követelményeket nem tartják be teljes mértékben. A dolgok elfajulhatnak. A repedések között cuccok csúszhatnak. A végén persze lehet, hogy jogi pert indíthat egy MI-gyártó ellen, mert nem tartja be a kikötéseiket, de ez valamivel azután történik, hogy a ló már kijött az istállóból.

A továbblépés potenciálisan rendkívül biztonságos módja az lenne, ha létrehozná a saját példányát a saját rendszerein, akár felhőben, akár házon belül (és feltételezve, hogy betartja a megfelelő kiberbiztonsági óvintézkedéseket, amelyek bizonyosan nem, és még rosszabbak is. saját felhőjükben, mint a szoftvergyártó felhőjének használata). Egy kicsit bosszantó probléma azonban, hogy a generatív mesterségesintelligencia-alkalmazások közül jelenleg kevés teszi ezt lehetővé. Mindannyian csak a mi felhőnk alapján működnek. Kevesen tették elérhetővé azt a lehetőséget, hogy egy teljes példányt csak az Ön számára készítsenek el. Azt jósoltam, hogy fokozatosan meg fogjuk jelenni ezt a lehetőséget, bár eleinte meglehetősen költséges és kissé bonyolult lesz, lásd a jóslataimat itt az itt található link.

Hogyan kerülnek az egyébként különösen okos és különösen okos emberek az adatok vagy információk bizalmasságának eróziójának ingoványába?

Ezeknek a generatív mesterségesintelligencia-alkalmazásoknak a vonzereje egészen mágneses lesz, ha elkezdi használni őket. Lépésről lépésre azon kapja magát, hogy megbabonázza magát, és úgy dönt, hogy egyre mélyebbre helyezi lábujjait a mesterséges intelligencia generatív vizébe. A következő dolog, amit tudni fog, készséggel átad egy generatív mesterséges intelligenciaalkalmazásnak olyan védett tartalmat, amelyet privátnak és bizalmasnak kell tartani.

Álljon ellen a késztetésnek, és kérjük, tartózkodjon attól, hogy lépésről lépésre beleessen egy kellemetlen csapdába.

Az üzleti vezetők és a legfelső szintű vezetők esetében ugyanaz a figyelmeztetés vonatkozik Önre és a vállalat minden munkatársára. A vezető alkalmazottakat is elragadja a generatív AI használatának lelkesedése és ámulata. Valóban elronthatják, és potenciálisan legfelső szintű titkos információkat adhatnak meg egy AI-alkalmazásban.

Ezen túlmenően az alkalmazottaik széles köre játszhat a generatív AI-val. Az egyébként figyelmes munkatársak közül sokan ész nélkül és boldogan írják be a vállalat személyes és bizalmas adatait ezekbe az AI-alkalmazásokba. A legutóbbi híradások szerint az Amazon nyilvánvalóan felfedezte, hogy egyes alkalmazottak különféle védett információkat visznek be a ChatGPT-be. Állítólag belső figyelmeztetést küldtek, hogy legyen óvatos az ellenállhatatlan mesterséges intelligencia alkalmazás használatában.

Összességében egy kis irónia jön a növekvő jelenségekbe, amikor az alkalmazottak akarva-akaratlanul bizalmas adatokat visznek be a ChatGPT-be és más generatív AI-ba. Engedjék meg, hogy részletezzem. A mai modern vállalatok jellemzően szigorú kiberbiztonsági politikákkal rendelkeznek, amelyeket gondosan kidolgoztak és végrehajtottak. Számos technológiai védelem létezik. A remény az, hogy elkerüljük a kulcsfontosságú dolgok véletlenszerű kibocsátását. A folyamatos dobpergés az, hogy legyen óvatos, amikor webhelyeket látogat meg, legyen óvatos, amikor nem jóváhagyott alkalmazásokat használ, és így tovább.

Ehhez jönnek a generatív AI-alkalmazások, például a ChatGPT. A mesterséges intelligencia alkalmazással kapcsolatos hírek széles körben elterjedtek. Őrület támad. Ezeknek a cégeknek az emberei, akik rendelkeznek ezekkel a kiberbiztonsági védelemmel, úgy döntenek, hogy egy generatív AI-alkalmazást választanak. Eleinte tétlenül játszanak vele. Ezután elkezdik beírni a cégadatokat. Wham, most potenciálisan olyan információkat hoztak nyilvánosságra, amelyeket nem lett volna szabad nyilvánosságra hozni.

A csillogó új játék, amely varázslatosan megkerüli a több millió dolláros kiadást a kiberbiztonsági védelemre és a folyamatos képzésre, hogy mit ne tegyünk. De hé, izgalmas a generatív mesterséges intelligencia használata, és a „benn lévő” tömeg részévé válni. Úgy tűnik, ez számít.

Bízom benne, hogy észreveszi, hogy kifejezetten óvatos vagy.

A következő lépésben nézzük meg közelebbről, hogy a generatív mesterséges intelligencia hogyan kezeli technikailag a felszólítások és a kiadott esszék szövegét. Megvizsgálunk néhány licencfeltételt is, példaként a ChatGPT-t használva. Kérjük, vegye figyelembe, hogy nem fogom lefedni ezen engedélyezési elemek teljes skáláját. Feltétlenül vonja be jogi tanácsadóját bármely generatív AI-alkalmazáshoz, amely mellett dönt. Ezenkívül a licencek AI-készítőnként eltérőek, ráadásul az adott AI-gyártó dönthet úgy, hogy módosítja az engedélyét, ezért ügyeljen arra, hogy éber legyen a licenc legutóbbi verziójának előírásaival kapcsolatban.

Van néhány izgalmas kicsomagolásunk ebben a mámorító témában.

Először is, meg kell győződnünk arról, hogy mindannyian egy oldalon vagyunk azzal kapcsolatban, hogy miből áll a Generatív AI, és arról is, hogy miről is szól a ChatGPT. Miután ezt az alapvető szempontot lefedtük, meggyőző értékelést végezhetünk az ilyen típusú MI-hez kapcsolódó tükör-metaforáról.

Ha már alaposan ismeri a Generative AI-t és a ChatGPT-t, akkor átugorhatja a következő részt, és folytathatja az azt követő részt. Úgy gondolom, hogy mindenki más is tanulságosnak találja az ezekről a kérdésekről szóló létfontosságú részleteket, ha figyelmesen elolvassa a részt, és felgyorsul.

Gyors alapozó a generatív mesterséges intelligenciáról és a ChatGPT-ről

A ChatGPT egy általános célú mesterséges intelligencia, interaktív, társalgásra orientált rendszer, lényegében egy ártalmatlannak tűnő általános chatbot, ennek ellenére aktívan és buzgón használják az emberek olyan módokon, amelyek sokakat teljesen megfogtak, amint azt hamarosan kifejtem. Ez a mesterséges intelligencia alkalmazás olyan technikát és technológiát használ az AI birodalmában, amelyet gyakran úgy emlegetnek, mint Generatív AI. Az AI kimeneteket, például szöveget generál, amit a ChatGPT tesz. Más generatív alapú AI-alkalmazások képeket, például képeket vagy grafikákat, míg mások hangfájlokat vagy videókat állítanak elő.

Ebben a vitában a szövegalapú generatív AI-alkalmazásokra fogok összpontosítani, mivel a ChatGPT ezt teszi.

A generatív AI-alkalmazások használata rendkívül egyszerű.

Mindössze annyit kell tennie, hogy beír egy promptot, és az AI alkalmazás létrehoz egy esszét, amely megpróbál válaszolni a felszólítására. A megkomponált szöveg úgy fog tűnni, mintha az esszét emberi kéz és elme írta volna. Ha beírna egy „Mondj nekem Abraham Lincolnról” üzenetet, a generatív mesterséges intelligencia egy esszét ad neked Lincolnról. Ezt általában generatív MI-nek minősítik, amely teljesít szövegről szövegre vagy egyesek inkább úgy hívják szövegből esszébe Kimenet. Amint már említettük, a generatív mesterséges intelligencia más módjai is léteznek, például a szövegből művészetté és a szövegből videóvá.

Az első gondolatod az lehet, hogy ez a generatív képesség nem tűnik olyan nagy dolognak az esszék elkészítése szempontjából. Könnyedén kereshet az interneten, és rengeteg esszét talál Lincoln elnökről. A generatív mesterséges intelligencia esetében az a kitörés, hogy a generált esszé viszonylag egyedi, és inkább eredeti kompozíciót ad, nem pedig másolatot. Ha megpróbálná megtalálni az AI által készített esszét valahol az interneten, nem valószínű, hogy felfedezné.

A generatív mesterséges intelligencia előre kiképzett, és egy összetett matematikai és számítási megfogalmazást alkalmaz, amelyet úgy állítottak fel, hogy megvizsgálja az írott szavak és történetek mintáit az interneten. A több ezer és millió írott szövegrész vizsgálatának eredményeként az MI új esszéket és történeteket tud kidobni, amelyek összekeverik a találtakat. Különböző valószínűségi funkcionalitások hozzáadásával az eredményül kapott szöveg eléggé egyedi a képzési készletben használtakhoz képest.

Ezért volt felzúdulás amiatt, hogy a tanulók csalhatnak, amikor az osztálytermen kívül esszéket írnak. A tanár nem tekintheti pusztán saját írásának azt az esszét, amelyet az álnok tanulók állítanak, és nem keresheti meg, hogy más online forrásból másolták-e ki. Összességében nem lesz olyan végleges, már létező online esszé, amely megfelelne az AI által generált esszének. Mindent összevetve a tanárnak kelletlenül el kell fogadnia, hogy a tanuló eredeti műként írta az esszét.

További aggodalomra ad okot a generatív mesterséges intelligencia.

Az egyik döntő hátránya az, hogy a generatív alapú mesterséges intelligencia-alkalmazások által készített esszékben különféle hamisságok lehetnek beágyazva, beleértve a nyilvánvalóan valótlan tényeket, a félrevezetően ábrázolt tényeket és a látszólagos tényeket, amelyek teljesen kitaláltak. Ezeket a kitalált szempontokat gyakran egy formának nevezik AI hallucinációk, egy olyan hívószó, amelyet nem kedvelek, de sajnálatos módon úgy tűnik, hogy így is egyre népszerűbb (a részletes magyarázatomért, hogy miért ez a silány és nem megfelelő terminológia, lásd a tudósításomat: az itt található link).

Egy fontos szempontot szeretnék tisztázni, mielőtt belemennénk a témával kapcsolatos dolgok sűrűjébe.

A közösségi médiában megjelent néhány bolondos, túlméretezett állítás Generatív AI kijelentve, hogy az AI legújabb verziója valójában az érző AI (nem, tévednek!). A mesterséges intelligencia etikájával és a mesterséges intelligencia törvényével foglalkozókat kifejezetten aggasztja a kiterjesztett követelések növekvő tendenciája. Udvariasan azt mondhatjuk, hogy egyesek túlértékelik, mire képes a mai mesterséges intelligencia. Azt feltételezik, hogy az AI olyan képességekkel rendelkezik, amelyeket még nem tudtunk elérni. Ez pech. Ami még rosszabb, megengedhetik maguknak és másoknak, hogy súlyos helyzetekbe kerüljenek, mert feltételezik, hogy a mesterséges intelligencia érző vagy emberszerű lesz, ha cselekvésre képes.

Ne antropomorfizálja az AI-t.

Ha így tesz, belekerül egy ragadós és kínos támaszkodás csapdájába, amely azt várja el az AI-tól, hogy olyan dolgokat tegyen, amelyeket nem képes végrehajtani. Ezzel együtt a generatív mesterséges intelligencia legújabb verziója viszonylag lenyűgöző, hogy mire képes. Ne feledje azonban, hogy vannak jelentős korlátozások, amelyeket folyamatosan szem előtt kell tartania bármely generatív AI-alkalmazás használatakor.

Ha érdekli a ChatGPT-vel és a Generatív AI-val kapcsolatos gyorsan növekvő zűrzavar, rovatomban készítettem egy fókuszált sorozatot, amely hasznos lehet. Íme egy pillantás arra az esetre, ha a témakörök közül bármelyik elnyeri a tetszését:

• 1) A generatív mesterséges intelligencia előrejelzései. Ha tudni szeretné, mi várható az AI-val kapcsolatban 2023-ban és azután, beleértve a generatív mesterséges intelligencia és a ChatGPT közelgő fejlődését, akkor érdemes elolvasni a 2023-as előrejelzések átfogó listáját itt: az itt található link.
• 2) Generatív mesterséges intelligencia és mentális egészségügyi tanácsok. Úgy döntöttem, hogy áttekintem, hogyan használják a generatív mesterséges intelligenciát és a ChatGPT-t mentálhigiénés tanácsadásra, ami egy zavaró tendencia, az itt végzett fókuszált elemzésem szerint. az itt található link.
• 3) A generatív AI és a ChatGPT alapjai. Ez a cikk a generatív mesterséges intelligencia működésének kulcsfontosságú elemeit tárja fel, különös tekintettel a ChatGPT alkalmazásra, beleértve a zümmögés és a fanfár elemzését is. az itt található link.
• 4) Feszültség a tanárok és a diákok között a generatív AI és a ChatGPT miatt. Az alábbiakban bemutatjuk, hogyan használják a tanulók a generatív AI-t és a ChatGPT-t. Ezenkívül a tanárok többféleképpen is megküzdhetnek ezzel az árhullámmal. Lát az itt található link.
• 5) Kontextus és generatív AI-használat. Szezonálisan ízesített nyelvvizsgát is végeztem a Mikuláshoz kapcsolódó kontextusról, amely magában foglalja a ChatGPT-t és a generatív AI-t az itt található link.
• 6) Generatív AI-t használó csalók. Baljós, hogy néhány csaló rájött, hogyan használhatja fel a generatív mesterséges intelligenciát és a ChatGPT-t jogsértések elkövetésére, beleértve az átverő e-mailek generálását és még a rosszindulatú programok programozási kódjának létrehozását is. az itt található link.
• 7) Újonc hibák a generatív AI használatával. Sokan túlszárnyalják és meglepően alulértékelik azt, amit a generatív mesterséges intelligencia és a ChatGPT képes, ezért különös tekintettel arra, hogy az AI újoncok milyen alulmúlásra képesek, lásd a vitát itt: az itt található link.
• 8) Megbirkózni a generatív mesterséges intelligencia-kérdésekkel és a mesterséges intelligencia hallucinációival. Leírok egy élvonalbeli megközelítést a mesterséges intelligencia-kiegészítők használatára a megfelelő promptok generatív MI-be történő bevitelével kapcsolatos különféle problémák kezelésére, valamint vannak további AI-kiegészítők az úgynevezett mesterséges intelligencia hallucinált kimenetek és hamisságok észlelésére, mint pl. fedett at az itt található link.
• 9) A Bonehead által a generatív mesterséges intelligencia által készített esszék felderítésével kapcsolatos állítások leleplezése. A mesterséges intelligencia-alkalmazások félrevezetett aranylázában azt hirdetik, hogy képesek megbizonyosodni arról, hogy egy adott esszét ember készített-e vagy mesterséges intelligencia által generált. Összességében ez félrevezető, és bizonyos esetekben csontfejű és tarthatatlan állítás, lásd tudósításomat a következő címen: az itt található link.
• 10) A Generatív AI-n keresztüli szerepjáték előrevetítheti a mentális egészség hátrányait. Vannak, akik generatív mesterséges intelligenciát, például a ChatGPT-t használnak szerepjátékokhoz, amelyek során az AI alkalmazás úgy reagál az emberre, mintha egy fantáziavilágban vagy más kitalált környezetben élne. Ennek mentális egészségügyi következményei lehetnek, lásd az itt található link.
• 11) A kiadott hibák és hamisságok körének feltárása. Különféle összegyűjtött listákat állítanak össze, hogy megpróbálják bemutatni a ChatGPT által előállított hibák és hamisságok természetét. Egyesek úgy vélik, hogy ez elengedhetetlen, míg mások azt mondják, hogy a gyakorlat hiábavaló, lásd elemzésemet itt az itt található link.
• 12) A generatív AI ChatGPT-t tiltó iskolák hiányoznak a hajóból. Talán tudja, hogy különböző iskolák, például a New York City (NYC) Oktatási Minisztériuma tiltó nyilatkozatot tettek a ChatGPT használatára vonatkozóan a hálózatukon és a kapcsolódó eszközökön. Bár ez hasznos óvintézkedésnek tűnhet, nem mozdítja el a tűt, és sajnos teljesen kihagyja a hajót, lásd a tudósításomat itt: az itt található link.
• 13) A generatív AI ChatGPT mindenhol jelen lesz a közelgő API miatt. Egy fontos csavar jön a ChatGPT használatával kapcsolatban, nevezetesen, hogy egy API-portál használatával ebben a konkrét AI-alkalmazásban más szoftverek képesek lesznek meghívni és használni a ChatGPT-t. Ez drámaian kiterjeszti a generatív mesterséges intelligencia alkalmazását, és jelentős következményekkel jár, lásd a kifejtésemet: az itt található link.
• 14) A ChatGPT felpörögésének vagy összeomlásának módjai. Számos lehetséges bosszantó probléma állt a ChatGPT előtt, ami aláaknázza az eddig kapott hatalmas dicséreteket. Ez az elemzés alaposan megvizsgálja nyolc lehetséges problémát, amelyek miatt a ChatGPT elveszítheti a gőzt, és akár a kutyaházba is kerülhet, lásd az itt található link.

Érdekes lehet, hogy a ChatGPT a GPT-3 néven ismert előd AI-alkalmazás verzióján alapul. A ChatGPT egy kissé következő lépésnek tekinthető, amelyet GPT-3.5-nek neveznek. A GPT-4 várhatóan 2023 tavaszán fog megjelenni. Feltehetően a GPT-4 lenyűgöző előrelépést jelent majd abban a tekintetben, hogy látszólag még gördülékenyebb esszéket tud készíteni, mélyebbre megy, és félelmetes lesz. -inspiráló csoda, hogy milyen kompozíciókat tud készíteni.

A kifejezett csodálkozás új fordulójára számíthatsz, amikor beköszönt a tavasz, és megjelenik a generatív mesterséges intelligencia legújabb verziója.

Azért hozom fel ezt, mert van egy másik szempont is, amelyet szem előtt kell tartani, ez a potenciális Achilles-sarka ezeknek a jobb és nagyobb generatív AI-alkalmazásoknak. Ha bármely mesterségesintelligencia-gyártó elérhetővé tesz egy generatív AI-alkalmazást, amely habosan okádja ki a szennyeződéseket, az összetörheti az AI-gyártók reményeit. A társadalmi hatások miatt az összes generatív mesterséges intelligencia komoly fekete szemet kaphat. Az emberek kétségtelenül nagyon idegesek lesznek a rossz kimeneteleken, amelyek már sokszor megtörténtek, és heves társadalmi elítéléshez vezettek az MI-vel szemben.

Egy utolsó figyelmeztetés egyelőre.

Bármit is lát vagy olvas egy generatív mesterséges intelligencia-válaszban Úgy tűnik, hogy pusztán tényszerűek legyenek (dátumok, helyek, személyek stb.), ügyeljen arra, hogy maradjon szkeptikus, és legyen hajlandó kétszer is ellenőrizni a látottakat.

Igen, a dátumokat ki lehet találni, a helyeket ki lehet találni, és olyan elemeket, amelyektől általában kifogástalanok vagyunk, minden gyanúnak kitéve. Ne higgye el, amit olvas, és tartsa szkeptikus szemét, amikor bármilyen generatív AI-esszét vagy kimenetet vizsgál. Ha egy generatív AI-alkalmazás azt mondaná, hogy Abraham Lincoln saját magánrepülőgépével körberepült az országban, akkor kétségtelenül tudná, hogy ez egy malária. Sajnos előfordulhat, hogy egyesek nem veszik észre, hogy az ő korában nem léteztek repülőgépek, vagy tudják, de nem veszik észre, hogy az esszé ezt a pimasz és felháborítóan hamis állítást fogalmazza meg.

Egy erős adag egészséges szkepticizmus és a kitartó hitetlenkedés lesz a legjobb eszköz a generatív mesterséges intelligencia használatakor.

Készen állunk, hogy átlépjünk ennek a felvilágosításnak a következő szakaszába.

Tudva, mi az ördög fog történni ezzel a szöveggel

Most, hogy az alapokat lefektettük, belemerülhetünk a generatív mesterségesintelligencia használata során felmerülő adatokkal és információkkal kapcsolatos szempontokba.

Először is nézzük meg röviden, mi történik, ha szöveget ír be a ChatGPT promptjába. Nem tudjuk biztosan, mi történik a ChatGPT-n belül, mivel a program védettnek minősül. Egyesek rámutattak, hogy ez aláássa az AI alkalmazás átláthatóságát. Egy kissé elgondolkodtató megjegyzés, hogy az OpenAI nevű vállalat AI-ja valójában zárva van a nyilvános hozzáférés előtt, és nem érhető el nyílt forráskódként.

Beszéljük meg a tokenizálást.

Ha egyszerű szöveget ír be egy promptba, és megnyomja a return gombot, feltehetően konverzió történik, amely azonnal megtörténik. A szöveget tokenekből álló formátumba konvertálják. A tokenek a szavak alrészei. Például a „hamburger” szó általában három zsetonra oszlik, amelyek a „ham”, „bur” és „ger” részből állnak. Ökölszabály, hogy a tokenek körülbelül négy karaktert képviselnek, vagy a hagyományos angol szavak körülbelül 75%-ának tekinthetők.

Ezután minden token számként újrafogalmazódik. Különféle belső táblák határozzák meg, hogy melyik token melyik számhoz van hozzárendelve. Ennek az a lényege, hogy a beírt szöveg immár teljes egészében számok halmaza. Ezeket a számokat a prompt számítási elemzésére használják. Továbbá a korábban említett mintaillesztő hálózat is tokenizált értékeken alapul. Végső soron a kiadott esszé összeállításakor vagy generálásakor először ezeket a numerikus tokeneket használják fel, majd a megjelenítés előtt a tokenek újra betű- és szókészletekké alakulnak.

Gondolj erre egy pillanatra.

Amikor azt mondom az embereknek, hogy a feldolgozás mechanikája így működik, gyakran megdöbbennek. Feltételezték, hogy egy generatív AI-alkalmazásnak, például a ChatGPT-nek teljes mértékben integráló szavakat kell használnia. Logikusan feltételezzük, hogy a szavak kulcskövei az írott narratívákban és kompozíciókban a kapcsolatok statisztikai azonosításának. Kiderült, hogy a feldolgozás valójában tokeneket használ. Talán ez tovább növeli a csodálkozást, hogy a számítási folyamat mennyire meggyőzően képes utánozni az emberi nyelvet.

Végigvezettem Önt ezen a folyamaton egy általános tévhit miatt, amely úgy tűnik, terjedni látszik. Úgy tűnik, egyesek azt hiszik, hogy mivel a felszólító szöveget numerikus tokenekké alakítják, Ön biztos lehet abban, hogy az AI-alkalmazás belsejében valahogy már nem található meg az eredetileg beírt szöveg. Így a követelés érvényesül, még ha bizalmas információkat adott is meg a promptban, akkor sem kell aggódnia, mivel az egész látszólag tokenizált.

Ez az elképzelés tévedés. Az imént felhívtam a figyelmet arra, hogy a numerikus tokeneket könnyen vissza lehet vinni a betűk és szavak szöveges formátumába. Ugyanezt meg lehet tenni a tokenizált konvertált prompttal is. Semmi varázslatos védelmet nem nyújt abban, hogy tokenizáltak. Ennek ellenére, a tokenekké alakítás után, ha van egy további folyamat, amely a tokenek kidobását, mozgatását és más módon történő összekeverését vagy feldarabolását választja, ebben az esetben valóban fennáll annak a lehetősége, hogy az eredeti egyes részei prompt már nem érintetlenek (és feltételezve, hogy az eredeti példányt más módon nem őrzik meg vagy tárolják valahol belsőleg).

Legközelebb szeretném áttekinteni a ChatGPT különféle értesítéseit és engedélyezési előírásait.

Amikor bejelentkezik a ChatGPT-be, egy sor figyelmeztetés és információs megjegyzés jelenik meg.

Itt vannak:

• „Esetenként helytelen információkat generálhat.”
• „Esetenként káros utasításokat vagy elfogult tartalmat adhat.”
• „Képzett a nem megfelelő kérések elutasítására.”
• „Az a célunk, hogy külső visszajelzéseket kapjunk rendszereink fejlesztése és biztonságosabbá tétele érdekében.”
• „Bár vannak védintézkedéseink, a rendszer időnként helytelen vagy félrevezető információkat generálhat, és sértő vagy elfogult tartalmat produkálhat. Nem célja, hogy tanácsot adjon."
• „A beszélgetéseket AI-oktatóink felülvizsgálhatják rendszereink fejlesztése érdekében.”
• "Kérjük, ne osszanak meg érzékeny információkat a beszélgetései során."
• „Ez a rendszer párbeszédre van optimalizálva. Tudassa velünk, ha egy adott válasz jó volt vagy nem volt hasznos.”
• „Korlátozott tudás a világról és a 2021 utáni eseményekről.”

Az említett figyelmeztetések közül kettő különösen releváns ebben a vitában. Nézd meg a hatodik és a hetedik felsorolásjeles pontot.

Csomagoljuk ki a kettőt:

„A beszélgetéseket AI-oktatóink felülvizsgálhatják rendszereink fejlesztése érdekében.”

Ez a hatodik felsorolásjeles pont elmagyarázza, hogy a ChatGPT használata során a szöveges beszélgetéseket a ChatGPT felülvizsgálhatja „AI oktatóin” keresztül, ami a rendszereik fejlesztése érdekében történik. Ezúton tájékoztatjuk Önt, hogy az Ön által a ChatGPT-vel folytatott „beszélgetés” részét képező összes beírt szöveges prompt és a megfelelő kimeneti esszé esetében azt teljes mértékben láthatják az emberek. A felkínált indoklás szerint ez az AI alkalmazás fejlesztése érdekében történik, és azt is közölték velünk, hogy ez egyfajta munkafeladat, amelyet a mesterséges intelligencia oktatói végeznek. Lehet, hogy igen, de a végeredmény az, hogy felhívták a figyelmedbe, hogy megnézhetik a szövegedet. Időpont, pont.

Ha valami mást csinálnának az Ön szövegével, akkor valószínűleg jogi tanácsot kérne arról, hogy vajon kirívóan túlléptek-e azon a javasolt kereteken, amelyek csupán rendszerfejlesztési célból nézték át a szöveget (feltételezve, hogy sikerült felfedezniük, hogy ezt tették, melyik maga talán valószínűtlennek tűnik). Mindenesetre el lehet képzelni azt a jogi civódást, amikor megpróbálják rávenni őket erre, és megpróbálják kijutni abból, hogy elkapják őket, mert valamiképpen megsértették a felelősségvállalási nyilatkozatuk határait.

"Kérjük, ne osszanak meg érzékeny információkat a beszélgetései során."

A hetedik felsorolt ​​pont azt jelzi, hogy beszélgetései során nem oszthat meg érzékeny információkat. Ez viszonylag egyértelműnek tűnik. Feltételezem, hogy vitatkozhat azon, hogy miből áll az érzékeny információ definíciója. Ezenkívül a felsorolt ​​pontok nem mondják el, hogy miért ne osszunk meg semmilyen érzékeny információt. Ha egyszer meg kell próbálnod, hogy iszonyatos izzadságban megmagyarázd, miért írtál be ostobán bizalmas adatokat, akkor megpróbálhatod a felhúzott szemöldökkel kapcsolatos állítást, miszerint a figyelmeztetés nem volt konkrét, ezért nem fogtad fel a jelentőségét. Tartsa vissza a lélegzetét ezen.

Összességében azt merem állítani, hogy a legtöbb ember, akit a ChatGPT használatával láttam, általában nem olvassa el a felsorolt ​​pontokat, vagy átfutja a felsorolt ​​óvintézkedéseket, és csak bólogat, mintha a szokásos halandzsa törvényszerűség lenne, hogy látja az összes idő. Úgy tűnik, kevesen veszik szigorúan a szívükre a figyelmeztetéseket. Ez az eladó hibája, hogy nem tette hangsúlyosabbá az óvintézkedéseket? Vagy feltételezzük, hogy a felhasználóknak felelősségteljesnek kell lenniük, és figyelmesen el kell olvasniuk, megérteniük, majd megfontoltan kell eljárniuk a figyelmeztetések alapján?

Egyesek azt is állítják, hogy az AI alkalmazásnak ismételten figyelmeztetnie kell. Minden alkalommal, amikor beír egy promptot, a szoftvernek fel kell bukkannia egy figyelmeztetésben, és megkérdezi, hogy szeretné-e megütni a visszatérést. Újra és újra. Bár ez hasznos óvintézkedésnek tűnhet, kétségkívül irritálná a felhasználókat. Kemény kompromisszumról van szó.

Rendben, ezek tehát a nyilvánvaló figyelmeztetések, amelyeket minden felhasználó könnyen láthat.

Azok a felhasználók, akik érdeklődőbbek, dönthetnek úgy, hogy követik az online is közzétett részletes engedélyezési feltételeket. Kétlem, hogy sokan így tesznek. Az a megérzésem, hogy bejelentkezéskor kevesen nézik komolyan a felsorolt ​​pontokat, és még kevesebben tekintik meg nagy különbséggel az engedélyezési részleteket. Manapság ismét mindannyian elzsibbadtunk az ilyesmitől. Nem mentegetem a viselkedést, csak megjegyzem, miért történik.

Megvizsgálok néhány részletet a közzétett licencfeltételekből.

Először is itt van annak meghatározása, hogy mit tekintenek a ChatGPT használatához kapcsolódó „tartalomnak”:

• „Az Ön tartalma. Bemenetet biztosíthat a Szolgáltatásokhoz („Input”), és a Szolgáltatások által a Bemenet alapján generált és visszaküldött kimenetet kaphat („Output”). A bemenet és a kimenet együttesen „Tartalom”. A felek között, és a vonatkozó jogszabályok által megengedett mértékben az Ön tulajdonában van az összes bemenet, és a jelen Feltételeknek való megfelelés függvényében az OpenAI átruházza Önre a Kimenettel kapcsolatos minden jogát, jogcímét és érdekeltségét. Az OpenAI szükség szerint használhatja a Tartalmat a Szolgáltatások biztosításához és karbantartásához, a vonatkozó jogszabályok betartásához és irányelveink betartatásához. Ön felelős a Tartalomért, beleértve annak biztosítását, hogy az ne sértsen semmilyen vonatkozó törvényt vagy jelen Feltételeket.”

Ha figyelmesen megvizsgálja ezt a definíciót, észreveheti, hogy az OpenAI kijelenti, hogy a tartalmat úgy használhatja fel, ahogyan azt szolgáltatásai fenntartásához szükségesnek tartja, beleértve a vonatkozó törvények betartását és irányelveinek betartatását. Ez egy praktikus fogás számukra. Egy soron következő rovatomban egy másik, de kapcsolódó témáról fogok beszélni, különösen az Ön szellemi tulajdonjogairól, amelyek a beírt szöveges promptokkal és a kiadott esszékkel kapcsolatosak (ezt itt mutatom ki, mivel a A tartalom illik ehhez a témához).

A kifejezések egy további részében, amelyet c szakaszként jelölnek, megemlítik ezt a szempontot: „A gépi tanulási modellek egyik fő előnye, hogy idővel javíthatók. Annak érdekében, hogy segítse az OpenAI-t a Szolgáltatások biztosításában és karbantartásában, Ön beleegyezik és utasítja, hogy a Tartalmat felhasználhatjuk a Szolgáltatások fejlesztésére és javítására.” Ez hasonlít a korábban tárgyalt egysoros figyelmeztetéshez, amely akkor jelenik meg, amikor bejelentkezik a ChatGPT-be.

Egy külön dokumentum, amely ehhez kapcsolódik, további szempontokat tartalmaz ezekről a fontos kérdésekről:

• „A folyamatos fejlesztés részeként, amikor OpenAI-modelleket használ API-nkon keresztül, felhasználhatjuk az Ön által rendelkezésünkre bocsátott adatokat modelljeink fejlesztésére. Ez nem csak abban segít, hogy modelljeink pontosabbak és jobbak legyenek az Ön konkrét problémáinak megoldásában, hanem általános képességeik és biztonságuk javításában is. Tudjuk, hogy az adatok védelme és biztonsága kritikus fontosságú ügyfeleink számára. Nagy gondot fordítunk arra, hogy megfelelő technikai és folyamatszabályozást alkalmazzunk adatai biztonsága érdekében. Minden személyazonosításra alkalmas információt eltávolítunk azokból az adatokból, amelyeket a modell teljesítményének javítására kívánunk felhasználni. Ügyfelenként csak kis adatmintát használunk a modell teljesítményének javítására tett erőfeszítéseinkhez. Például egy feladatnál az általunk ügyfélenként mintavételezett API-kérések maximális száma 200 havonta 6” (kivonat a „Hogyan használják fel adatait a modell teljesítményének javítására” című dokumentumból).

Vegye figyelembe, hogy a kikötés azt jelzi, hogy a rendelkezés a az API használata az OpenAI modellekhez való kapcsolódás és használat eszközeként. Kicsit homályos, hogy ez ugyanúgy vonatkozik-e a ChatGPT-t közvetlenül használó végfelhasználókra.

Egy másik dokumentumban, amely a különféle GYIK-listájukat tartalmazza, kérdések és válaszok sorát adják meg, amelyek közül kettő különösen relevánsnak tűnik ebben a vitában:

• „(5) Ki láthatja a beszélgetéseimet? A biztonságos és felelősségteljes mesterséges intelligencia iránti elkötelezettségünk részeként felülvizsgáljuk a beszélgetéseket rendszereink fejlesztése és annak biztosítása érdekében, hogy a tartalom megfeleljen irányelveinknek és biztonsági követelményeinknek.”
• „(8) Tud-e törölni bizonyos promptokat? Nem, nem tudunk bizonyos értesítéseket törölni az előzményekből. Kérem, ne osszon meg semmilyen érzékeny információt a beszélgetései során.”

Van egy további dokumentum, amely lefedi az adatvédelmi szabályzatukat. Ez így szól: „Információkat gyűjtünk, amelyek önmagukban vagy más, a birtokunkban lévő információval kombinálva felhasználhatók az Ön azonosítására („Személyes adatok”)”, majd kifejti, hogy felhasználhatnak naplóadatokat, használati adatokat, kommunikációs információkat, eszközinformációkat, sütiket, elemzéseket és egyéb potenciálisan gyűjthető információkat Önről. Feltétlenül olvassa el az apró betűs részt.

Úgy gondolom, hogy ez nagyjából betekintést nyújt az adatok felhasználásának alapjául szolgáló megfontolásokba. Ahogy az elején említettem, nem fogok fáradságosan átlépni az összes engedélyezési feltételen.

Remélhetőleg ez rávilágít ezekre a kérdésekre, és továbbra is az eszeden marad.

Következtetés

Korábban mondtam, és még egyszer elmondom, ne adjon meg bizalmas vagy privát adatokat ezekbe a generatív AI-alkalmazásokba.

Fontolja meg néhány hasznos tippet vagy lehetőséget ehhez a bölcs tanácshoz:

• Gondolkozzon a generatív AI használata előtt
• Előzetesen távolítsa el a dolgokat
• Maszk vagy hamisítvány
• Állítsa be a saját példányát
• Más

A következőkben jelezni fogom, hogy ezek miből állnak. A saját példány beállítását korábban itt tárgyaltuk. Az „egyéb” szó használata a listámban annak a lehetőségének köszönhető, hogy más módokon is megbirkózni lehet a bizalmas adatok felvételének megakadályozásával, amelyre egy későbbi rovatban fogok még kitérni.

Vizsgáljuk meg ezeket:

• Gondolkozzon a generatív AI használata előtt. Az egyik megközelítés magában foglalja a generatív mesterséges intelligencia használatának teljes elkerülését. Vagy legalább kétszer gondolja meg, mielőtt ezt megtenné. Feltételezem, hogy a legbiztonságosabb út az, ha nem használjuk ezeket az AI-alkalmazásokat. De ez is elég súlyosnak és szinte túlzásnak tűnik.
• Előzetesen távolítsa el a dolgokat. Egy másik megközelítés abból áll, hogy eltávolítja a bizalmas vagy magánjellegű információkat a felszólításként megadott szövegből. Ebben az értelemben, ha nem lépsz be, akkor esélytelen, hogy beszivárogjon a Borgba. A hátránya az, hogy a bizalmas rész eltávolítása valahogy csökkenti vagy aláássa azt, amit a generatív mesterséges intelligencia rávenni próbál az Ön számára.
• Maszk vagy hamis a bemeneti adatok. Módosíthatja a javasolt szöveget az adatok módosításával, így a bizalmasnak vagy magánjellegűnek tűnő dolgok most másképp jelennek meg. Például a Widget Company-t és John Smith-t említő szerződés helyett módosítja a szöveget úgy, hogy a Specious Company-ra és Jane Capone-ra hivatkozzon. Itt az a kérdés, hogy kellően kimerítő munkát fog-e végezni ahhoz, hogy az összes bizalmas és magánjellegű szempontot teljesen megváltoztassák vagy meghamisítsák. Könnyű lenne kihagyni néhány felhőzetet, és otthagyni olyan dolgokat, amelyeknek nem kellene ott lenniük.

Íme egy érdekes csavar, amely még jobban áthatja ezt a témát. Ha teljesen meg tudja győződni arról, hogy egyik beviteli promptja sem tartalmaz bizalmas információkat, ez azt jelenti, hogy egy cseppet sem kell aggódnia amiatt, hogy a kiadott esszék az Ön bizalmas információit is tartalmazzák?

Ez axiomatikusan igaznak tűnik. Nincs bizalmas adatbevitel, nincs bizalmas kimenet.

Íme, az Ön észbontó fordulata.

A generatív mesterséges intelligencia gyakran úgy van beállítva, hogy számításilag áttanulja magát a szöveges üzenetekből. Hasonlóképpen, a generatív mesterséges intelligencia gyakran úgy van megalkotva, hogy számításilag áttanuljon a kiadott esszékből. Mindezen átképzések célja a generatív mesterséges intelligencia képességeinek javítása.

Az egyik másik rovatomban leírtam az alábbi kísérletet, amelyre vállalkoztam. Egy ügyvéd egy jogi probléma megoldásának újszerű módját próbálta felfedezni. A jogirodalom kimerítő áttekintése után úgy tűnt, hogy az összes már felszínre került szög megtalálható. A generatív mesterséges intelligencia segítségével a mesterséges intelligencia alkalmazással egy olyan jogi megközelítés újdonságát hoztuk létre, amelyet korábban látszólag nem azonosítottak. Úgy gondolták, hogy még senki más nem kötötte le ezt a törvényes pozíciót. Legális aranyrög, úgymond. Ez egy stratégiailag értékes versenyjogi jótékonykodás lehet, amelyet a megfelelő időben lehet kihasználni és kiaknázni.

Vajon ez a kiadott esszé olyan bizalmas információ formáját képezi, amelyet a mesterséges intelligencia az adott személy számára generált, és valami különlegeset és látszólag egyedit tartalmaz?

Aha, ez elvezet minket a másik kapcsolódó és összefonódó témához a generatív mesterséges intelligencia tulajdonjogáról és szellemi tulajdonjogairól. Maradjon velünk, hogy megtudja, hogyan alakul ez.

Egyelőre egy utolsó megjegyzés.

Szophoklész ezt a bölcsességet adta: „Semmit ne csinálj titokban; mert az idő mindent lát és hall, és mindent feltár." Feltételezem, hogy modernizálhatná a megfogalmazást, és azt állíthatná, hogy a generatív MI és azok, akik kidolgozzák és fenntartják az AI-t, szintén alkalmasak arra, hogy ezt látják.

Ez egy szerényen jelképes tanács, érdemes megjegyezni.