A Teslánál és más nagy műszaki cégeknél nem a gépek, hanem a mögöttük lévő feltételezések okoznak problémákat

Az új technológiák mindig kihozzák az ideges nellákat. I.e. 370-ben Platón töprengett könyvében Phaidrosz hogy az írás iránti megnövekedett „trend” arra készteti a férfiakat elveszítik minden megőrzött bölcsességüket. Az 1880-as években az elektromos gomboktól féltek, hogy mindannyiunkat megzavarnak elveszítjük kreativitásunkat hagyja, hogy egy gomb elvégezzen helyettünk egy feladatot. A mi generációnkban mélyen féltek attól, hogy a videojátékoknak való kitettség elrohad gyerekek agya. Az ilyen elméletek gyakran végül tévesnek bizonyulnak. De néha valósággá válik, amit remélhettünk, hogy a sci-fi birodalmában marad.

Az elmúlt néhány hónapban két nagyon erős emlékeztetőt kaptunk a technológia féktelen átvételének veszélyeiről. A legrosszabb rémálmaink valóra váltak, és az életek helyrehozhatatlanul sérültek:

• Órákon belül azután, hogy a Tesla vezetője, Elon Musk Twitteren reklámozta az önvezető autóikat, egy önvezető üzemmódban lévő Tesla úgy döntött, hogy leáll a Bay Bridge oldalára, egy 4 sávos, gyorsan mozgó főútra. 8 autóbalesetet okozott 9 ember megsérült, köztük egy 2 éves. Ez egyike annak a több száz balesetnek, amelyeket a Tesla önvezető rendszerei okoztak, és ez a balesethez vezetett 19 óta 2016 haláleset.
• Randall Reid egy megkésett hálaadásnapi vacsorára tartott az anyjával, amikor a rendőrök megállították és egy hétre börtönbe zárták. arcegyeztető szoftver gyanúsítottként jelölte meg egy louisianai luxus erszénylopás ügyében. Az egyetlen probléma? Soha nem tette be a lábát az államba. A 28 éves Georgia állambeli lakos azonban afro-amerikai származású – és az arcfelismerő szoftvert széles körben kritizálják, amiért képtelen pontosan megkülönböztetni a fekete arcokat.

„Azt mondták nekem, hogy parancsot kaptam a Jefferson Parish-tól. Azt kérdeztem: „Mi az a Jefferson Parish?” Reid jegyezte meg az AP. „Életemben egy napot sem voltam Louisianában. Aztán azt mondták, hogy lopás miatt van. Tehát nem csak, hogy nem jártam Louisianában, de nem is lopok.”

Talán nem Elon Musk védelmében, hanem magyarázatként, gyakran megjegyezte hogy altruista célja az autók embernél okosabbá tételével végső soron a közlekedési balesetek és halálesetek számának csökkentése. És hogy az autók intelligensebbé tételéhez esetleg el kell költözniük gyors (szó szerint) és eltör néhány dolgot (szó szerint is) valódi utakon.

Itt lehet igazodni a céljaihoz – biztonságosabb utak –, de vitatkozni a módszereivel – az emberi kísérletezéssel. Elmentünk az orvostudomány embereken történő tesztelésétől – az ő beleegyezésük nélkül, abban az esetben Náci Németország és a Tuskegee „tanulmányok” – patkányoknak, akik nem tudnak beleegyezni –, hogy az olyan iparágak, mint a kozmetikumok, megtanulják, hogyan teszteljék a termékeket életek, akár emberi, állati vagy egyéb költségek nélkül. Tesztelhető-e a technológia anélkül, hogy az embereket károsítaná? Ez az a hely, ahol mi – és a kormányzati szabályozó szervek – dönthetünk arról, hogy milyen kísérleteknek vagyunk hajlandók alávetni polgárainkat.

És akkor a mesterséges intelligencia esetében ésszerű aggodalmat fejeztek ki amiatt, hogy olyan technológiai csapatokkal összefüggésben, amelyekből általában hiányzik globális világunk sokszínűsége, az emberek több mint 85%-a Ázsiában, Afrikában és Latin-Amerikában élnek, ott van a jelentős károk lehetősége lehet tenni, ha technológiák nem építik be a dizájnjukba a sokszínűséget. Az emberek szeretik Timnit Gebrut Fekete az AI-ben kemény munkát végeznek azért, hogy a gépek mögött álló embereket felelősségre vonják, de megtették rengeteg szembeszéllel kellett szembenéznie tekintettel a kutatás nagy részét irányító gazdasági erőkre.

Nem kell visszatérnünk a lovakhoz és a babakocsikhoz, ha elutasítjuk az önvezető autókat. Amit megtehetünk, az egy új technológiai mottó szószólója a következő évtizedben: „mozogj lassan és törj kevesebbet.”

Hasonlóképpen írta Hermant Tenaja a Harvard Business Review, a „Minimum életképes termékeket” fel kell váltani a „minimális erényes termékekkel” – olyan új ajánlatokkal, amelyek tesztelik az érdekelt felekre gyakorolt ​​hatást, és védelmet építenek a lehetséges károk ellen. Nyolc kérdést kínál fel, amelyeket a mai technológiai vállalkozóknak fel kell tenniük, többek között:

• Milyen rendszerszintű, társadalmi változást kíván elérni termékével?
• Hogyan fogja megőrizni terméke erényét?
• Mi a kerete az adatok és a mesterséges intelligencia felelősségteljes kihasználására?
• Hogyan határozza meg és mozdítja elő a sokszínűséget a vállalkozásával összefüggésben?

A vállalkozók termékeiknél elgondolkodhatnak ezeken a kérdéseken. És akkor a fogyasztók számára, mielőtt a legújabb, legjobb, avatargeneráló szolgáltatás felé fordulnának, bölcs dolog lehet kétszer is átgondolni, hogy ez miként érheti vissza Önt. Nem kell figyelmen kívül hagynunk a technológiát – de talán megtanulhatunk sokkal tudatosabb technológiafogyasztók lenni.