Vanemlik juhendamine: „kunstlik intelligentsus”, mida kasutatakse lapsehoidjate hindamiseks nende sotsiaalse meedia ajaloo alusel
Kui Jessie Battaglia hakkas oma ühe-aastase poja jaoks uut lapsehoidjat otsima, tahtis ta rohkem teavet, kui ta saaks saada kriminaalkontrollist, vanemate kommentaaridest ja näost-näkku intervjuust.
Nii pöördus ta Predictimi poole, veebiteenusega, mis kasutab lapsehoidja isiksuse hindamiseks "täiustatud tehisintellekti" ja suunas skannerid tuhande tuhande Facebooki, Twitteri ja Instagrami ametikohale.
Süsteem pakkus 24-aastase kandidaadi automatiseeritud "riskide reitingut", öeldes, et ta on "väga madala riskiga" narkootikumide kuritarvitajana. Kuid see andis veidi kõrgema riskianalüüsi - kaks viiest - kiusamise, ahistamise, "lugupidamatu" ja "halva suhtumise" kohta.
Süsteem ei selgitanud, miks ta selle otsuse tegi. Aga Battaglia, kes uskus, et lapsehoidja oli usaldusväärne, tundis äkki kahtlusi.
"Sotsiaalmeedia näitab inimese iseloomu", ütles Battaglia, 29, kes elab Los Angelese lähedal. "Miks ta siis tuli kaks ja mitte üks?"
Predictim pakub vanematele sama mängukirja, et kümneid teisi tehnoloogiaettevõtteid müüvad tööandjatele üle maailma: kunstlikud luure süsteemid, mis analüüsivad inimese kõnet, näoilmeid ja online-ajalugu, lubades avaldada oma eraelu peidetud aspekte.
Tehnoloogia kujundab ümber selle, kuidas mõned ettevõtted lähenevad töötajate värbamisele, palkamisele ja ülevaatamisele, pakkudes tööandjatele uue invasiivse psühholoogilise hindamise ja järelevalve uue laine kaudu töökohtade kandidaatidele ainulaadset pilku.
Tehnoloogiafirma Fama ütleb, et ta kasutab AI-d, et politseitöötajate sotsiaalset meediat "mürgise käitumise" eesmärgil hoiatada ja nende ülemusi hoiatada. Ja värbamis-tehnoloogiaettevõte HireVue, mis töötab selliste firmadega nagu Geico, Hilton ja Unilever, pakub süsteemi, mis analüüsib automaatselt taotlejate tooni, sõna valikuid ja näo liigutusi videovestluste ajal, et ennustada nende oskusi ja käitumist. (Kandidaate julgustatakse parima tulemuse saavutamiseks naeratama.)
Kuid kriitikud ütlevad, et Predictim ja sarnased süsteemid esitavad oma ohud, tehes automatiseeritud ja tõenäoliselt elu muutvad otsused praktiliselt kontrollimata.
Süsteemid sõltuvad musta kasti algoritmidest, mis annavad vähe üksikasju selle kohta, kuidas nad vähendasid inimese sisemise elu keerukust vooruse või kahju arvutuseks. Ja isegi kui Predictimi tehnoloogia mõjutab vanemate mõtlemist, jääb see endiselt tõestamata, suures osas seletamatuks ja tundlikuks vaikse eelarvamuse suhtes, kuidas asjakohane lapsehoidja peaks jagama, vaatama ja rääkima.
On see "hull kiirustada haarata võimu AI teha igasuguseid otsuseid, tagamata see on vastutav inimestele, " ütles Jeff Chester, tegevdirektor Center for Digital Democracy, tech advocacy grupp. "See on nagu inimesed on purjus digitaalset Kool-abi ja arvan, et see on sobiv viis meie elu juhtimiseks."
Predictimi skaneerimisel analüüsitakse lapsehoidja sotsiaalmeedia kogu ajalugu, mis paljude noorimate istunike jaoks võib katta enamiku oma elust. Ja sittersile öeldakse, et nad on konkurentsivõimeliste töökohtade jaoks väga ebasoodsas olukorras, kui nad keelduvad.
Predictimi juht ja kaasasutaja Sal Parsa ütles, et eelmisel kuul Berkeley's SkyDeck tech inkubaatoris asuva California ülikooli raames käivitatud firma võtab eetilisi küsimusi tehnoloogia kasutamise kohta tõsiselt. Ta ütles, et vanemad peaksid nägema reitinguid kaaslasena, kes "võib või ei pruugi kajastada sitteri tegelikke atribuute."
Kuid oht, et tööle võetakse problemaatiline või vägivaldne lapsehoidja, lisab ta AI-le vajaliku vahendi igale vanemale, kes soovib oma lapse turvaliselt hoida.
"Kui otsite Google'is kuritarvitavaid lapsehoidjaid, näete praegu sadu tulemusi, " ütles ta. "Seal on inimesi, kellel on vaimne haigus või kes on just sündinud paha. Meie eesmärk on teha kõik, et neid peatada."
Predictim-skannimine algab $ 24, 99-st ja nõuab lapsehoidja nime ja e-posti aadressi ning tema nõusolekut jagada laialdast juurdepääsu oma sotsiaalmeedia kontodele. Lapsehoidja võib langeda, kuid vanemale teatatakse tema keeldumisest ning e-kirjas öeldakse lapsehoidjale, et "huvitatud vanem ei saa sind palgata enne, kui olete selle taotluse täitnud."
Predictimi juhid ütlevad, et nad kasutavad keele töötlemise algoritme ja kujutise tuvastamise tarkvara, mida tuntakse "arvuti nägemusena", et hinnata lapsehoidjate Facebooki, Twitteri ja Instagrami postitusi, et saada vihjeid nende offline-elust. Vanemale antakse aruanne ainult ja see ei pea andma tulemustele tulemusi.
Vanemad võiksid arvatavasti vaadata oma sitters'i sotsiaalse meedia kontosid ise. Kuid arvutipõhised aruanded lubavad veebipõhise tegevuse aastate põhjalikku ülevaatust, mis on keedetud ühekohalisele numbrile: joovastavalt lihtne lahendus ebapraktilisele ülesandele.
Riskianalüüsid jagunevad mitmeks kategooriaks, kaasa arvatud selgesõnaline sisu ja narkootikumide kuritarvitamine. Alguses on ka reklaamitud, et selle süsteem suudab hinnata lapsehoidjaid teiste isiksuseomaduste, nagu viisakuse, teiste inimestega töötamise ja "positiivsuse" suhtes.
Ettevõte loodab toetada mitme miljardi dollari "vanemate allhanke" tööstust ja on hakanud reklaamima lastekasvatuse ja "muumia" blogide makstud sponsorluse kaudu. Ettevõtte turundus keskendub suurel määral oma võimele paljastada varjatud saladusi ja takistada "iga vanema õudusunenägu", viidates kriminaalasjadele, sealhulgas sellel aastal Kentucky lapsehoidjale, kes süüdistati varem kaheksa kuu vanuse tüdrukuga.
"Kui lapsehoidja vanema lapse vanemad oleksid suutnud Predictimit kasutada oma kontrollimisprotsessi osana, " ütleb ettevõtte turundusdokument, "nad ei oleks kunagi teda üksi oma väärtusliku lapsega lahkunud."
Kuid tehnoloogiaeksperdid ütlevad, et süsteem tõstatab oma punased lipud, sealhulgas muret selle pärast, et vanemate hirmud müüvad testimata täpsusega isikupära skaneeringuid.
Samuti seavad nad kahtluse alla, kuidas süsteeme koolitatakse ja kui haavatavad nad võivad sittersi sotsiaalse meedia kasutamise hägusaid tähendusi mõista. Kõigi, välja arvatud kõrgeima riskiga skaneerimiste puhul antakse vanematele ainult soovitus kahtlustatava käitumise kohta ega konkreetseid fraase, linke ega üksikasju, mida oleks võimalik ise hinnata.
Kui üks lapsehoidja skaneerimine tähistati võimaliku kiusamise käitumisega, ütles ta seda taotlenud ema, et ta ei osanud öelda, kas tarkvara oli märkinud vana filmi, laulu või muu fraasi, mitte tegelikku kiusamist.
Kuid Predictim ütleb siiski, et on valmis üleriigiliseks laienemiseks. Sittercity, online-lapsehoidja turul, mida külastavad miljonid vanemad, ütlesid juhid, et nad käivitavad järgmise aasta alguses pilootprogrammi, mis hakkab rakendama Predictimi automatiseeritud hinnanguid saidi praeguse sitter-uuringute ja taustakontrollide hulka.
"Sitteri leidmine võib tulla suure ebakindlusega, " ütles Sittercity tootejuht Sandra Dainora, kes usub, et sellised vahendid võivad varsti saada "tavaliseks valuutaks" hooldajate leidmiseks võrgus. "Vanemad otsivad alati parimat lahendust, kõige rohkem uurimistööd, parimaid fakte."
Washington Post