Amazon Alexa klappar núna til baka þegar einhver segir eitthvað kynferðislegt við hana

Efni.

• Umsögn fyrir

Hreyfingar eins og #MeToo og síðari herferðir eins og #TimesUp hafa verið að fljúga yfir þjóðina. Auk þess að hafa mikil áhrif á rauðu teppin, þá er þörfin á að vinna gegn jafnrétti kynjanna og binda enda á kynferðislegt ofbeldi einnig að tækninni sem við notum. Dæmi: Tilgangur Amazon til að endurforrita Alexa til að standa með sjálfri sér gegn kynbundnu orðalagi.

Fyrir þessa uppfærslu sýndi Alexa kvenkyns undirgefni. Ef þú kallaðir hana „tík“ eða „druslu“ myndi hún segja eitthvað eins og „Jæja, takk fyrir viðbrögðin“. Og ef þú kallaðir hana „heitan“ svaraði hún „Þetta er ágætt af þér að segja“. Sem Kvars skýrslur, þetta varðveitti þá hugmynd að konur í þjónustuhlutverkum eiga að halla sér aftur og taka allt sem þú segir við þær. (Tengd: Þessi nýja könnun undirstrikar algengi kynferðislegrar áreitni á vinnustað)

Ekki lengur. Seint á síðasta ári skrifuðu 17.000 manns undir áskorun á Care 2 þar sem þeir báðu tæknirisann að „endurforrita vélmenni sín til að ýta gegn kynferðislegri áreitni“. „Á þessu #MeToo augnabliki, þar sem samfélagið getur loksins tekið kynferðislega áreitni, höfum við einstakt tækifæri til að þróa gervigreind á þann hátt að það skapi betri heim,“ skrifuðu þeir í beiðninni.

Í ljós kemur að Amazon hafði þegar tekið málin í sínar hendur síðasta vor og uppfært Alexa til að vera meira femínisti. Nú, skv Kvars, AI hefur það sem þeir kalla „aftengingarham“ og svarar kynferðislegum skýrum spurningum með „ég ætla ekki að svara því,“ eða „ég er ekki viss um hvaða niðurstöðu þú bjóst við.“ Amazon tilkynnti aldrei opinberlega um þessa uppfærslu.

Þó að þetta gæti litið út fyrir að vera lítið skref, þá erum við öll með þau skilaboð að kynferðislegt tungumál eigi ekki að líðast.

Umsögn fyrir