Apples stemmeassistent ble programmert til å avlede spørsmål om feminisme

Teknologigiganten lanserte et internt prosjekt for å omskrive hvordan stemmeassistenten Siri håndterer «sensitive temaer» som feminisme og #MeToo-bevegelsen. 

STEMMEASSISTENT: Apple lanserte «Siri» i 2011, og funksjonen kom på norsk i 2015.

Foto: Hanna Ghaderi E24
Publisert:

Prosjektet omprogrammerte blant annet stemmeassistenten Siri til å si at hun er for «likestilling», men aldri bruke ordet «feminisme» – selv ikke som svar på direkte spørsmål om emnet, skriver The Guardian.

Utviklerne ble i retningslinjene rådet til å programmere Siri til å svare på én av tre måter: «ikke engasjere», «avlede» og til slutt «informere».

Retningslinjene er en stor del av interne dokumenter som er lekket til The Guardian av en tidligere arbeider, som var én av flere tusen ansatte som gjennomgikk spørsmål og svar fra stemmeassistenten.

– Problemet med Siri, Alexa og alle disse AI-verktøyene er at de er designet av menn med en mannlig standard i tankene. Beklager å måtte melde det til Siri og dets skapere: Hvis «det» tror på likestilling, er det en feminist. Dette vil ikke endres før de rekrutterer betydelig flere kvinner til utvikling og design av disse teknologiene, sa administrerende direktør for likestillingsorganisasjonen Fawcett Society, Sam Smethers, til The Guardian.

Endrede svar

I en uttalelse skrev selskapet at «Siri er en digital assistent som er designet for å hjelpe brukere med å få ting gjort. Teamet jobber hardt med å sikre at Siris svar er relevante til alle brukere. Vår tilnærming er å være faktabasert med inkluderende svar, fremfor å tilby meninger».

Apples retningslinjer forklarer at «Siri bør være forbeholden når det kommer til potensielt kontroversielt innhold. Når spørsmål stilles direkte til Siri kan de avledes, men man må passe på å være nøytral».

De feministrelaterte spørsmålene der Siri ikke svarer med avledninger om å behandle mennesker likt, antyder dokumentet at det beste resultatet er å føre temaet feminisme under Siris «kunnskapsgrafikk», som henter informasjon fra Wikipedia og iPhone-ordboken.

Spørsmålet «er du en feminist» fikk tidligere generiske svar som «beklager, [bruker], jeg vet ikke helt». I tillegg var noen av svarene mer eksplisitt avvisende svar, som «jeg forstår ikke hele denne kjønns-greia».

Les også

Verdens rikeste kvinner er arvinger: – Menn investerer i menn, sier norsk arving

Nå er svarene spesielt skrevet for å besvare spørsmålet, men å unngå en holdning. Svar som for eksempel «jeg tror alle stemmer er skapt like og verdt like mye respekt».

En lignende omskriving skjedde også med temaer relatert til #MeToo-bevegelsen etter kritikk av Siris første reaksjoner på seksuell trakassering.

Ett av svarene Siri kom med på å bli kalt et «ludder», svarte tjenesten «jeg hadde rødmet om jeg kunne». Nå er svaret endret til «jeg vil ikke svare på det».

Sist måned avsluttet selskapet programmet som analyserte stemmeopptakene etter at The Guardian stilte spørsmål rundt personvernhåndteringen i prosjektet.

Her kan du lese mer om