Proč Alexa či Siri posilují negativní genderové stereotypy

Hlasoví asistenti, jako jsou například Siri od Applu či Alexa od Amazonu, mluví mnohdy jen ženskými hlasy a podle zprávy OSN podporují škodlivé stereotypy, které se týkají pohlaví. Tak třeba Siri: V případě, že je tázána na nějaké sexuálně explicitní téma, prohlásí, že „by se červenala, kdyby mohla“. No a touto hláškou (I'd blush if I could) je pojmenovaná celá studie, jež se zabývá genderovým vnímáním zaujatostí v oblasti výzkumu a vývoje produktů umělé inteligence a potenciálních dlouhodobých negativních důsledků, zejména na děti. Proto je také zpracovatelem výzkumu organizace UNESCO, která se dětem věnuje.

Studie upozorňuje na to, že pojmenováním asistentů tradičně ženskými jmény, jako jsou Alexa a Siri, a tím, že jsou hlasy standardně ženské, technologické společnosti již předběžně připravily uživatele na zastaralé a škodlivé vnímání žen.

Když už máme někoho komandovat a urážet sprosťárnami, tak ať jsou to ženy.

V dalším textu se uvádí, že technologické společnosti nedokázaly vybudovat vhodné záruky proti nepřátelskému, urážlivému a negenderovému jazyku. Místo toho asistenti nevhodnou poznámku odpálí vtipem. Opět příklad: Když se zeptáte Siri, jestli vám udělá sendvič, odvětí, že nemůže, jelikož nemá koření.

Maskulinní prostředí

Apple a Amazon zaměstnávají převážně mužské vývojáře, a tím pádem jsou jejich produkty feminizované, připravené na oplzlé poznámky, poslušné a dychtivé vždy pomoci. Jsou aktivovány tlačítkem či tupým slovním příkazem. Asistent ctí to, co se mu řekne, a nemůže si dovolit jakkoliv reagovat třeba na nepřátelský nebo hrubý tón. Prostě, když už máme někoho komandovat a urážet sprosťárnami, tak ať jsou to ženy. Tyto zdánlivě scestné úvahy nabudou trošku jiných rozměrů, když si představíme, že za pár let budeme obklopeni humanoidními roboty, se kterými budeme muset nějak zacházet.

Siri je tradiční ženské skandinávské jméno a ve staré norštině znamená „krásné vítězství“.

Jak loni napsal Business Insider, Amazon si vybral žensky znějící hlas, protože průzkum trhu ukázal, že bude přijímán jako sympatičtější, a proto užitečnější. Microsoft pojmenoval svého asistenta Cortana podle ženské hrdinky videohry a hlas zatím není možné změnit z ženského na mužský. Siri je tradiční ženské skandinávské jméno a ve staré norštině znamená „krásné vítězství“. Je zřejmé, že rozhodnutí o „pohlaví“ asistentů bylo tedy vědomé.

Zkuste prosím a děkuji

Google se stereotypům snaží vyhýbat a své umělé hlasy nechává uživatele volit, ovšem výběr podle pohlaví možný není, jde o různé barvy hlasu. Společnost také zavedla iniciativu s názvem Pretty Please, která odměňuje malé děti, když používají při interakci se službou Google Assistant výrazy „prosím“ a „děkuji“. Amazon minulý rok přišel s něčím podobným, aby podpořil zdvořilé chování při rozhovoru s Alexou.

Ideální by bylo přetvořit hlasové asistenty tak, aby je uživatelé nevnímali jako lidi.

UNESCO říká, že řešení problému by bylo vytvořit pokud možno rodově neutrální asistenty a vytvořit systémy, které by uživatele odradily od urážek na základě pohlaví. Zpráva navíc uvádí, že by se společnosti zabývající se technologiemi neměly na produkty s umělou inteligencí dívat jako na podřízené bytosti a měly by se vyhnout škodlivým stereotypům. Ideální by prý bylo přetvořit hlasové asistenty tak, aby je uživatelé nevnímali jako lidi.