Tomi Falcsik
Tomi Falcsik
2020. július 29. 05:17

Nem: nem és nem

Itt a hiánypótló szolgáltatás, amire mindenki várt mióta világ a világ!!4 Csak hát az a bökkenő, hogy tulajdonképpen mégsem.

Az utóbbi pár év arról szólt, hogy emberek tömegei adták hírül a világban, hogy a biológiai nem és a társadalmi nem az bizony két külön dolog.

Akinek nem lenne meg mégsem, annak *tényleg* nagyon röviden: az, hogy milyen genitáliákkal születünk az a biológiai nemünket (angolul sex) határozza meg. Az, hogy mivel azonosulunk, az pedig a társadalmi nemünk (angolul gender).

A gender

A társadalmi nemet az adott társadalom hozza létre, sokszor persze sztereotípiákra és tradíciókra alapozva. Ilyen az például, hogy a nő dolga a gyereknevelés és a főzés, míg a férfi dolgozik, pénzt keres, szerel, stb. Hasonlóképp a nőkhoz a feminin, míg a férfiakhoz többnyire a maszkulin vonásokat társítják és várják is el valószínűleg.

Alapvetően pedig senki sem születik gyermeknevelőnek, autószerelőnek, vadásznak vagy éppen műkörmösnek, hanem azzá válik. Ezeket a szakmákat mind elvégezheti férfi és nő is, azonban a társadalom valamiért az autószerelőre a férfiak, míg a műkörmösre pedig a nők szakmájaként tekint.

Egy sokkal kézzelfoghatóbb példa talán a ma már nem igazán létező „gépírónő”, mint szakma. Evidens, hogy férfiak is képesek voltak elvégezni a tevékenységet, mégis csak nőket alkalmaztak a pozícióra. Na persze, az már más kérdés, hogy rengeteg elnyomás is volt emögött, de megígértem, hogy rövid lesz, úgyhogy ebbe már nem megyek bele.

illusztráció: írógép
Illusztráció!
Mesterséges ostobaság

Itt van most egy website, ami fizetős szolgáltatásként, pénzért, mesterséges intellgenciával „meghatározza” a társadalmi nemét bárkinek email cím, felhasználónév vagy név alapján.

Az egész baromi egyszerű, beírjuk a nevet, emailt vagy user nevet, aztán a szoftver kiböki, hogy most férfivel vagy nővel van dolgunk. Semmivel sem kell bajlódnunk, az egész teljesen automatikus. Sőt, egy átlagos szoftverfejlesztő pár pillanat alatt belefűzheti egy cég saját ügyfeleit nyilvántartó programjába is a funkciót.

A Genderify tulajdonképpen nem titkoltan arra utazik, hogy majd vállalatok nagytételben vásárolják tőle a „nemesítést” — jó pénzért.

Én mondjuk nem igazán tudom elképzelni azt a helyzetet, amikor valóban releváns információ a vásárló (társadalmi vagy biológiai) neme, ennek ellenére már harminc évvel ezelőtt is ki lehetett választani a nekünk megfelelő megszólítást, vagy be lehetett jelölni a nemünket például regisztrációkor.

Aki szerette volna, az megadta ezt az információt, aki nem, az pedig nem.

Na jó, oké, de miért problémás ez az egész? — teheti fel a kérdést bárki, és gondolhatná azt, hogy ez csupán egy mókás kis eszköz, aztán maximum kap pár tamponreklámot Jóska vagy egy heredezodor-hirdetést Virág.

Két lekérdezés képernyőképe a Genderify-ról. Baloldalt „Jóska”, amelyet nőnek, jobboldalt „Virág” név szerepel, amelyet férfinak osztályozott a szoftver
Két lekérdezés. Baloldalt „Jóska”, amelyet nőnek, jobboldalt „Virág”, amelyet férfinak osztályozott a szoftver
képernyőképek a Genderifyról

Intoleránsabbak azt is mondhatják persze, hogy egy maroknyi transz embert leszámítva, akik még nem változtatták meg a nevüket a nemüknek megfelelőre, ez aztán tényleg nem érint sokakat, de itt lényegesen többről van szó, annál, hogy egy névből vagy email címből kiderül-e, hogy mit hordunk a lábaink között.

Nők doktorálnak?!

Miután jókat kacarásztam azon, hogy Cher csak 57%-os valószínűséggel nő, Lizzo-t pedig 65%-os valószínűséggel férfinek sorolja be az algoritmus, elgondolkodtam, hogy valami alapján azért mégis el kell indulnia az algoritmusnak. Kipróbáltam, hogy mi van akkor, ha dr. Cher-t írok be és leesett az állam.

dr. Cher 93%-os valószínűséggel férfi.

Ilyen nincs — gondoltam is magamban. Valami hiba lehetett biztosan, meg hát, persze, biztos sok Cher vezetéknevű ember lehet az USA-ban (őő nem). Beírtam hát, hogy dr. Susan Cher, na azt biztosan felismeri az algoritmus, hogy Susan! Hát nem: 83,9% valószínűséggel férfi, dr. nélkül 55,9%-os valószínűséggel nő. Ha prof-ot írok a kitalált név elé, akkor 92,6%-os valószínűséggel lesz férfi.

A Genderify mögött lévő algoritmus vagy fejletlen vagy nőgyűlölő vagy akár mindkettő is lehet egyesek szerint — legalábbis, amit a közösségi médiában lehetett látni, — de hogy olyan anomáliákkal nem számol például, hogy a nők akár le is doktorálhatnak, az szinte biztos.

Weboldaluk szerint több, mint 300 000 névre tanították be az algoritmust és 210 országot támogat a szoftver, a nemeket és titulusokat tekintve valami akkor mégsem teljesen kerek.

Bár minden anyakönyvezhető magyar utónév adatbázisból kereshető, tehát végülis a magyar lenne az egyik legegyszerűbben lefejleszthető a legtöbb nyelv közül, most mégis fókuszáljunk az angol nevekre, csak, hogy ne érje szó a ház elejét.

A nagy teszt

Kitaláltam egy sokkal egyszerűbb, sokkal hihetőbb nevet. Biztosan Cher zavarta meg az algoritmust. Cher mindenkit összezavar, ráadásul az idő vasfoga is alig fog rajta, így előálltam a tökéletes tesztnévvel: Katy Smith.

Cher Las Vegas
Cher, Las Vegas 2017
forrás: cher.com

Katy Smith 68,5%-os valószínűleg nő a genderify algoritmusa szerint. Főnyeremény! Na gyorsan, doktoráltassuk le Katy-t. Bepötyögöm, hogy dr. Katy Smith, erre mit látok? Hogy Ms. Smith, máris 72,6%-os valószínűséggel férfivé válik.

Kipróbáltam végül a saját nevemmel is, 63,2%-os valószínűséggel férfi, azonban, ha dr. Tomi Falcsik a név, rögtön 88,2%-os valószínűsége lesz annak, hogy férfi hordja a nevet.

Nézzük, hát, mit hogyan súlyoz az algoritmus:

Név férfi % nő %
Katy Smith 31,5% 68,5%
dr. Katy Smith 72,6% 27,4%
dr. Katy Smith CEO 95,2% 4,8%
dr. Katy Smith CEO founder 98% 2%

A Genderify szolgáltatása véleményem szerint kifejezetten káros és előítéletes, ha az alapján lesz valaki inkább férfi, hogy ledoktorál vagy egy vállalat CEO-ja.

Egy talány számomra, hogy 2020-ban ezt hogy nem ellenőrizték le, amikor minden tech vállalat marketing és HR osztálya azon pörög, hogy elég nő legyen a cégben a diverzitási mutatók miatt.

A szolgáltatás weboldalának „rólunk” részében arról írnak, hogy a gender-verifikációs platform mesterséges intelligenciával működik, mely folyamatosan tanul. Esetleg ennyi idő alatt nem sikerült még megtanulnia, hogy nők is végezhetnek egyetemet, vagy ma már vállalatvezetők is lehetnek? Döbbenet!

A platform fejlesztői üzletileg a B2B modellre fókuszálnak, azaz cégként cégekkel üzletelnének, és a céljuknak azt fogalmazták meg weboldalukon, hogy a neveket, felhasználóneveket és email címeket férfi vagy nő kategória szerint osztályozzák, társadalmi nem iránt irányuló diszkrimináció nélkül.

A mesterséges intelligenciájuk — még mindig a weblap szerint — a nevek, felhasználónevek, email címek társadalmi nemét határozza meg, nem pedig a mögöttük álló emberét.

Csak hát ilyen nincs, hogy én akkor azt mondom, hogy ja te nő vagy, női névvel, aztán közben meg mégsem és akkor az nem diszkrimináció.

Egyébként meg hogy a francba lenne már egy email címnek társadalmi neme?!

Bár a weblap kitér arra is, hogy ahány kultúra, annyiféleképpen tekinthetünk a társadalmi nemekre, hiába léteznek nembináris emberek, a mesterséges intellgenciájuk modellje mégis csak két nemet ismer.

Megemlítik, hogy egy csapat aktívan keresi már a módját annak, hogy a transz és nembináris emberek tapasztalatai jobbak legyenek a termékkel, hoznak erre egy példát is:

Elválasztani a név / felhasználónév / email címet a tásadalmi nemtől

Oké, itt végleg kiégtem. Tehát megcsinálták az év bizniszét, megmondják a nevedből, useredből, mail címedből, hogy mi vagy, aztán bevallják, hogy végülis nem ez alapján kellene megmondani a tutit mégsem.

Szeretném azt gondolni, hogy valaki csak gyorsan összeütött valamit, amivel egy tuti startup képével egy befektető elé tud állni, hogy egy valag pénzt tegyen a projektbe a befektető és nem életének főművét látjuk, amelyet aztán tényleg komolyan is gondolt.

Mert hát, ha az előbbi a szitkó, akkor miféle marhaságra adnak manapság pénzt az emberek, ha pedig nem… akkor mégis miféle marhaságra adnak pénzt manapság az emberek?


Szólj hozzá
facebookon!

Szólj hozzá
facebookon!