Sí, les ‘apps’ de cites discriminen als usuaris grans

L’estudi de l’edatisme en els sistemes intel·ligents no ha guanyat tant d’interès encara. Estudis previs mostren clarament que les apps de cites que usen sistemes d’IA reforcen estereotips racistes, sexistes, gordofòbics i de gènere dicotòmic. No obstant això, hi ha poca reflexió sobre com aquestes apps reforcen els estereotips d’edat i contribueixen a l’edatisme digital, encara que el debat comença a aparèixer en blogs especialitzats a causa del fenomen Tinder.

 

Encara que Tinder ja no és el que va ser durant la pandèmia, l’era de les cites en línia està en plena maduresa i no sembla que hagi acabat encara. Les apps de cites són cada vegada més rellevants i trobar parella en línia és ja la manera més comuna de fer-ho. Tres de cada deu estatunidencs diuen haver usat apps de cites. I la manera com estan dissenyades les apps de cites influeix en un aspecte força rellevant en la vida de les persones.

 

Tots coneixem persones que deien que mai no estarien amb una persona amb tals o tals altres característiques i que, al final, van trobar una persona que és justament el contrari del que estaven buscant. Perquè… cal donar-li l’oportunitat a la casualitat! Però això no funciona així en Tinder. Més que facilitar relacions des d’una perspectiva de ment oberta, les apps de cites imposen filtres que reforcen les idees preconcebudes i estereotipades.

 

Els biaixos dels sistemes d’intel·ligència artificial operacionalitzen els estereotips imperants en la societat, la qual cosa es coneix com l’efecte papallona de la IA. Aquests se solen referir a biaixos explícits introduïts en el disseny de la interfície, i biaixos implícits relacionats amb els algorismes o de les bases de dades. Tots aquests tipus de biaixos són presents en el disseny de les aplicacions de cites.

 

Biaixos d’interfície d’usuari

 

Tinder ha estat sistemàticament acusat d’oferir subscripcions a preus diferents, en funció de l’edat dels usuaris. Addicionalment, només els usuaris prèmium poden anonimitzar l’edat en la plataforma mentre que la majoria de les aplicacions de cites exigeixen a l’usuari que posi la seva edat, i li demanen que triï un rang d’edat per a la persona que busca de manera que mostren la rellevància que té l’edat per suggerir candidats o candidates en la plataforma.

 

 

 

 

 

 

 

 

 

 

 

 

Filtres d’edat en l’aplicació de cites en línia Bumble

Font: Bumble 

 

Finalment, una foto esdevé l’eix entorn del qual les persones s’acosten al perfil. Les persones poden filtrar, bloquejar o ignorar altres persones, basant-se principalment en l’edat declarada i les representacions físiques de l’edat, i tots els estereotips d’edat que se’ls poden associar.

 

Biaix d’algorismes i bases dades

 

Més enllà de la interfície d’usuari, els algorismes d’aparellament que es basen en sistemes d’intel·ligència artificial són la part central del model de negoci de les apps de cites. Atès que el seu interès és que hi hagi aparellaments, el seu sistema dona preferència a les opcions que considera més possibles. Un estudi va trobar que els algorismes utilitzats per les plataformes de cites en línia tenen un biaix de popularitat, la qual cosa significa que recomanen els usuaris més populars i atractius enfront dels menys populars i atractius. Atès que la joventut se sol considerar un atractiu, és esperable que aquests algorismes afavoreixin als usuaris més joves. Tanmateix, segons un estudi desenvolupat als Estats Units, el pic de desitjabilitat de les dones és als 18 anys mentre que el dels homes és als 50, de manera que es mostra que el pes dels prejudicis d’edat i gènere en les experiències de cites en línia.

 

Finalment, l’operacionalització de l’edatisme en les apps de cites influeix en la manera com es relacionen les persones. Els cercadors, blogs i xarxes socials ja mostren els estereotips d’edat que es formen entorn de les aplicacions de cites. Tenir més de 30 anys és ser gran en les aplicacions de cites; si cerques «age» i «dating apps» en Google, en els primers resultats, «I’m too old to try dating apps?». També hi ha pàgines que ensenyen als usuaris més grans de 30 com reeixir en les apps de cites.

 

 

 

 

 

 

 

 

 

 

 

 

Cerques relacionades en Google amb l’edatisme en les aplicacions de cites en línia

Font: Google 

 

Encara que els usuaris se solen resistir a les restriccions de les interfícies, dels algorismes i de les bases de dades, i troben maneres per fer-ho sovint falsejant els seus continguts, l’edatisme digital és integrat estructuralment en les aplicacions. Les restriccions de la interfície i les decisions sobre l’ús de les dades d’usuari influeixen en com les identitats d’edat són construïdes i experimentades pels usuaris. Discriminen explícitament i implícitament les persones segons l’edat, reforcen i normalitzen l’edatisme i imposen la colonització algorítmica de l’amor, que restringeix als usuaris la possibilitat d’explorar les relacions amoroses amb una mentalitat oberta que permeti trencar normes socials predefinides i innecessàries.

 

Per saber-ne més:

BBC NEWS MUNDO (2018). «El algoritmo de Amazon al que no le gustan las mujeres». BBC News Mundo [en línia]. Disponible a: https://www.bbc.com/mundo/noticias-45823470

BRUCH, Elizabeth; NEWMAN, Mark (2018). «Aspirational pursuit of mates in online dating markets». SCIENCE ADVANCES [en línia]. Disponible a: https://www.science.org/doi/pdf/10.1126/sciadv.aap9815

CONNER, Christopher T. (2022). «How Sexual Racism and Other Discriminatory Behaviors are Rationalized in Online Dating Apps». Deviant Behavior, vol. 44, no. 1. DOI: https://doi.org/10.1080/01639625.2021.2019566

CRELLIN, Zac (2022). «Tinder denies age discrimination claims after charging Australians different subscription fees». THE NEW DAILY [en línia]. Disponible a: https://www.thenewdaily.com.au/life/tech/2022/02/14/tinder-price-age-discrimination

EREN CELDIR, Musa; CHO, Soo-Haeng; HWANG, Elina H. (2023). «Popularity Bias in Online Dating Platforms: Theory and Empirical Evidence». Manufacturing & Service Operations Management, vol. 26, no. 2. DOI: https://doi.org/10.1287/msom.2022.0132

FERRANTE, Carleigh (2022). «How To Use Dating Apps When You’re in Your 30s, According to Experts». THE EVERYGIRL [en línia]. Disponible a: https://theeverygirl.com/30s-dating-apps/

FERRARA, Emilio (2024). «The Butterfly Effect in artificial intelligence systems: Implications for AI bias and fairness». Machine Learning with Applications, vol. 15. DOI: https://doi.org/10.1016/j.mlwa.2024.100525

FERRER, Xavier; VAN NUENEN, Tom; SUCH, José M.; COTÉ, Mark; CRIADO, Natalia (2021). «Bias and Discrimination in AI: A Cross-Disciplinary Perspective». IEEE Technology and Society Magazine, vol. 40, no. 2. DOI: https://doi.org/10.1109/MTS.2021.3056293

GENERATIONS (2023). «Will You Love Me When I’m 64?». Generations. American Society of Aging [en línia]. Disponible a: https://generations.asaging.org/will-you-love-me-when-im-64

MACLEOD, Caitlin; MCARTHUR, Victoria (2018). «The construction of gender in dating apps: an interface analysis of Tinder and Bumble». Feminist Media Studies, vol.19, no. 6. DOI: https://doi.org/10.1080/14680777.2018.1494618

ROSALES, Andrea; SVENSSON, Jakob; FERNÁNDEZ-ARDÈVOL, Mireia (2023). «Digital ageism in data societies». En: Andrea Rosales, Mireia Fernández-Ardèvol, Jakob Svensson (eds.). Digital Ageism. How it Operates and Approaches to Tackling it. DOI: https://doi.org/10.4324/9781003323686-1

ROSENFELD, Michael J.; THOMAS, Reuben J.; HAUSEN, Sonia (2019). «Disintermediating Your Friends: How Online Dating in the United States Displaces Other Ways of Meeting». Proceedings of the National Academy of Sciences of the United States of America, vol. 116, no. 36, págs. 17753-17758 [en línia]. Disponible a: https://www.jstor.org/stable/26851209

SAP (s.d.). «What is workplace diversity?». Sap [en línia]. Disponible a: https://www.sap.com/insights/workplace-diversity-statistics.html

TINDER (s.d.). «Privacy settings». Tinder [en línia]. Disponible a: https://policies.tinder.com/web/safety-center/tools/privacy/in/en/

VOGELS, Emily; MCCLAIN, Colleen (2023). «Key findings about online dating in the U.S.». Pew Research Center [en línia]. Disponible a: https://www.pewresearch.org/short-reads/2023/02/02/key-findings-about-online-dating-in-the-u-s/

WANG, Hao (s.d.). «Algorithmic Colonization of Love: The Ethical Challenges of Dating App Algorithms in the Age of AI». Techné: Research in Philosophy and Technology [en línia]. Disponible a: https://philarchive.org/archive/WANACO-6

WILLIAMS, Apryl (2024). Not My Type. Automating Sexual Racism in Online Dating. Stanford University Press

WILSON, Rachel (2024). «Tinder downloads are falling but the dating app era isn’t over yet» CNN Business [en línia]. Disponible a: https://edition.cnn.com/2024/02/14/business/dating-apps-2024-hinge-tinder-dg/index.html

 

Citació recomanada

ROSALES, Andrea; LINARES-LANZMAN, Juan. «Sí, les ‘apps’ de cites discriminen als usuaris grans». COMeIN [en línia], abril 2024, no. 142. ISSN: 1696-3296. DOI: https://doi.org/10.7238/c.n142.2425