模式可始于像網(wǎng)絡(luò)搜索這樣的簡單服務(wù)。最近，來自巴西米納斯吉拉斯聯(lián)邦大學(xué)的研究人員調(diào)查谷歌和必應(yīng)在全球59個國家對女性魅力的算法概念。他們在這兩款搜索引擎上分別搜索“漂亮的”和“丑陋的”女性，收集相關(guān)圖片，根據(jù)圖片鑒別女性外在魅力方面的刻板印象。在所調(diào)查的大多數(shù)國家里，算法使得黑人、亞洲人和老女人往往更多地與丑陋女性的圖片關(guān)聯(lián)，而年輕白人女性的圖片則更多地作為漂亮女性的例子出現(xiàn)。
研究人員指出，網(wǎng)絡(luò)上的分類反映了來自現(xiàn)實(shí)世界的偏見，同時也讓那些偏見永久存在。隨著人們越來越多地依靠搜索引擎來獲得信息資訊，設(shè)計(jì)師們利用算法來給人們呈現(xiàn)搜索結(jié)果。當(dāng)那些算法不公開透明的時候，系統(tǒng)究竟為什么和如何決定選擇特定的圖片或者廣告，就成了謎團(tuán)。最終，互聯(lián)網(wǎng)及其用戶之間的這種偏見得到強(qiáng)化，進(jìn)而擴(kuò)大成見，影響人們對世界及其在里面的角色的感知。
InferLink公司致力于分析人們在社交媒體上的行為。
跟其它的同類項(xiàng)目一樣，InferLink算法研究男性和女性在網(wǎng)上如何表達(dá)自己，在說法方式上有什么不同。“男性使用陳述性動詞比較多，而女性則更多使用描述性的詞語。”InferLink首席科學(xué)家馬修·米切爾森（Matthew Michelson）透露。
過去3年的研究揭示了社交媒體語言的性別差異。PLOS>該研究指出，女性用戶往往更多地使用與諸如“愛”、“想念”、“謝謝”這樣的情感相關(guān)的詞語，以及表示微笑、皺眉和流淚的表情符號。與此同時，男性用戶更經(jīng)常出現(xiàn)詛咒話語；傾向于討論管理、視頻游戲和體育；更多提及死亡和暴力。之前有關(guān)口頭語言和書面語言的研究發(fā)現(xiàn)，女性傾向于不作正面答復(fù)，更多使用像“似乎”或者“可能”這樣的詞語。
然而，米切爾森指出，一旦你開始根據(jù)這些算法來進(jìn)行性別、種族或者社會經(jīng)濟(jì)地位方面的推斷——不管是用于營銷推廣還是政策建議目的——你就會觸碰到敏感的問題。由于這種技術(shù)，女性可能會在各類生活資訊和廣告的定向呈現(xiàn)上遭遇不平等的對待，如金融信貸、醫(yī)療服務(wù)、招聘、政治活動方面，以及強(qiáng)化性別刻板印象的產(chǎn)品推銷。
這也是不透明的算法成為性別歧視的間接工具和直接影響女性生計(jì)的一種方式。目前已經(jīng)有算法更有可能向男性展示高薪酬職業(yè)的網(wǎng)絡(luò)廣告。在谷歌圖片搜索“職業(yè)女性”，女性高管出現(xiàn)的比率相對較低，從事電話推銷工作的女性出現(xiàn)的比率則較高。
羅夫警告稱，由于算法代為做下的決定，女性可能會在生活的各個方面都錯失一些好的機(jī)會。對于那些決定，人們也無法質(zhì)問或者反對。那些決定可能涉及各類日常問題，如“孩子該上什么學(xué)校，我們能獲得什么工作，我們可以上什么大學(xué)，我們是否符合抵押貸款資格，等等”
羅夫解釋道，算法有朝一日可能會變得非常個人化，會告訴女性什么才是正常的。“雙方將會控制我對于生活的很多想法，如我該追求什么，我是否該要孩子，是否該結(jié)婚，是否該找工作，又或者就是該不該買那個手袋。”她說道，“這會變得很危險。”
左邊是Jaxon機(jī)器人，右邊是Valkyrie
人機(jī)合一
30年前，主張女權(quán)的技術(shù)學(xué)者堂娜·哈拉維（Donna Haraway）在其著名的論文《人機(jī)體的宣言》中呼吁女性不僅僅要利用現(xiàn)代機(jī)器，還要用它來改造身份——最終除掉性別、性征和其它的限制性類別。她指出，利用技術(shù)，給我們所有人都創(chuàng)造半機(jī)器人身份是有可能的。隨著人們?nèi)諠u依賴于他們的設(shè)備，他們會忘記自己的性別優(yōu)越性。
哈拉維的愿景于1985年出版在《社會主義評論》（Socialist Review）上，它催生了幾代的賽博女性主義者，引發(fā)了大量相關(guān)的討論和性別研究項(xiàng)目。它在如何消融人類與機(jī)器之間的界限上帶來了新的思考角度。
在這種我們與技術(shù)融合的未來烏托邦中，我們的繁殖生育能力不再依靠于性交。我們作為人機(jī)一體來思考和行動，能夠再生和重制我們的身體部件，能夠改變我們的物理特征。人類全面擁抱機(jī)器人、人工智能和機(jī)器學(xué)習(xí)，將它們視作自我強(qiáng)化的模式。不同于科幻小說對人機(jī)混合體導(dǎo)致機(jī)器人統(tǒng)治人類，或者一種性別統(tǒng)治另一種性別的想象，人機(jī)合一會造就一種平衡局面——一個沒有性別之分的世界。