遭控存在性別歧視 紐約市府著手調查Apple Card演算法

在過去幾天一名科技企業家發出一系列推文指稱遭到性別歧視後，紐約金融服務局正對新推出的 Apple Card 確認用戶信用額度的演算法進行調查。

Apple Card 是蘋果公司 (AAPL-US) 和投資銀行高盛 (GS-US) 合作推出的信用卡，負責決定該卡所有有信用額度限制。

這位從事軟體業科技人士 David Heinemeier Hansson 從週四 (7 日) 起發出一系列推文，批評 Apple Card 給他的信用額度是他妻子的 20 倍。他並未透露自己或妻子的任何收入，但表示他們是夫妻合併報稅，而且他的妻子的信用評分向來比他高。

《彭博》報導，紐約金融服務局局長 Linda Lacewell 的發言人說：「該局將進行調查，以確定是否違反了紐約法律，並確保所有消費者不論性別均受到平等對待。」「任何有意或無意導致對婦女或任何其他受保護族群的歧視性待遇的演算法，都違反了紐約法律。」

高盛發言人 Andrew Williams 表示：「我們的信用決策是根據客戶的信用度，無關性別、種族、年齡、性別取向或法律禁止的其他任何因素。」

Hansson 認為，高盛的回應並未解釋他開始在社群媒體上發表自己的問題後發生的事情。

他指出：「一旦這成為公關議題後，它們立即提高了我太太的信用額度，且無需提供任何其他文件佐證。」「我相信沒有人會心懷惡意地去歧視他人，這無所謂。但你又怎麼知道當沒有人能解釋最終決策是如何做出來時，是不是機器演算法出了問題？」

Hansson 說，他的推文促成高盛和蘋果的內部審查，他希望它能引發有關黑盒演算法和系統中既成偏差的討論。

貸款機構在決定信用額度決策中採用演算法已引起美國國會的審查。眾議院金融服務委員會 (House Financial Services Committee) 在 6 月就一些演算法決策的例子進行聽證，研究人員發現，即使沒有刻意歧視，它們仍有針對特定群體的偏見。

Hansson 說：「高盛和蘋果正將信用額度評估工作交給一個黑盒子來處理。」「這不是刻意性別歧視，而是性別歧視早已成定局。」

(本文不開放合作媒體轉載)