01

這兩天，雷慢偶然看到一篇文章，某大型互聯(lián)網信貸平臺聲稱，他們家風控系統(tǒng)納入了5000多個變量，來對貸款人進行信用評估。對風控系統(tǒng)如何工作，這家平臺舉了一些例子，比如：

“一個用戶打開App，注冊時輸入身份證號碼的時間是個變量，輸入自己的號碼和輸入別人的是不一樣的，如果輸入時間特別長，還要修改，有80%可能不是自己的身份證號碼?！?/p>

“一個客戶買手機，明明有優(yōu)惠券，他就是不用，再加上一些其他相對應的行為，檢測出來后就要嚴格審核，正?？蛻粲袃?yōu)惠券就會用，只有騙子才不會用，因為反正也不想還。優(yōu)惠券只是一個單獨的變量，幾個相同行為疊加時，風險就會慢慢加大?！?/p>

這兩個例子，都有很大的邏輯漏洞。

和所謂風控變量類似，一個人注冊時間的長短，所受影響的變量也很多，他可能是一個老人行動遲緩；他可能注冊時中途做了別的事；他可能一邊扣腳一邊注冊。

有優(yōu)惠券不用，就判定為騙子，也是一個巨大的邏輯錯誤。比如筆者，就不常用優(yōu)惠券，并非不喜歡省錢，而是不常用購物App，平時沒有注意優(yōu)惠券的領取、使用，并且一般時候根本不會意識到優(yōu)惠券的省錢問題。同樣，一個人不使用優(yōu)惠券，也有幾千個變量，他可能是反感優(yōu)惠券，反感的變量有幾千個；他可能是一個電商新手，不知優(yōu)惠券為何物。

最重要的是，注冊時間長、不使用優(yōu)惠券，不必然得出“不是自己身份證、是騙子”的結論。騙子也不必然不使用優(yōu)惠券。

A是B的非必要不充分條件。

即使像這家平臺所說，這些變量只是其中的1/5000，但只要這些變量得出的是一個確定性判定，比如以80%的比率判定這個人所使用的不是自己身份證、100%判定這個人是騙子。那么，諸多的邏輯錯誤，就會影響整個信貸評估的準確性，也會影響貸款的價格。

然而，機器學習的算法，并不管這些邏輯是否存在漏洞，它們只執(zhí)行人的代碼指令，按照人錯誤的邏輯指令運算，在一通“技術黑箱”運算后，得出一個貸款的利率價格。

這就是算法的歧視價格。

02

2011年4月的一天，在全球最大的電商網站亞馬遜上，突然出現(xiàn)了一本標價2369萬美元的紙質書，這本書名為《蒼蠅的成長》，由一個名為彼得·勞倫斯（Peter Lawrence）的博士撰寫。

想購買這本書的一位生物學家找到了亞馬遜。亞馬遜調查后發(fā)現(xiàn)，原來是一家第三方賣家使用了電腦算法程序，自動根據市場供需關系調整了售價，而一周前這本書的標價還是170萬美元。

在這里，算法程序并不會估算市場合理的價格，而是根據需求大于供給無限放大追求利潤的價格。它像極了那些囤積居奇的貪婪商人。

被問及Google公司如何進行私下操作時，前首席執(zhí)行官埃里克·施密特(Eric Schmidt)曾經回答：“Google的政策就是和警戒線打擦邊球?！?/p>

過去幾十年，美國民間與政府的博弈過程中，進步人士曾試圖要求一些大公司公布其人工智能決策的邏輯與原理，最后都被后者以“商業(yè)保密”借口駁回。

在人工智能決策的黑箱里，這些過程最后變得無可奉告。

在金融領域，人為的“邏輯操縱”，讓技術黑箱變得可怕。

法學教授弗蘭克·帕特洛伊(Frank Partnoy)和普利策獎獲得者杰西·艾辛格(Jesse Eisinger)曾于2013年年初共同研究過“美國銀行的內幕”，他們在報告中把銀行描述為“掩蓋了巨大風險的‘黑箱’，這些風險可能會再次擊垮經濟”。

“現(xiàn)在沒有哪家大型金融機構的財務報表能夠提供有價值的風險信息。”在報告中，一位對沖基金經理人如是說。

金融科技化之后，越來越多的黑箱產生，并未使得金融科技更加透明。

黑箱的種子與土壤到處都是，如黑產軍團、數(shù)據倒賣行為、大數(shù)據信審、人工智能深度學習、機器決策…

金融科技黑箱使得監(jiān)管越來越難。

過去十幾年里，P2P網貸和互聯(lián)網信貸的經營者往往津津樂道地拿出他們的大數(shù)據風控系統(tǒng)吹噓一番。

一家借貸平臺在他的大數(shù)據風控的系統(tǒng)中輸入一個人用戶數(shù)以千計的社交數(shù)據、搜索數(shù)據、瀏覽數(shù)據、交易數(shù)據等，經過深度學習和決策模型的計算，最終可能將一個人的信用定為不及格，但這其中的具體決策過程是什么，企業(yè)不會告知你。

更甚至于，這個決策過程中出現(xiàn)程序錯誤、算法歧視時，電腦試圖向程序員解釋時，程序員也無法明白。

哥倫比亞大學的機器人學家 Hod Lipson曾說：“這就像是向一條狗解釋莎士比亞是誰。”

這意味著，大的互聯(lián)網信貸平臺津津樂道的精準營銷獲客與大數(shù)據風控定價，都在制造一個個黑箱。

03

互聯(lián)網信貸、大數(shù)據風控都有黑箱化的現(xiàn)象。

《從業(yè)經歷和教育背景是否能提高借貸成功率？——來自P2P平臺的經驗證據》一文證實了學歷在P2P借貸中的正相關因素，它指出，教育程度在1%的顯著水平上與借貸成功率呈正相關關系。此外，性別、領域對借款能否成功產生影響。

中國央行研究局局長徐忠曾表示，如果將客戶個人信息用于信用評估時，可能影響信貸的公平性，有一些指標比如性別、地域、職業(yè)等可能對客戶的還款能力有解釋力，但根據這些指標進行放貸，會涉及到對某些人群的歧視。

但在人工智能的決策黑箱里，這些都看不見。

在人工智能的深度學習與決策黑箱里，有一個現(xiàn)象值得說明，比如互聯(lián)網信貸，人工智能深度學習后的決策系統(tǒng)對有過違約記錄的用戶往往收取更高的利息，在這一過程中，違約者曾經未能及時還款的原因卻是未知的，可能他拒絕支付，也可能是因為家里出了緊急事故，但人工智能決策的歧視性已經出來。

在現(xiàn)金貸平臺那里，大數(shù)據信審的黑箱歧視性給予借款人過高的利率定價，往往容易導致借款人違約，而違約后的歧視性利率定價，可能再次導致借款人違約，造成惡性循環(huán)。

一旦基于人工智能決策對身背污點者的歧視性信審體系成型，就會演變成進行壓迫的工具，而受壓迫者卻絲毫沒有還擊之力。

黑箱金融造成的一個后果是，互聯(lián)網理財資產負債表會越來越不透明并復雜化，要維系這個黑箱金融持續(xù)下去，就要犧牲擁有現(xiàn)實資金的投資者。

過去幾年里，死于、受害于P2P網貸資金池、其他互聯(lián)網理財?shù)钠脚_和投資人就是這個例子。

面對黑箱， 即使機構告訴用戶信息收集者會如何使用這些數(shù)據，只要他們同意，隱私也不一定能得到保護。

帕斯奎爾在《黑箱社會：控制金錢和信息的法則》里的大體主張是：放棄知情同意這種形式上的做法，去嚴格監(jiān)管實際使用這些數(shù)據的企業(yè)和政府機構。

2018年，歐盟發(fā)布GDPR，它了不起的地方在于它確立了一個原則：即無視利益集團、犧牲科技革新的速度，將科技進步控制在可理解的天花板里，而非放任在失控的黑箱中。

GDPR強化對自然人數(shù)據的保護，它將個人敏感數(shù)據排除在人工智能的自動化決定之外。

一百年前，路易斯·布蘭戴斯(Louis Brandeis)曾經發(fā)表言論“陽光是最好的殺毒劑”。

盡管來自美國的批評聲音認為，GDPR對歐洲人工智能的開發(fā)和使用產生負面影響，帶來高昂的創(chuàng)新和生產成本，并將使歐盟企業(yè)與北美和亞洲等競爭對手相比處于劣勢地位，且對保護消費者沒有多大作用。

令人恐懼的是，在人工智能 大數(shù)據時代，“知情”具有破解“黑箱”的優(yōu)勢，但“保密”卻有相對“知情”更大的優(yōu)勢。

“商業(yè)保密”成為企業(yè)維持黑箱決策的借口。

在金融黑箱的失控下，對算法的監(jiān)管必將抬上桌面，厘清算法的邏輯、科技的倫理，打擊基于數(shù)據和算法閉環(huán)所塑造的貸款權威，都將是一個不得不面對的問題。

因為正在為金融黑箱埋單的，就是你我。

奧立包裝專業(yè)生產銷售晉城塑料滑片,塑料滑托板,滑托板,紙滑托板,紙滑托.晉城塑料滑片板承重,晉城塑料滑片塑的生產技術,晉城塑料滑片工藝,晉城塑料滑片生產廠家,晉城塑料滑片設備,晉城塑料滑片使用過程有什么問題,晉城塑料滑片怎么生產,晉城塑料滑片怎么使用,晉城塑料滑片生產設備,晉城塑料滑片廠家直銷,晉城塑料滑片的正確使用方法,晉城塑料滑片供應商,晉城塑料滑片價格,晉城塑料滑片哪個廠家好,晉城塑料滑片生產過程,晉城塑料滑片使用教程,晉城塑料滑片有哪些,晉城塑料滑片廠家,晉城塑料滑片批發(fā)廠家,晉城塑料滑片正確使用方法,晉城塑料滑片銷售,晉城塑料滑片價格表圖片,晉城塑料滑片價格一覽表,晉城塑料滑片批發(fā)價格,晉城塑料滑片,晉城塑料滑片使用視頻,晉城塑料滑片什么材質

,奧立包裝專業(yè)生產和銷售充氣袋緩沖袋,牛皮紙?zhí)畛錃獯?集裝箱充氣袋,牛皮紙充氣袋,集裝箱填充氣袋,集裝箱充氣袋工廠,集裝箱充氣袋廠家,紙滑托,紙滑托板,紙滑托盤,滑片托盤,滑托板,滑托盤,塑膠滑托板,塑料滑托板,塑料滑托盤,防滑紙,托盤防滑紙,物流運輸防滑紙,碼垛防滑紙,紙滑拖,紙滑片,紙托板,集裝箱減震氣囊,集裝箱緩沖填充氣袋,集裝箱緩沖防撞充氣袋,集裝箱緩沖充氣袋,集裝箱充氣袋填充袋,集裝箱填充氣囊,集裝箱氣囊,集裝箱氣袋,貨柜氣囊袋,貨柜緩沖充氣袋,貨柜充氣袋,貨柜保護氣囊,pp充氣袋,產品質量好價格優(yōu)