01

這兩天，雷慢偶然看到一篇文章，某大型互聯(lián)網(wǎng)信貸平臺(tái)聲稱，他們家風(fēng)控系統(tǒng)納入了5000多個(gè)變量，來(lái)對(duì)貸款人進(jìn)行信用評(píng)估。對(duì)風(fēng)控系統(tǒng)如何工作，這家平臺(tái)舉了一些例子，比如：

“一個(gè)用戶打開(kāi)App，注冊(cè)時(shí)輸入身份證號(hào)碼的時(shí)間是個(gè)變量，輸入自己的號(hào)碼和輸入別人的是不一樣的，如果輸入時(shí)間特別長(zhǎng)，還要修改，有80%可能不是自己的身份證號(hào)碼?！?/p>

“一個(gè)客戶買手機(jī)，明明有優(yōu)惠券，他就是不用，再加上一些其他相對(duì)應(yīng)的行為，檢測(cè)出來(lái)后就要嚴(yán)格審核，正常客戶有優(yōu)惠券就會(huì)用，只有騙子才不會(huì)用，因?yàn)榉凑膊幌脒€。優(yōu)惠券只是一個(gè)單獨(dú)的變量，幾個(gè)相同行為疊加時(shí)，風(fēng)險(xiǎn)就會(huì)慢慢加大。”

這兩個(gè)例子，都有很大的邏輯漏洞。

和所謂風(fēng)控變量類似，一個(gè)人注冊(cè)時(shí)間的長(zhǎng)短，所受影響的變量也很多，他可能是一個(gè)老人行動(dòng)遲緩；他可能注冊(cè)時(shí)中途做了別的事；他可能一邊扣腳一邊注冊(cè)。

有優(yōu)惠券不用，就判定為騙子，也是一個(gè)巨大的邏輯錯(cuò)誤。比如筆者，就不常用優(yōu)惠券，并非不喜歡省錢，而是不常用購(gòu)物App，平時(shí)沒(méi)有注意優(yōu)惠券的領(lǐng)取、使用，并且一般時(shí)候根本不會(huì)意識(shí)到優(yōu)惠券的省錢問(wèn)題。同樣，一個(gè)人不使用優(yōu)惠券，也有幾千個(gè)變量，他可能是反感優(yōu)惠券，反感的變量有幾千個(gè)；他可能是一個(gè)電商新手，不知優(yōu)惠券為何物。

最重要的是，注冊(cè)時(shí)間長(zhǎng)、不使用優(yōu)惠券，不必然得出“不是自己身份證、是騙子”的結(jié)論。騙子也不必然不使用優(yōu)惠券。

A是B的非必要不充分條件。

即使像這家平臺(tái)所說(shuō)，這些變量只是其中的1/5000，但只要這些變量得出的是一個(gè)確定性判定，比如以80%的比率判定這個(gè)人所使用的不是自己身份證、100%判定這個(gè)人是騙子。那么，諸多的邏輯錯(cuò)誤，就會(huì)影響整個(gè)信貸評(píng)估的準(zhǔn)確性，也會(huì)影響貸款的價(jià)格。

然而，機(jī)器學(xué)習(xí)的算法，并不管這些邏輯是否存在漏洞，它們只執(zhí)行人的代碼指令，按照人錯(cuò)誤的邏輯指令運(yùn)算，在一通“技術(shù)黑箱”運(yùn)算后，得出一個(gè)貸款的利率價(jià)格。

這就是算法的歧視價(jià)格。

02

2011年4月的一天，在全球最大的電商網(wǎng)站亞馬遜上，突然出現(xiàn)了一本標(biāo)價(jià)2369萬(wàn)美元的紙質(zhì)書(shū)，這本書(shū)名為《蒼蠅的成長(zhǎng)》，由一個(gè)名為彼得·勞倫斯（Peter Lawrence）的博士撰寫(xiě)。

想購(gòu)買這本書(shū)的一位生物學(xué)家找到了亞馬遜。亞馬遜調(diào)查后發(fā)現(xiàn)，原來(lái)是一家第三方賣家使用了電腦算法程序，自動(dòng)根據(jù)市場(chǎng)供需關(guān)系調(diào)整了售價(jià)，而一周前這本書(shū)的標(biāo)價(jià)還是170萬(wàn)美元。

在這里，算法程序并不會(huì)估算市場(chǎng)合理的價(jià)格，而是根據(jù)需求大于供給無(wú)限放大追求利潤(rùn)的價(jià)格。它像極了那些囤積居奇的貪婪商人。

被問(wèn)及Google公司如何進(jìn)行私下操作時(shí)，前首席執(zhí)行官埃里克·施密特(Eric Schmidt)曾經(jīng)回答：“Google的政策就是和警戒線打擦邊球?！?/p>

過(guò)去幾十年，美國(guó)民間與政府的博弈過(guò)程中，進(jìn)步人士曾試圖要求一些大公司公布其人工智能決策的邏輯與原理，最后都被后者以“商業(yè)保密”借口駁回。

在人工智能決策的黑箱里，這些過(guò)程最后變得無(wú)可奉告。

在金融領(lǐng)域，人為的“邏輯操縱”，讓技術(shù)黑箱變得可怕。

法學(xué)教授弗蘭克·帕特洛伊(Frank Partnoy)和普利策獎(jiǎng)獲得者杰西·艾辛格(Jesse Eisinger)曾于2013年年初共同研究過(guò)“美國(guó)銀行的內(nèi)幕”，他們?cè)趫?bào)告中把銀行描述為“掩蓋了巨大風(fēng)險(xiǎn)的‘黑箱’，這些風(fēng)險(xiǎn)可能會(huì)再次擊垮經(jīng)濟(jì)”。

“現(xiàn)在沒(méi)有哪家大型金融機(jī)構(gòu)的財(cái)務(wù)報(bào)表能夠提供有價(jià)值的風(fēng)險(xiǎn)信息?！痹趫?bào)告中，一位對(duì)沖基金經(jīng)理人如是說(shuō)。

金融科技化之后，越來(lái)越多的黑箱產(chǎn)生，并未使得金融科技更加透明。

黑箱的種子與土壤到處都是，如黑產(chǎn)軍團(tuán)、數(shù)據(jù)倒賣行為、大數(shù)據(jù)信審、人工智能深度學(xué)習(xí)、機(jī)器決策…

金融科技黑箱使得監(jiān)管越來(lái)越難。

過(guò)去十幾年里，P2P網(wǎng)貸和互聯(lián)網(wǎng)信貸的經(jīng)營(yíng)者往往津津樂(lè)道地拿出他們的大數(shù)據(jù)風(fēng)控系統(tǒng)吹噓一番。

一家借貸平臺(tái)在他的大數(shù)據(jù)風(fēng)控的系統(tǒng)中輸入一個(gè)人用戶數(shù)以千計(jì)的社交數(shù)據(jù)、搜索數(shù)據(jù)、瀏覽數(shù)據(jù)、交易數(shù)據(jù)等，經(jīng)過(guò)深度學(xué)習(xí)和決策模型的計(jì)算，最終可能將一個(gè)人的信用定為不及格，但這其中的具體決策過(guò)程是什么，企業(yè)不會(huì)告知你。

更甚至于，這個(gè)決策過(guò)程中出現(xiàn)程序錯(cuò)誤、算法歧視時(shí)，電腦試圖向程序員解釋時(shí)，程序員也無(wú)法明白。

哥倫比亞大學(xué)的機(jī)器人學(xué)家 Hod Lipson曾說(shuō)：“這就像是向一條狗解釋莎士比亞是誰(shuí)?！?/p>

這意味著，大的互聯(lián)網(wǎng)信貸平臺(tái)津津樂(lè)道的精準(zhǔn)營(yíng)銷獲客與大數(shù)據(jù)風(fēng)控定價(jià)，都在制造一個(gè)個(gè)黑箱。

03

互聯(lián)網(wǎng)信貸、大數(shù)據(jù)風(fēng)控都有黑箱化的現(xiàn)象。

《從業(yè)經(jīng)歷和教育背景是否能提高借貸成功率？——來(lái)自P2P平臺(tái)的經(jīng)驗(yàn)證據(jù)》一文證實(shí)了學(xué)歷在P2P借貸中的正相關(guān)因素，它指出，教育程度在1%的顯著水平上與借貸成功率呈正相關(guān)關(guān)系。此外，性別、領(lǐng)域?qū)杩钅芊癯晒Ξa(chǎn)生影響。

中國(guó)央行研究局局長(zhǎng)徐忠曾表示，如果將客戶個(gè)人信息用于信用評(píng)估時(shí)，可能影響信貸的公平性，有一些指標(biāo)比如性別、地域、職業(yè)等可能對(duì)客戶的還款能力有解釋力，但根據(jù)這些指標(biāo)進(jìn)行放貸，會(huì)涉及到對(duì)某些人群的歧視。

但在人工智能的決策黑箱里，這些都看不見(jiàn)。

在人工智能的深度學(xué)習(xí)與決策黑箱里，有一個(gè)現(xiàn)象值得說(shuō)明，比如互聯(lián)網(wǎng)信貸，人工智能深度學(xué)習(xí)后的決策系統(tǒng)對(duì)有過(guò)違約記錄的用戶往往收取更高的利息，在這一過(guò)程中，違約者曾經(jīng)未能及時(shí)還款的原因卻是未知的，可能他拒絕支付，也可能是因?yàn)榧依锍隽司o急事故，但人工智能決策的歧視性已經(jīng)出來(lái)。

在現(xiàn)金貸平臺(tái)那里，大數(shù)據(jù)信審的黑箱歧視性給予借款人過(guò)高的利率定價(jià)，往往容易導(dǎo)致借款人違約，而違約后的歧視性利率定價(jià)，可能再次導(dǎo)致借款人違約，造成惡性循環(huán)。

一旦基于人工智能決策對(duì)身背污點(diǎn)者的歧視性信審體系成型，就會(huì)演變成進(jìn)行壓迫的工具，而受壓迫者卻絲毫沒(méi)有還擊之力。

黑箱金融造成的一個(gè)后果是，互聯(lián)網(wǎng)理財(cái)資產(chǎn)負(fù)債表會(huì)越來(lái)越不透明并復(fù)雜化，要維系這個(gè)黑箱金融持續(xù)下去，就要犧牲擁有現(xiàn)實(shí)資金的投資者。

過(guò)去幾年里，死于、受害于P2P網(wǎng)貸資金池、其他互聯(lián)網(wǎng)理財(cái)?shù)钠脚_(tái)和投資人就是這個(gè)例子。

面對(duì)黑箱， 即使機(jī)構(gòu)告訴用戶信息收集者會(huì)如何使用這些數(shù)據(jù)，只要他們同意，隱私也不一定能得到保護(hù)。

帕斯奎爾在《黑箱社會(huì)：控制金錢和信息的法則》里的大體主張是：放棄知情同意這種形式上的做法，去嚴(yán)格監(jiān)管實(shí)際使用這些數(shù)據(jù)的企業(yè)和政府機(jī)構(gòu)。

2018年，歐盟發(fā)布GDPR，它了不起的地方在于它確立了一個(gè)原則：即無(wú)視利益集團(tuán)、犧牲科技革新的速度，將科技進(jìn)步控制在可理解的天花板里，而非放任在失控的黑箱中。

GDPR強(qiáng)化對(duì)自然人數(shù)據(jù)的保護(hù)，它將個(gè)人敏感數(shù)據(jù)排除在人工智能的自動(dòng)化決定之外。

一百年前，路易斯·布蘭戴斯(Louis Brandeis)曾經(jīng)發(fā)表言論“陽(yáng)光是最好的殺毒劑”。

盡管來(lái)自美國(guó)的批評(píng)聲音認(rèn)為，GDPR對(duì)歐洲人工智能的開(kāi)發(fā)和使用產(chǎn)生負(fù)面影響，帶來(lái)高昂的創(chuàng)新和生產(chǎn)成本，并將使歐盟企業(yè)與北美和亞洲等競(jìng)爭(zhēng)對(duì)手相比處于劣勢(shì)地位，且對(duì)保護(hù)消費(fèi)者沒(méi)有多大作用。

令人恐懼的是，在人工智能 大數(shù)據(jù)時(shí)代，“知情”具有破解“黑箱”的優(yōu)勢(shì)，但“保密”卻有相對(duì)“知情”更大的優(yōu)勢(shì)。

“商業(yè)保密”成為企業(yè)維持黑箱決策的借口。

在金融黑箱的失控下，對(duì)算法的監(jiān)管必將抬上桌面，厘清算法的邏輯、科技的倫理，打擊基于數(shù)據(jù)和算法閉環(huán)所塑造的貸款權(quán)威，都將是一個(gè)不得不面對(duì)的問(wèn)題。

因?yàn)檎跒榻鹑诤谙渎駟蔚?，就是你我?/p>

奧立包裝專業(yè)生產(chǎn)銷售昌江縣塑料滑片,塑料滑托板,滑托板,紙滑托板,紙滑托.昌江縣塑料滑片板承重,昌江縣塑料滑片塑的生產(chǎn)技術(shù),昌江縣塑料滑片工藝,昌江縣塑料滑片生產(chǎn)廠家,昌江縣塑料滑片設(shè)備,昌江縣塑料滑片使用過(guò)程有什么問(wèn)題,昌江縣塑料滑片怎么生產(chǎn),昌江縣塑料滑片怎么使用,昌江縣塑料滑片生產(chǎn)設(shè)備,昌江縣塑料滑片廠家直銷,昌江縣塑料滑片的正確使用方法,昌江縣塑料滑片供應(yīng)商,昌江縣塑料滑片價(jià)格,昌江縣塑料滑片哪個(gè)廠家好,昌江縣塑料滑片生產(chǎn)過(guò)程,昌江縣塑料滑片使用教程,昌江縣塑料滑片有哪些,昌江縣塑料滑片廠家,昌江縣塑料滑片批發(fā)廠家,昌江縣塑料滑片正確使用方法,昌江縣塑料滑片銷售,昌江縣塑料滑片價(jià)格表圖片,昌江縣塑料滑片價(jià)格一覽表,昌江縣塑料滑片批發(fā)價(jià)格,昌江縣塑料滑片,昌江縣塑料滑片使用視頻,昌江縣塑料滑片什么材質(zhì)

,奧立包裝專業(yè)生產(chǎn)和銷售充氣袋緩沖袋,牛皮紙?zhí)畛錃獯?集裝箱充氣袋,牛皮紙充氣袋,集裝箱填充氣袋,集裝箱充氣袋工廠,集裝箱充氣袋廠家,紙滑托,紙滑托板,紙滑托盤(pán),滑片托盤(pán),滑托板,滑托盤(pán),塑膠滑托板,塑料滑托板,塑料滑托盤(pán),防滑紙,托盤(pán)防滑紙,物流運(yùn)輸防滑紙,碼垛防滑紙,紙滑拖,紙滑片,紙托板,集裝箱減震氣囊,集裝箱緩沖填充氣袋,集裝箱緩沖防撞充氣袋,集裝箱緩沖充氣袋,集裝箱充氣袋填充袋,集裝箱填充氣囊,集裝箱氣囊,集裝箱氣袋,貨柜氣囊袋,貨柜緩沖充氣袋,貨柜充氣袋,貨柜保護(hù)氣囊,pp充氣袋,產(chǎn)品質(zhì)量好價(jià)格優(yōu)