編者按：

2022年4月，中央網(wǎng)信辦牽頭開展“清朗·2022年算法綜合治理”專項行動。據(jù)悉，上述專項行動是為落實好《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》，繼而深入排查整改互聯(lián)網(wǎng)企業(yè)平臺算法安全問題，并借此督促企業(yè)利用算法加大正能量傳播、處置違法和不良信息、整治算法濫用亂象。

什么是算法？如何正確認識算法的作用和意義？又應該如何治理算法？財經(jīng)E法采訪業(yè)內(nèi)權威專家，探討算法的意義，也對當前算法存在的問題和治理理念、方向做出深入思考。

人們喜歡討論算法問題。這似乎不僅僅因為它帶來的新鮮感和科技感，更由于其對人類生活日益強大的滲透力。越來越多的人正在意識到，人們的生活已經(jīng)被算法所包圍。

在這一背景下，如何理解算法制度涉及的一些實際問題就變得十分重要。個人隱私和讓渡間看似“不可能”的困境，也是信息化時代人類與科技相處之道的邏輯演變。

算法推薦技術能帶來哪些社會福祉？這一技術一定要以侵害個人信息和隱私作為代價嗎？人們在擔憂什么？App是否會“監(jiān)聽”用戶?算法推薦可能對互聯(lián)網(wǎng)行業(yè)產(chǎn)生哪些影響？

帶著這些問題，財經(jīng)E法專訪了中國電子技術標準化研究院網(wǎng)絡安全研究中心測評實驗室副主任何延哲。

01 算法是一把鋒利的“雙刃劍”

財經(jīng)E法：有人認為，個性化算法會帶來“信息繭房”現(xiàn)象。也有人認為，人的選擇性心理從來就存在， “信息繭房”現(xiàn)象及可能帶來的后果并不足慮，不能因此“因噎廢食”。你怎么看？

何延哲：正如人的欲望不能野蠻生長一樣，個性化服務也是如此。我們想一想，如果真的把個性化服務做到“飯來張口、衣來伸手”的地步，究竟好不好？我覺得，把一個人完全扔到這種所謂的“舒適”的狀態(tài)里，對他個人的發(fā)展成長是不利的——這種不利不僅僅針對未成年人，即使是成年人，也沒辦法完全克服自己各種各樣的欲望。

當然，這并不是說互聯(lián)網(wǎng)要為每一個人負責——這太難了，也辦不到。我們真正需要做的，是賦予每個人更好管理自己自制力的一種能力，也就是個性化選擇的取舍問題。

任何一個問題發(fā)展到極致時，或者當他高速發(fā)展時，都要警惕：人臉識別廣泛鋪開時，我們要擔心個人隱私；直播帶貨突飛猛進時，我們要擔心商品質量。所有的事情都是一樣的。所以我覺得，這不是“因噎廢食”的問題，大家對這個問題的擔心是完全可以理解的。

但另一方面，考慮這個問題絕對不能一刀切，讓算法和算法技術停滯下來。應該充分認識到算法在增加人類福祉，促進人類社會發(fā)展中的正向作用，要考慮全面發(fā)展、富有人文關懷的個性化，替代為了極致滿足個人欲望的個性化。

財經(jīng)E法：在你看來，算法推薦技術可能帶來的社會福祉有哪些？

何延哲：首先，從個人方面看，福祉是很明顯的——一個是方便，一個是省錢。算法推薦能夠找準你的需求，讓你花更少的錢和時間辦更多的事兒，這兩點就足夠有吸引力了。

其次是平臺方面。算法推薦可以顯著降低平臺獲客成本，也就是平臺與消費者間溝通的成本。尤其是對一些中小企業(yè)而言，以前要通過大數(shù)據(jù)或廣告營銷渠道找到適合的客戶，對他們來說是一件高成本、低效率的事兒。這也直接導致這類企業(yè)很難做大。有了個性化推送以后，他們就可以借助大數(shù)據(jù)分析技術，把自身商品信息送達至部分可能有潛在需求的客戶。這中間數(shù)據(jù)切切實實地發(fā)揮了作用，體現(xiàn)了價值。

當然，精準的推薦可能會對個人產(chǎn)生打擾，同時也帶來了對個人隱私侵害的擔憂，但話又說回來，如果不使用這種技術，廣大的企業(yè)，尤其是中小型企業(yè)、商家沒有足夠的預算進行大規(guī)模廣告投放，那么就只能回歸到撥打電話、發(fā)小廣告、無差別彈窗等更為低效的手段，這個打擾恐怕更甚。也許，從這個角度看，算法推薦反而是減少對個人的打擾。

必須承認，尤其對中小企業(yè)而言，算法推薦還是很有效率、性價比很高的一種普惠措施。

此外，算法決策還催生了諸如自動合成、自動派單、自動計費等新的業(yè)務模式。可以說，凡是互聯(lián)網(wǎng)公司，或者說在依托網(wǎng)絡開展業(yè)務的公司，幾乎都涉及到算法決策。如果從整個社會發(fā)展角度看，大家可以假設有一天沒有了算法，我們的生活會有什么樣的變化？如果沒有算法上的創(chuàng)新，我們還能在應用層面創(chuàng)新什么？

反過來思考，或許是另外一個理解算法的意義和價值的方式。我們之所以還處在數(shù)字時代，是因為算法能夠讓我們掌握更多的數(shù)據(jù)，能夠讓數(shù)據(jù)產(chǎn)生價值，算法絕對算得上是數(shù)字時代的基礎設施。

從更大意義上說，沒有了算法，人類社會將止步不前，失去了對數(shù)據(jù)的計算力，人工智能時代無法到來。

02 算法透明化，要探尋一個可解釋的標準

財經(jīng)E法：您此前在接受采訪時曾表示，數(shù)據(jù)本身沒有價值傾向。治理“大數(shù)據(jù)殺熟”現(xiàn)象，不是要“殺死”大數(shù)據(jù)，而是要把數(shù)據(jù)和算法用在正確的地方。你所說的，“正確的地方”具體指什么？

何延哲：定義“正確”其實很難。這里我覺得，第一，要有守法的底線思維，這個自然不用多講，只不過法律法規(guī)的部分要求可能還不夠具體，還需要不斷跟進學習，關注。

其次，就是企業(yè)應該有著正確的價值導向，也可以稱之為“道德感”或者“科技倫理”。這個看似更虛，但其實所包含的精神內(nèi)核是清晰的，那就是“己所不欲勿施于人”的良知。所以，正不正確，用絕大部分人的價值觀去衡量也是一種方法。

法律法規(guī)雖然有一定滯后性，仍有相當?shù)淖饔煤鸵饬x，對于遏制廣泛、嚴重的問題，保護相關方利益方面來看，是切實可行和有效的手段，是行業(yè)能夠存在和發(fā)展的根本性保障。

數(shù)據(jù)沒有價值傾向，但算法就不一定了，比如，當算法被用作盈利時，要更加慎重地去衡量它帶來的負面作用——算法一定是有負面作用的，尤其是在商業(yè)運營的時候，這種負面作用可能被放大。

財經(jīng)E法：算法推薦規(guī)則掌握在企業(yè)手中。不少人認為，應當允許企業(yè)手握這樣的機密。你對算法策略披露有何看法或建議？披露應該做到什么程度？

何延哲：現(xiàn)在關鍵的問題在于，規(guī)則披露出來了大家會看嗎？隱私政策都公開了、彈窗了，可是很少有人會細看，不管怎么說，隱私政策還能看懂一些，那么更為晦澀難懂的算法規(guī)則到底會有多少人看呢？

算法透明制度本身很正確，但是如何讓其發(fā)揮更好的作用，是個難題，關鍵原因就是信任的缺失。

我舉個例子，醫(yī)生給你開了一包保密配方的藥，說吃這個就能好，你說不放心，要求把保密配方公布出來。為什么沒人這樣要求？因為大家對行業(yè)認可的保密配方是信賴的。但算法就沒這么走運了——這是由于這么多年大家積累下來的對算法的不信任導致的。

當然，這個例子可能不是那么恰當，因為藥可能必須得吃，算法推薦可以選擇不用，但有一點是相同的，配方也好，算法也罷，對于生產(chǎn)商或開發(fā)商來講，都是自己的核心競爭力。要把這個披露，自然是有所顧慮，也可能產(chǎn)生抵觸心態(tài)，也會有很多搪塞之詞。

因此，對于算法透明制度而言，最為緊迫的是需要一個可解釋的標準。那就是披露到什么程度，可以為用戶答疑解惑，也不妨礙保護核心技術。如果把爭論僅停留在“應不應該披露”上，恐怕只是推諉扯皮，沒有太大意義。

算法透明制度當然是可行的。就比如一瓶飲料上，既披露了主要的配料，但沒有配方一樣。現(xiàn)在要做的是，盡可能拿出細則標準、優(yōu)秀案例來做到更好的示范，以個性化推薦為例，最起碼，畫像的數(shù)據(jù)來源、跨平臺推送的邏輯可以說，個人信息保護影響評估可以做，對個人可能產(chǎn)生的影響和采取的安全措施可以講。

03 算法與隱私需要共存

財經(jīng)E法：隱私權與被遺忘權，是數(shù)據(jù)時代背景下備受關注的兩類個體權利。權利讓渡似乎成為一種沒有選擇的選擇——屬于自己的數(shù)據(jù)，保存權卻不在用戶，用戶本身也無法限制其使用范圍，這是數(shù)字時代對隱私權的一個巨大挑戰(zhàn)。

在你看來，用戶是否應該擁有一種“隱身”能力，使自己的數(shù)據(jù)不被他人獲取或存儲，從而在根本上保護自己？

何延哲：對于用戶的這種想法，第一，法律上肯定支持；第二，個人通過各種努力可以做到，只是做到后太不方便了，讓人覺得App的什么功能也用不了，這就帶來心理上的抵觸。

既想通過互聯(lián)網(wǎng)帶來便利，又想不讓渡個人隱私，這是一個兩難問題，現(xiàn)行條件下很難解決。除非，我們能回到此前那個僅僅把網(wǎng)絡看做提高效率的工具，而非智慧生活一部分的年代。

在我看來，對個人隱私權的讓渡問題，應該用發(fā)展的眼光去看。目前來看可能在觀念上難以接受，但一百年后再來看，也許會是另一種感受也說不定。

財經(jīng)E法：在算法推薦技術大行其道的今天，個人信息和隱私被侵犯是否是個必然結果，無法被繞開？

何延哲：大數(shù)據(jù)時代，要想個人信息完全不受影響，肯定不現(xiàn)實。我們現(xiàn)在努力的方向，一是如何讓影響降到最低，二是如何賦予個人更多的選擇權。

如果我們對個人信息的定義仍停留在其舊時代的原有定義上，那就很難從里面挖掘出新的價值。你的個人喜好，以前只能記錄在日記中，現(xiàn)在則可能演變成各種各樣的個性化推送，幫助你找到更多的朋友、商品——這就是大數(shù)據(jù)的作用，否則它將永遠存在在日記里。

個性化算法和個人隱私事實上是可以并存的，而且在目前的發(fā)展形勢下，不得不并存。

當然，我們希望這種并存，也就是所有的大數(shù)據(jù)使用都是個人主動選擇且可以接受的。這里我想強調(diào)的是，這里的個人選擇，一定是真正出于對事情全局了解之后的慎重選擇，而不是一時的情緒化表達。

財經(jīng)E法：互聯(lián)網(wǎng)的免費模式其實離不開商業(yè)化的變現(xiàn)，廣告便是一種典型且成熟的場景，但用戶面對廣告、特別是個性化廣告卻往往有強烈的抵觸情緒，如何在商業(yè)變現(xiàn)和用戶體驗之間取得平衡？

何延哲：用戶對個性化廣告存在偏見，有兩個原因。

一是個性化廣告做得還不夠“個性化”——真正個性化是能夠讓用戶完全舒適的。當然，這是理想的狀態(tài)，現(xiàn)實中很難實現(xiàn)，畢竟，人的想法太多變了，算法很難完全覆蓋；

二是用戶缺少對算法的了解，造成一種對其機制不全面的認知，總以為自己被偷聽就是一種。這其實不能怪用戶，關鍵在于互聯(lián)網(wǎng)廠商。一方面，它們在個性化和跨平臺機制上追求所謂的“極致”；另一方面，在規(guī)則透明性上、用戶培育上、知識科普上做的顯然不夠。當然，現(xiàn)在它們也在反思。

04 成熟的算法需要兼顧個人權益和權利

財經(jīng)E法：我們在采訪中發(fā)現(xiàn)，很多用戶都對App心存疑慮，總認為可能在監(jiān)控自己。App是否真的存在監(jiān)聽用戶的情況？如何界定App使用者合理隱私期待的邊界？

何延哲：其實這是個老生常談的問題，但我愿意再講一遍。

第一個問題，App利用麥克風“監(jiān)聽”在技術層面是可以實現(xiàn)，比如我們曾經(jīng)在實驗室測試環(huán)境中，利用測試App模擬出了鎖屏后也能持續(xù)錄音一段時間的情況。但這種做法成本高、效率低、法律風險大，此前了解到的一些檢測結果中，尚未發(fā)現(xiàn)有App這樣做。當然我們也都知道，更為高效、成本低廉的方式就是大數(shù)據(jù)的關聯(lián)分析而非直接監(jiān)聽。

那么，什么是用戶合理的隱私期待？可以用一句話總結：當平臺完全真誠地向用戶開放了查閱、復制、撤回同意、刪除、注銷賬號等權利，而沒有大量用戶去行使上述權利時，那便是用戶還愿意使用App所提供的服務，并達到了一定程度的隱私期待。

財經(jīng)E法：你認為未來對于個性化推薦的政策方向是什么？

何延哲：現(xiàn)在這個階段，其實大家都在避免使用“鼓勵個性化推薦”這種表述。我更愿意用“鼓勵更好地應用個性化”這種表述代替。

其實，個性化是繞不開的問題。因為對于很多人來說，所謂的更好，就是人人都成VIP，只有個性化才能高效、低價的做到這點，這是大勢所趨。而現(xiàn)在的相關政策，事實上已經(jīng)在推動“更好地應用個性化”——比如說，開放選擇權，也就是提供“關閉按鈕”，就是更尊重用戶的一種表現(xiàn)。

反過來說，要不是個人信息保護和算法管理相關法律法規(guī)等的推動，有助于隱私保護的前沿技術的出現(xiàn)及應用恐怕沒那么快，這也就是為什么法律法規(guī)之所以重要的原因。

財經(jīng)E法：事實上，按照我們的實際體驗，大部分互聯(lián)網(wǎng)企業(yè)目前都提供了關閉個性化推薦的選項，但關閉之后的用戶體驗卻并不好。看起來，精準的推薦和不精準的推薦都會遭到用戶的反感，怎么理解這種情況？

何延哲：我認為，目前的現(xiàn)狀來看企業(yè)有不作為的成分，也有無奈的成分。

事實上是，對大多數(shù)內(nèi)容平臺而言，個性化版塊確實比非個性化受歡迎，即便是熱榜這種非個性化的資訊平臺，那也是有足夠的“爆點”和公眾參與度的大平臺才吸引人，小平臺也就是個轉載，用戶吐槽“刷起來沒勁”“還不如去網(wǎng)上刷劇看爽文”也就不足為奇了，也就導致很多企業(yè)不重視對非個性化版塊的投入了。

對電商類購物平臺而言，要是撇開個性化，采用榜單式的展示方式，可能不太好辦——展示賣的最多的？那首頁肯定基本全是九塊九包郵那種商品，不能滿足多樣化需求；什么都展示？那肯定就變成以前百貨商場那種，第一頁展示柴米油鹽，第二頁展示家庭日用品……這樣問題又來了：一家商場還可以這樣干，可是平臺上有上百萬個商家，展示哪個好呢？廣告費出得最多的嗎？那廣大中小商家、掏不起廣告費的如何生存？

咱們每個人都可以看看自己面前的手機屏幕。一般來說，也就五六英寸，最大不超過8英寸——手機屏太小了，可展示的東西太少了。如果平臺的效率提不起來，最后就會被頭部商家把資源全占光，讓所有其他人默默無聞，最終被迅速淘汰，這可能又加劇了壟斷。

可以問大家一個問題，如果真的關閉了個性化推薦，那手機屏幕到底應該展示什么？如果說答案是展示我想看、想要的東西——什么是想要的東西？不還是個性化嗎？

總之，還是希望讓更好的、更尊重個人的個性化機制滿足絕大部分人的要求，而不是糾結“個性化展示什么，非個性化展示什么”這么一個可能無解的問題。現(xiàn)有的法律制度對算法推薦已經(jīng)有了規(guī)制，人們對算法推薦也有了警惕心，在這種社會共治的壓力下，算法推薦就更需要與時俱進，以人為本，可以說前景值得期待，創(chuàng)新的空間也有待探索。

本文來自微信公眾號“財經(jīng)E法”（ID:CAIJINGELAW），作者：劉暢，36氪經(jīng)授權發(fā)布。（原標題：《何延哲：好的算法推薦無需懼怕“關閉按鈕”》）