從 Facebook 事件內幕 談大 AI 時代下的雲端資料授權安全問題
•
2 likes•646 views
2018 Cloud & Edge Summit Keynote - 從 Facebook 事件內幕 談大 AI 時代下的雲端資料授權安全問題
Recommended
More Related Content
Similar to 從 Facebook 事件內幕 談大 AI 時代下的雲端資料授權安全問題
Similar to 從 Facebook 事件內幕 談大 AI 時代下的雲端資料授權安全問題 (20)
More from Alan Lee
從 Facebook 事件內幕 談大 AI 時代下的雲端資料授權安全問題
- 1. 從 Facebook 事件內幕 談大 AI 時代下的雲端資料授 權安全問題 聯發科技 IT 技術經理 & HITCON CTF 駭客競賽負責人 李倫銓 1
- 2. • 任職聯發科技 IT 部門。 • HITCON CTF 特級廚師 駭客戰隊領隊(去國外比賽) 與 駭客競賽負責人(在台灣辦比賽) • 2014, 2017取得DEFCON CTF 亞軍 • 協助舉辦三屆HITCON CTF國際賽，連 續三年獲選為DEFCON CTF種子賽 2 2017 HITCON Capture the Flag & food
- 4. 4 看新聞學資安
- 5. 點開 「臉書個資外洩好害怕 減少風險你可以這麼做」 這則新聞， 你可以學到什麼 ? 第一點: 加入「#刪除臉書」（#deletefacebook）運動 施主，你自盡吧 看新聞學資安的下場 (X) 5
- 6. 除了自盡外，有人發現這太蠢了，所以教了另外 5 點: 1. 刪除個人資料 – 只想看人不想分享 2. 限制分享對象 – 只想看別人，不想分享給不認識的人 3. 不要玩心理測驗 – 怕危險就不要出門 4. 限制廣告偏好 – FB告訴你廣告數量是不變的，所以你寧可看到自己不喜歡的東西? 5. 解除可疑的第三方app – 合理，不過FB已經重審查第三方app了 看新聞學資安的下場 (X) 6
- 7. Facebook-Cambridge Analytica 醜聞 • 劍橋分析被檢舉從2014年開始， 透過Facebook平台蒐集使用者資 訊，拿來用於操控2016總統大選、 英國脫歐選舉。 • 劍橋分析2014年設計了一款心理 測驗” thisisyourdigitallife ”應 用程式，獲得約27萬使用者數據， 後續波及5千萬人(因為使用者的 好友清單) • 2015年臉書發現處理劍橋分析並 修改規則 Christopher Wylie 7
- 8. 2014 2015 2016 2018 劍橋分析做出 thisisyourdigitallife「這是 你的數位生活」應用程式 FB更改app對於資 料的使用權限 被用來投放操作總統大選， 選完之後許多人質疑 假新聞氾濫干涉選舉 4/10祖克伯答應 出席美國國會聽 證會說明一切 3/23 好朋友馬斯克刪除 SpaceX, 特斯拉FB粉絲團， 並表示要抽走廣告投資 3/17共和黨民主黨均要求 FB出面說明劍橋事件 3/18被爆料FB個資遭濫用 3/19臉書安全長離職 3/21 祖克伯打破沉默， 表示FB是整體結構問題， 不是監督問題 8
- 9. 劍橋大學 Aleksandr kogan Korgan和劍橋大學的幾個 教授進行了一個研究，可 以透過facebook 的profile 來分析一個人的個性和政 治立場 聖彼得堡 大學 俄羅斯政 府 被爆有俄羅斯血統 Global Science Research 成立公司 SCL Elections Ltd GSR接了SCL專案 蒐集FB資料 劍橋分析公司/SCL Elections執行長 Alexander Nix 劍橋分析 給錢 共和黨金主、 億萬富豪默 瑟Robert Mercer 使用大數據 來改變用戶行為 (寫在公司網站) 目標 競選 活動 助理教授 補助研究案 最後對外爆料 創辦 Christopher Wylie 創辦 9
- 10. 大數據怎麼做到操控選民? 10
- 11. 你是不是具備容易被操控的人格? • 習慣討好人、自己認為缺點多、負面情緒高、不懂拒絕人 • 遍布在每一階層 • 老人、年輕人 • 男人、女人 • 民主黨、共和黨 • 不同的人，心中在意的點不同，針對不同的人，要用不同的話題 去引導他。 製造假新聞 帶風向 11
- 14. 英國研究: 分析Facebook按讚的資料可以知道你的性向 坦率性 嚴謹性 外向性 友善性 神經質 Openness Conscientiousness Extraversion Agreeableness Neuroticism 例如: • 你常常表達對Hello Kitty的喜愛，是坦率性Openness的表現 • 男的如果對MAC化妝品專業按讚，可能是 Gay • 如果是武當幫Wu-Tang Clan的粉絲，可能是異性戀 • 整體來說，這份研究可以靠68個讚就判斷出:此人膚色、性傾向、政治立場(投給民主黨 或共和黨，例民主黨選民: 喜歡某個樂團、歌手、討厭露營車)、準確度高達90%。 模型 現代心理學將個人性格分為不受語言或文化影響的五個維度(大五性格模型)，2013年英 國一份研究報告指出，他們追蹤 5.8萬 志願者在FB上的點讚傾向，發現的確有關聯性 14
- 15. 靠著人工分析，頂多獲得上述一些很明顯的現象，但是如果是 用 機器學習大量抓取FB上面的資料呢? 例如，觀察更多受測對 象對粉絲or 新聞link的讚、 他們在某些個性測試的答案、其他 個人數位腳印(digital footprint)，可以獲得更深層的關聯。 想想看，可以精準地歸 納一個人的個性、種族、 性別、性傾向、甚至智 力以及幼時創傷 15
- 16. FB的 人格建模系統 Facebook資料 街頭問卷 問卷的 人格建模系統 電話訪問 電訪的 人格建模系統 精準投放 • 省錢! • 更有效! • 避免負面印象! 廣告平台 廣告平台 廣告平台 假新聞 16
- 17. 投放廣告受眾 • 年齡、性別、感情狀況、教育、工作地點 • 地點: 你沒看錯，現在大部分的人使用手機 APP來上FB，FB APP是會取得你的GPS座標 點作為廣告投放目的。 • 興趣: 依照嗜好、喜愛的娛樂行為 • 行為: 根據購買、瀏覽、裝置使用習慣或”其 他”特殊演算法 • 不會投，有錢的話廣告公司會派專屬業務給 你 17
- 18. 依據個性投放廣告真的有效嗎? • 研究指出，以外向與否為基礎對Facebook受眾投放特定美容產 品廣告，結果發現那些看到與自己性格相符的廣告的用戶，購買 商品的數量超過其他用戶。 • 但是政治活動中，這種用性格來引導的作法，實際上的影響尚未 能有效量化。 • 事實上，FB的廣告平台所提供的廣告優化服務，演算法比大五性 格模型來的細膩，在目標行銷的效果，預估是更強。-> 意思就 是: 劍橋分析雖然違反FB使用協定(拿了資料、做了模型)，拿去操 作風向，但是FB自己掌握的演算法是更精準的，這才是美國國會 為什麼要FB去上聽證會! 18
- 21. 議員問: 如果我再whatapp裡面發電郵，你會告訴 廣告商嗎? 如果我在whatapp裡面談到”黑豹”， 我會收到黑豹的廣告嗎? 議員其實是想知道，FB的廣 告到底能多精準! 這不是亂問問題!
- 22. 你以為的爛問題，實際上是反串 • 民主黨參議員杜賓（Richard Durbin）: 「你方便當眾向大家說 出，昨天你住哪間飯店嗎？ 」 • 祖克伯:「no 」 • 「如果你這周傳訊給某人，你願意告訴我們你傳給誰嗎? 」 • 祖克伯對此拒絕回答。 • 議員想表達的是，你拿著我們的cookie 去賣廣告，你覺得我們會 好受嗎? 22
- 23. Facebook 事後做了什麼? • 2014 – 知道劍橋分析拿資料操控風向，找了第三方去叫他們刪除資料 • 2015 – 修改 FB Login 權限，讓使用者更明確知道app的權限範圍 • 2017 - 宣布嚴打假新聞，還記得FB當時宣布要提高家人和朋友在動態 牆的出現權重，並降低粉絲專頁出現比例造成許多企業哀鴻遍野嗎? • 2018/4/6(上聽證會前) – 提出新的政治廣告透明政策 – 未來FB政治廣 告必須說明廣告費用由誰支付，加註「政治廣告」標籤 • 2018/F8 – 祖柏克宣布FB將提供一種「Clear History」的功能，讓使 用者更能選擇隱私的情況下，使用FB。白話文: 你會看到你不需要的 廣告，這是你要的嗎? • 事實上，FB 告訴你廣告數量是不變的，所以你寧可看到自己不喜歡的東西? 23
- 25. 25 帳號 頭像 密碼 電子郵件 生日 興趣 性別 A 服務 C網站 帳號 頭像 密碼 電子郵件 生日 興趣 性別 帳號 頭像 密碼 電子郵件 生日 興趣 性別 B系統 • 現在網站這麼多，每一個都建一套帳密? 你不怕撞庫嗎? • 資源分散其實很危險；每個網站都要上傳頭像，能不能都用FB的頭像? Oauth 2.0協定，使用者可以在不透漏帳號密碼的情況下，授權第三方網 路應用服務使用原本的服務，並使用其資源
- 26. 26 Client User 資源擁有者 可以授權別人去 存取Protected resource 代表user去存取protected resource的應用程式 Resources Server 存放Protected resource的 地方，會依據token來授 予資源 Authorization Server 驗證身分並核發token Oauth 2.0 • 使用者不需要到處設密碼 • 使用者不需要把帳密交出去 • 可以設定資源存取範圍和時效
- 27. FB Login 的改變 • 調整為更細膩的使用者授權: • FB login調整權限政策，多要的權限需要 送審，使用者可以自行選擇授權範圍( 例: 不允許Email、朋友名單、不給看Like那 些) 27
- 29. Android APP 授權的改變 • Android 6.0之後，加強對隱私的重視: Runtime permission • 權限分為兩大類型，一般權限(Normal Permission)與危險權限 (Dangerous Permission)，包含照相機、行事曆、位置、聯絡人等都 是危險權限。 • 在執行應用程式時，如果程式碼中存取了危險權限，第一次會出現請求 權限的對話框，要求使用者授權 29
- 30. 即便授權出去，使用者要有回頭檢視和刪除的能力 • 不管是 FB Clear History 、一般瀏覽器的使用者瀏覽紀錄、 Windows的開啟過的檔案 • 點過的讚、看過的粉絲頁、看過的影片、開過的檔案，都應該能讓使用 者知道，並能刪除 30
- 33. 就算刪了一個_____ ，還會有千千萬萬個___ Twitter 將這些數據的 API 使 用權賣給主要合作幾間第三方 公司，讓其可以分析平台上數 據來分析趨勢、消費者習慣、 用戶行為、產品評價 去年度，Twitter 的數據銷售收 入達到 3.33 億美元，佔了總 營收的 13%。 33
- 34. 「建立一套 AI 系統來偵測乳頭，會比偵 測仇恨言論還要簡單。」 祖克柏這項發言，主要是呼應他日前為 了劍橋分析醜聞赴國會作證時的發言。 他當時說，AI 技術還需 5 到 10 年，才 能成熟到分辨合理的政治表達和仇 恨性的毀謗言論。 平台目前最需要的是AI應用在 處理人頭帳戶和帶風向言論 34
- 35. 35 手機上的廣告用cookie Advertising Identifier , IDFA 預設開啟 侵犯隱私APP範例: 設計一款APP，讓大家下載，進而追蹤某一個 identifier, 進而關聯出可能是某一個人或群體 ，可行嗎? iOS 6.0 Andoird 因此app審核時，會去檢查 如果你說你的程式有使用IDFA，卻沒有廣告功能， 或者廣告呈現不當，就會被駁回 反過來，如果你說你的程式不使用IDFA，但實際上卻有，你的程式會被打入 invalid Binary狀態
- 36. 最後 Cambridge Analytica 5/2 宣布停止營運。 該公司表示他們的行為符合各項規範，唯媒體大肆負面報導已 導致該公司失去所有客戶，無法繼續營運。 36
- 37. 結論整理 • 資料使用? 用戶授權! 但資料分析? FB自己就是廣告平台，不是不能 分析，是不給你分析 • 平台濫用問題 • 資料可逆推 - 2007 Netflix Prize事件 • 資料不可逆推，但可濫用 – 操控風向 • 不管你怎麼解釋，我就是會怕 • 法規趨勢: 要讓使用者能掌握自己的隱私資料。(Web Cookie、IDFA..) 37