lego logo
當監控天眼遇上人工智能(信報「專業議政」專欄)
2017-09-28

近日哄動的大學校園大字報事件之中,其中一個受爭議之處是教育大學管理層把從閉路電視錄像辨認出貼大字報的人,然後圖像一傳十十傳百,被私隱專員認為不當處理個人私隱。

 

環顧四周,香港不論街頭、交通工具、辦公室、商場、學校中,大大小小的監控鏡頭經已無處不在。有否想像過,若這些鏡頭都被賦予面容辨析技術,用科技辨認人臉,然後能夠配合人工智能找出你的身份、知道你平常行踪,從不同途徑推測你的背景、動機甚至政見?當我們的面孔被無處不在地監控、辨認和收集,如何能夠保障私隱、自由和人權?

本週適逢大型私隱國際會議『第39屆國際資料保障及私隱專員研討會』在香港舉辦,應思考如何在發展智慧城市的同時,科技應該如何與法例、道德和人權平衡,不會變成政權進行高度監控的工具。

這些科技離香港人並不遙遠。政府計劃在九龍東發展「智慧城市」,針對區內交通擠塞問題,今年底將引入「路旁上落貨區監測系統」,在巧明街及海濱道特定路段,加裝閉路電視以影像分析技術監察車輛是否上落貨或是違例泊車,監察系統會設有鏡頭拍攝車牌並通知警方,當局亦有計劃長遠將影片用作執法證據。九龍東以曾經測試「智慧人流管理系統」,監測人流、車流及現場異常情况,日後會要求啟德體育園承辦商提供類似技術,用作疏導人流。

臉孔辨析+人工智能 = 無處可躲?

隨著iPhone X推出,面容識別技術勢必如指紋識別一樣更為普及,但要對自己的面孔保持私隱,卻比指紋難度更高,因為臉孔改變的機會極微。諸如內地有店鋪開始使用的『刷臉付款』和澳門提款機的『刷臉提款』技術,能夠為用家提供便捷,但當城市佈滿監控鏡頭,一舉一動都被監控、分析,如何避免臉部辨析工具、大數據和人工智能作監控政治敏感人物和示威集會,對於『科技維穩』我們必須提高警惕。

在臉部辨析科技的背後,是演算法把無數從其他渠道收集的資料和數據連接,同時用上大量的假設去憑著程式設計者預先定出的方式,自動進行分析和判斷。電影《關鍵報告》當年描述警察可預測未來的犯罪,然後提前到現場阻止的劇情,正逐漸成為現實。

中國政府在監控方面的科技十分『先進』,《1984》的『老大哥』早已出現。中共十九大舉辦在即,有報導指中國企業已研發出可以「預防罪案」的監控系統,根據臉孔、步姿、平日出沒的地點和行為,評估他們犯罪的可能性。這些人工智能技術聲稱能助公安從監視錄像中憑『犯罪風險』預先識別和作出逮捕,相信能用於監控維權人士。外國更有大學研究聲稱,能以近七成準確度辨認出被遮掩的臉孔。香港警方將為警員配備『隨身拍』攝影機作執勤和處理示威集會用途,拍攝所得的龐大錄像庫包含市民面貌,日後會否演變成流動監控天眼?

演算法誤判,誰要負責?

先不論臉孔辨析的準確度,經常出入五金舖等所謂『可疑地點』就等於大可能犯罪嗎?演算法終究是由人編寫,數據收集亦會有誤差甚至反映人的觀念和傾向。令人憂慮的是,日漸密集的天眼網絡用上人工智能,能夠用大數據和演算法為政府進行『智慧監控』,會否有人無辜被『點相』視作疑犯甚至被捕?

演算法沒有道德標準,它只是把由人提供的數據,利用人為設定的規則或自動學習得出關聯或判斷,不能像人一樣考慮數據以外的環境因素。香港政府大力推動智慧城市的同時,必須更小心私隱問題,在設計系統時全面評估該技術的私隱風險(privacy by design)。

即使沒有得到當事人的准許或同意,臉孔可以長期追踪個人的身份。年輕人熱衷於使用新科技和分享相片,社交網站例如面書等已收集大量被自動標籤分析的臉孔。若政府在本港引入更多監控鏡頭,收集後的資料如何處理?有否法例避免政府和執法機構濫用大數據?雖然應用科技能夠帶來便捷,公眾應要求政府對個人資料的新用途必須風險評估、道德分析、預防歧視和定型(profiling),並有嚴格而透明的制度確保掌握監控錄像資料庫的機構適當地處理敏感的個人資料。

Office Of Hon. Charles Mok, Legislative Councillor (IT)