人工智能近年在全球不同國家和地區廣泛應用，為社會各個層面帶來裨益，成為一股不可逆轉，推動發展和改革的重要動力。國家在《十四五規劃綱要》中，支持香港建設國際創新科技中心，並通過大灣區建設，更好融入國家發展大局。香港特區政府（政府）亦乘著全球邁向電子商務高速發展的機遇，和人工智能發展趨勢，積極推動香港成為以數碼經濟發展的智慧城市。
儘管人工智能沒有國際定義，其基礎是透過一系列電腦程式和機器學習，模仿人類解難和作出決策。在國際間人工智能的急速發展可視為雙刃劍，一方面帶來經濟裨益，改善人民生活質素和處理風險高的工作；但若不正當使用，也會為市民大衆帶來風險。香港在發展人工智能的過程中，也同樣看到機遇，亦面對挑戰。消費者和商家等重要持份者，普遍都對人工智能技術了解不多，且經驗尚淺，因而影響應用時的信心和態度。為使香港各持份者能正面和積極地投入創新科技的發展洪流，達致長遠和多贏的局面，消費者委員會（消委會）首次進行針對人工智能在香港電子商務中的應用研究，發表題為「道德與信心共融——促進電子商務人工智能發展」（簡稱本研究）的報告，旨在以具前瞻性的思維，剖析香港當前消費者及商家使用或發展人工智能的種種挑戰及意見，檢視全球不同國家和地區的管治目的和政策，和聆聽持份者的見解，倡議一系列建議，以合符道德標準和照顧各方利益，包括保障消費者權益的大前題下，讓人工智能在電子商務能健康發展。
消委會強調，人工智能要在香港健康茁壯成長，除在電子商務存在私隱和網絡安全風險等問題上，須全面加强消費者教育，商家亦必須踏出關鍵第一步，採用行業最佳營商手法以制定公司人工智能政策和企業管治，並訂立「消費者約章」以保障用家的權益；政府若能制定人工智能發展的長遠整體政策，更可促進社會進行數碼轉型。消委會深信，透過政策法規、營商管治、消費教育三管齊下，將香港締造成一個世界級的智慧城市。
人工智能有利有弊 妥善管理風險增消費者信心
人工智能在電子商務的應用層面，利用消費者數據，通過後台的人工智能運算，歸納出對商家有利的作業模式，在產品定價、選擇、搜索結果等領域，無聲無息地影響每一位消費者的知情權和選擇權。然而過去在海內外，有商家針對不同年齡層或特徵的消費者，作出可能構成價格歧視的個人化定價，或利用偏頗的算法，在搜索結果中提升自家品牌的產品或服務的排名次序，操控消費者的選擇，影響市場競爭，這些事例均令消費者對人工智能的應用產生疑慮。消委會高度關注消費者和商家在資訊掌握和議價能力方面的不平等地位，正隨著人工智能的高速發展而逐漸浮現，所以認為應於問題萌芽時及早處理。
本研究聚焦在企業對消費者（B2C）的零售網購活動，並採用多種研究方法，包括進行網上消費者意見調查；檢視香港消費者普遍使用的網購平台（包括商家的人工智能應用以及在網店披露的資料）；成功與19位電商管理層、技術供應商和行業專家進行深度訪談；同時檢視全球10個司法管轄區在人工智能管治的相關政策指引和措施，以及分析消費問題個案，冀望可為政府、商家和消費者提供具前瞻性的意見，推動電商行業以負責任和符合道德的態度發展人工智能。
熱衷網購但對人工智能認知低 期望有知情權和選擇權
為了解消費者對人工智能及私隱保障的看法及習慣，本研究在網上進行消費者意見調查，訪問了1,219 位15歲或以上，並曾經瀏覽本地或非本地網店的消費者。調查發現雖然本地消費者在網購方面相當活躍（77%受訪者每週或每日瀏覽網店或網購至少一次），但他們對人工智能的熟悉程度仍然很低（高達75%受訪者表示他們不熟悉人工智能）；此外消費者對電商所提供的人工智能整體服務和個別應用的滿意度和信任度十分參差，例如僅有31%受訪者信任人工智能，然而仍有約4成（41%）受訪者認為人工智能可以準確地滿足他們的需求，以及稍多於一半（57%）受訪者同意人工智能有助他們節省選購產品的時間。
另外，調查顯示消費者對個人私隱、知情權和選擇權的保障，以及人工智能問責的問題表示關注和感到憂慮。調查中分別有逾7成受訪者擔心網店收集過多個人資料（74%），以及一旦人工智能的算法出錯，沒有人會為問題負責（72%）；消費者亦希望有更多知情權及選擇權，調查中分別有約8成受訪者希望網店能披露商家正在使用人工智能提供服務（78%），或要求網店提供是否使用人工智能工具的選擇權（81%）。
儘管消費者關注網絡安全和私隱保障，但他們在實際網購時卻往往掉以輕心。例如高達 60%受訪者在網購時從不閱讀網店的私隱政策或不知道甚麼是私隱政策，不閱讀的理由包括內容冗長、詞彙深奧難明，或認為網店無論如何也可以在網絡上收集到個人資料等不同原因。在曾閱讀私隱政策的受訪者中，有43%受訪者曾經因為有憂慮而停止瀏覽網店，主要是因為網店收集太多個人資料、把資料轉移給太多第三方機構及收集個人資料的目的太多。然而，消費者若在評估所涉及的風險後會判斷是否停止瀏覽網店，亦是一種有效的自我保護方式。此外，當網店顯示小型文字檔案訊息（cookie），要求消費者選擇接受或拒絕時，有27%受訪者會忽略這些訊息，或是任由其繼續顯示。消委會強調，要養成較謹慎的網購習慣，首要任務是從教育著手，確保消費者知行合一，落實採取自我保護的網絡安全措施。調查中有77%受訪者同意，需要加強關於人工智能的公眾教育和資訊。
提升人工智能工具滿意度 準確和穩定性是關鍵
調查亦審視消費者對4類人工智能工具的使用率和滿意度。在使用率方面，產品推薦的應用程度最高（89%），其次分別是聊天機械人（75%）、生物識別技術（55%）和擴增實境（AR）（32%）；然而在滿意度方面，兩類普及程度最高的人工智能工具得分反而最低，只有約半數（56%）受訪者滿意產品推薦，而聊天機器人的滿意度則最低，僅有不足4成（38%）受訪者認為其能改善他們的網購體驗，相信此與聊天機械人未能準確地回覆問題有關。同時，接近一半受訪者（48%）對向聊天機械人提供個人資料時特別存有戒心，比例均較其他3項人工智能工具高約10%。事實上，近年以聊天機械人提供客戶服務的趨勢日漸普及，商家既可節省人手成本，消費者亦可獲全天候24小時的支援。然而若聊天機械人回覆欠精準，問題得不到解決，消費者對商家的客戶服務評價自然大打折扣。相反，調查中逾7成被訪者，分別對擴增實境（74%）及生物識別技術（73%）較為滿意，主要原因是相關工具能提供較貼心和真實體驗，表現亦較爲穩定。
網店私隱政策有改善空間
本研究亦檢視了112間本地及非本地網店的私隱政策，儘管90%都在其網店頁面有具體披露收集數據的方法、目的和收集的數據類型，但亦有不足之處，例如，在應用人工智能的大趨勢下，只有6間受檢視的網店列明收集數據的目的包括訓練人工智能模型或用於機器學習。另外，有6%至10%網店更會收集一些與交易直接關係不大的數據，包括消費者的學歷、收入、婚姻狀況和就業狀況等，有機會被視為超出適度。而商家在處理消費者數據方面亦要加強透明度，例如只有41%受檢視的電商平台提及在使用數據前會先將數據匿名化；只有17%具體說明或提及數據會保留多久。另外，網店在說明消費者權益方面也未夠清晰，分別只有約4成（42%）網店有告知消費者如何拒絕提供個人資料或瀏覽紀錄，以免受cookie追蹤，反映在保障客戶私隱上，網店要多加檢視和改進。
期望增加支援 處理人才、資金和數據的挑戰
消委會就本研究與19位電商管理層、技術供應商，和行業專家進行深度訪談，歸納其意見，顯示本港商家尚未全面認識人工智能和掌握其策略優勢，加上在香港發展人工智能存在不同挑戰，所以難以一蹴而就。
受訪者表示，香港應用人工智能仍處於早期階段，如以10 分代表該地區正處於極先進的發展，目前香港的人工智能發展僅獲評為 4.9 分。受訪者認為，本港商家現時主要利用人工智能輔助營運，應用的主要原因依次為提供更好的客戶服務、提升效率，和減低成本，但商家並未視人工智能為增加收入的策略性工具。另一方面，商家在應用人工智能的過程中遇到3項重大挑戰，包括缺乏人才、資金不足，和缺乏數據。由於香港的電商市場規模不大，可以用作訓練人工智能模型的數據和種類可能不足，對本港企業，特別是中小企的影響尤其嚴重，對他們的市場競爭力也可能帶來深遠影響。
大部份持份者及受訪的商家都反映業界對人工智能的認知不足，期望政府未來可以在技術應用方面增撥資源，以扶助企業開發人工智能的應用。同時，業界亦可以鼓勵企業開放自己的數據，並在企業間共享，以促進人工智能發展。就數據不足方面，商家可以利用語音和圖像等非結構化的資料來訓練人工智能模型，亦可考慮與本地或非本地的商家、大學建立合作夥伴關係，從多個途徑擴展數據資源，以應對本港在發展人工智能科技的挑戰。
借鏡其他司法管轄區經驗 加快建構本地人工智能管治架構
要有效發展人工智能和管理相關風險，目前全球不同組織已制定了超過160套人工智能道德原則或指引，有司法管轄區更已經推出相關的法規，或者提出議案準備立法。消委會檢視了全球10個司法管轄區的人工智能發展藍圖和管治方式，包括：中國內地、加拿大、法國、德國、日本、新加坡、南韓、歐盟、英國和美國，發現不論從問責性、透明度與可解釋性、數據私隱等多個與消費權益相關的範疇均有所規範和監管，例如內地在今年3月實施《互聯網信息服務算法推薦管理規定》，重點規範人工智能算法的應用，監督在網店、搜尋器、社交媒體使用算法推薦服務的商家；歐盟則在去年4月提出了《人工智能法案》，以風險為本為原則，規定必須禁止使用屬「不可接受風險」級別的人工智能系統，而「高風險」的人工智能系統必須受到嚴密監管。此外，內地和歐盟均已在其數據私隱保護法中，納入了規管自動化決策相關的條文，為消費者提供更佳的保障，讓消費者有權拒絕接受商家僅採用自動化決策的方式作出決定。日本和南韓則對消費者定期進行意見調查，以了解他們對人工智能的認知程度；新加坡著重以教育提升公眾對人工智能的認知，還為商家提供多方面的支援，例如推出檢視人工智能系統的表現的工具，促進實踐道德原則。有見於人工智能將會成為數碼經濟發展的一股重要動力，消委會建議政府參考相關司法管轄區的經驗，加快建構一套適用於本地的人工智能管治架構。
為倡議各方共同發展「負責任及符合道德的人工智能」，維護消費者權益和為社會、經濟帶來長遠裨益，消委會遂提出以下建議：
給商家的建議：提升企業管治保用家私隱 訂立「消費者約章」增大眾信心
電商應善用人工智能蓬勃發展的機遇，以提升企業管治為核心，增加消費者信心，並在執行時採納以下8項重點營商手法：
- 制定清晰的公司人工智能、數據使用及儲存政策，並遵從良好的合規做法及資訊披露
- 投入資源以確保有清晰明確的問責制度，例如委任對人工智能作全面監管的負責人
- 在推出人工智能工具之前進行測試
- 確保以安全保密的方式處理消費者數據，保障其數據私隱
- 有效與員工溝通，並確保他們遵守公司的人工智能政策及道德標準
- 促進與消費者的溝通
- 為消費者提供是否使用人工智能的選項
- 清楚界定商家和第三方技術供應商之間的責任，確保以安全和合乎道德的方式處理和轉移數據
有鑑於不少中小企未必有足夠的資源獨立制定人工智能政策，消委會建議在行業商會層面制定「消費者約章」，並邀請其會員企業共同承諾和遵守。約章除提供數據私隱指引外，亦涵蓋消費者的權利、系統安全、選擇加入和退出等選項，並包括提交數據洩漏報告、建立爭議解決機制，以及披露人工智能政策等。通過遵守「消費者約章」，有助商家強化營商手法，因而贏得消費者的信任。以下為消委會建議的7個約章要點：
- 在使用人工智能時以清楚透明態度向消費者闡述
- 不可操控消費者的選擇
- 公平對待所有消費者，不能有任何歧視行為
- 為消費者提供選擇加入和退出使用人工智能的選擇權，並應即時生效
- 致力解決消費者的訴求
- 建立有效的爭議解決機制
- 適當地收集消費者數據
給消費者的建議：培養正確的網購習慣 加強自我保護意識
本研究顯示，消費者明顯要加強網購時自我保護的能力，特別是面對個人資料被隨意濫用的風險。消委會建議消費者在網購時遵循以下7個實用和簡單的消費錦囊，精明網購。
- 選擇合適的網購平台，養成閱讀個人資料私隱政策、條款及細則的習慣
- 留意網站資訊更新，仔細不時閱讀彈出的通知、消息，和更新資訊
- 小心設定商家可否追蹤您的位置、瀏覽器等資料
- 只提供必須填寫的個人資料
- 妥善保留會員賬戶的記錄
- 定期檢查私隱設置
- 按需要提出您對自動化決定的要求
給政府的建議：建立公平及具競爭力的電商市場 制定發展政策和培養公眾認知
不論消費者或商家都表示希望能獲取更多與人工智能相關的知識。消委會建議，從社會層面而言，啟動連串教育活動有助提升消費者對人工智能的認知，包括其基本概念和操作、潛在好處和風險、消費者使用人工智能的權利，以及市場上相關指引和良好的營商手法等。本研究根據消費者對人工智能的態度，將他們歸納為4個特定群組，分別為「抱支持態度的消費者」、「審慎的消費者」、「未準備好的消費者」及「抱負面態度的消費者」，政府和不同持份者可根據此4類不同的群組的特性，以針對性教育策略提升他們使用人工智能的正確觀念和社會使用人工智能的文化和信心。
政府在《香港智慧城市藍圖 2.0》中有描述人工智能的發展，目前都是由個別行業監管機構，根據對行業應用人工智能的評估及行業規管方式制定相關的措施和指引。要進一步支援不同行業有能力實踐符合道德的人工智能，相關監管機構及政府部門可針對該行業的商家，制定應用人工智能的指引或標準，讓商家遵循，同時向公眾披露行業合規情況，以及收集消費者對措施的反饋和建議作出改善。
與此同時，從研究結果顯示，消費者、商家和持份者均認爲政府有需要為香港制定全面和長遠的人工智能政策和清晰的發展藍圖。借鏡國際相關監管措施和經驗，政府在考慮政策內容時建議涵蓋以下7個範疇：
- 為人工智能發展建立清晰的願景和里程碑
- 以身作則加速數碼化轉型
- 增加資金支持人工智能項目商業化
- 豐富開放數據及鼓勵廣泛使用
- 協助商家與內地及國際夥伴建立合作關係
- 吸引及培養人工智能方面的人才
- 為商家提供人工智能道德培訓或指引
在數碼經濟中，企業擁有的數據愈多，競爭優勢愈明顯。為了減少中小企和大型科技公司之間的差距，消委會建議，政府及業界須協助中小企共享及應用數據，以發展及訓練他們的人工智能模型。同時，為確保電商行業的公平性及競爭能力，加上保障消費者權益的考慮，政府須採取措施，防止有商家利用大數據操控市場。
集結力量 圓智慧城市願景
面對數碼經濟急速轉型，人工智能已成爲社會和經濟發展的動力，全球各地均從管治方法、數據政策、行業扶持，以至消費者保障和教育等不同領域，規劃發展藍圖，以期全面發揮人工智能的潛力和有效管理風險。觀乎全球的政策方向都必包含「負責任及符合道德的人工智能」的政策，讓各持份者能安心和正面地使用相關技術。消委會期望，政府在大力推動數碼轉型和人工智能發展之時，可參考其他司法管轄區的經驗和路向，推出人工智能發展藍圖和政策法規，鼓勵社會發展「負責任及符合道德的人工智能」，確保消費者權益得到保障。消委會會致力參與其中，與各持份者並肩前進。消委會深信，惟有不斷完善政策法規、提升商家營商管治的表現、並加強消費者的自我保護能力，達致三贏，才能將人工智能的應用，轉化為香港未來向前發展的重要引擎。
「道德與信心共融——促進電子商務人工智能發展」報告全文，請瀏覽：www.consumer.org.hk/tc/advocacy/study-report/ai_in_ecommerce