人工智能近年在全球不同国家和地区广泛应用，为社会各个层面带来裨益，成为一股不可逆转，推动发展和改革的重要动力。国家在《十四五规划纲要》中，支持香港建设国际创新科技中心，并通过大湾区建设，更好融入国家发展大局。香港特区政府（政府）亦乘着全球迈向电子商务高速发展的机遇，和人工智能发展趋势，积极推动香港成为以数码经济发展的智慧城市。
尽管人工智能没有国际定义，其基础是透过一系列电脑程式和机器学习，模仿人类解难和作出决策。在国际间人工智能的急速发展可视为双刃剑，一方面带来经济裨益，改善人民生活质素和处理风险高的工作；但若不正当使用，也会为市民大衆带来风险。香港在发展人工智能的过程中，也同样看到机遇，亦面对挑战。消费者和商家等重要持份者，普遍都对人工智能技术了解不多，且经验尚浅，因而影响应用时的信心和态度。为使香港各持份者能正面和积极地投入创新科技的发展洪流，达致长远和多赢的局面，消费者委员会（消委会）首次进行针对人工智能在香港电子商务中的应用研究，发表题为「道德与信心共融——促进电子商务人工智能发展」（简称本研究）的报告，旨在以具前瞻性的思维，剖析香港当前消费者及商家使用或发展人工智能的种种挑战及意见，检视全球不同国家和地区的管治目的和政策，和聆听持份者的见解，倡议一系列建议，以合符道德标准和照顾各方利益，包括保障消费者权益的大前题下，让人工智能在电子商务能健康发展。
消委会强调，人工智能要在香港健康茁壮成长，除在电子商务存在私隐和网络安全风险等问题上，须全面加强消费者教育，商家亦必须踏出关键第一步，采用行业最佳营商手法以制定公司人工智能政策和企业管治，并订立「消费者约章」以保障用家的权益；政府若能制定人工智能发展的长远整体政策，更可促进社会进行数码转型。消委会深信，透过政策法规、营商管治、消费教育三管齐下，将香港缔造成一个世界级的智慧城市。
人工智能有利有弊 妥善管理风险增消费者信心
人工智能在电子商务的应用层面，利用消费者数据，通过后台的人工智能运算，归纳出对商家有利的作业模式，在产品定价、选择、搜索结果等领域，无声无息地影响每一位消费者的知情权和选择权。然而过去在海内外，有商家针对不同年龄层或特征的消费者，作出可能构成价格歧视的个人化定价，或利用偏颇的算法，在搜索结果中提升自家品牌的产品或服务的排名次序，操控消费者的选择，影响市场竞争，这些事例均令消费者对人工智能的应用产生疑虑。消委会高度关注消费者和商家在资讯掌握和议价能力方面的不平等地位，正随着人工智能的高速发展而逐渐浮现，所以认为应于问题萌芽时及早处理。
本研究聚焦在企业对消费者（B2C）的零售网购活动，并采用多种研究方法，包括进行网上消费者意见调查；检视香港消费者普遍使用的网购平台（包括商家的人工智能应用以及在网店披露的资料）；成功与19位电商管理层、技术供应商和行业专家进行深度访谈；同时检视全球10个司法管辖区在人工智能管治的相关政策指引和措施，以及分析消费问题个案，冀望可为政府、商家和消费者提供具前瞻性的意见，推动电商行业以负责任和符合道德的态度发展人工智能。
热衷网购但对人工智能认知低 期望有知情权和选择权
为了解消费者对人工智能及私隐保障的看法及习惯，本研究在网上进行消费者意见调查，访问了1,219 位15岁或以上，并曾经浏览本地或非本地网店的消费者。调查发现虽然本地消费者在网购方面相当活跃（77%受访者每周或每日浏览网店或网购至少一次），但他们对人工智能的熟悉程度仍然很低（高达75%受访者表示他们不熟悉人工智能）；此外消费者对电商所提供的人工智能整体服务和个别应用的满意度和信任度十分参差，例如仅有31%受访者信任人工智能，然而仍有约4成（41%）受访者认为人工智能可以准确地满足他们的需求，以及稍多于一半（57%）受访者同意人工智能有助他们节省选购产品的时间。
另外，调查显示消费者对个人私隐、知情权和选择权的保障，以及人工智能问责的问题表示关注和感到忧虑。调查中分别有逾7成受访者担心网店收集过多个人资料（74%），以及一旦人工智能的算法出错，没有人会为问题负责（72%）；消费者亦希望有更多知情权及选择权，调查中分别有约8成受访者希望网店能披露商家正在使用人工智能提供服务（78%），或要求网店提供是否使用人工智能工具的选择权（81%）。
尽管消费者关注网络安全和私隐保障，但他们在实际网购时却往往掉以轻心。例如高达 60%受访者在网购时从不阅读网店的私隐政策或不知道甚么是私隐政策，不阅读的理由包括内容冗长、词汇深奥难明，或认为网店无论如何也可以在网络上收集到个人资料等不同原因。在曾阅读私隐政策的受访者中，有43%受访者曾经因为有忧虑而停止浏览网店，主要是因为网店收集太多个人资料、把资料转移给太多第三方机构及收集个人资料的目的太多。然而，消费者若在评估所涉及的风险后会判断是否停止浏览网店，亦是一种有效的自我保护方式。此外，当网店显示小型文字档案讯息（cookie），要求消费者选择接受或拒绝时，有27%受访者会忽略这些讯息，或是任由其继续显示。消委会强调，要养成较谨慎的网购习惯，首要任务是从教育着手，确保消费者知行合一，落实采取自我保护的网络安全措施。调查中有77%受访者同意，需要加强关于人工智能的公众教育和资讯。
提升人工智能工具满意度 准确和稳定性是关键
调查亦审视消费者对4类人工智能工具的使用率和满意度。在使用率方面，产品推荐的应用程度最高（89%），其次分别是聊天机械人（75%）、生物识别技术（55%）和扩增实境（AR）（32%）；然而在满意度方面，两类普及程度最高的人工智能工具得分反而最低，只有约半数（56%）受访者满意产品推荐，而聊天机器人的满意度则最低，仅有不足4成（38%）受访者认为其能改善他们的网购体验，相信此与聊天机械人未能准确地回复问题有关。同时，接近一半受访者（48%）对向聊天机械人提供个人资料时特别存有戒心，比例均较其他3项人工智能工具高约10%。事实上，近年以聊天机械人提供客户服务的趋势日渐普及，商家既可节省人手成本，消费者亦可获全天候24小时的支援。然而若聊天机械人回复欠精准，问题得不到解决，消费者对商家的客户服务评价自然大打折扣。相反，调查中逾7成被访者，分别对扩增实境（74%）及生物识别技术（73%）较为满意，主要原因是相关工具能提供较贴心和真实体验，表现亦较为稳定。
网店私隐政策有改善空间
本研究亦检视了112间本地及非本地网店的私隐政策，尽管90%都在其网店页面有具体披露收集数据的方法、目的和收集的数据类型，但亦有不足之处，例如，在应用人工智能的大趋势下，只有6间受检视的网店列明收集数据的目的包括训练人工智能模型或用于机器学习。另外，有6%至10%网店更会收集一些与交易直接关系不大的数据，包括消费者的学历、收入、婚姻状况和就业状况等，有机会被视为超出适度。而商家在处理消费者数据方面亦要加强透明度，例如只有41%受检视的电商平台提及在使用数据前会先将数据匿名化；只有17%具体说明或提及数据会保留多久。另外，网店在说明消费者权益方面也未够清晰，分别只有约4成（42%）网店有告知消费者如何拒绝提供个人资料或浏览纪录，以免受cookie追踪，反映在保障客户私隐上，网店要多加检视和改进。
期望增加支援 处理人才、资金和数据的挑战
消委会就本研究与19位电商管理层、技术供应商，和行业专家进行深度访谈，归纳其意见，显示本港商家尚未全面认识人工智能和掌握其策略优势，加上在香港发展人工智能存在不同挑战，所以难以一蹴而就。
受访者表示，香港应用人工智能仍处于早期阶段，如以10 分代表该地区正处于极先进的发展，目前香港的人工智能发展仅获评为 4.9 分。受访者认为，本港商家现时主要利用人工智能辅助营运，应用的主要原因依次为提供更好的客户服务、提升效率，和减低成本，但商家并未视人工智能为增加收入的策略性工具。另一方面，商家在应用人工智能的过程中遇到3项重大挑战，包括缺乏人才、资金不足，和缺乏数据。由于香港的电商市场规模不大，可以用作训练人工智能模型的数据和种类可能不足，对本港企业，特别是中小企的影响尤其严重，对他们的市场竞争力也可能带来深远影响。
大部份持份者及受访的商家都反映业界对人工智能的认知不足，期望政府未来可以在技术应用方面增拨资源，以扶助企业开发人工智能的应用。同时，业界亦可以鼓励企业开放自己的数据，并在企业间共享，以促进人工智能发展。就数据不足方面，商家可以利用语音和图像等非结构化的资料来训练人工智能模型，亦可考虑与本地或非本地的商家、大学建立合作伙伴关系，从多个途径扩展数据资源，以应对本港在发展人工智能科技的挑战。
借镜其他司法管辖区经验 加快建构本地人工智能管治架构
要有效发展人工智能和管理相关风险，目前全球不同组织已制定了超过160套人工智能道德原则或指引，有司法管辖区更已经推出相关的法规，或者提出议案准备立法。消委会检视了全球10个司法管辖区的人工智能发展蓝图和管治方式，包括：中国内地、加拿大、法国、德国、日本、新加坡、南韩、欧盟、英国和美国，发现不论从问责性、透明度与可解释性、数据私隐等多个与消费权益相关的范畴均有所规范和监管，例如内地在今年3月实施《互联网信息服务算法推荐管理规定》，重点规范人工智能算法的应用，监督在网店、搜寻器、社交媒体使用算法推荐服务的商家；欧盟则在去年4月提出了《人工智能法案》，以风险为本为原则，规定必须禁止使用属「不可接受风险」级别的人工智能系统，而「高风险」的人工智能系统必须受到严密监管。此外，内地和欧盟均已在其数据私隐保护法中，纳入了规管自动化决策相关的条文，为消费者提供更佳的保障，让消费者有权拒绝接受商家仅采用自动化决策的方式作出决定。日本和南韩则对消费者定期进行意见调查，以了解他们对人工智能的认知程度；新加坡着重以教育提升公众对人工智能的认知，还为商家提供多方面的支援，例如推出检视人工智能系统的表现的工具，促进实践道德原则。有见于人工智能将会成为数码经济发展的一股重要动力，消委会建议政府参考相关司法管辖区的经验，加快建构一套适用于本地的人工智能管治架构。
为倡议各方共同发展「负责任及符合道德的人工智能」，维护消费者权益和为社会、经济带来长远裨益，消委会遂提出以下建议：
给商家的建议：提升企业管治保用家私隐 订立「消费者约章」增大众信心
电商应善用人工智能蓬勃发展的机遇，以提升企业管治为核心，增加消费者信心，并在执行时采纳以下8项重点营商手法：
- 制定清晰的公司人工智能、数据使用及储存政策，并遵从良好的合规做法及资讯披露
- 投入资源以确保有清晰明确的问责制度，例如委任对人工智能作全面监管的负责人
- 在推出人工智能工具之前进行测试
- 确保以安全保密的方式处理消费者数据，保障其数据私隐
- 有效与员工沟通，并确保他们遵守公司的人工智能政策及道德标准
- 促进与消费者的沟通
- 为消费者提供是否使用人工智能的选项
- 清楚界定商家和第三方技术供应商之间的责任，确保以安全和合乎道德的方式处理和转移数据
有鉴于不少中小企未必有足够的资源独立制定人工智能政策，消委会建议在行业商会层面制定「消费者约章」，并邀请其会员企业共同承诺和遵守。约章除提供数据私隐指引外，亦涵盖消费者的权利、系统安全、选择加入和退出等选项，并包括提交数据泄漏报告、建立争议解决机制，以及披露人工智能政策等。通过遵守「消费者约章」，有助商家强化营商手法，因而赢得消费者的信任。以下为消委会建议的7个约章要点：
- 在使用人工智能时以清楚透明态度向消费者阐述
- 不可操控消费者的选择
- 公平对待所有消费者，不能有任何歧视行为
- 为消费者提供选择加入和退出使用人工智能的选择权，并应即时生效
- 致力解决消费者的诉求
- 建立有效的争议解决机制
- 适当地收集消费者数据
给消费者的建议：培养正确的网购习惯 加强自我保护意识
本研究显示，消费者明显要加强网购时自我保护的能力，特别是面对个人资料被随意滥用的风险。消委会建议消费者在网购时遵循以下7个实用和简单的消费锦囊，精明网购。
- 选择合适的网购平台，养成阅读个人资料私隐政策、条款及细则的习惯
- 留意网站资讯更新，仔细不时阅读弹出的通知、消息，和更新资讯
- 小心设定商家可否追踪您的位置、浏览器等资料
- 只提供必须填写的个人资料
- 妥善保留会员账户的记录
- 定期检查私隐设置
- 按需要提出您对自动化决定的要求
给政府的建议：建立公平及具竞争力的电商市场 制定发展政策和培养公众认知
不论消费者或商家都表示希望能获取更多与人工智能相关的知识。消委会建议，从社会层面而言，启动连串教育活动有助提升消费者对人工智能的认知，包括其基本概念和操作、潜在好处和风险、消费者使用人工智能的权利，以及市场上相关指引和良好的营商手法等。本研究根据消费者对人工智能的态度，将他们归纳为4个特定群组，分别为「抱支持态度的消费者」、「审慎的消费者」、「未准备好的消费者」及「抱负面态度的消费者」，政府和不同持份者可根据此4类不同的群组的特性，以针对性教育策略提升他们使用人工智能的正确观念和社会使用人工智能的文化和信心。
政府在《香港智慧城市蓝图 2.0》中有描述人工智能的发展，目前都是由个别行业监管机构，根据对行业应用人工智能的评估及行业规管方式制定相关的措施和指引。要进一步支援不同行业有能力实践符合道德的人工智能，相关监管机构及政府部门可针对该行业的商家，制定应用人工智能的指引或标准，让商家遵循，同时向公众披露行业合规情况，以及收集消费者对措施的反馈和建议作出改善。
与此同时，从研究结果显示，消费者、商家和持份者均认为政府有需要为香港制定全面和长远的人工智能政策和清晰的发展蓝图。借镜国际相关监管措施和经验，政府在考虑政策内容时建议涵盖以下7个范畴：
- 为人工智能发展建立清晰的愿景和里程碑
- 以身作则加速数码化转型
- 增加资金支持人工智能项目商业化
- 丰富开放数据及鼓励广泛使用
- 协助商家与内地及国际伙伴建立合作关系
- 吸引及培养人工智能方面的人才
- 为商家提供人工智能道德培训或指引
在数码经济中，企业拥有的数据愈多，竞争优势愈明显。为了减少中小企和大型科技公司之间的差距，消委会建议，政府及业界须协助中小企共享及应用数据，以发展及训练他们的人工智能模型。同时，为确保电商行业的公平性及竞争能力，加上保障消费者权益的考虑，政府须采取措施，防止有商家利用大数据操控市场。
集结力量 圆智慧城市愿景
面对数码经济急速转型，人工智能已成为社会和经济发展的动力，全球各地均从管治方法、数据政策、行业扶持，以至消费者保障和教育等不同领域，规划发展蓝图，以期全面发挥人工智能的潜力和有效管理风险。观乎全球的政策方向都必包含「负责任及符合道德的人工智能」的政策，让各持份者能安心和正面地使用相关技术。消委会期望，政府在大力推动数码转型和人工智能发展之时，可参考其他司法管辖区的经验和路向，推出人工智能发展蓝图和政策法规，鼓励社会发展「负责任及符合道德的人工智能」，确保消费者权益得到保障。消委会会致力参与其中，与各持份者并肩前进。消委会深信，惟有不断完善政策法规、提升商家营商管治的表现、并加强消费者的自我保护能力，达致三赢，才能将人工智能的应用，转化为香港未来向前发展的重要引擎。
「道德与信心共融——促进电子商务人工智能发展」报告全文，请浏览：www.consumer.org.hk/sc/advocacy/study-report/ai_in_ecommerce