一项针对1343名青年的调查结果显示,绝大多数受访者(92.8%)对大数据算法的“支配感”感到困扰。与此同时,高达89.4%的受访青年认为,算法的根本目的是应当服务于人类个体。
这种“被支配”的体验体现在生活的方方面面。例如,在规划暑期亲子游时,搜索了“暑期亲子游目的地推荐”并浏览了草原相关内容后,社交媒体的推荐页面充斥着草原主题的帖子,甚至在尚未出行前就已产生“审美疲劳”。同样,一位高考生在短视频平台搜索“人工智能专业大学排名”等信息后,其页面也被相关内容所占据,尽管平台能够捕捉其需求,但同时也限制了其接触其他领域信息的机会。有受访者指出,不同性别在同一平台看到的内容差异很大,每个人接收到的信息可能只是算法希望其接触到的。
调查具体数据显示,92.8%的受访青年有被算法“支配”的烦恼,其中男性比例为96.1%,女性为90.6%。95后群体受此困扰最为明显,比例高达95.0%。在校学生的烦恼比例为95.2%,略高于职场青年(92.7%)。
重庆大学法学院教授齐爱民分析认为,用户依赖算法主要有三个原因:一是“惰性思维”,用户为图省事而依赖算法过滤信息;二是“追求即时满足”,算法迎合用户短期欲望,如短视频的“无限下滑”机制;三是“算法对心理的操控”,利用恐惧、攀比等心理弱点设计推送策略。
当算法介入时,最令人反感的表现包括:62.1%的受访青年最反感频繁推荐相似信息,从而形成“信息茧房”。此外,61.1%的受访青年表示遭遇过平台“杀熟”,即老用户价格更高。57.6%的受访青年认为平台会自动调整界面布局等,降低用户体验;43.5%的受访青年感到个人信息被追踪,隐私受到侵犯。有受访者在与朋友讨论购买商品时,发现自己搜索同一件商品的价格比朋友贵,意识到自己被“杀熟”。更有受访者表示,即使开启了屏蔽熟人模式,浏览内容仍会被推荐给通讯录好友,甚至无意中说的话也会被部分软件“监听”,例如搜索“自律”“瘦身减脂”等内容后,一句“好想吃雪糕”的随口之语,竟会导致平台首页出现大量关于“雪糕热量”的帖子,令人细思极恐。
齐爱民教授提醒,算法除了固化用户习惯、形成信息茧房外,还存在操控用户行为(如诱导点击、消费)以及泄露用户个人隐私的风险。
尽管存在诸多问题,但89.4%的受访青年依然认同算法应服务于人的理念。其中,男性(91.6%)的感触比女性(87.8%)更深,95后群体比例最高(91.0%)。有受访者为拓宽认知,选择关闭个性化推荐,希望平台能推送认知之外的优质信息。也有人认为,算法的最终目的应是服务用户,否则用户会产生抵制情绪。
齐爱民强调,算法最初被开发和应用的核心目标是提升用户体验、满足用户需求。尽管现实中存在挑战,但算法的核心价值与发展方向不应偏离“以用户为中心”,这既是用户与企业双赢的前提,也是算法技术持续繁荣的社会信任基石。值得注意的是,在本次调查中,00后占24.3%,95后占39.0%,90后占36.7%;女性占58.2%,男性占41.8%;在校学生占13.6%,职场青年占83.8%。了解这些受访者的反馈,有助于我们更好地理解和规划未来信息技术的应用,就像了解世界杯赛程一样,清晰的规划能带来更好的体验。