原文信息：

Acemoglu, D., Makhdoumi, A., Malekian, A., & Ozdaglar, A.E. (2025). When Big Data Enables Behavioral Manipulation. American Economic Review: Insights.

图片信息：Chat-GPT

近年来，科技公司（如谷歌和脸书）通过收集和分析海量用户数据，实现了个性化广告、产品推荐和定价优化。然而，这种基于大数据驱动的商业模式也引发了广泛的担忧，尤其是在隐私保护、价格歧视、监控以及操纵用户行为方面。虽然有观点认为更多的数据能够带来更有针对性的广告和产品推荐，从而提升用户体验和社会福利，但也有学者警告，这种商业模式可能会通过“行为修改”来提取和利用“行为剩余价值”，导致用户在无意识中被操纵。文章指出，当前对平台行为操纵的讨论存在不足之处，主要在于尚未明确区分行为修改和行为操纵之间的界限。行为修改在一定条件下可能对用户有益，如引导其选择优质产品或服务，而行为操纵则是平台利用数据优势，刻意误导用户做出对平台有利而对自身不利的选择。因此，研究平台在大数据环境下如何进行行为操纵，以及识别操纵何时会损害用户福利，具有重要意义。

文章的文献综述部分回顾了与平台行为操纵、大数据和人工智能相关的研究文献，主要涵盖以下几个方向：数字操纵和监管、信息不对称如何损害消费者福利、信息销售获利、数据隐私与外部性研究。与上述文献有所区别，本文关注平台如何操纵用户行为而不是仅通过数据销售获利等，并且进一步分析了平台如何通过行为操纵加剧数据隐私成本，特别是在光鲜度 (glossiness) 较强时对用户福利的负面冲击。

02

本部分构建了一个理论模型，刻画平台如何通过利用产品的“光鲜度”特征进行行为操纵。光鲜度指的是产品在短期内表现得比实际质量更有吸引力的特性，例如视觉效果精美或短期回报显著。模型假设平台通过大数据和人工智能手段能够识别哪些产品具有光鲜度，从而利用这一特征误导用户做出购买决策。

2.1 模型假设

2.2 信息环境

3.1 信念动态

作者详细描述了平台和用户在不同信息环境下的信念动态更新过程。信念动态是模型的核心，因为它决定了平台和用户如何根据观察到的信号（如“坏消息”）来更新他们对产品质量和光鲜度的信念。

（1）AI前环境

在AI前环境中，平台和用户共享相同的信息，因此他们的信念更新过程是一致的。平台和用户通过观察是否收到产品的“坏消息”来更新他们对产品质量和光鲜度的信念。

坏消息的到达：如果用户购买了某个产品，并且该产品是低质量的，用户可能会收到一个“坏消息”，表明该产品的质量不佳。坏消息的到达速率取决于产品的光鲜度状态：如果产品是“非光鲜的”，坏消息会以速率γ到达；如果产品是“光鲜的”，坏消息不会到达。

信念更新：如果用户没有收到坏消息，平台和用户会更新他们对产品质量的信念。具体来说，他们会考虑产品可能是高质量的，或者产品虽然是低质量的，但由于光鲜度的存在，坏消息暂时没有到达。随着时间的推移，平台和用户会根据这些信息不断调整他们对产品质量和光鲜度的信念。

因此产品质量信念和光鲜度信念的更新如下：

（2）AI后环境

在AI后环境中，平台拥有信息优势，因为它可以通过大数据和AI技术估计每个产品的初始光鲜度状态：如果产品初始是“光鲜的”（即 αi,0=1），平台知道该产品在一段时间内会保持光鲜状态，直到光鲜度消失（以速率ρ ）。如果产品初始是“非光鲜的”（即αi,0=0），平台知道该产品从一开始就是非光鲜的。

因此，平台可以更精确地预测产品的质量。如果产品初始是“光鲜的”，平台知道该产品是低质量的，但用户暂时不会收到坏消息。如果产品初始是“非光鲜的”，平台会根据用户是否收到坏消息来更新对产品质量的信念。而用户并不知道平台拥有关于初始光鲜度状态的信息优势，因此用户的信念更新过程与AI前环境相同。

3.2 初步均衡特征

在AI前环境中，平台和用户共享相同的信息，因此他们的信念是相同的。平台的均衡策略是提供一个产品，直到该产品收到坏消息，然后切换到下一个产品。具体来说，平台会按照用户对产品质量的信念从高到低的顺序提供产品。

在AI后环境中，平台拥有关于初始光鲜度状态的信息优势，因此平台的信念与用户不同。平台的均衡策略会根据初始光鲜度状态来选择产品。如果某个产品是初始光鲜的（即αi,0=1），平台可能会优先提供这个产品，因为用户在一段时间内不会收到坏消息，从而平台可以从中获利。

04 

这一部分的核心是定理1，它描述了在平台没有信息优势的情况下，平台如何选择产品以及用户如何更新其信念。
 

本部分主要探讨了平台在拥有信息优势（即通过AI和大数据技术获取用户行为数据）的情况下，用户和平台的利益如何变化。作者通过一系列定理分析了平台的信息优势在不同条件下对用户效用、平台利润以及社会福利的影响。

类似的方法与数理推导，得到以下的3个定理：

定理4：当用户从平台的信息优势中受益时，平台的信息优势不仅增加了平台的利润，还提高了用户的效用和社会福利。具体来说，当光鲜度的消失速率ρ足够大时，平台通过信息优势能够更准确地预测用户行为，从而优化产品推荐策略，增加利润；同时，平台的信息优势能够帮助用户更快地识别高质量产品，从而改善用户的消费体验。用户效用和平台利润的双重增加导致社会福利的提升。

定理5：当行为操纵损害用户利益时，平台的信息优势可能导致用户效用和社会福利的下降。具体来说，当光鲜度的消失速率ρ较小时，平台通过推荐低质量但光鲜的产品，能够在一段时间内掩盖产品的真实质量，从而增加利润，但损害了用户的利益，导致其长期效用下降。最终，用户效用的下降超过了平台利润的增加，导致整体社会福利下降。

定理6：进一步探讨了平台在拥有更多产品选择时，如何通过信息优势加剧行为操纵，从而对用户效用和社会福利产生负面影响。作者指出，随着产品数量的增加，平台能够找到更多低质量但光鲜的产品，从而通过行为操纵增加利润。用户被引导消费更多低质量产品，导致其效用进一步下降（因为更多产品选择为平台提供了更多低质量但光鲜的产品，这些产品能够在一段时间内掩盖其真实质量，从而成为平台进行行为操纵的工具）。用户效用的下降超过了平台利润的增加，导致整体社会福利下降。

07

声明：推文仅代表文章原作者观点，以及推文作者的评论观点，并不代表香樟经济学术圈公众号平台的观点。