加载中...
The Good, the Bad and the Picky: Consumer Heterogeneity and the Reversal of Product Ratings
本文研究消费者异质性对在线评分的影响。消费者在经验方面存在差异,这会影响他们的选择与评分。因此,当经验丰富用户与新手用户的意见被聚合时,平均评分中可能产生偏差。我们首先构建一个两期模型来刻画这些偏差的驱动因素与后果。我们结合IMDb和MovieLens两个知名电影评分平台的数据来检验理论。我们以用户在平台上发布评分的总数作为其经验的代理变量。首先,利用外部质量度量(如奥斯卡奖及提名),我们表明,在两个平台上,经验丰富的用户平均而言比新手用户评分更高的质量电影。此外,对于超过98%的电影,他们发布的评分比新手更严格。两者结合意味着聚合评分被压缩,从而对高质量电影产生不利偏差。随后,我们提出一个简单的固定点算法对评分进行去偏。去偏后的评分显示,在我们的样本中,超过8%的电影两两比较存在排名反转。因此,去偏后的评分与外部质量度量的相关性更好。
Abstract
We study the impact of consumer heterogeneity on online ratings. Consumers differ in their experience, which can affect both their choices and ratings. Thus, biases in average ratings can arise when the opinions of experienced and novice users are aggregated. We first build a two-period model to characterize the biases' drivers and consequences. We test our theory combining data from IMDb and MovieLens, two well-known movie ratings platforms. We proxy users' experience with the total number of ratings posted on the platforms. First, using external measures of quality, such as the Academy awards and nominations, we show that, on both platforms, experienced users, on average, rate movies of higher quality compared with novices. Moreover, they post more stringent ratings than novices for more than 98% of movies. Combined, these imply a compression in aggregate ratings, and thus a bias against high quality movies. We then propose a simple, fixed-point algorithm to debias ratings. Our debiased ratings demonstrate the presence of ranking reversals for more than 8% of comparisons in our sample. As a result, our debiased ratings better correlate with external measures of quality.
经验用户更倾向于评分高质量电影
以奥斯卡提名和获奖代理电影质量,在控制电影特征、受欢迎程度和观众构成后,IMDb Top1000用户相对非Top1000用户评分比例随每增加一项奥斯卡提名提高约5%,随每增加一项奥斯卡获奖提高超过6%,表明经验丰富用户更能选择高质量产品。
经验用户评分显著更严格
使用电影固定效应回归比较同一电影下不同用户群体的平均评分,IMDb Top1000用户的评分平均比非Top1000用户低约0.57星(10星制),该差异在控制电影固定效应后依然稳健,且经济意义显著,约为平均评分的10%。
评分严格性差异覆盖98%电影
在9,426部电影样本中,Top1000用户对约98%的电影给出比非Top1000用户更低的评分,尽管两组评分的相关性高达0.89,说明经验用户系统性更严格,而非仅对特定类型电影有不同偏好。
去偏算法显示8.4%比较存在排名反转
对MovieLens 25M个体评分数据应用固定点去偏算法后,在87,143,550个电影两两比较中,约8.4%的组合出现排名反转,即在原始评分中排名较高的电影在去偏后排名较低,表明聚合偏差导致显著的错误排序。
严格性随评分数量增加而提高
利用MovieLens用户评分历史,将用户按评分总数分组,发现各组内随着评分数量积累,用户评分严格性(相对于电影平均评分的差异)持续上升,说明经验积累导致评分标准变严,而非初始选择差异。
核心解释变量
消费者类型(经验丰富用户 vs 新手用户);核心参数:选择概率 p_E, p_N,评分函数参数 α, β,信号精度 τ_E, τ_N
被解释变量
聚合产品评分 R_H, R_L;评分差异 Δ(R);排名反转指标;去偏后评分 r_i^debias
样本与数据
IMDb平台9,426部电影(至少30条MovieLens评分且1994年后生产);MovieLens 25M数据集含25,000,000条评分、32,202名用户(1995年1月至2019年11月)
识别方法 / 模型设定
构建两期模型刻画选择与评分异质性如何导致评分压缩和排名反转;通过外生质量度量(奥斯卡提名/获奖、Metacritic评论)检验经验用户选择高质量电影;使用电影固定效应回归比较同一电影下不同用户类型评分差异;提出并应用固定点迭代算法对评分去偏。
内生性及稳健性检验
排除j型/u型评分分布电影后结果不变;使用原始评分数量比值代替对数比值稳健;在MovieLens上使用Top1%用户和年龄>45岁代理经验,结果一致;采用不同质量代理(导演/主演历史提名、非奥斯卡奖项)验证;去偏算法结果与理论模型和回归结果相互印证。
更多相关数据正在补充