1. 项目概述当推荐系统“看不见”用户与物品在推荐系统这个领域里工作了十几年我见过太多围绕“ID”展开的模型和架构。无论是协同过滤里经典的“用户-物品”交互矩阵还是深度学习时代动辄上亿参数的Embedding层其核心假设往往是我们能明确地知道“谁”用户ID在操作“什么”物品ID。然而最近几年一个越来越不容忽视的挑战摆在了我们面前当推荐系统无法获取或使用这些明确的ID特征时我们该怎么办这就是“westlake-repl/Recommendation-Systems-without-Explicit-ID-Features-A-Literature-Review”这个项目所关注的核心议题。它并非一个具体的工程实现而是一篇系统性的文献综述旨在梳理和总结那些不依赖显式用户ID或物品ID的推荐系统研究。这个方向之所以重要是因为它在现实世界中正变得越来越普遍。想象一下这些场景一个新用户首次打开App我们对他一无所知没有历史行为自然也没有用户ID的Embedding或者一个新闻聚合平台每天要处理海量新发布的文章这些文章没有积累任何交互数据是彻头彻尾的“冷启动”物品再或者出于隐私保护的考虑比如严格的隐私法规平台被限制收集和使用能够唯一标识用户的长期ID只能依赖匿名的、会话级别的数据。在这些场景下传统的、严重依赖ID特征及其历史交互来学习稠密表征的模型会瞬间失效。这篇综述的价值就在于它系统地为我们绘制了一幅“无ID推荐”的技术地图将散落在各处的研究思路——从基于内容的过滤、到基于会话的推荐、再到各种巧妙的表示学习与迁移学习技术——进行归类、对比和分析。对于任何一位面临冷启动、隐私约束或动态物品库挑战的算法工程师或研究者来说这份综述都是一份极佳的“生存指南”和灵感源泉。它迫使我们回归推荐的本质如何仅凭内容、上下文和有限的行为序列去理解用户的意图并做出精准的预测。2. 核心挑战与问题定义ID缺失意味着什么要理解“无ID推荐”的解决方案首先必须深刻认识到“有ID推荐”为我们提供了什么以及失去它我们会面临何种困境。用户ID和物品ID在传统模型中扮演着“记忆锚点”和“关系枢纽”的双重角色。2.1 ID的核心作用与价值一个训练良好的用户ID Embedding本质上是该用户所有历史行为的压缩和总结。它记住了用户的长期兴趣偏好比如用户A是“科幻电影爱好者兼咖啡控”用户B是“美妆达人兼旅行爱好者”。物品ID的Embedding则编码了该物品被所有用户交互的模式它能捕捉到物品的隐含属性与受众群体。当模型拥有这些ID时它进行推荐的过程很大程度上是在一个稠密的、语义丰富的表征空间中进行相似度计算或复杂模式匹配。协同过滤的“用户-物品”共现矩阵、深度模型如YouTube DNN、DIN等都严重依赖于这种从海量数据中学习到的ID表征。2.2 失去ID后的“推荐盲区”一旦失去明确的ID系统就仿佛失去了长期记忆。我们面临的挑战是多维且严峻的冷启动问题极端化这不再是传统意义上“新用户/新物品数据少”的问题而是“零历史交互数据”的问题。对于全新实体没有任何先验知识可供模型参考。关系建模困难用户与用户之间、物品与物品之间的隐含关系链断裂了。我们无法再通过“喜欢相同物品”来关联用户也无法通过“被相同用户喜欢”来关联物品。社会关系、知识图谱中基于ID的链接也无法建立。个性化能力受限个性化推荐的核心是区分不同用户的独特偏好。没有ID作为区分依据系统很容易退化为对所有用户展示相同的主流热门内容或者只能进行非常浅层如基于当前会话的个性化。长期兴趣建模失效用户的兴趣是动态且具有延续性的。ID表征是承载长期兴趣的载体。没有它模型很难捕捉和利用用户跨越多次访问的稳定偏好。因此“无ID推荐”问题的本质是在缺乏唯一标识符和长期行为记忆的前提下如何利用一切可用的替代信号——如内容特征、上下文信息、短期行为序列——来重建对用户意图和物品价值的理解并做出有效的推荐决策。3. 技术路线全景图四大主流范式深度解析根据综述的梳理当前“无ID推荐”的研究主要沿着几条清晰的技术路线展开。每一条路线都代表了一种应对挑战的核心哲学。3.1 基于内容过滤最直观的“内容为王”策略这是最古老也最直接的方法。其核心思想是既然不认识“人”用户ID和“物”物品ID那我就分析“物”本身是什么以及“人”当前在关注什么。物品侧深度挖掘物品的内容特征。对于电影这包括标题、简介、演员、导演、类型、标签对于商品包括标题、描述、类别、品牌、属性对于新闻包括正文、关键词、实体、主题分类。利用自然语言处理NLP和计算机视觉CV技术将这些非结构化的内容转化为结构化的特征向量如TF-IDF、Word2Vec、BERT嵌入、ResNet特征。用户侧构建用户的“内容画像”。这可以通过聚合用户历史交互过的物品的内容特征平均池化、注意力加权来实现。在完全无历史的情况下则依赖注册信息如选择的兴趣标签、或当前会话中浏览物品的内容特征来实时构建一个短期画像。匹配与推荐将用户的内容画像与候选物品的内容特征进行相似度计算如余弦相似度选出最匹配的物品进行推荐。实操心得基于内容的方法强依赖于特征工程的质量。仅仅使用标题的TF-IDF往往不够。在实践中我们常采用“多模态特征融合”。例如为一个商品推荐系统我们会同时提取标题的BERT嵌入、利用图像分类模型提取视觉特征向量、并将品类品牌等属性进行One-hot或Embedding编码最后通过一个全连接层将它们融合成一个统一的物品内容表征。用户的画像则通过对其近期点击序列中物品的这些融合表征进行注意力加权平均来获得注意力权重可以基于交互类型点击、购买、时长来设计。3.2 基于会话的推荐拥抱“匿名”与“即时”这条路线完全放弃了长期用户的概念将每次访问会话视为一个独立的推荐单元。它特别适用于新闻浏览、匿名购物等场景。其核心是建模会话内行为序列的时序模式和用户意图演化。问题定义给定一个由匿名用户在一个连续时间段内产生的一系列交互物品如点击序列[i1, i2, ..., i_t]预测下一个最可能交互的物品i_{t1}。关键技术早期方法使用马尔可夫链但主流已被深度学习模型占据。循环神经网络如GRU4Rec将会话序列中的物品ID此处物品ID可用但用户ID匿名输入GRU用最后一个隐藏状态代表会话意图用于预测下一个物品。在“无物品ID”的变体中物品ID会被其内容特征向量所替代。注意力与Transformer如SASRec、BERT4Rec利用自注意力机制更好地捕捉序列中长距离的依赖关系性能通常优于RNN。图神经网络将会话序列构建为图物品为节点先后关系为边利用GNN来学习物品的会话感知表征如SR-GNN。优势与局限基于会话的推荐天然解决了用户匿名问题并对短期兴趣变化非常敏感。但其最大局限是无法利用跨会话的信息。同一个用户两次不同的访问会被视为两个完全独立的用户其长期偏好无法积累。3.3 基于表示学习与迁移学习构建“通用”的语义理解这条路线旨在学习一种不依赖于特定ID的、通用的“语义表示”能力并能够将知识迁移到新的、未见过的用户或物品上。元学习其目标是“学会如何快速学习”。模型在训练阶段接触大量不同的推荐任务每个任务对应一个用户或一个会话学习一种通用的初始化参数或一个快速适应的策略。当遇到一个新用户冷启动时模型能够仅用该用户的少量几次交互就快速调整其内部参数做出个性化预测。这就像是训练一个“经验丰富的推荐顾问”它见过无数种用户类型知道如何通过几个问题快速了解一个新客户。对比学习通过构造正负样本对让模型学习到同一用户或相似上下文交互的物品在表示空间里应该相近不同用户交互的物品应该相远。即使没有用户ID我们也可以通过会话、时间窗口、设备信息等构建代理的正样本对。例如将同一会话内相邻的点击视为正样本对将随机采样的其他物品视为负样本。通过这种方式模型学习到的物品表征已经隐含了“哪些物品容易被连续点击”的协同信息。预训练-微调范式受NLP领域BERT成功的启发推荐领域也开始探索大规模预训练。例如在海量的匿名行为数据上使用类似掩码语言模型的任务随机掩码序列中的一些物品让模型根据上下文进行预测。通过这种方式预训练一个通用的序列模型。当下游遇到一个具体的推荐场景即使有部分新物品时只需用该场景的数据对预训练模型进行轻量级的微调即可。这相当于为推荐系统打造了一个“基础大模型”它具备了通用的用户行为模式理解能力。3.4 基于混合方法与上下文增强利用一切可用信号在实际系统中单一方法往往力有未逮。混合方法旨在融合以上多种思路并极致地利用所有可用的上下文信息来弥补ID的缺失。上下文信息作为关键补充上下文是指除用户和物品内容之外与交互行为相关的环境信息主要包括时间时刻、星期、节假日。周末和工作日的推荐策略可能完全不同。地点GPS位置、城市、商圈。地理位置强烈影响餐饮、娱乐等本地服务推荐。设备与网络手机型号、App版本、网络环境Wi-Fi/5G。社交与协同信号虽然无明确用户ID但可以通过IP段、共同访问模式等匿名方式聚类用户利用群体行为来平滑个体行为的稀疏性。混合模型架构一个典型的混合架构可能如下输入层物品内容特征多模态融合、丰富的上下文特征。序列建模层使用Transformer或GRU对当前会话行为序列进行编码得到短期兴趣向量。兴趣提取层如果有一些跨会话的匿名行为如通过Cookie关联的多次访问可以尝试用注意力机制提取长期兴趣主题。特征交互与融合层将短期兴趣、长期兴趣若有、上下文特征进行深度融合如通过FM、DeepFM、或简单的拼接后接DNN。输出层计算与候选物品的匹配分。这种架构不再寻求一个“银弹”而是构建一个能够灵活吸纳并综合利用所有微弱信号的系统。4. 核心模型与技术细节拆解让我们深入两个代表性模型的技术细节看看它们是如何在代码层面实现“无ID推荐”的。4.1 GRU4Rec的“无ID”改造实践经典的GRU4Rec模型输入是物品ID的one-hot编码。要使其适应“无物品ID”的场景我们需要用物品的内容特征向量替换掉ID。import torch import torch.nn as nn class ContentAwareGRU4Rec(nn.Module): def __init__(self, content_embed_dim, hidden_size, num_layers, dropout): super().__init__() # 不再有物品ID Embedding层 # 假设物品内容特征已经预先提取好维度为 content_embed_dim self.gru nn.GRU(input_sizecontent_embed_dim, hidden_sizehidden_size, num_layersnum_layers, batch_firstTrue, dropoutdropout if num_layers 1 else 0) # 输出层将GRU隐藏状态映射回物品内容空间进行相似度计算 self.output_layer nn.Linear(hidden_size, content_embed_dim) self.dropout nn.Dropout(dropout) def forward(self, session_content_seq): Args: session_content_seq: [batch_size, seq_len, content_embed_dim] 一个会话序列中各个物品的内容特征向量 Returns: user_embedding: [batch_size, content_embed_dim] 会话表征 # 通过GRU处理序列 output, hidden self.gru(session_content_seq) # output: [b, seq_len, hid] # 取最后一个时间步的隐藏状态作为会话表征 session_embedding hidden[-1] # [b, hid] # 可选通过一个全连接层变换到内容特征空间 session_embedding self.output_layer(self.dropout(session_embedding)) # [b, content_dim] return session_embedding # 使用示例 model ContentAwareGRU4Rec(content_embed_dim256, hidden_size512, num_layers2, dropout0.2) # 假设一个批次有32个会话每个会话最长10个物品物品内容向量维度256 batch_content_seqs torch.randn(32, 10, 256) session_reps model(batch_content_seqs) # 得到32个会话的256维表征 # 推荐时计算会话表征与所有候选物品内容特征的余弦相似度 candidate_items_content torch.randn(10000, 256) # 假设有1万个候选物品 scores torch.matmul(session_reps, candidate_items_content.T) # [32, 10000]关键改造点输入替换模型输入从[batch_size, seq_len]的ID索引变为[batch_size, seq_len, content_embed_dim]的特征张量。损失函数调整原始GRU4Rec常使用BPR或交叉熵损失计算在全体物品ID上的概率分布。改造后一种实用的方法是采用基于内容的负采样。对于每个正样本物品会话中下一个点击的物品随机采样一批负样本物品非点击的计算会话表征与正负样本内容向量的点积分数然后使用BPR损失让正样本分数高于负样本。在线服务在线推理时需要实时计算或查找当前会话中物品的内容特征通过模型得到会话表征然后与所有候选物品的特征库进行近邻搜索如使用Faiss而不是查询ID Embedding表。4.2 利用Transformer与对比学习的冷启动推荐我们设计一个更复杂的模型它结合了Transformer编码会话序列并利用对比学习增强物品表征的区分度。import torch import torch.nn as nn import torch.nn.functional as F class TransformerContrastiveRec(nn.Module): def __init__(self, content_dim, d_model, nhead, num_layers, dropout): super().__init__() # 将内容特征投影到Transformer的模型维度 self.content_proj nn.Linear(content_dim, d_model) # Transformer编码器 encoder_layer nn.TransformerEncoderLayer(d_modeld_model, nheadnhead, dropoutdropout, batch_firstTrue) self.transformer_encoder nn.TransformerEncoder(encoder_layer, num_layersnum_layers) # 序列池化层使用[CLS]位或均值池化 self.pooling nn.Linear(d_model, d_model) # 简单的可学习池化 # 用于推荐任务的全连接层 self.rec_head nn.Linear(d_model, content_dim) # 用于对比学习的投影头将表征映射到对比学习空间 self.contrastive_proj nn.Sequential( nn.Linear(d_model, d_model), nn.ReLU(), nn.Linear(d_model, 128) # 对比学习通常使用较小的输出维度 ) def forward(self, seq_content, padding_maskNone): Args: seq_content: [batch_size, seq_len, content_dim] padding_mask: [batch_size, seq_len] Returns: session_rep: [batch_size, d_model] 用于推荐的会话表征 contrastive_rep: [batch_size, 128] 用于对比学习的会话表征 # 1. 特征投影 x self.content_proj(seq_content) # [b, seq_len, d_model] # 2. Transformer编码 # 添加位置编码此处省略了位置编码的实现可使用正弦编码或可学习编码 encoded self.transformer_encoder(x, src_key_padding_maskpadding_mask) # [b, seq_len, d_model] # 3. 池化得到会话整体表征 # 方法1取第一个token ([CLS]) 的位置 # session_rep encoded[:, 0, :] # 方法2均值池化忽略padding if padding_mask is not None: encoded encoded.masked_fill(padding_mask.unsqueeze(-1), 0) sum_encoded encoded.sum(dim1) seq_lengths (~padding_mask).sum(dim1, keepdimTrue).float() session_rep sum_encoded / seq_lengths.clamp(min1.0) else: session_rep encoded.mean(dim1) session_rep self.pooling(session_rep) # [b, d_model] # 4. 生成两个不同的输出 rec_ready_rep self.rec_head(session_rep) # 用于与物品内容匹配 contrastive_rep self.contrastive_proj(session_rep) # 用于对比学习 return rec_ready_rep, F.normalize(contrastive_rep, p2, dim-1) # 对比学习表征需L2归一化 # 训练流程示例多任务学习 model TransformerContrastiveRec(content_dim300, d_model512, nhead8, num_layers3, dropout0.1) optimizer torch.optim.Adam(model.parameters(), lr1e-4) for batch in dataloader: seq_content, pos_item_content, neg_items_content batch # neg_items_content: [b, neg_num, content_dim] # 获取会话表征 rec_rep, contrast_rep model(seq_content) # 任务1: 推荐任务损失 (BPR Loss) pos_scores torch.sum(rec_rep * pos_item_content, dim-1) # [b] neg_scores torch.sum(rec_rep.unsqueeze(1) * neg_items_content, dim-1) # [b, neg_num] bpr_loss -torch.log(torch.sigmoid(pos_scores.unsqueeze(1) - neg_scores)).mean() # 任务2: 对比学习损失 (InfoNCE Loss) # 假设通过数据增强如序列裁剪、掩码得到了同一个会话的两个视图 contrast_rep_a, contrast_rep_b contrast_rep_a, contrast_rep_b ... # 均来自模型forward # 计算InfoNCE损失 logits torch.matmul(contrast_rep_a, contrast_rep_b.T) / 0.07 # 温度系数tau0.07 labels torch.arange(logits.size(0)).to(logits.device) contrastive_loss F.cross_entropy(logits, labels) # 多任务损失 total_loss bpr_loss 0.5 * contrastive_loss optimizer.zero_grad() total_loss.backward() optimizer.step()模型设计要点双输出头一个头rec_head输出用于与物品内容特征进行匹配的会话表征直接服务于推荐任务另一个头contrastive_proj输出经过投影和归一化的表征专门用于对比学习任务目的是让模型学会区分不同会话的语义。多任务学习将推荐主任务BPR损失与对比学习辅助任务InfoNCE损失联合训练。对比学习任务作为一种强大的正则化手段能够迫使模型学习到更鲁棒、更具区分度的会话表示尤其有利于处理稀疏和冷启动场景。在线服务推理时我们只使用rec_ready_rep。计算该表征与候选物品池内容特征的相似度如点积或余弦相似度进行排序推荐。5. 工程落地从模型到线上系统的关键考量将“无ID推荐”模型部署到生产环境会面临一系列不同于传统ID-based模型的工程挑战。5.1 特征工程与实时计算管道无ID模型的生命线是高质量、实时的特征。物品内容特征离线计算建立稳定的离线流水线使用最新的NLP/CV模型处理物品的文本、图像、视频信息生成特征向量并存入特征数据库如Redis、Milvus、或专门的向量数据库。需要建立版本管理和回滚机制。用户/会话上下文特征实时拼接在线服务收到请求时需要实时收集并编码上下文信息时间、地点、设备等。这些特征通常是低维的类别型或数值型变量需要进行标准化和Embedding查找。会话序列的实时构建与编码这是性能关键点。需要维护一个低延迟的会话存储如Redis以session_id为key存储该会话近期交互的物品ID列表。收到请求时快速取出物品ID列表然后去特征数据库查询对应的内容特征向量拼装成模型所需的[seq_len, content_dim]张量。这里存在一个权衡序列长度。序列太长影响实时性能且可能引入噪声太短则信息不足。通常需要根据业务场景设定一个滑动窗口如最近50次交互。5.2 模型服务化与高性能推理模型导出与优化将训练好的PyTorch/TensorFlow模型转换为适合高性能推理的格式如TorchScript、ONNX或使用TensorRT进行优化。重点优化Transformer或GRU的计算。向量检索模型推理输出的是一个会话表征向量例如256维。接下来需要在千万甚至亿级别的候选物品向量库中进行最近邻搜索。Faiss是业界标配它提供了多种高效的索引IVFFlat、HNSW和GPU加速支持。需要根据候选集大小、精度要求和延迟预算来选择合适的索引类型和参数。多阶段推荐架构由于向量检索的计算量随候选集规模线性增长全量检索通常不可行。一般采用“召回-排序”两阶段架构召回层使用轻量级、高并发的模型或规则从全量商品库中快速筛选出数百到数千个相关物品。对于无ID场景召回可以依赖基于物品内容标签的倒排索引、基于会话协同的Item-CF用内容特征相似度替代ID共现、或一个更轻量的向量检索模型如双塔模型。排序层将召回的结果几百个物品及其完整的特征内容上下文输入到本章节描述的复杂模型如TransformerContrastiveRec中进行精排得到最终的点击率/转化率预估分数。5.3 数据闭环与持续学习无ID模型对数据分布的变化同样敏感。物品内容风格会变用户群体兴趣也会迁移。在线学习对于新闻、短视频等极度动态的场景需要考虑在线学习框架使模型能够快速吸收新的交互数据。这需要一套稳定的流式数据处理Flink/Kafka和模型增量更新如使用FTRL等在线优化算法的管道。定期全量更新即使是在线学习也需要定期如每天/每周用全量数据重新训练模型以纠正在线学习可能带来的偏差并充分利用所有历史数据学习更稳定的模式。评估与监控除了标准的AUC、GAUC等离线指标必须建立强大的线上A/B测试实验平台。由于无ID模型常服务于冷启动场景要特别关注新用户/新物品的转化率、留存率等业务指标。同时监控特征覆盖率、向量检索耗时、模型预测分布等工程指标。6. 常见陷阱、实战心得与未来展望6.1 踩过的“坑”与避坑指南特征一致性陷阱离线训练时使用的特征提取模型如BERT版本、图像分类网络必须与线上服务时完全一致。任何不一致都会导致“训练-服务偏差”使线上效果大幅下降。解决方案将特征提取模型也纳入版本管理并封装成统一的离线/在线服务。冷启动评估不充分在公开数据集上测试模型效果不错一上线发现新用户推荐一塌糊涂。这是因为公开数据集往往剔除了过于稀疏的交互无法反映真实的冷启动情况。解决方案必须自己构造贴近业务的训练/测试集划分。例如按时间划分用老数据训练用新时间段的数据模拟新物品和该时间段内新用户的行为模拟新用户来测试。过度依赖内容忽视行为序列基于内容的方法容易陷入“重复推荐相似内容”的困境导致推荐多样性差。解决方案一定要结合行为序列信息。即使序列很短一个两层的GRU也能捕捉到“看了手机再看手机壳”这样的转移模式这是纯内容匹配难以做到的。向量检索的精度与效率平衡使用HNSW索引虽然查询快但构建慢、内存占用大IVFFlat需要训练对数据分布变化敏感。解决方案根据业务节奏做选择。物品库相对稳定如电商商品可选HNSW物品库更新极快如新闻可能需要更频繁地重建IVFFlat索引或采用其他方案。上下文特征的噪声并非所有上下文特征都有用。不加区分地引入大量上下文特征会增加模型复杂度并可能引入噪声。解决方案进行细致的特征重要性分析如Permutation Importance。实践中时间小时、工作日/周末和来源搜索进入、推荐流进入通常是最强的信号。6.2 个人实战心得从简单开始用基线说话不要一开始就上最复杂的Transformer对比学习模型。先实现一个基于物品内容余弦相似度的基准模型再实现一个简单的GRU4Rec内容版把它们的效果作为基线。任何更复杂的模型都必须显著超越这些基线否则就是不必要的复杂度。“无ID”不是“无状态”虽然我们没有长期用户ID但依然要尽力维护用户状态。通过安全的、短期的session_id或设备匿名标识符来串联用户在一个时间段内的行为对于构建有效的序列至关重要。这个时间窗口的设置30分钟1天需要根据业务特性通过实验确定。融合规则兜底再好的模型也可能有盲区。在推荐系统的最后一步可以加入一些简单的规则兜底比如当模型对所有候选物品的预测分数都低于某个阈值时直接返回当前热门或地域性热门内容。这能保证最差的用户体验也有基本保障。重视可解释性当推荐出错时没有ID使得调试更加困难。在模型设计中可以有意保留一些可解释的通道。例如在深度模型之上可以同时输出一个“基于内容相似度”的分数和一个“基于序列模式”的分数方便分析bad case到底是内容理解错了还是序列模式没捕捉到。6.3 未来可能的方向“无ID推荐”远未成熟结合最新的研究趋势我认为以下几个方向值得深入探索超大规模预训练推荐模型类似于NLP中的GPT、CV中的CLIP训练一个超大规模的、基于匿名行为的序列预训练模型。这个模型能够对“用户行为语言”有深度的理解然后通过提示学习或少量微调快速适配到各种下游推荐场景从根本上解决冷启动和稀疏性问题。因果推断与反事实学习无ID场景下我们观察到的数据选择性偏差更严重。利用因果推断的方法去估计用户对未曝光物品的真实兴趣而不是被曝光机制所混淆的兴趣可能带来更公正、更有效的推荐。联邦学习下的隐私保护推荐这是“无ID”的终极形态之一。在数据不出域的前提下如何在多个客户端用户设备上协同训练一个推荐模型联邦学习与无ID推荐技术的结合能在绝对保护隐私的情况下实现个性化是符合未来数据监管趋势的重要方向。多模态理解的深度融合未来的物品内容不仅仅是文本和图片还包括视频、3D模型、音频等。如何更好地融合这些多模态信息生成一个更全面、更语义丰富的物品表征是无ID推荐持续提升效果的关键。