1. 项目概述与核心价值知识图谱补全Knowledge Graph Completion, KGC是知识图谱领域一个经典且至关重要的任务。简单来说它就像是在一张巨大的关系网络知识图谱中根据已有的节点实体和连线关系去预测那些缺失的连线或节点。传统的KGC模型无论是基于翻译的TransE、TransH还是基于语义匹配的DistMult、ComplEx大多处理的是静态的、永恒不变的事实比如“姚明的国籍是中国”。然而现实世界是动态的大量事实的有效性严格依赖于时间和地点。例如“航班CA123的当前位置是北京首都国际机场”这个事实只有在特定的时间点如2023年10月27日 10:00和空间坐标如经纬度下才成立。忽略了时空维度知识图谱的“知识”就是不完整的甚至是错误的。因此时空知识图谱补全应运而生它旨在处理那些形式为头实体关系尾实体时间空间的五元组事实。这个领域的挑战在于如何将连续、复杂的时空信息如“2023-10-27 10:00:00”和“116.4074°E, 39.9042°N”有效地融入到离散的、符号化的知识图谱表示学习中。这正是本文提出的STSESpatioTemporal Sequence Encoder和S-TSESpatial-Temporal Sequence Encoder模型所要解决的核心问题。它们不是简单地将时空信息作为额外的特征拼接而是创新性地利用序列编码器如LSTM将时空信息与关系本身进行深度融合学习得到“时空感知”的关系向量表示从而在包含时空维度的推理任务上取得更优的性能。对于从事知识图谱、推荐系统、轨迹预测、物联网数据分析等领域的研究者和工程师而言理解并掌握时空知识图谱补全的技术意味着能够构建更贴近现实、更具动态推理能力的智能系统。本文将深入拆解STSE与S-TSE模型的原理、实现细节、实验设计以及背后的设计哲学为你提供一份从理论到实践的完整指南。2. 模型核心思想与设计哲学2.1 问题定义从三元组到时空五元组首先我们需要明确时空知识图谱SpatioTemporal Knowledge Graph, STKG的形式化定义。一个STKG可以表示为一个图 G (E, R, T, L)其中E是实体集合R是关系集合T是有效时间集合L是有效位置集合。图中的每一个事实Fact不再是一个简单的三元组 (s, p, o)而是一个扩展的时空RDF三元组记为 (s, p:tp, lp, o)。这里s和o是头尾实体p是关系而tp和lp则是与该关系p相关联的特定时间信息和空间位置信息。例如在航班领域一个事实可能是(航班CA123, 目的地:2023-10-27 12:00, (31.2304°E, 121.4737°N), 上海浦东机场)。补全任务则是给定一个不完整的查询如 (航班CA123, 目的地:2023-10-27 12:00, ? , ?) 或 (?, 目的地:2023-10-27 12:00, (31.2304°E, 121.4737°N), 上海浦东机场)来预测缺失的实体尾实体或头实体。2.2 核心挑战与设计思路面对时空知识图谱补全模型设计需要解决两个核心挑战如何编码时空信息时间和空间是连续且结构化的数据时间有年、月、日、时、分空间有经纬度。如何将它们从原始的数值或字符串转化为能够与离散的实体、关系嵌入向量协同工作的表示如何定义评分函数在得到时空感知的表示后如何设计一个评分函数 f(s, p:t, l, o) 来衡量一个五元组事实的合理性 plausibility 这个函数需要能有效融合实体嵌入和时空关系嵌入。STSE和S-TSE的解决方案基于一个核心洞察将关系、时间和空间信息视为一个序列。关系本身可以看作一个符号时间可以分解为一系列时间戳token如年、月、日、时、分的数字空间如经纬度也可以转化为位置token。既然它们是序列那么擅长处理序列数据的递归神经网络RNN特别是其变体长短期记忆网络LSTM就成了天然的编码器选择。注意这里选择LSTM而非更时髦的Transformer主要是出于模型简洁性和对中等长度序列本文中序列长度固定的有效性考虑。LSTM的门控机制能较好地捕捉序列中token之间的依赖关系且参数量相对可控在知识图谱嵌入这种通常需要训练大量实体和关系的任务中是一个务实的选择。两个模型的分歧点在于对时空信息耦合程度的假设STSE模型假设时空信息与关系是不可分割的整体。它将关系token、时间token序列、空间token序列拼接成一个长的输入序列送入同一个LSTM进行编码。LSTM最终的隐藏状态就代表了融合了时空信息的关系嵌入e_rtl。S-TSE模型假设时间信息和空间信息对关系的影响是相对独立的。它使用两个独立的LSTM编码器一个处理“关系时间token”序列输出时间感知的关系嵌入e_rt另一个处理“关系空间token”序列输出空间感知的关系嵌入e_rl。在后续评分时再将这两个嵌入结合起来。这两种设计体现了两种不同的建模哲学STSE追求信息的紧密融合可能能捕捉到更复杂的时空联合模式S-TSE则提供了更清晰的模块化设计可能对某些时空信息相对独立的任务更有优势。实验部分将验证哪种假设在真实数据上更有效。3. 关键技术细节深度解析3.1 时空信息分解与Token化这是模型的第一步也是将原始数据转化为模型可处理格式的关键。本文提出了一种比前人工作如TA-TransE更精细的分解方法。1. 时间信息分解 原始时间格式如 “2019-07-31 00:10” 需要被转化为一系列离散的token。本文将其分解为5个部分年Year、月Month、日Day、时Hour、分Minute。每个部分用十进制数字表示因此每个数字0-9对应一个唯一的token ID。Token ID 分配为了区分不同部分的相同数字为每个部分分配了独立的token ID区间。年0-9 (对应数字0-9)月10-19 (对应数字0-9表示1月到12月但用0-9表示需注意映射)日20-29 (对应数字0-9)时30-39 (对应数字0-9)分40-49 (对应数字0-9)序列构建对于一个具体时间将其每一位数字映射到对应的token ID并按“年月日时分”的顺序排列成一个固定长度的序列。例如“2019-07-31 00:10”年: 2, 0, 1, 9 - Token IDs: [2, 0, 1, 9]月: 0, 7 - 注意月份“07”被分解为数字‘0’和‘7’。根据映射数字‘0’对应token ID 10数字‘7’对应token ID 17。所以得到 [10, 17]。日: 3, 1 - 数字‘3’对应token ID 23数字‘1’对应token ID 21。得到 [23, 21]。时: 0, 0 - [30, 30]分: 1, 0 - [41, 40]最终时间token序列: [2, 0, 1, 9, 10, 17, 23, 21, 30, 30, 41, 40] (共12个token)。2. 空间信息分解 空间信息通常以经纬度对表示如 (18, 23)。本文的处理相对简单将经纬度视为两个独立的数值。为了与时间token区分开将每个坐标值加上时间token的总数50。因此坐标 (18, 23) 被转化为 token IDs: [185068, 235073]。3. 关系Token 每个关系如“目的地”、“出生于”在模型中有其唯一的初始嵌入向量。在构建输入序列时关系本身也被视为一个特殊的“token”通常放在序列的最开始。对于STSE完整的输入序列是[关系_token, 时间_token_序列, 空间_token_序列]。对于S-TSE则构建两个序列[关系_token, 时间_token_序列]和[关系_token, 空间_token_序列]。实操心得这种token化方式虽然直观但存在一个潜在问题它丢失了数字的数值语义。例如token ID 2代表数字2和 token ID 3代表数字3在嵌入空间中是独立的模型需要从头学习“3比2大1”这样的数值关系。对于时间序列月份、小时的周期性如23点之后是0点也难以通过这种离散表示直接捕获。在实际应用中如果时空数据范围很大或精度很高如毫秒级时间戳、高精度GPS坐标这种方法的词汇表会膨胀且效率可能下降。一种改进思路是引入数值编码如周期编码与token嵌入相结合。3.2 基于LSTM的时空感知关系编码获得token序列后下一步就是用LSTM来编码它们得到关系的新表示。LSTM单元回顾LSTM通过输入门(i_t)、遗忘门(f_t)、输出门(o_t)和细胞状态(c_t)来控制信息的流动非常适合处理序列数据。其核心公式如下i_t σ(W_i · [h_{t-1}, x_t] b_i) # 决定哪些新信息被存入细胞状态 f_t σ(W_f · [h_{t-1}, x_t] b_f) # 决定从细胞状态中丢弃哪些旧信息 c̃_t tanh(W_c · [h_{t-1}, x_t] b_c) # 候选细胞状态 c_t f_t · c_{t-1} i_t · c̃_t # 更新细胞状态 o_t σ(W_o · [h_{t-1}, x_t] b_o) # 决定输出哪些细胞状态的信息 h_t o_t · tanh(c_t) # 当前时间步的隐藏状态输出其中x_t 是当前时间步的输入对应某个token的嵌入向量h_{t-1} 是上一时间步的隐藏状态σ是sigmoid函数。编码过程输入嵌入层首先每个token ID包括关系token、时间token、空间token都通过一个可训练的嵌入层Embedding Layer被映射为一个d维的向量。这个嵌入层是所有token共享的还是为不同类别的token关系、时间部分、空间使用不同的嵌入层是一个可以调整的超参数。原文未明确但共享嵌入层是常见且参数高效的做法。序列处理将得到的向量序列按顺序输入LSTM。输出表示对于STSE模型取LSTM处理完最后一个token即最后一个空间token后的最终隐藏状态h_T作为整个“时空感知关系”的向量表示e_rtl。S-TSE的特殊处理对于S-TSE有两个独立的LSTM。处理“关系时间”序列的LSTM其最终隐藏状态输出为时间感知关系嵌入e_rt。处理“关系空间”序列的LSTM其最终隐藏状态输出为空间感知关系嵌入e_rl。注意事项这里使用的是单向LSTM。理论上使用双向LSTMBi-LSTM可以同时捕捉每个token前后文的依赖关系可能获得更丰富的序列表示。但考虑到知识图谱补全任务中序列的“方向性”关系在前时空在后可能具有明确含义且双向LSTM会加倍参数作者可能出于简洁性和效率考虑选择了单向。在实际复现时可以尝试Bi-LSTM作为对比实验。3.3 评分函数与损失函数设计得到时空感知的关系嵌入后就需要一个评分函数来衡量一个候选事实 (s, r:t, l, o) 的合理性。本文的评分函数设计灵感来源于经典的翻译模型TransE。TransE的核心思想是如果三元组 (h, r, t) 成立那么头实体向量e_h加上关系向量e_r应该近似等于尾实体向量e_t即e_h e_r ≈ e_t。因此其评分函数是负的向量距离f(h, r, t) -||e_h e_r - e_t||距离越小得分越高事实越可能成立。STSE和S-TSE将这一思想扩展到了时空五元组STSE评分函数f(s, r:t, l, o) -||e_s e_rtl - e_o||_{L1/L2}这里e_rtl是LSTM编码得到的融合了时空信息的关系向量。模型期望e_s e_rtl ≈ e_o。S-TSE评分函数f(s, r:t, l, o) -||e_s e_rt e_rl - e_o||_{L1/L2}这里e_rt和e_rl分别是时间感知和空间感知的关系向量。模型期望e_s e_rt e_rl ≈ e_o。注意这里是相加体现了时间和空间对关系的独立贡献是叠加的。距离范数选择||·||_{L1/L2}表示可以使用L1范数曼哈顿距离或L2范数欧几里得距离。L1范数对异常值更鲁棒L2范数更平滑。在实验中需要根据数据特性进行选择。损失函数知识图谱补全通常被构建为一个二分类任务给定一个事实判断其是真正样本还是假负样本。负样本通常通过“随机破坏”法生成即对于一个正样本 (s, r:t, l, o)随机替换其头实体s或尾实体o生成一个假的三元组。 模型采用**二元交叉熵损失Binary Cross-Entropy Loss**进行优化L - Σ_{x∈F ∪ F-} [ y * log(ŷ) (1-y) * log(1-ŷ) ]其中F是正样本集F-是负样本集y是真实标签1为正0为负ŷ是模型预测该样本为真的概率。预测概率计算对于STSE和S-TSE首先通过评分函数计算得分score f(s, r:t, l, o)。这个得分是一个距离负数需要将其转化为概率。流程如下通过sigmoid(score)将得分映射到(0,1)区间。因为score是负距离距离越小事实越合理sigmoid值越接近1。在训练时通常使用softmax函数在同一个批次batch的正负样本之间进行归一化得到每个样本的预测概率ŷ。这有助于稳定训练。在推理预测时通常直接使用sigmoid(score)或根据所有候选实体的得分进行排序。核心设计逻辑评分函数的设计是整个模型的“引擎”。它必须与关系编码方式相匹配。STSE使用单一融合向量e_rtl所以直接沿用TransE的加法形式。S-TSE将时空效应分离为两个向量e_rt和e_rl因此在翻译过程中将它们同时加上。这种设计保持了模型的简洁性和可解释性同时与基础的TransE框架兼容使得许多为TransE优化的技巧如负采样策略、归一化方法可以迁移过来。4. 实验复现与结果深度分析4.1 实验环境与数据集准备实验环境框架PyTorch。选择PyTorch因其动态图特性在研究和模型调试中非常灵活。硬件GeForce GTX 2080 Ti GPU。这确保了LSTM和大量嵌入参数训练的效率。超参数嵌入维度OpenSky数据集设为200维YAGO数据集设为300维。维度的选择通常与数据集的规模实体和关系的数量有关更大的数据集可能需要更高的维度来捕获更复杂的关系模式。YAGO虽然事实数少但实体和关系类型可能更复杂故设置了更高维度。优化器Adam。这是深度学习中的标准选择自适应学习率收敛速度快。学习率从 {0.0001, 0.001, 0.01} 中网格搜索。实验结果表明0.001是最佳选择。训练轮数EpochOpenSky尝试了[10, 30, 50]YAGO尝试了[10, 20, 30]。有趣的是较小的Epoch10或20往往能取得更好或相当的性能说明模型可能很快过拟合或者数据集的正则化效果需要调整如增加Dropout。批大小Batch SizeOpenSky为1024YAGO为128。批大小的设置与数据集大小和GPU内存有关。OpenSky数据量大使用大Batch可以加速训练YAGO数据量小使用小Batch可能使梯度更新更稳定。数据集 本文使用了两个公开数据集它们都同时包含时间和空间信息这是评估时空模型的关键。OpenSky航班数据集来源于OpenSky网络包含了2019年8月1日至7日的航班轨迹数据。每个事实格式为(飞机注册号, 关系:日期, (纬度, 经度), 机场代码)。关系是“起飞机场”或“目的机场”。这是一个典型的、规模较大的时空图谱。YAGO时空子集从大型知识库YAGO中抽取了同时包含出生日期和出生地坐标的人物事实。每个事实格式如(人物, 出生于:日期, (经纬度), 地点)。这是一个规模较小但关系语义更丰富的图谱。数据集的划分与负样本生成划分按80%训练、10%验证、10%测试的比例随机划分。验证集用于超参数调优和早停Early Stopping测试集用于最终性能报告。负样本生成对于每个训练/验证/测试集中的正样本五元组采用“随机破坏”法生成负样本。例如对于正样本 (s, r:t, l, o)随机替换头实体s或尾实体o为图谱中的其他实体但确保生成的三元组不在已有的正样本集合中。通常每个正样本会生成1个或多个负样本。4.2 基线模型与评估指标基线模型由于时空知识图谱补全的研究相对较少作者选择了一个经典的时序知识图谱补全模型TA-TransE作为主要基线。TA-TransE同样使用RNNLSTM来编码关系和时间序列但它完全忽略了空间信息。为了公平比较在实验中移除了数据中的空间信息让TA-TransE只在时间维度上进行学习。这样的对比能清晰地揭示引入空间信息带来的增益。评估指标采用知识图谱补全领域的标准评估协议——过滤式设置Filtered Setting。在预测时对于每个测试查询如 (s, r:t, l, ?)模型会对所有可能的尾实体o进行评分并排序。但是在计算排名时会“过滤”掉那些在训练、验证、测试集中已经存在的、且与当前查询的 (s, r:t, l) 能构成真实事实的尾实体。这避免了因为已知事实排在前面而低估模型性能。主要指标有MRR平均倒数排名所有测试查询的“正确实体”排名的倒数的平均值。MRR越高越好最大值接近1。它对排名靠前的正确预测非常敏感。Hitsk正确实体排名在前k位即排名≤k的查询所占的比例。常用k1, 3, 10。Hits1衡量“精确命中”的能力Hits10衡量“召回”能力。4.3 结果分析与讨论主要结论STSE全面优于S-TSE和TA-TransE在两个数据集上STSE在MRR和Hitsk各项指标上均取得了最佳性能。这强有力地支持了STSE的时空信息耦合假设——在航班轨迹和人物出生地这类任务中时间和空间信息是紧密关联、共同作用于关系的。将它们作为一个整体序列进行编码比分开编码后再相加S-TSE能学到更有效的联合表示。引入空间信息至关重要STSE和S-TSE都包含空间信息的性能普遍优于只考虑时间的TA-TransE在YAGO上优势尤其明显。这证明了在时空图谱中空间维度是不可或缺的忽略它会损失大量信息限制模型的推理能力。尾实体预测优于头实体预测如表2所示所有模型在预测尾实体如“航班的目的地是哪里”上的表现都远好于预测头实体如“哪架航班飞往这个目的地”。通过分析数据集作者发现尾实体的数量远少于头实体OpenSky中尾实体8917个头实体50431个。这符合直觉预测一个较小集合中的候选对象通常比预测一个更大集合中的对象更容易。这也提示我们在构建数据集时需要注意头尾实体分布的平衡性。超参数敏感性分析训练轮数Epoch如表3所示STSE在较小的EpochOpenSky上10YAGO上20时达到最佳性能之后性能可能持平或下降。这表明模型收敛速度较快但也可能意味着训练数据量相对模型复杂度来说不够大容易过拟合。在实际训练中使用验证集进行早停Early Stopping是必要的。学习率Learning Rate如表4所示学习率对性能影响巨大。0.001是一个稳定的最佳值。学习率太小0.0001会导致收敛缓慢性能不佳学习率太大0.01可能导致优化过程不稳定难以收敛到好的解。这强调了超参数调优尤其是学习率的选择是模型成功的关键步骤。实操避坑指南负采样策略文中使用的是简单的均匀随机破坏。在实际复杂图谱中这种策略可能产生大量“简单”的负样本如用“苹果公司”去替换“乔布斯出生于...”中的“乔布斯”使得模型无需学习深层模式就能区分。可以采用更复杂的负采样策略如基于类型的采样只替换同类型的实体、对抗性采样等以提升模型鲁棒性。嵌入初始化与归一化实体和关系的初始嵌入通常采用随机初始化并需要约束其范数如进行L2归一化以防止训练过程中向量范数无限增长。TransE系列模型对此尤其敏感。梯度爆炸/消失虽然LSTM缓解了梯度消失问题但在处理较长序列时仍需注意。可以监控梯度范数使用梯度裁剪Gradient Clipping来稳定训练。关系编码器的选择本文固定使用LSTM。在实际应用中可以尝试其他序列模型如GRU参数更少、Transformer捕捉长距离依赖更强或CNN并行效率高并比较其效果和效率。5. 模型局限性与未来扩展方向尽管STSE和S-TSE在时空知识图谱补全上取得了有希望的结果但作为早期探索性工作它们也存在一些局限性这同时也指明了未来的改进方向。1. 时空信息的粗糙建模离散化损失将连续的时空坐标离散化为独立的token完全丢失了数值的连续性和度量语义。经纬度(116.40, 39.90)和(116.41, 39.91)在数值上非常接近但在token表示中却是完全独立的。这不利于模型学习“邻近”的空间概念。改进方向可以引入数值编码。例如对于空间坐标可以使用高斯随机傅里叶特征Random Fourier Features将其映射到高维空间以保留连续性。对于时间除了年月日时分还可以加入周期性的正弦余弦编码如将一天中的小时编码为(sin(2πh/24), cos(2πh/24))让模型能理解时间的周期性。2. 静态的实体嵌入在STSE和S-TSE中实体如“北京”、“上海浦东机场”的嵌入向量是静态的不随时间或地点变化。然而在现实世界中实体的属性或关系可能随时间演变概念漂移。改进方向开发动态实体嵌入模型。例如可以为每个实体学习一个基础嵌入再叠加一个由时间/空间编码器生成的动态偏移量。或者将时空知识图谱视为一系列快照在每个快照内学习独立的实体嵌入并通过时间平滑约束来联系不同快照间的嵌入。3. 评分函数的局限性模型沿用了TransE的简单加法翻译假设e_h e_r ≈ e_t。这种假设对于复杂关系如多对一、一对多、对称/反对称关系的建模能力有限。在引入了复杂的时空关系嵌入后这个简单的假设可能成为性能瓶颈。改进方向可以探索更强大的评分函数。例如结合RotatE的旋转操作在复数空间将关系视为旋转或者ConvE的卷积操作来建模更复杂的交互。可以将时空感知的关系嵌入e_rtl作为这些更复杂模型的输入。4. 未能实现联合实体与关系补全当前模型主要解决实体补全预测缺失的头或尾实体。但在一个真正的动态图谱中关系也可能随时间/空间变化或缺失例如两个地点之间在某个时间段内是否有航线。改进方向设计能够同时完成实体补全和关系补全的模型。这需要模型不仅能输出实体的概率分布也能输出关系的概率分布。一种思路是将关系也作为待预测的目标并设计相应的训练目标。5. 融入外部语义信息当前模型只利用了图谱本身的结构化时空信息。实体和关系背后丰富的文本描述、类别信息等语义信息未被利用。改进方向构建多模态时空知识图谱模型。可以利用预训练语言模型如BERT来初始化实体或关系的嵌入或者将文本描述作为辅助信息输入到编码器中。这尤其适用于像YAGO这样包含丰富文本描述的知识库。个人实践思考复现这类研究时最大的挑战往往在于数据集的构建与处理。从原始的非结构化或半结构化数据如航班记录CSV、YAGO的TSV文件中抽取出格式规整的 (s, p:t, l, o) 五元组涉及大量的数据清洗、对齐和规范化工作。例如确保时间格式统一、坐标系统一致、实体链接准确同一个机场不能有多个不同的字符串表示。这部分工作的工程量常常不亚于模型本身的设计与实现。因此在开始模型编码之前花足够的时间构建一个干净、一致的数据管道是项目成功的基础。
时空知识图谱补全：STSE与S-TSE模型原理与工程实践详解
发布时间：2026/5/26 13:08:31
1. 项目概述与核心价值知识图谱补全Knowledge Graph Completion, KGC是知识图谱领域一个经典且至关重要的任务。简单来说它就像是在一张巨大的关系网络知识图谱中根据已有的节点实体和连线关系去预测那些缺失的连线或节点。传统的KGC模型无论是基于翻译的TransE、TransH还是基于语义匹配的DistMult、ComplEx大多处理的是静态的、永恒不变的事实比如“姚明的国籍是中国”。然而现实世界是动态的大量事实的有效性严格依赖于时间和地点。例如“航班CA123的当前位置是北京首都国际机场”这个事实只有在特定的时间点如2023年10月27日 10:00和空间坐标如经纬度下才成立。忽略了时空维度知识图谱的“知识”就是不完整的甚至是错误的。因此时空知识图谱补全应运而生它旨在处理那些形式为头实体关系尾实体时间空间的五元组事实。这个领域的挑战在于如何将连续、复杂的时空信息如“2023-10-27 10:00:00”和“116.4074°E, 39.9042°N”有效地融入到离散的、符号化的知识图谱表示学习中。这正是本文提出的STSESpatioTemporal Sequence Encoder和S-TSESpatial-Temporal Sequence Encoder模型所要解决的核心问题。它们不是简单地将时空信息作为额外的特征拼接而是创新性地利用序列编码器如LSTM将时空信息与关系本身进行深度融合学习得到“时空感知”的关系向量表示从而在包含时空维度的推理任务上取得更优的性能。对于从事知识图谱、推荐系统、轨迹预测、物联网数据分析等领域的研究者和工程师而言理解并掌握时空知识图谱补全的技术意味着能够构建更贴近现实、更具动态推理能力的智能系统。本文将深入拆解STSE与S-TSE模型的原理、实现细节、实验设计以及背后的设计哲学为你提供一份从理论到实践的完整指南。2. 模型核心思想与设计哲学2.1 问题定义从三元组到时空五元组首先我们需要明确时空知识图谱SpatioTemporal Knowledge Graph, STKG的形式化定义。一个STKG可以表示为一个图 G (E, R, T, L)其中E是实体集合R是关系集合T是有效时间集合L是有效位置集合。图中的每一个事实Fact不再是一个简单的三元组 (s, p, o)而是一个扩展的时空RDF三元组记为 (s, p:tp, lp, o)。这里s和o是头尾实体p是关系而tp和lp则是与该关系p相关联的特定时间信息和空间位置信息。例如在航班领域一个事实可能是(航班CA123, 目的地:2023-10-27 12:00, (31.2304°E, 121.4737°N), 上海浦东机场)。补全任务则是给定一个不完整的查询如 (航班CA123, 目的地:2023-10-27 12:00, ? , ?) 或 (?, 目的地:2023-10-27 12:00, (31.2304°E, 121.4737°N), 上海浦东机场)来预测缺失的实体尾实体或头实体。2.2 核心挑战与设计思路面对时空知识图谱补全模型设计需要解决两个核心挑战如何编码时空信息时间和空间是连续且结构化的数据时间有年、月、日、时、分空间有经纬度。如何将它们从原始的数值或字符串转化为能够与离散的实体、关系嵌入向量协同工作的表示如何定义评分函数在得到时空感知的表示后如何设计一个评分函数 f(s, p:t, l, o) 来衡量一个五元组事实的合理性 plausibility 这个函数需要能有效融合实体嵌入和时空关系嵌入。STSE和S-TSE的解决方案基于一个核心洞察将关系、时间和空间信息视为一个序列。关系本身可以看作一个符号时间可以分解为一系列时间戳token如年、月、日、时、分的数字空间如经纬度也可以转化为位置token。既然它们是序列那么擅长处理序列数据的递归神经网络RNN特别是其变体长短期记忆网络LSTM就成了天然的编码器选择。注意这里选择LSTM而非更时髦的Transformer主要是出于模型简洁性和对中等长度序列本文中序列长度固定的有效性考虑。LSTM的门控机制能较好地捕捉序列中token之间的依赖关系且参数量相对可控在知识图谱嵌入这种通常需要训练大量实体和关系的任务中是一个务实的选择。两个模型的分歧点在于对时空信息耦合程度的假设STSE模型假设时空信息与关系是不可分割的整体。它将关系token、时间token序列、空间token序列拼接成一个长的输入序列送入同一个LSTM进行编码。LSTM最终的隐藏状态就代表了融合了时空信息的关系嵌入e_rtl。S-TSE模型假设时间信息和空间信息对关系的影响是相对独立的。它使用两个独立的LSTM编码器一个处理“关系时间token”序列输出时间感知的关系嵌入e_rt另一个处理“关系空间token”序列输出空间感知的关系嵌入e_rl。在后续评分时再将这两个嵌入结合起来。这两种设计体现了两种不同的建模哲学STSE追求信息的紧密融合可能能捕捉到更复杂的时空联合模式S-TSE则提供了更清晰的模块化设计可能对某些时空信息相对独立的任务更有优势。实验部分将验证哪种假设在真实数据上更有效。3. 关键技术细节深度解析3.1 时空信息分解与Token化这是模型的第一步也是将原始数据转化为模型可处理格式的关键。本文提出了一种比前人工作如TA-TransE更精细的分解方法。1. 时间信息分解 原始时间格式如 “2019-07-31 00:10” 需要被转化为一系列离散的token。本文将其分解为5个部分年Year、月Month、日Day、时Hour、分Minute。每个部分用十进制数字表示因此每个数字0-9对应一个唯一的token ID。Token ID 分配为了区分不同部分的相同数字为每个部分分配了独立的token ID区间。年0-9 (对应数字0-9)月10-19 (对应数字0-9表示1月到12月但用0-9表示需注意映射)日20-29 (对应数字0-9)时30-39 (对应数字0-9)分40-49 (对应数字0-9)序列构建对于一个具体时间将其每一位数字映射到对应的token ID并按“年月日时分”的顺序排列成一个固定长度的序列。例如“2019-07-31 00:10”年: 2, 0, 1, 9 - Token IDs: [2, 0, 1, 9]月: 0, 7 - 注意月份“07”被分解为数字‘0’和‘7’。根据映射数字‘0’对应token ID 10数字‘7’对应token ID 17。所以得到 [10, 17]。日: 3, 1 - 数字‘3’对应token ID 23数字‘1’对应token ID 21。得到 [23, 21]。时: 0, 0 - [30, 30]分: 1, 0 - [41, 40]最终时间token序列: [2, 0, 1, 9, 10, 17, 23, 21, 30, 30, 41, 40] (共12个token)。2. 空间信息分解 空间信息通常以经纬度对表示如 (18, 23)。本文的处理相对简单将经纬度视为两个独立的数值。为了与时间token区分开将每个坐标值加上时间token的总数50。因此坐标 (18, 23) 被转化为 token IDs: [185068, 235073]。3. 关系Token 每个关系如“目的地”、“出生于”在模型中有其唯一的初始嵌入向量。在构建输入序列时关系本身也被视为一个特殊的“token”通常放在序列的最开始。对于STSE完整的输入序列是[关系_token, 时间_token_序列, 空间_token_序列]。对于S-TSE则构建两个序列[关系_token, 时间_token_序列]和[关系_token, 空间_token_序列]。实操心得这种token化方式虽然直观但存在一个潜在问题它丢失了数字的数值语义。例如token ID 2代表数字2和 token ID 3代表数字3在嵌入空间中是独立的模型需要从头学习“3比2大1”这样的数值关系。对于时间序列月份、小时的周期性如23点之后是0点也难以通过这种离散表示直接捕获。在实际应用中如果时空数据范围很大或精度很高如毫秒级时间戳、高精度GPS坐标这种方法的词汇表会膨胀且效率可能下降。一种改进思路是引入数值编码如周期编码与token嵌入相结合。3.2 基于LSTM的时空感知关系编码获得token序列后下一步就是用LSTM来编码它们得到关系的新表示。LSTM单元回顾LSTM通过输入门(i_t)、遗忘门(f_t)、输出门(o_t)和细胞状态(c_t)来控制信息的流动非常适合处理序列数据。其核心公式如下i_t σ(W_i · [h_{t-1}, x_t] b_i) # 决定哪些新信息被存入细胞状态 f_t σ(W_f · [h_{t-1}, x_t] b_f) # 决定从细胞状态中丢弃哪些旧信息 c̃_t tanh(W_c · [h_{t-1}, x_t] b_c) # 候选细胞状态 c_t f_t · c_{t-1} i_t · c̃_t # 更新细胞状态 o_t σ(W_o · [h_{t-1}, x_t] b_o) # 决定输出哪些细胞状态的信息 h_t o_t · tanh(c_t) # 当前时间步的隐藏状态输出其中x_t 是当前时间步的输入对应某个token的嵌入向量h_{t-1} 是上一时间步的隐藏状态σ是sigmoid函数。编码过程输入嵌入层首先每个token ID包括关系token、时间token、空间token都通过一个可训练的嵌入层Embedding Layer被映射为一个d维的向量。这个嵌入层是所有token共享的还是为不同类别的token关系、时间部分、空间使用不同的嵌入层是一个可以调整的超参数。原文未明确但共享嵌入层是常见且参数高效的做法。序列处理将得到的向量序列按顺序输入LSTM。输出表示对于STSE模型取LSTM处理完最后一个token即最后一个空间token后的最终隐藏状态h_T作为整个“时空感知关系”的向量表示e_rtl。S-TSE的特殊处理对于S-TSE有两个独立的LSTM。处理“关系时间”序列的LSTM其最终隐藏状态输出为时间感知关系嵌入e_rt。处理“关系空间”序列的LSTM其最终隐藏状态输出为空间感知关系嵌入e_rl。注意事项这里使用的是单向LSTM。理论上使用双向LSTMBi-LSTM可以同时捕捉每个token前后文的依赖关系可能获得更丰富的序列表示。但考虑到知识图谱补全任务中序列的“方向性”关系在前时空在后可能具有明确含义且双向LSTM会加倍参数作者可能出于简洁性和效率考虑选择了单向。在实际复现时可以尝试Bi-LSTM作为对比实验。3.3 评分函数与损失函数设计得到时空感知的关系嵌入后就需要一个评分函数来衡量一个候选事实 (s, r:t, l, o) 的合理性。本文的评分函数设计灵感来源于经典的翻译模型TransE。TransE的核心思想是如果三元组 (h, r, t) 成立那么头实体向量e_h加上关系向量e_r应该近似等于尾实体向量e_t即e_h e_r ≈ e_t。因此其评分函数是负的向量距离f(h, r, t) -||e_h e_r - e_t||距离越小得分越高事实越可能成立。STSE和S-TSE将这一思想扩展到了时空五元组STSE评分函数f(s, r:t, l, o) -||e_s e_rtl - e_o||_{L1/L2}这里e_rtl是LSTM编码得到的融合了时空信息的关系向量。模型期望e_s e_rtl ≈ e_o。S-TSE评分函数f(s, r:t, l, o) -||e_s e_rt e_rl - e_o||_{L1/L2}这里e_rt和e_rl分别是时间感知和空间感知的关系向量。模型期望e_s e_rt e_rl ≈ e_o。注意这里是相加体现了时间和空间对关系的独立贡献是叠加的。距离范数选择||·||_{L1/L2}表示可以使用L1范数曼哈顿距离或L2范数欧几里得距离。L1范数对异常值更鲁棒L2范数更平滑。在实验中需要根据数据特性进行选择。损失函数知识图谱补全通常被构建为一个二分类任务给定一个事实判断其是真正样本还是假负样本。负样本通常通过“随机破坏”法生成即对于一个正样本 (s, r:t, l, o)随机替换其头实体s或尾实体o生成一个假的三元组。 模型采用**二元交叉熵损失Binary Cross-Entropy Loss**进行优化L - Σ_{x∈F ∪ F-} [ y * log(ŷ) (1-y) * log(1-ŷ) ]其中F是正样本集F-是负样本集y是真实标签1为正0为负ŷ是模型预测该样本为真的概率。预测概率计算对于STSE和S-TSE首先通过评分函数计算得分score f(s, r:t, l, o)。这个得分是一个距离负数需要将其转化为概率。流程如下通过sigmoid(score)将得分映射到(0,1)区间。因为score是负距离距离越小事实越合理sigmoid值越接近1。在训练时通常使用softmax函数在同一个批次batch的正负样本之间进行归一化得到每个样本的预测概率ŷ。这有助于稳定训练。在推理预测时通常直接使用sigmoid(score)或根据所有候选实体的得分进行排序。核心设计逻辑评分函数的设计是整个模型的“引擎”。它必须与关系编码方式相匹配。STSE使用单一融合向量e_rtl所以直接沿用TransE的加法形式。S-TSE将时空效应分离为两个向量e_rt和e_rl因此在翻译过程中将它们同时加上。这种设计保持了模型的简洁性和可解释性同时与基础的TransE框架兼容使得许多为TransE优化的技巧如负采样策略、归一化方法可以迁移过来。4. 实验复现与结果深度分析4.1 实验环境与数据集准备实验环境框架PyTorch。选择PyTorch因其动态图特性在研究和模型调试中非常灵活。硬件GeForce GTX 2080 Ti GPU。这确保了LSTM和大量嵌入参数训练的效率。超参数嵌入维度OpenSky数据集设为200维YAGO数据集设为300维。维度的选择通常与数据集的规模实体和关系的数量有关更大的数据集可能需要更高的维度来捕获更复杂的关系模式。YAGO虽然事实数少但实体和关系类型可能更复杂故设置了更高维度。优化器Adam。这是深度学习中的标准选择自适应学习率收敛速度快。学习率从 {0.0001, 0.001, 0.01} 中网格搜索。实验结果表明0.001是最佳选择。训练轮数EpochOpenSky尝试了[10, 30, 50]YAGO尝试了[10, 20, 30]。有趣的是较小的Epoch10或20往往能取得更好或相当的性能说明模型可能很快过拟合或者数据集的正则化效果需要调整如增加Dropout。批大小Batch SizeOpenSky为1024YAGO为128。批大小的设置与数据集大小和GPU内存有关。OpenSky数据量大使用大Batch可以加速训练YAGO数据量小使用小Batch可能使梯度更新更稳定。数据集 本文使用了两个公开数据集它们都同时包含时间和空间信息这是评估时空模型的关键。OpenSky航班数据集来源于OpenSky网络包含了2019年8月1日至7日的航班轨迹数据。每个事实格式为(飞机注册号, 关系:日期, (纬度, 经度), 机场代码)。关系是“起飞机场”或“目的机场”。这是一个典型的、规模较大的时空图谱。YAGO时空子集从大型知识库YAGO中抽取了同时包含出生日期和出生地坐标的人物事实。每个事实格式如(人物, 出生于:日期, (经纬度), 地点)。这是一个规模较小但关系语义更丰富的图谱。数据集的划分与负样本生成划分按80%训练、10%验证、10%测试的比例随机划分。验证集用于超参数调优和早停Early Stopping测试集用于最终性能报告。负样本生成对于每个训练/验证/测试集中的正样本五元组采用“随机破坏”法生成负样本。例如对于正样本 (s, r:t, l, o)随机替换头实体s或尾实体o为图谱中的其他实体但确保生成的三元组不在已有的正样本集合中。通常每个正样本会生成1个或多个负样本。4.2 基线模型与评估指标基线模型由于时空知识图谱补全的研究相对较少作者选择了一个经典的时序知识图谱补全模型TA-TransE作为主要基线。TA-TransE同样使用RNNLSTM来编码关系和时间序列但它完全忽略了空间信息。为了公平比较在实验中移除了数据中的空间信息让TA-TransE只在时间维度上进行学习。这样的对比能清晰地揭示引入空间信息带来的增益。评估指标采用知识图谱补全领域的标准评估协议——过滤式设置Filtered Setting。在预测时对于每个测试查询如 (s, r:t, l, ?)模型会对所有可能的尾实体o进行评分并排序。但是在计算排名时会“过滤”掉那些在训练、验证、测试集中已经存在的、且与当前查询的 (s, r:t, l) 能构成真实事实的尾实体。这避免了因为已知事实排在前面而低估模型性能。主要指标有MRR平均倒数排名所有测试查询的“正确实体”排名的倒数的平均值。MRR越高越好最大值接近1。它对排名靠前的正确预测非常敏感。Hitsk正确实体排名在前k位即排名≤k的查询所占的比例。常用k1, 3, 10。Hits1衡量“精确命中”的能力Hits10衡量“召回”能力。4.3 结果分析与讨论主要结论STSE全面优于S-TSE和TA-TransE在两个数据集上STSE在MRR和Hitsk各项指标上均取得了最佳性能。这强有力地支持了STSE的时空信息耦合假设——在航班轨迹和人物出生地这类任务中时间和空间信息是紧密关联、共同作用于关系的。将它们作为一个整体序列进行编码比分开编码后再相加S-TSE能学到更有效的联合表示。引入空间信息至关重要STSE和S-TSE都包含空间信息的性能普遍优于只考虑时间的TA-TransE在YAGO上优势尤其明显。这证明了在时空图谱中空间维度是不可或缺的忽略它会损失大量信息限制模型的推理能力。尾实体预测优于头实体预测如表2所示所有模型在预测尾实体如“航班的目的地是哪里”上的表现都远好于预测头实体如“哪架航班飞往这个目的地”。通过分析数据集作者发现尾实体的数量远少于头实体OpenSky中尾实体8917个头实体50431个。这符合直觉预测一个较小集合中的候选对象通常比预测一个更大集合中的对象更容易。这也提示我们在构建数据集时需要注意头尾实体分布的平衡性。超参数敏感性分析训练轮数Epoch如表3所示STSE在较小的EpochOpenSky上10YAGO上20时达到最佳性能之后性能可能持平或下降。这表明模型收敛速度较快但也可能意味着训练数据量相对模型复杂度来说不够大容易过拟合。在实际训练中使用验证集进行早停Early Stopping是必要的。学习率Learning Rate如表4所示学习率对性能影响巨大。0.001是一个稳定的最佳值。学习率太小0.0001会导致收敛缓慢性能不佳学习率太大0.01可能导致优化过程不稳定难以收敛到好的解。这强调了超参数调优尤其是学习率的选择是模型成功的关键步骤。实操避坑指南负采样策略文中使用的是简单的均匀随机破坏。在实际复杂图谱中这种策略可能产生大量“简单”的负样本如用“苹果公司”去替换“乔布斯出生于...”中的“乔布斯”使得模型无需学习深层模式就能区分。可以采用更复杂的负采样策略如基于类型的采样只替换同类型的实体、对抗性采样等以提升模型鲁棒性。嵌入初始化与归一化实体和关系的初始嵌入通常采用随机初始化并需要约束其范数如进行L2归一化以防止训练过程中向量范数无限增长。TransE系列模型对此尤其敏感。梯度爆炸/消失虽然LSTM缓解了梯度消失问题但在处理较长序列时仍需注意。可以监控梯度范数使用梯度裁剪Gradient Clipping来稳定训练。关系编码器的选择本文固定使用LSTM。在实际应用中可以尝试其他序列模型如GRU参数更少、Transformer捕捉长距离依赖更强或CNN并行效率高并比较其效果和效率。5. 模型局限性与未来扩展方向尽管STSE和S-TSE在时空知识图谱补全上取得了有希望的结果但作为早期探索性工作它们也存在一些局限性这同时也指明了未来的改进方向。1. 时空信息的粗糙建模离散化损失将连续的时空坐标离散化为独立的token完全丢失了数值的连续性和度量语义。经纬度(116.40, 39.90)和(116.41, 39.91)在数值上非常接近但在token表示中却是完全独立的。这不利于模型学习“邻近”的空间概念。改进方向可以引入数值编码。例如对于空间坐标可以使用高斯随机傅里叶特征Random Fourier Features将其映射到高维空间以保留连续性。对于时间除了年月日时分还可以加入周期性的正弦余弦编码如将一天中的小时编码为(sin(2πh/24), cos(2πh/24))让模型能理解时间的周期性。2. 静态的实体嵌入在STSE和S-TSE中实体如“北京”、“上海浦东机场”的嵌入向量是静态的不随时间或地点变化。然而在现实世界中实体的属性或关系可能随时间演变概念漂移。改进方向开发动态实体嵌入模型。例如可以为每个实体学习一个基础嵌入再叠加一个由时间/空间编码器生成的动态偏移量。或者将时空知识图谱视为一系列快照在每个快照内学习独立的实体嵌入并通过时间平滑约束来联系不同快照间的嵌入。3. 评分函数的局限性模型沿用了TransE的简单加法翻译假设e_h e_r ≈ e_t。这种假设对于复杂关系如多对一、一对多、对称/反对称关系的建模能力有限。在引入了复杂的时空关系嵌入后这个简单的假设可能成为性能瓶颈。改进方向可以探索更强大的评分函数。例如结合RotatE的旋转操作在复数空间将关系视为旋转或者ConvE的卷积操作来建模更复杂的交互。可以将时空感知的关系嵌入e_rtl作为这些更复杂模型的输入。4. 未能实现联合实体与关系补全当前模型主要解决实体补全预测缺失的头或尾实体。但在一个真正的动态图谱中关系也可能随时间/空间变化或缺失例如两个地点之间在某个时间段内是否有航线。改进方向设计能够同时完成实体补全和关系补全的模型。这需要模型不仅能输出实体的概率分布也能输出关系的概率分布。一种思路是将关系也作为待预测的目标并设计相应的训练目标。5. 融入外部语义信息当前模型只利用了图谱本身的结构化时空信息。实体和关系背后丰富的文本描述、类别信息等语义信息未被利用。改进方向构建多模态时空知识图谱模型。可以利用预训练语言模型如BERT来初始化实体或关系的嵌入或者将文本描述作为辅助信息输入到编码器中。这尤其适用于像YAGO这样包含丰富文本描述的知识库。个人实践思考复现这类研究时最大的挑战往往在于数据集的构建与处理。从原始的非结构化或半结构化数据如航班记录CSV、YAGO的TSV文件中抽取出格式规整的 (s, p:t, l, o) 五元组涉及大量的数据清洗、对齐和规范化工作。例如确保时间格式统一、坐标系统一致、实体链接准确同一个机场不能有多个不同的字符串表示。这部分工作的工程量常常不亚于模型本身的设计与实现。因此在开始模型编码之前花足够的时间构建一个干净、一致的数据管道是项目成功的基础。
