5年迭代5次,抖音推荐系统演进历程( 五 )


  • Flink Native Windowing 机制引入:对于窗口类型的有状态特征,我们目前采用上文所述的抽象 SlotState 时间切片方案统一进行支持 。另外 Flink 本身提供了非常完善的窗口机制,通过 Window Assigner、Window Trigger 等组件可以非常灵活地支持各种窗口语义 。因此后续我们也会在窗口特征计算场景引入 Flink 原生的 Windowing 机制,更加灵活地支持窗口特征迭代 。
  • Flink HybridState Backend 架构:目前在字节的线上场景中,Flink 底层的 StateBackend 默认都是使用 RocksDB 存储引擎 。这种内嵌的存储引擎不能通过外部机制去提供状态数据的回灌和多任务共享,因此我们需要支持 KV 中心化存储方案,实现灵活的特征状态回溯 。
  • 静态属性类型特征统一管理 :通过特征平台提供统一的 DSL 语义,统一管理其他外部静态类型的特征服务 。例如一些其他业务团队维度的用户分类、标签服务等 。
  • 作者介绍:
    郭文飞,字节跳动推荐系统基础服务方向负责人 。2015 年初加入字节,主要负责推荐系统基础服务方向,例如消重、计数、特征等 。




    推荐阅读