检测 → 重建
一个节点漏检,就可能带来多条缺失或错误的边。


EMNLP 2026 Main · 已接收论文
TRACE: Triplet Recovery via Arrowhead-Centric Extraction for Flowchart Understanding
以箭头头部为视觉锚点,保留完整流程图作为上下文,逐条恢复「起点、条件、终点」三元组,再汇聚成可追溯的有向图。
1 南京大学 2 联想(北京)有限公司
输入流程图图像输出(起点, 条件, 终点)每条输出都能定位到对应箭头。以上代表性结果使用 Qwen3-VL-4B;问答在 TextFlow 公开的评测子集上进行,具体设置见下文。
01 / 研究动机
流程图的语义由连线的起点、条件和终点共同决定。节点漏检会传递到图重建;整图抽取又容易在细小、密集的连线中遗漏或反转方向。
一个节点漏检,就可能带来多条缺失或错误的边。


密集布局和细小箭头让逐条连接难以追踪,模型可能遗漏连线或反转方向。
因此,我们把查询锚定到一个箭头头部,同时保留完整流程图作为上下文。
02 / 核心方法
细小连线和密集布局让整图抽取容易遗漏或反转边的方向。TRACE 在每份完整图像中只标记一个箭头头部,让模型集中读取指定连接,同时保留周围信息。
1解析原生流程图文件,自动获得箭头头部框与图像—三元组对,用于微调检测器和视觉语言模型。
2定位箭头头部并绘制高亮框。每次查询都使用完整流程图,保留全局上下文。
3读取标记箭头对应的起点、条件和终点,将逐条输出汇聚成流程图的结构化表示。

交互示例 · BPMN 订单履约
销售与物流分属两条泳道。核验订单后,有库存则打包并发货,否则取消订单。点击边按钮或图中的连线,蓝色框会定位箭头头部,同时显示连接关系和泳道归属。
自行绘制的 BPMN 方法示意,输出预先设定,不调用在线模型,也不作为基准测试结果。
下载 BPMN 源文件开始/结束事件 · 任务 · 排他网关 · 泳道
小屏可横向滑动查看完整 BPMN 图。

03 / 实验结果
九个基准覆盖手绘图、常规流程图、具有层级结构的 BPMN,以及不同复杂度的生成图。下表比较相同骨干下微调后的 TRACE 与整图端到端抽取。
| 评测基准 | 端到端 F1 | TRACE F1 | 差值 |
|---|
精确匹配 F1(%),来源:论文表 2。两种方法均经过任务微调。此处展示论文报告结果。下载结果表
下游推理
| 方法 | FlowLearn | FlowVQA |
|---|---|---|
| Qwen3-VL-4B (ZS) | 66.83 | 62.03 |
| TextFlow + 真值文本 | 88.33 | 75.18 |
| TRACE + 工具调用 | 98.17 | 75.78 |
| 真值三元组(上界) | 100.00 | 78.46 |
推理骨干均为 Qwen3-VL-4B;TextFlow 输入真值 Mermaid 文本。公开子集包含 100 张 FlowLearn 和 197 张 FlowVQA 图像。来源:论文表 4。
04 / 深入分析
跨风格泛化
在 8 / 9 个未见基准上,获得更高的 F1。
在八个基准上训练,测试被留出的第九个基准。TRACE 在其中八个上优于 E2E。
| 评测基准 | E2E 留出 | TRACE 留出 | 差值 |
|---|---|---|---|
| FlowVQA | 87.20 | 89.31 | +2.11 |
| CBD | 83.66 | 83.31 | −0.35 |
| FC_A | 45.46 | 61.38 | +15.92 |
| FC_B | 57.26 | 67.76 | +10.50 |
| FlowLearn | 53.77 | 65.93 | +12.16 |
| BPMN-VLM | 31.86 | 39.18 | +7.32 |
| FlowGen-e | 95.87 | 96.97 | +1.10 |
| FlowGen-m | 65.21 | 79.55 | +14.34 |
| FlowGen-h | 57.93 | 69.42 | +11.49 |
Qwen3-VL-4B,无 OCR 后处理。来源:论文附录 B、研究海报。
多箭头批量查询
K = 3:延迟降低 39%,F1 仅下降 0.49 个百分点。
在同一张完整图像中标记 K 个箭头头部,一次请求 K 条编号三元组。下方比较 K = 1、2、3 的宏平均延迟和准确率,展示批量查询的效率与精度权衡。
1 arrowhead per query九个基准的宏平均,Qwen3-VL-4B,NVIDIA RTX 5880 Ada。E2E:78.39 F1、2.73 秒/图像。来源:论文表 10。
05 / 论文与开源资源
数据合成、检测器训练、VLM 微调、推理、评测与基于图的问答代码。
GitHub 仓库02完整方法、基线比较、消融实验、实现细节与局限性。
阅读 PDF03概览方法框架、跨风格泛化、下游问答和多箭头批量查询。
阅读 PDF04合成监督数据与箭头头部标注。
查看数据记录@inproceedings{dong2026trace,
title = {TRACE: Triplet Recovery via Arrowhead-Centric
Extraction for Flowchart Understanding},
author = {Dong, Daozhu and Shi, Kaiwen and Si, Dan and
Hao, Xiaoyu and Liu, Tong and Zhang, Wenjie and
Cheng, Gong},
booktitle = {Proceedings of the 2026 Conference on
Empirical Methods in Natural Language Processing},
year = {2026},
note = {Accepted to the Main Conference; proceedings metadata forthcoming},
url = {https://github.com/nju-websoft/TRACE}
}论文已被 EMNLP 2026 Main Conference 接收。当前为临时论文引用;正式论文集发布后将补充页码、DOI 和 ACL Anthology 链接。