check_portability.py 9.6 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185
  1. #!/usr/bin/env python3
  2. # -*- coding: utf-8 -*-
  3. r"""跨平台/相对路径 门禁 (2026-09-11 用户令) —— 换电脑、换盘、Windows↔Linux 之前先跑它。
  4. ## 三条硬规则 (ERROR = 必须修)
  5. 1. **不许出现机器相关绝对路径**: `/Users/…`、`/Volumes/…`、`/home/<某人>/…`、`C:\…`/`D:\…`/`F:\…`。
  6. 部署到另一台电脑/另一个盘时它们必然失配 —— 这类 bug 是**静默**的 (某块页面取不到数, 不报错)。
  7. 2. **不许出现 cwd 相对路径字面量**: `Path('outputs/…')`、`open('data/…')` 这类。
  8. 相对路径必须相对**安装根**, 由 `src/paths.py` 解析 (`P.store()` / `P.rel()`); 相对 cwd 会随调用位置漂移。
  9. 3. **不许用 `os.sep` 拼库存字符串**: 写进产物/清单/页面的要用 POSIX 形式 (`P.rel()`);
  10. `os.sep` 只允许出现在"给人看"的显示函数里。
  11. ## 其余是 WARN (不阻塞, 但列出来慢慢收敛)
  12. 4. 运行期仍写死 `ROOT / 'outputs/<场名>/…'` → 建议改 `src/paths.py` 的对应函数;
  13. 5. 交付侧离线工具 (`scripts/guanlan_cloud_*` 等) 里的同类写法;
  14. 6. **文本读写没写 `encoding=`** → 这是同一类"换机就坏"的坑: Python 文本 I/O 默认用**系统 locale 编码**,
  15. 中文 Windows 上是 cp936(GBK), 而本库的 JSON/HTML/索引全是 UTF-8。后果有两种, 都很隐蔽:
  16. · 读: UTF-8 文件按 GBK 解 → 中文乱码, 或直接 UnicodeDecodeError;
  17. · 写: 内容里出现 GBK 编不出的字符 (零宽空格 `\u200b`、emoji、罕见汉字) → UnicodeEncodeError 崩溃。
  18. 2026-09-11 从零重算时实逮: `src/ontology/store.py` 写 objects.json 崩在 `\u200b` 上 —— 也就是说
  19. **本体层在中文 Windows 上根本不可用**(开发机是 UTF-8 locale, 所以一直没暴露)。
  20. 本项按 WARN 列出 (存量较多, 逐步收敛); 新写的代码请一律 `encoding='utf-8'`。
  21. ## 例外必须**具名**登记
  22. `ALLOW` 里每一项都要写清"为什么可以例外"; 行内特例用注释 `# portability-allow: 原因`。
  23. 用法:
  24. python scripts/check_portability.py # 全量扫描 (默认扫运行期 + 交付侧)
  25. python scripts/check_portability.py --runtime # 只扫运行期 (交付门禁用这个)
  26. """
  27. from __future__ import annotations
  28. import argparse
  29. import collections
  30. import pathlib
  31. import re
  32. import sys
  33. ROOT = pathlib.Path(__file__).resolve().parents[1]
  34. # 运行期代码 (服务、门禁、启动器、安装器、配置)
  35. RUNTIME = ['guanlan.py', 'install.ps1', 'install.sh']
  36. RUNTIME_GLOBS = ['src/**/*.py', 'scripts/*.py']
  37. # 交付侧 (离线工具; 不进服务路径, 但仍应相对、无机器路径)
  38. DELIVERY_GLOBS = ['scripts/sim_hub/*.py']
  39. # 机器相关绝对路径 (盘符形式要求前面是空白/引号/括号 —— 否则 'explanation:\n' 这种转义会被误判成 "n:\")
  40. RE_ABS = re.compile(r"""(/Users/[A-Za-z0-9_.\-]+|/Volumes/[A-Za-z0-9_\- ]+|/home/[a-z][A-Za-z0-9_.\-]*|(?<=[\s'"(\[=])[A-Za-z]:[\\/](?![\\/]))""")
  41. # cwd 相对路径字面量 (相对当前工作目录 —— 必须改成经 paths 解析)
  42. RE_CWD = re.compile(r"""(?:open|Path|pathlib\.Path)\(\s*['"](outputs|data|release|configs|src|scripts|reference|resources|logs|run|wheels|vendor)/""")
  43. # os.sep 出现在"拼字符串"里 (显示函数除外)
  44. RE_OSSEP = re.compile(r"""\+\s*os\.sep""")
  45. # 文本读写调用 (用于 WARN 项 6: 缺 encoding= 时按系统 locale 编解码, 中文 Windows 上是 GBK)
  46. RE_TXTIO = re.compile(r"""\.(read_text|write_text)\(""") # portability-allow: 本门禁的规则源里必须写出这两个方法名
  47. def scan_encoding(globs, extra_files=()) -> list:
  48. """WARN: 找出 `.read_text(...)` / `.write_text(...)` 没给 encoding= 的调用。 # portability-allow: 说明文字即规则本身
  49. 跨行调用 (如 retrieval.py 里分三行写的 write_text) 要把括号配对后再找 encoding,
  50. 所以不能只看一行。返回 [(相对路径, 行号, 片段)]。
  51. """
  52. out = []
  53. files = []
  54. for g in globs:
  55. files += sorted(ROOT.glob(g))
  56. files += [ROOT / f for f in extra_files if (ROOT / f).exists()]
  57. for f in files:
  58. rel = f.relative_to(ROOT).as_posix()
  59. try:
  60. text = f.read_text(encoding='utf-8')
  61. except Exception:
  62. continue
  63. for m in RE_TXTIO.finditer(text):
  64. i = m.end()
  65. depth, j = 1, i
  66. while j < len(text) and depth:
  67. if text[j] == '(':
  68. depth += 1
  69. elif text[j] == ')':
  70. depth -= 1
  71. j += 1
  72. call = text[m.start():j]
  73. if 'encoding' in call:
  74. continue
  75. if 'portability-allow' in text[text.rfind('\n', 0, m.start()) + 1:text.find('\n', m.start())]:
  76. continue
  77. out.append((rel, text.count('\n', 0, m.start()) + 1, ' '.join(call.split())[:70]))
  78. return out
  79. ALLOW = {
  80. 'src/sop/farm_paths.py': '它本身就是"win 盘符 → POSIX 盘"的映射表 (自带用例), 路径即测试数据',
  81. 'src/sop/validate_pair.py': '其它场站 (华电/肥城) 的配置样例值, 非本场运行期路径',
  82. 'scripts/build_oem_lexicon.py': 'OEM 资料盘路径样例 (离线词库构建), 非运行期',
  83. 'scripts/ingest_ops_2025.py': '注释/文档里保留历史 mac 路径; 代码已改为 env + 安装目录相对默认',
  84. 'src/windscada/data_tpl_en.py': '英文映射表的**键**是页面显示形 (<安装目录>\\data\\raw\\…), 不是路径用法',
  85. 'src/windscada/deid_public.py': '文档字符串举例说明"产物里带着源文件路径"这一问题本身',
  86. 'src/windscada/maint/framework.py': '注释说明判据来源 (厂商培训分册), 非路径用法',
  87. 'src/sop/discriminators.py': '证据文本里引用复跑脚本位置 (留痕), 非路径用法',
  88. 'src/sop/vib_confidence.py': '证据文本 (与 discriminators 同源)',
  89. 'src/ontology/retrieval.py': '文档字符串说明索引落盘位置',
  90. 'src/ontology/seed_rudong29.py': '文档字符串说明产物位置',
  91. 'src/windscada/ui/snapshot.py': '对外快照的**归一化改写规则** (outputs/rudong → outputs/<site>), 相对模式',
  92. 'src/windscada/fast_agent.py': '注释里的实测记录出处',
  93. 'src/paths.py': '本模块的文档字符串在讲这条约定本身',
  94. 'scripts/check_portability.py': '本门禁自己 (规则里必须写出这些模式)',
  95. }
  96. DELIVERY_ALLOW = {
  97. 'scripts/sim_hub/': '开发期仿真合页生成器 (mac 检出路径), 不进交付/运行路径',
  98. 'outputs/rudong/sop/': '历史装配脚本随包留档 (含 mac 死路径), 非运行期; 已在文档标注',
  99. }
  100. def scan(globs, extra_files=()):
  101. hits = []
  102. files = []
  103. for g in globs:
  104. files += sorted(ROOT.glob(g))
  105. files += [ROOT / f for f in extra_files if (ROOT / f).exists()]
  106. for f in files:
  107. rel = f.relative_to(ROOT).as_posix()
  108. if rel in ALLOW or any(rel.startswith(k) for k in DELIVERY_ALLOW):
  109. continue
  110. try:
  111. lines = f.read_text(encoding='utf-8').splitlines()
  112. except Exception:
  113. continue
  114. for i, line in enumerate(lines, 1):
  115. if 'portability-allow' in line or line.lstrip().startswith('#'):
  116. continue # 行内已具名登记 / 纯注释行 (说明性文字不算路径用法)
  117. for kind, rx in (('机器绝对路径', RE_ABS), ('cwd 相对路径', RE_CWD), ('os.sep 拼串', RE_OSSEP)):
  118. m = rx.search(line)
  119. if m:
  120. hits.append((kind, rel, i, m.group(0)[:60], line.strip()[:90]))
  121. return hits
  122. def main() -> int:
  123. ap = argparse.ArgumentParser()
  124. ap.add_argument('--runtime', action='store_true', help='只扫运行期 (交付门禁)')
  125. a = ap.parse_args()
  126. print(f'根目录: {ROOT}')
  127. print(f'扫描: {"运行期" if a.runtime else "运行期 + 交付侧"}\n')
  128. errs = scan(RUNTIME_GLOBS, RUNTIME)
  129. if not a.runtime:
  130. errs += scan(DELIVERY_GLOBS)
  131. if not errs:
  132. print(' ✔ 无机器相关绝对路径、无 cwd 相对路径、未用 os.sep 拼库存字符串')
  133. else:
  134. for kind, rel, i, found, line in errs:
  135. print(f' [ERROR] {kind:12s} {rel}:{i} ← {found}')
  136. print(f' {line}')
  137. print(f'\n例外登记 (ALLOW, 共 {len(ALLOW)} 项 + {len(DELIVERY_ALLOW)} 类): 见本文件注释, 每项都写了理由')
  138. # ── WARN: 文本读写缺 encoding= (项 6; 不阻塞, 但中文 Windows 上会乱码/崩溃) ──
  139. warns = scan_encoding(RUNTIME_GLOBS, RUNTIME)
  140. if not a.runtime:
  141. warns += scan_encoding(DELIVERY_GLOBS)
  142. if warns:
  143. by_file = collections.Counter(w[0] for w in warns)
  144. print(f'\n[WARN] 文本读写缺 encoding= : {len(warns)} 处 / {len(by_file)} 个文件 '
  145. f'—— 默认按系统 locale 编解码 (中文 Windows = GBK), 换机/换内容就可能乱码或崩溃;')
  146. for rel, n in by_file.most_common(12):
  147. print(f' {n:3d} 处 {rel}')
  148. print(' 修法: read_text(encoding="utf-8") / write_text(..., encoding="utf-8")')
  149. if errs:
  150. print(f'\n结论: {len(errs)} 处 ERROR —— 换机部署前必须清零')
  151. return 1
  152. print('\n结论: 通过 ✔ (路径可移植: 只有相对路径 + 经 src/paths.py 解析)')
  153. return 0
  154. if __name__ == '__main__':
  155. # 控制台 GBK 编不出 ✔ 时降级为 '?' (见 src/console.py): 否则"通过 ✔"这行 print 会抛
  156. # UnicodeEncodeError、退出码变 1 —— 门禁报成失败而实际是通过的 (2026-09-11 踩过)。
  157. sys.path.insert(0, str(ROOT))
  158. from src import console
  159. console.soft()
  160. sys.exit(main())