DISE · 單系統分類器

討論記錄 · DISCUSSION LOG

小資料，大模型 Small Data, Big Model — What Actually Works 偏斜的資料集 → 誠實的評估 → 真正的槓桿是「視野」，不是「深度」

資料sys1 甲狀腺超音波 · 23 位病人 · 病人分組 5-fold · AUC

01/07

類比：地基還裂著，別急著修屋頂

03/07

SECTION 00 · 為何不直接修 (2/3)

DISE 的每個元件，其實都是 CNN

元件	任務	資訊方向	主要層
SharedEncoder	影像 → 特徵＋類別圖	壓縮	ResNet-18（Conv2d ＋ BatchNorm）
PrivateEncoder	影像 → 8 個「風格」數字	壓縮	Conv2d ×6
PrivateDecoder	編碼 → 重繪成影像	還原	ConvTranspose2d ×3
Discriminator ×2	影像 → 真／假	壓縮	Conv2d ×5
DomainClassifier ×2	類別圖 → 來源／目標	壓縮	Conv2d ×5

03/07

SECTION 00 · 為何不直接修 (3/3)

整體路線圖：一次只修一層

1

重打地基：資料與 ROI 擷取

ROI 要怎麼切？感受野該多大、為什麼？切成 stride-1 patches 有幫助嗎？

✓ 已完成

↓

2

只做 system 1 的 pos / neg

用最簡單的模型跑通整條訓練與測試流程，確認 pipeline 本身沒有問題

✓ 已完成

↓

3

替換 DISE 的資料前處理與主幹網路

把 ①② 的結論搬進 DISE，並用病人 5-fold + AUC 重做一次測試

進行中

↓

4

再處理跨掃描儀 domain adaptation

sys1 → sys2；單一系統站得住，才有資格談跨系統

待辦

↓

5

最後才做跨域 patch 生成（GAN）

若前面每一層都成立，再談影像轉換；不成立就不必做

待辦

03/07

SECTION 01 · 小而偏斜 (1/3)

資料到底有多小

DISE 原論文

24,966

張 GTA5 影像（來源域）

＋ 2,975

張 Cityscapes（目標域）

每張逐像素標註 → 約 200 萬個標籤（19 類）

我們（sys1）

23

位病人（10 正 / 13 負）

～380

顆 ROI

每顆只有 1 個標籤（pos / neg）

04/07

SECTION 01 · 小而偏斜 (2/3)

偏斜 ①　類別不平衡是「假象」

04/07

SECTION 01 · 小而偏斜 (3/3)

偏斜 ②　亮度混淆與病人重疊

亮度混淆（最危險）

sys1 中，光看「病灶周圍的背景亮度」就能完美分開正負（AUC 1.000；正 55.7 vs 負 80.3）。正常組織不該因良惡性而系統性變亮 → 這是影像整體亮度／機器增益的差異，不是生理訊號。

病人跨系統重疊

sys1 與 sys2 有 18 / 23 位病人是同一批人（換機器掃描）。sys3 的 6 人也全在 sys1 內。 → 所謂「跨域」其實是同一批病人的不同機器，不是新病人。

04/07

SECTION 02 · 主要模型

主要模型：23,650 個參數的 SmallCNN

← 左右捲動：滑鼠滾輪、或直接拖曳 →

05/07

SECTION 03 · 如何應對 (1/5)

應對 ①　刻意用「更小」的模型

ResNet-18（DISE 主幹）

11,689,512

參數

我們的 SmallCNN

23,650

參數（小約 500×）

06/07

SECTION 03 · 如何應對 (2/5)

應對 ②　把測試整個重做：依「病人」切 5-fold

分組鍵 = 病人 ID（StratifiedGroupKFold, groups = 病人）。
同一病人的所有 ROI 一定落在同一 fold → 徹底防止「認出這個人」的洩漏。
輪替 5 次：每次用 4 組（約 22 人）訓練、留 1 組（約 5 人）測試；每位病人恰好被測試一次。
把所有 held-out 預測匯總後計算指標 → 這就是「對沒見過的病人」的成績。
同時報告 TRAIN vs VAL 差距（偵測過擬合），以及 樣本層級 vs 病人層級兩種指標。

Fold 1

測 5 人

Fold 2

測 5 人

Fold 3

測 5 人

Fold 4

測 4 人

Fold 5

測 4 人

06/07

SECTION 03 · 如何應對 (3/5)

應對 ③　用 AUC，不用 accuracy　正常

為何不用 accuracy：73% 的 ROI 是負 → 全部猜「負」就有 73% 準確率，卻毫無用處。

有重疊 → 拖動門檻，紅點沿曲線跑。面積＝ AUC ≈ 0.78

寬鬆嚴格

06/07

SECTION 03 · 如何應對 (4/5)

好的例子　完全分開

所有負都低於所有正 → 曲線經過左上角。AUC ＝ 1.00

寬鬆嚴格

06/07

SECTION 03 · 如何應對 (5/5)

差的例子　幾乎沒有訊號

正負交錯 → 曲線貼著對角線。AUC ≈ 0.44（低於 0.5 = 方向反了）

寬鬆嚴格

06/07

SECTION 04 · 測試與結果 (1/7)

切成 patch 有幫助嗎？　沒有

模型＋輸入（皆只有病灶內部）	訓練樣本每 ROI 取 60 張	TRAIN	VAL 樣本	差距
ResNet-18 ＋ 20×20 patch	22,920	0.998	0.680	0.317
ResNet-18 ＋ 32×32 patch	22,920	1.000	0.665	0.335
SmallCNN ＋ 20×20 patch	22,920	0.949	0.616	0.332
SmallCNN ＋ 32×32 patch	22,920	0.999	0.700	0.299
SmallCNN ＋整顆 ROI（不切）	382	0.971	0.671	0.301
SmallCNN ＋ stride-1 全網格（841 張 / ROI）	321,262	0.999	0.657	0.342
SmallCNN ＋整顆 ROI ＋周圍組織	382	0.999	0.910	0.089

07/07

SECTION 04 · 測試與結果 (2/7)

加入 ROI 周圍組織有幫助嗎？　有，這才是關鍵

同一模型，只換視野	只有病灶	＋周圍組織	提升
ResNet-18	0.643	0.842	+0.199
SmallCNN	0.691	0.910	+0.219
過擬合差距（SmallCNN）	0.293	0.089	砍掉 2/3

07/07

SECTION 04 · 測試與結果 (3/7)

用更淺的模型有幫助嗎？　有，但不多

相同流程，只換模型	ResNet-18 18 層 · 11.7M	SmallCNN 4 層 · 23.6k	差異
VAL 樣本（只有病灶）	0.643 ±0.068	0.691 ±0.072	+0.048
VAL 樣本（＋周圍組織）	0.842 ±0.060	0.910 ±0.028	+0.068
過擬合差距	0.352　/　0.157	0.293　/　0.089	更小
跨種子穩定度	±0.060	±0.028	更穩

07/07

SECTION 04 · 測試與結果 (4/7)

batch size 重要嗎？　不重要

batch size 5 seeds · 病人 5-fold · 40 epochs	每 fold 梯度更新	TRAIN	VAL 樣本	VAL 病人	差距
16	784	1.000 ±0.000	0.886 ±0.031	0.965 ±0.023	0.114
32	400	1.000 ±0.000	0.902 ±0.027	0.966 ±0.025	0.098
64	208	1.000 ±0.000	0.898 ±0.069	0.934 ±0.062	0.102
128	120	1.000 ±0.000	0.924 ±0.037	0.968 ±0.031	0.076
256　← 我們用的	80	0.999 ±0.001	0.915 ±0.020	0.974 ±0.021	0.084

07/07

SECTION 04 · 測試與結果 (5/7)

epoch 數重要嗎？　40 落在平台上

epoch 5 seeds · batch 256 · 無 early stopping	TRAIN	VAL 樣本	VAL 病人	差距
1	0.754 ±0.041	0.640 ±0.123	0.740 ±0.149	0.113
2	0.877 ±0.041	0.690 ±0.077	0.753 ±0.098	0.186
5	0.873 ±0.060	0.674 ±0.042	0.671 ±0.073	0.200
10	0.900 ±0.065	0.744 ±0.106	0.795 ±0.084	0.156
20	0.988 ±0.011	0.858 ±0.092	0.942 ±0.061	0.130
30	0.998 ±0.001	0.892 ±0.030	0.966 ±0.022	0.107
40　← 我們用的	0.999 ±0.001	0.915 ±0.021	0.975 ±0.022	0.085
60	0.999 ±0.001	0.879 ±0.049	0.941 ±0.057	0.120
80	1.000 ±0.001	0.912 ±0.034	0.976 ±0.017	0.088
120	1.000 ±0.000	0.921 ±0.034	0.987 ±0.018	0.079

07/07

SECTION 04 · 測試與結果 (6/7)

輸入尺寸要多大？　更大反而更差

輸入參數量固定 23,650	感受野／邊長	有效感受野組織像素	TRAIN	VAL 樣本	差距
20²	110%	45.9 px	1.000	0.932 ±0.027	0.068
24²	92%	38.2 px	1.000	0.924 ±0.029	0.075
32²　← 我們用的	69%	35.4 px	0.999	0.916 ±0.019	0.083
40²	55%	23.0 px	0.997	0.906 ±0.033	0.092
48²	46%	23.6 px	0.996	0.896 ±0.036	0.100
64²	34%	17.7 px	0.987	0.864 ±0.066	0.123

07/07

SECTION 04 · 測試與結果 (7/7)

結論

① 切成 patch：無效　60× 資料量，VAL 不動、差距不動。

② 更淺的模型：+0.06　在種子雜訊內；但差距更小、更穩定。

③ 加入周圍組織：+0.21　唯一顯著的槓桿，差距 0.30 → 0.09。

④ 我們的選擇

SmallCNN（4 層 · 23,650 參數） ＋ 整顆 ROI ＋ 14px 周圍 → 縮放 32×32

VAL 樣本 0.911 ±0.021　·　過擬合差距 0.087　·　病人層級 0.971

誠實下限：gain 不變特徵 ≈ 0.80；跨掃描儀尚未測試。

07/07

小資料，大模型 Small Data, Big Model — What Actually Works 偏斜的資料集 → 誠實的評估 → 真正的槓桿是「視野」，不是「深度」

目次

類比：地基還裂著，別急著修屋頂

DISE 的每個元件，其實都是 CNN

整體路線圖：一次只修一層

資料到底有多小

偏斜 ① 類別不平衡是「假象」

偏斜 ② 亮度混淆與病人重疊

主要模型：23,650 個參數的 SmallCNN

應對 ① 刻意用「更小」的模型

應對 ② 把測試整個重做：依「病人」切 5-fold

應對 ③ 用 AUC，不用 accuracy 正常

好的例子 完全分開

差的例子 幾乎沒有訊號

切成 patch 有幫助嗎？ 沒有

加入 ROI 周圍組織有幫助嗎？ 有，這才是關鍵

用更淺的模型有幫助嗎？ 有，但不多

batch size 重要嗎？ 不重要

epoch 數重要嗎？ 40 落在平台上

輸入尺寸要多大？ 更大反而更差

結論

偏斜 ①　類別不平衡是「假象」

偏斜 ②　亮度混淆與病人重疊

應對 ①　刻意用「更小」的模型

應對 ②　把測試整個重做：依「病人」切 5-fold

應對 ③　用 AUC，不用 accuracy　正常

好的例子　完全分開

差的例子　幾乎沒有訊號

切成 patch 有幫助嗎？　沒有

加入 ROI 周圍組織有幫助嗎？　有，這才是關鍵

用更淺的模型有幫助嗎？　有，但不多

batch size 重要嗎？　不重要

epoch 數重要嗎？　40 落在平台上

輸入尺寸要多大？　更大反而更差