開發安卓手機軟體時，如果想用繁中資料訓練模型做 classification，應該選擇甚麼模型呢?

感謝分享 資安問題我還沒考慮到

謝回復

你那邊側過的模型多大呀? 我自己體感好久, 可能我比較敏感!?

那我去 tag 上面的人

單純直接分類的部分，的確直接在手機端完成會比較迅速。這時候，除了輕量化之外，還可以把模參數凍結住降低系統負擔。 微調的部分還是會建議送到後端，讓多數的訊息維持模型的準確。除了效能之外，還必須考量到模型遺忘的問題。 例如 10 天台菜， 1 天義大利麵，久了之後，其實會認不出義大利麵。 另外，模型的更新也會是問題。因為大量檔案，在 store 上通常得額外申請檢核，會影響 App 新版釋出時間。 例如，Apple App Store 模型檔案不是單純的資料（如 .tflite 或 .mlmodel），可能會被拒絕上架。而 Google Play 提供官方的Play Feature Delivery 機制，倒是可以實現更快速的模型更新。 總而言之，這些是通常訓練和預測還留在後端的原因之。

因為是單純的分類任務，似乎載小模型在手機上本地跑延遲跟成本會比較低。 而我查到要在手機上跑得動的，適合分類小任務的，好像是 DistilBERT。