TinyML的重點在讓邊緣運算裝置以極少的資源獨力做到AI推論，但GPU (實際來說就是支援CUDA的Nvidia卡) 只存在於標準個人電腦。你唯一能做的就是用個人電腦來訓練和執行模型，然後把Arduino或類似的東西當成終端輸出入控制單元。
我以前有做過一個是在電腦用網頁伺服器跑Teachable Machine產生的Tensorflow.js影像辨識模型，然後用JS套件去遙控接在USB埠上的Arduino做反應。但這樣的東西其實很多人做過了。GPU在這裡唯一的影響只是減少訓練模型跟模型推論的時間。
