Contents ...
udn網路城邦
辨識的速度當然是非常重要的技術指標!
2025/01/11 15:35
瀏覽406
迴響0
推薦3
引用0

昨天談到有讀者經過ChatGPT找到的車牌辨識方案速度很慢的問題,來訊讀者認為不太重要?但是以我一個多年研發銷售車牌辨識軟體業者的角度看是非常重要的!一般市場使用的消極限制是:從拍攝影像到跑出辨識結果存檔或啟動柵欄,反應時間超過0.5就會讓使用者感覺有點遲鈍不耐煩了!

但要追求速度又不想買更貴的電腦,就必須精簡計算過程,代價就是辨識能力的降低,影像品質與拍攝角度距離都必須更嚴格限制才能符合簡易快速的辨識程式!這就會增加系統建置使用者的不便!譬如攝影機的架設位置與環境照明,甚至駕駛經過系統時行駛的路線、位置與速度都會被更嚴格限制。

這也是被炒作很多年的車牌辨識一體機始終無法大量推廣的原因!我也曾配合某廠商製作過車牌辨識一體機的!結果是原本在一般電腦辨識只需0.2的影像,到了攝影機中效能較低的微電腦(樹莓派)中就需要兩秒鐘才能辨識成功,反應太慢被客戶嫌棄了!車牌辨識一體機通常是裝一台就被罵一次!不是辨識速度太慢,就是辨識不到或錯誤太多!

那我能不能從軟體面「優化」速度呢?其實可以的!我有信心可以提速到0.5秒以下,但程式當然必須大幅簡化,就會如上所述辨識能力變差,使用限制變大了!其他廠商要做車牌辨識一體機當然也會碰到一樣的問題,攝影機裡面不可能裝個i7電腦的!即使可以,成本也太高了,失去了一體機降低成本的意義,沒有任何廠商會這麼作的!

所以當我研發出任何好的辨識能力之後不是就收工了!通常會花上幾乎一樣長的時間努力優化辨識速度!因為使用者都希望辨識速度快,辨識能力又很好!最好還可以用較便宜低階的電腦跑,達到一樣快又好的辨識效果!我用較好的電腦研發的產品辨識時間如果是100毫秒,客戶發現用便宜電腦跑仍能低於500毫秒,就可以省很多系統建置成本了!這就是商業研發的完整面貌,也代表我必須研發出吃草很少又能跑第一的賽馬

如果只要求辨識率高,不必管辨識速度(計算量與運算時間)呢?我們的工作就簡單多了!正如現在機器學習或深度學習的AI概念,把所有可用的資料與方法都拿出來一一嘗試錯誤嘛!我的OCR辨識不出來,就用CNN也算一次,多種方法的能力聯集起來整體的辨識率就高了嘛!如果客戶要因此多花多少錢?我都不必管,那生意不就好做了?

正如ChatGPT好像很厲害?但它並不是擁有「最佳」的解法!而是它背後有無窮的「算力」資源,一般人只能跑一種軟體做辨識,它可以用很多超級電腦將所有可用的方法都算一遍找個最佳的答案!最終的表現看起來當然就比一般人用單一軟體厲害!但背後耗費的資源終究是必須有人買單的!

如上面我展示的這張困難辨識案例,就是一個具體而微的ChatGPT運作模式了!我把我的實驗介面貼上來給大家看了!右上方有五個辨識結果,前面的012代表我內建用三種辨識流程辨識這同一張圖!三種方法產生的五個結果我會選出最好的答案,所以從結果看起來我的辨識力就很厲害了!

如果我只用我的標準模式0呢?上例是絕對辨識不出來的!如果我把成功辨識此例的方法2升級為標準模式呢?那又會有很多其他正常案例變成無法正確辨識了!所以我的軟體大多數都是有內建多種辨識方法模式的!所以才能那麼厲害!

我當然很想整合出一個最完整具有全面能力的辨識流程!但是我辦不到!而機器學習或深度學習的架構,就是假設他們能辦得到,結果卻也是辦不到!所以他們做的軟體始終還無法超越我的軟體辨識能力!相對的ChatGPT的架構就不是嘗試自己組織出最佳的辨識流程,而是集思廣益,找個最好的方法做給你看!它是不會在乎那些辨識是用OCR?還是CNN的!結果好的就用!

以此觀之,如果大家認為ChatGPT這個做法是最好的AI那我的軟體不就是最AI的影像辨識軟體嗎?哪天如果有需要,MLDLCNN的車牌辨識流程我也會設法吸進我的軟體的!

但是要學我這麼作並不簡單,因為我不像ChatGPT那樣可以無限使用計算資源!我的軟體賣出去還是使用一般電腦在跑的!我的厲害之處是:我的每一種模式的辨識執行速度都很快,也就是演算法的效率都極高,所以這個極端案例我明明作了三次的辨識,才用了561毫秒!如果模式0就快速解決的話只需要一百多毫秒的意思!

為什麼是561毫秒?各位猜到了嗎?因為我會一直考慮0.5秒的使用者耐心大限!如果三種模式會跑到700毫秒,我就會忍痛只用兩種模式,或是更優化我的各種模式的速度了!要賣給大家用的東西一定要符合大家的使用習慣與期望的!這就是商業研發與玩家或學者不同之處。

不要以為優化速度是小事!看到美國野火的災難了嗎?那就是地球暖化導致的氣候變遷引起的!瘋狂氾濫不知道節省運算節能減碳的結果就是這樣!各行各業都必須努力幫忙避免這個災難繼續擴大!我能做的就是努力做出更快更節省計算量的軟體!所以極端浪費計算資源的MLDLCNN我一定會繼續天天罵的!

有誰推薦more

限會員,要發表迴響,請先登入