Video Analytics Measuring Accuracy / Accuracy Issues Guide
Video surveillance manufacturers often tout "high accuracy" analytics as a key marketing focus, typically with 90%+ values. But how do they reach those figures?
** **** ****** ** ***** **** and ******* **** ** *** *********:
- ****** ***** *** ***** ************
- ********** ******** ********
- ********* *** ******
- **** ******** **** ** ***** ******** Rate
- *** ***** / **** ***** *****
- **-***** - ******** *******
- **** ******* *********
- *********** ******** ******
- *** **** ***** *********
- ***** ****** *********** ********* **********
- ************ *********** ****
- ************* **** **** ******** *****
- ************* *** *********
- ******* *******
**** ** **** ** ******** ********* ************** ** *** *** ** *****.
Ground *****
****** ***** ** **** ** ******** information ******** ******* ****** ***********, ****** than ********/*********. * ****** ******* ** how **** ******* *** ** * glass ***.
** ********* ***** ******** *** **** marbles **** ** *** *** (*.*., by ********** *** **** ** *** marbles *** *** ****** ** *** jar, ***.).
*******, ****** ***** *** **** ** determined ** * ****** ******** *** marbles *** ******** *** *****.
** ***** ************, ****** ***** ** obtained ** * ***** ******** ********** results ** *** ********* **** ******** video. ******* ** *** ******* ** a *** *******, **** ** *** only *** ** ********* ** ********* are ********* **** **** ******, ******* objects, ** ****** ********.
****** ***** ***** ********* ********** ** providing ****-***** ******** ** ********, ** that ********* *** ** ******** ******* training ***/** ***********.
Ground ***** ********** ******
*********** ****** ***** *** ****** ** easy *******, ** **********, *** ****** is ********** ** *****/*** ***** ** reviewed. ***** ****** *** ** ********** as ******** ** **********.
*******, *********** ****** ***** *** **** objects *** *** ******** ** ****, because *** ****** **** *** ****** an *****/***** ** ******. **** ***** all ***** ***** **** ** ** reviewed, ********* *** ******* ** ***** analytics. ********, ** **** ************, ****** detections *** * ******* *******, **** serious **** *****************.
*** *******, **** ***** **********/***** ************ systems ********* **** ****** ******/******, *** continuously ********** ***** *** ****** **********.
**** ** * *********** **** *** these ***** ** *******.
******* ******* ***** ****** ***** ** difficult ** ********* ** ***** ******* since ** ***** ******* ****** *** temperatures ** *** ****** ********.
Fundamental ******** ********
*** ********* **** * ******** **** impact *** ******** * ****** ** performing:
- **** ********* - **: * ****** is ******** ** * ******
- **** ********* - **: * **** is *** ******** ** * ******
- ***** ********* - **: * **** is ******** ** * ******
- ***** ********* - **: * ****** was *** ******** ** * ******
Simplistic ***********
* ********** ****** *** *********** ******** accuracy ** ******* *** ***** **** it *** *******, *** ****** ***** false ******, ******** ** *** ******:
*******, **** ********** ******** ** ******* in *** ***** ** *********** *** total *********** ** ** *********. *** example, ** * *** ********* ********* processed *** ****** *** ******** ** guns, *** * ****** *** ****, it ** **% ******** ** **** method, *** ****** ** ****** **** 100% ** *** ****.
** ****, ********* ********** ****** ** many ********* ************** **** ******** ***** algorithms. *** *******, ** *** ******** not ******* *** ****** **** ******** than ****** ****** ** ***** ****** misidentifying * **** ** * ******?
******* ** ***** **************, ***** *** additional ******* ** ***** ******** ********.
Precision *** ******
******* ***** ********** ******** ************ *** its ************, ***** *** * *********** metrics **** ** ********** *** **** an ********* *****; ********* *** ******.
*********
********* ******** *** ***** * ********** object ** ******* (*.*. * ****** is * ******) ** *** ***** of **** ********* ** *** *********. Precision ******* ** ***** ********* ********.
****** ** *** ******* ** *** correct *** ******** ** ** ********* all ****** ******* (*.*. *** ******, all *****, *** ********) ** *** ratio ** **** ********* ** **** Positives **** ***** *********. ****** ******* as ***** ********* ********.
*******, ** ********* ***** **** ********* and ****** ****** ** *.*, *** in ****-***** *******, ** ********* ********* Recall ********* ** **** *****.
********* ********
********* ********** *** **** *** ********* finds ******* ********* *** **** *** take **** ******* ******* **** ** misses (***** *********), ** ********* ******* (True *********). ****** *********** ****** ******* systems ******* **** *********, *** ******** access ** *** ***** ******, *******, missed ************ (***** *********) *** *********** and ************* ****** *****.
*** *******, ** * **** ** a *** ********* ********* ********* **,*** people *** ******** * ****; * person **** *** * *** *** 3 **** *** ***, *** ****** 25 ******* **** *** ****. *** precision ** **** *** ********* ** 0.25.
- ********* ********** * - **** *********
- *** *** ***** ** - ***** negatives (**** *** ****** **** *********)
- *********** ********** * - ***** *********
***** ********* ** *** ***** ** true ********* ** *** *********, *** precision **** ** * / * = **%. *******, **** ** **** that *** ****** ***** *** * substantial ****** ** ***** ********* **** are *** ******** **** *********.
****** ********
****** ********** *** **** *** ********* detects *** ****** ******* *** **** not **** **** ******* *** **** it ********* ******* ***-******* ** *********** identifies ** ******. ****** ** **** commonly **** ** ***** ********* ********, especially **** ******* ** ********* ****** true ******** ********.
*** *******, *** *** ********* ******* above *** * ****** ** ~*.** (true ********* ** * / **** positives ** * + ***** ********* of **, *.*., * / **).
****** ** **** ***** ** *********** or **** ******** **** (***) *** is ******** *** *********** ********* ***********.
Sensitivity / **** ******** **** ** ***** ******** ****
*********** ** **** ******** **** (***) identifies *** **** ********* ***** **** be, **** **** *** *****.***** ******** **** (***) ********** *** likely ** ********* **** ***** ***** (both ******** *** ********).
******** *** *** ****** *** ** used ** ******* ********* ****** ****** testing, ** **** *** **** **********.
ROC ***** / **** ***** *****
******** *** *** *** ******* * Receiver ********* ************** (***) *****, ***** is **** ** ******* *** *********** of ******** ******. ************, *** **** under *** ***** (***) *** ** used ** ** ******* *********** *** accuracy.
*** ****, ****** *** ***** ***** lines ********* * ********* ****** **** curves ******** ** *** ** *** left ********** **** *********** (**** **** Positives *** ******). *******, ******* *** ROC ***** ** **** ** ** many ****** ** ********* ********** ** TPR *** ***, ********** *** * secondary ****** ***** *** **** ***** the *** *****, ** ********* ***********:
*** ** *** *-*********** **** ***** the *** ***** *** ** * value ******* * *** *, **** a ***** ** * ********** *** best ******** ***********.
*** ** ******** *** ******* *********** for *** **** *******:
- ** ********* *** ******** ** *********/***** distinguishes ******* **** ************** (*.*. ****** vs *******)
- ** ******** *** ******* ** *** model's ************** ************, ****** *** **** range ** *** *** *****.
*******, **** ***** *** **** ***** the ********** ** *** ** ******* use *****:
****** **** **** *** *** ************* strong *********** ** ******** ****, ************ in ***** ***** *********** ****** ** the ******** ******, *** *** *** reflect ****-***** ***********.
** ***** ***** ***** *** **** disparities ** *** **** ** ***** negatives **. ***** *********, ** *** be ******** ** ******** *** **** of ************** *****. *** *******, **** doing ****** *********** ****** *******, *** likely **** ** ********** ********** ***** positives (**** ** **** ******* ** a *********** ******** ** ***** *********). AUC ***'* * ****** ****** *** this **** ** ************.
F1 ***** - ******** *******
******* ****** *** ********* ******** *********** is * *****'* * *****, ***** finds *** ******** ********* ******* ** Precision *** ******:
* **** ** ***** ** ******** cited ** ******** ****** *********** ******** for ****** *********** ******* *********** *** correct ******* *** *** ******* ********/********* persons *** ********* ******* *********.
Mean ******* *********
******* ********* ****** *** ********* *********** is ***** **** ******* ********* ** determine *** ****** *** ***** ******* and ********** **** ****** **********, ******** to *** ******** ****** *****.
** ******* * ********* *** *** minimum ******** ************ **** *****, ******* will ********* ******** **** *** ********* a ****** *** **** *** ****** of *** ****** ** ********:
**** ******* ********* ** *** ********** by ********* ********* ****** (*** *****), but ** ********* *** ******* **** of *** ******** ****** (********* ***) compared ** *** ****** *****:
**** ******* ********* ** **** ** a ******* *** ****** ** ******* detection, ** **** ************ ***** *** likely *** ********* ***** *** **** of *** ****** *** ******** *** covered, **** **** **** ******* ** alert.
*******, ** ** ******** ** ***** related ** ******* ******* ********, ** incomplete ** ********** ******** *** **** to ****** ***********:
Fundamental ******** ******
************ ************ ****** *********** ********** ** analytics *********** **** ***** ******** ******; too **** ***** ********* *** ***** watchlists.
*** **** ***** *********
** ******* ************, *** ******* ** the ********* ** *** *** *** is ******** *** *********** *** ***** concerns, *** ********* **** ******* * non-trivial ****** ** ***** ********* **** create *********** ********.
*** **** ** ***** ****** ********* as *** ****** ** ******** *** analyzed, *** ***** ** * ***** differential ******* *** ****** ** ******** that ****** ** ******** ** **** negatives (*.*. ***-********* *********) *** **** positives (*.*. ****** *********).
*** **** ****** **** ** ***** alert *******, ***** ***** ****** ** disable ****** **********. **** ** **** common **** ****** *** ** *********-***** analytics ***** ****** **** **** *** due ** ******** *** *******.
***** **** ******, *** *********** **** higher ****, ********* * ****** ***** on *****-******** ****** *********** ** * major ********* *** *** ***********, *** has **** ************* ****** ********** *** **.
***** ****** *********** **********
**** * ****** *********** ********* ******** thousands, **** ** *********, **** ******* ***** (**** ****** ************ Test), ****** *********** ********* *********** ** important ** *****-******** ****.
*** *******, **** * ***,*** **** watch **** * **** ********** ********* will ****** ********* ** ***** ************, while *** ********** **** **** ****** false ************, *** ** * ************* lower **** ** ****** ** ****.
******* ************ *** *****, ****** * large ****** *********, ***** ** ***** to ** * ****** **** *** similar ****** ****** ******** ** **** the ********, *** **** ***** *********. This ** * ****** ***** *****, as *** ****** ** ***** *** known:
**** ** ******** ***** ***********, **** known "*************" ****** ******** ** ******:
*******, ********* ****** ******* ** ****** in ****** ***********, ***** ** ******* for ********* ******** ****** ********, ***** can ** ******-******* **** ***** ************.
Manufacturer *********** ****
** *** ******* ** ******* **** products, ************* **** *** *** ****** for ******** *** *********** **** ********** their ******** ****, ***** ** ***** misleading. **** **** ***** ******* **** by ****** * ****** *** **** with ******* *********.
********, ************* **** ***** ****** ******** against ****-****** ******** (*.*.******* ***** ** *** **** - LFW), ***** *** *** ***********, *** commonly ******* ** **%+ ********.
******* *** **** ******* ************* *** is ********* *** ********** *** *** matter, ** ******* ** ********** ************ with ***** ******** *** ****** **** results. **** ****-***** ******** *** **** be ********** ******* **-******** *******.
Manufacturers **** **** ******** *****
**** ************* **** ************ **** **** ******** Rate *** ********, ***** ** *********** because ** ******* *** ******* **** it ******.
*** *******, ** ***/**** ************ **** claim **% ******** *********** *** ************ characters ** * ******* *****, *** this ** ********* *** ****** **** were ****/********. **** ****** **** **** read *********** ***** ******* **** ******** metric, *** ****** **** **** *** seen ** ***, ***** ** ****** in *** ****-*****.
****** ****** **** ***** ****** ****** (vehicle *****, **** ******, *** *******, damaged ******, ******** ******) *** *** counted ******* *** ********, ***** **** not ******* *** ****-***** *********** ** the ******** ******.
Manufacturers *** *********
*** **** *********, ***** *** ** measurable ********* ******* ** ******* (*.*. WDR, ******* ** ***** ******) **** can ** ******** *** ***** **** they ****.
********, ************* **** ********* ******** ******, only ***** ******* ***** ********** **** accuracy:
****'* ****-***** ******* ***** **** ********* often ******** ** **** "****" ** exceed **% ********, *** ** ************* and ********** **********, ********** ** ****** lights *** ***** *******.
****** ***** ************ ** ********** ************ (e.g. ****** *********** ****** *******, *** tolling) *** ****** ** ******** ***/*** than **** ****** ****** ** ******* detection.
Ranking *******
********* ********** ****** ** *******/******** ******* by ******** ** * ****** ****** analytic ********* ***** ** **** ****** search ********:
******* ******* ****** * ***** ** verify *** *** *******, ****** **** by *********** ******* ***** * ************* accuracy/confidence *********.
*** ******* **** ******* ** ********* confidence ****** ** ********* ******* **** provide ********* ****** ** ** ******, making ** ********* ** ******* *******. It ** ****** *** ******* ** offer ******* (*.*. ****, ******, *** Low) ********** *******, *** *** ******* calculated ******.
****** *********** ******* *** ********* ** exception ** ****, ** **** ******* provide ********** *****:
**** ********, ********* ******** ***** *** not ******* ** *** **** *********, making ****** ** **** ******* ********* impossible.
****** ***** (*** ***********/******) ******* ** machine *** **** ********, ********* ****** the *********** *** ******** ** *** algorithm.
** ******** ** *** ****'* *****, ground ***** ** **** ******* **** model ** ******** **** *** ********** to ***** *********** ** *** ***** in ****-**** ********.
***** ** ******* ** */* ******* in *******/**** ******** ***** **** ****** truth *** ***** **********.
******** ** *** *** **** ******* when **** **** ** *********.
***********/***********, *********/****** ****** ** **** *** unbalanced ********.
***** **** ***********/***********, *********/****** ** **** it ******* ** ********* *****(******* *.*). In **** **** ***/*** ** ****** option.
***** ** ** ****** **** *** selecting ******** ****** *** *** ***** its *** ******* ** ***-**** ** are ******* ** *** ***** ***** we **** ** ******.
***** *****...**** ** **** ** ******...** is ** *********** ** ******* *** tricky ******* *** ** ******* **+% accuracy ******* ******* ***** ****** *** liar ** *** **** ****...***** ****** although ** **** ** **** * bit
***** *** ** **** *** **** class *****, *****. * ***** *** easy *** **** **** ** **********! I ** **** * ***** ********, you **** ****** ***** ******* ****** truth *** *** ****** ******* ********. What *** *** ******** ** ****** truth *** **** ******** ************, ** you ***** **** **** ** ** the ********* (*** ** *** ***)? Thank ***!