Modello corrispondente all'NCC
Tutorial video 8 - Corrispondenza dei modelli NCC: https://singtown.com/learn/49598/
Algoritmo NCC:
# Template Matching Example - Normalized Cross Correlation (NCC)
#
# This example shows off how to use the NCC feature of your OpenMV Cam to match
# image patches to parts of an image... expect for extremely controlled enviorments
# NCC is not all to useful.
#
# WARNING: NCC supports needs to be reworked! As of right now this feature needs
# a lot of work to be made into somethin useful. This script will reamin to show
# that the functionality exists, but, in its current state is inadequate.
import time, sensor, image
from image import SEARCH_EX, SEARCH_DS
#从imgae模块引入SEARCH_EX和SEARCH_DS。使用from import仅仅引入SEARCH_EX,
#SEARCH_DS两个需要的部分,而不把image模块全部引入。
# Reset sensor
sensor.reset()
# Set sensor settings
sensor.set_contrast(1)
sensor.set_gainceiling(16)
# Max resolution for template matching with SEARCH_EX is QQVGA
sensor.set_framesize(sensor.QQVGA)
# You can set windowing to reduce the search image.
#sensor.set_windowing(((640-80)//2, (480-60)//2, 80, 60))
sensor.set_pixformat(sensor.GRAYSCALE)
# Load template.
# Template should be a small (eg. 32x32 pixels) grayscale image.
template = image.Image("/template.pgm")
#加载模板图片
clock = time.clock()
# Run template matching
while (True):
clock.tick()
img = sensor.snapshot()
# find_template(template, threshold, [roi, step, search])
# ROI: The region of interest tuple (x, y, w, h).
# Step: The loop step used (y+=step, x+=step) use a bigger step to make it faster.
# Search is either image.SEARCH_EX for exhaustive search or image.SEARCH_DS for diamond search
#
# Note1: ROI has to be smaller than the image and bigger than the template.
# Note2: In diamond search, step and ROI are both ignored.
r = img.find_template(template, 0.70, step=4, search=SEARCH_EX) #, roi=(10, 0, 60, 60))
#find_template(template, threshold, [roi, step, search]),threshold中
#的0.7是相似度阈值,roi是进行匹配的区域(左上顶点为(10,0),长80宽60的矩形),
#注意roi的大小要比模板图片大,比frambuffer小。
#把匹配到的图像标记出来
if r:
img.draw_rectangle(r)
print(clock.fps())
Tieni presente che poiché la dimensione della nostra immagine modello supera il flash integrato di openmv, dobbiamo inserire la scheda SD ed eseguire i seguenti passaggi. (Fare attenzione a inserire prima la scheda SD e poi ad accendere) E questa corrispondenza del modello può essere utilizzata solo per la versione firmware 1.6 e successive, altrimenti verrà visualizzato il messaggio "impossibile trovare SEARCH_EX" durante l'esecuzione
Innanzitutto, dobbiamo creare o importare un modello. Tieni presente che questo modello deve essere in formato pgm e la dimensione è limitata e non può superare la dimensione in pixel di openmv. Possiamo intercettare un'immagine modello direttamente da openmv. Possiamo prima eseguire la routine helloworld.py, lasciare che il frambuffer visualizzi l'immagine e quindi intercettarla.
Seleziona salva la selezione dell'immagine sul PC. Tieni presente che l'immagine salvata direttamente da openmv è in formato bmp. Dobbiamo convertirla in formato pgm. La conversione online può essere eseguita su questo sito web https://convertio.co/zh/bmp-pgm/
Quindi, salviamo il modello pgm convertito sulla scheda SD (ci sono 8 modelli in questa scheda SD e il modello nell'immagine sopra viene salvato come ball0.pgm)
Quindi apriamo la routine di corrispondenza del modello
Cambia il nome del file template template.pgm alla riga 28 in ball0.pgm proprio ora
Quindi eseguilo e basta!
Questo è l'utilizzo della funzione di corrispondenza del modello find_template:
r = img.find_template(template, 0,7, roi=(10,0,80,60), step=4, search=SEARCH_EX) La soglia di 0,7 in è la soglia di somiglianza, roi È l'area per la corrispondenza (il vertice in alto a sinistra è (10, 0), un rettangolo con una lunghezza di 80 e una larghezza di 60. Notare che la dimensione del roi è maggiore dell'immagine del modello e minore del frambuffer .
Tieni presente che questa corrispondenza del modello utilizza l'algoritmo ncc, che può far corrispondere solo aree di dimensioni simili al modello. Se desideri abbinare immagini di dimensioni diverse, devi salvare più modelli di dimensioni diverse.
Se si verificano i seguenti problemi dopo l'esecuzione del programma:
- L'immagine del modello è troppo grande. Si consiglia che l'immagine del modello sia inferiore a 80*60
- OpenMV2 non ha memoria sufficiente, quindi è necessario modificare QQVGA in QQCIF.
Confronto tra la corrispondenza del modello e il rilevamento dei punti caratteristici:
Corrispondenza modello (trova_temolate) utilizza l'algoritmo ncc, che può far corrispondere solo modelli che hanno sostanzialmente la stessa dimensione e angolo dell'immagine modello. Le limitazioni sono relativamente grandi. Se il modello di destinazione nel campo visivo è leggermente più grande o più piccolo dell'immagine modello, la corrispondenza potrebbe non avere esito positivo.
La corrispondenza del modello è adatta per situazioni in cui viene determinata la distanza tra la telecamera e l'oggetto target e non è richiesto un movimento dinamico. Ad esempio, è adatto per il rilevamento di oggetti specifici sulla catena di montaggio, ma non adatto per l'auto per seguire un pallone in movimento (perché la distanza tra il pallone in movimento e la telecamera è dinamica, la dimensione del pallone visto dal la fotocamera cambierà e non sarà esattamente la stessa dell'immagine del modello).
Per la corrispondenza di più angolazioni e più dimensioni, puoi provare a salvare più modelli e utilizzare Corrispondenza di più modelli.
Rilevamento punto caratteristica (find_keypoint): Se hai appena iniziato a eseguire il programma, la routine estrae la prima immagine come caratteristica dell'oggetto di destinazione e kpts1 salva la caratteristica dell'oggetto di destinazione. Per impostazione predefinita, corrisponderà a più proporzioni, dimensioni e angoli della funzione di destinazione, non solo alle dimensioni e all'angolo durante il salvataggio della funzione di destinazione. È più flessibile della corrispondenza dei modelli e non richiede il salvataggio di più immagini del modello come la corrispondenza di più modelli.
Per il rilevamento dei punti caratteristici, è anche possibile salvare in anticipo le caratteristiche del target. Ciò non era consigliato in precedenza poiché l'interferenza della luce ambientale e altri motivi potrebbero causare caratteristiche diverse di luci diverse ogni volta che si esegue il programma e il grado di corrispondenza verrà ridotto. Tuttavia, nell'ultima versione del firmware, sono state aggiunte regolazioni all'esposizione, al bilanciamento del bianco e ai valori di guadagno automatico. I valori di esposizione e di bilanciamento del bianco possono essere definiti artificialmente, il che indebolirà relativamente l'interferenza della luce . Puoi anche provare a salvare in anticipo le funzionalità di destinazione.