apriltag_tracking.py
# Este trabalho está licenciado sob a licença MIT.
# Copyright (c) 2013-2023 OpenMV LLC. Todos os direitos reservados.
# https://github.com/openmv/openmv/blob/master/LICENSE
#
# Este exemplo demonstra como usar o controle de janela de leitura para ler uma pequena parte da matriz
# de pixels do sensor da câmera em alta velocidade e mover essa janela de leitura pela imagem.
# Este exemplo foi projetado e testado na OpenMV Cam H7 Plus usando o sensor OV5640.
import csi
import time
# Este script de exemplo força a exposição a um valor constante durante todo o tempo. No entanto, você pode
# querer ajustar dinamicamente a exposição quando a janela de leitura diminuir para um tamanho pequeno.
EXPOSURE_MICROSECONDS = 20000
SEARCHING_RESOLUTION = csi.QVGA
TRACKING_RESOLUTION = csi.QQVGA # ou csi.QQQVGA
TRACKING_LOW_RATIO_THRESHOLD = (
0.2 # Vai para uma janela de leitura menor quando o lado da tag em relação à resolução for menor.
)
TRACKING_HIGH_RATIO_THRESHOLD = (
0.8 # Vai para uma janela de leitura maior quando o lado da tag em relação à resolução for maior.
)
csi0 = csi.CSI()
csi0.reset() # Reinicia e inicializa o sensor.
csi0.pixformat(csi.GRAYSCALE) # Define o formato de pixel para GRAYSCALE
csi0.framesize(SEARCHING_RESOLUTION)
csi0.snapshot(time=1000) # Aguarda as configurações fazerem efeito.
clock = time.clock() # Cria um objeto clock para rastrear o FPS.
csi0.auto_gain(False) # Desativa, pois causará oscilação.
csi0.auto_exposure(False, exposure_us=EXPOSURE_MICROSECONDS)
csi0.snapshot(time=1000)
# sensor_w e sensor_h são os pixels brutos w/h do sensor de imagem (x/y começam em 0).
x, y, sensor_w, sensor_h = csi0.ioctl(csi.IOCTL_GET_READOUT_WINDOW)
while True:
clock.tick()
img = csi0.snapshot()
# Rastreia TAG36H11 por padrão.
tags = img.find_apriltags()
if len(tags):
best_tag = max(tags, key=lambda x: x.decision_margin)
img.draw_rectangle(best_tag.rect)
# Isso precisa ser menor que a saída padrão do sensor para que possamos movê-la.
readout_window_w = ((sensor_w // csi0.width()) * csi0.width()) / 2
readout_window_h = ((sensor_h // csi0.height()) * csi0.height()) / 2
def get_mapped_centroid(t):
# Por padrão, a janela de leitura é definida como toda a matriz de pixels do sensor, com x/y==0.
# A resolução que você vê é produzida pegando pixels da janela de leitura na
# câmera. A localização x/y é relativa ao centro do sensor.
x, y, w, h = csi0.ioctl(csi.IOCTL_GET_READOUT_WINDOW)
# O driver da câmera tentará escalar para caber em qualquer resolução que você passar até o máximo
# largura/altura que cabem no sensor mantendo a proporção de aspecto.
ratio = min(w / float(csi0.width()), h / float(csi0.height()))
# Referencia cx() ao centro da viewport e depois escala para a leitura.
mapped_cx = (t.cx - (csi0.width() / 2.0)) * ratio
# Como mantemos a proporção de aspecto, pode haver um deslocamento em x.
mapped_cx += (w - (csi0.width() * ratio)) / 2.0
# Adiciona nosso deslocamento em relação ao centro do sensor
mapped_cx += x + (sensor_w / 2.0)
# Referencia cy() ao centro da viewport e depois escala para a leitura.
mapped_cy = (t.cy - (csi0.height() / 2.0)) * ratio
# Como mantemos a proporção de aspecto, pode haver um deslocamento em y.
mapped_cy += (h - (csi0.height() * ratio)) / 2.0
# Adiciona nosso deslocamento em relação ao centro do sensor
mapped_cy += y + (sensor_h / 2.0)
return (mapped_cx, mapped_cy) # Posição X/Y na matriz do sensor.
def center_on_tag(t, res):
global readout_window_w
global readout_window_h
mapped_cx, mapped_cy = get_mapped_centroid(t)
# Muda para a resolução (se a resolução não foi alterada, isso não faz nada).
csi0.framesize(res)
# Constrói a janela de leitura. x/y são deslocamentos a partir do centro.
x = int(mapped_cx - (sensor_w / 2.0))
y = int(mapped_cy - (sensor_h / 2.0))
w = int(readout_window_w)
h = int(readout_window_h)
# Foca no centroide.
csi0.ioctl(csi.IOCTL_SET_READOUT_WINDOW, (x, y, w, h))
# Verifica se estamos atingindo a borda.
new_x, new_y, w, h = csi0.ioctl(csi.IOCTL_GET_READOUT_WINDOW)
# Você pode usar esses valores de erro para acionar servos e mover a câmera, se quiser.
x_error = x - new_x
y_error = y - new_y
if x_error < 0:
print("-X Limit Reached ", end="")
if x_error > 0:
print("+X Limit Reached ", end="")
if y_error < 0:
print("-Y Limit Reached ", end="")
if y_error > 0:
print("+Y Limit Reached ", end="")
center_on_tag(best_tag, TRACKING_RESOLUTION)
loss_count = 0
# Este laço rastreará a tag com uma velocidade de leitura muito maior e resolução menor.
while True:
clock.tick()
img = csi0.snapshot()
# Rastreia TAG36H11 por padrão.
tags = img.find_apriltags()
# Se perdermos a tag, precisamos encontrar uma nova.
if not len(tags):
# Trata alguns quadros ruins devido à cintilação da tag.
if loss_count < 2:
loss_count += 1
continue
# Redefine a resolução.
csi0.framesize(SEARCHING_RESOLUTION)
csi0.ioctl(csi.IOCTL_SET_READOUT_WINDOW, (sensor_w, sensor_h))
break
loss_count = 0
# Reduz a lista de blobs e destaca o blob.
best_tag = max(tags, key=lambda x: x.decision_margin)
img.draw_rectangle(best_tag.rect)
print(clock.fps(), "TAG cx:%d, cy:%d" % get_mapped_centroid(best_tag))
w_ratio = best_tag.w / csi0.width()
h_ratio = best_tag.h / csi0.height()
# Reduz a janela de rastreamento até que a tag caiba.
while (w_ratio < TRACKING_LOW_RATIO_THRESHOLD) or (
h_ratio < TRACKING_LOW_RATIO_THRESHOLD
):
readout_window_w /= 2
readout_window_h /= 2
w_ratio *= 2
h_ratio *= 2
# Aumenta a janela de rastreamento até que a tag caiba.
while (TRACKING_HIGH_RATIO_THRESHOLD < w_ratio) or (
TRACKING_HIGH_RATIO_THRESHOLD < h_ratio
):
readout_window_w *= 2
readout_window_h *= 2
w_ratio /= 2
h_ratio /= 2
center_on_tag(best_tag, TRACKING_RESOLUTION)
print(clock.fps())