apriltag_tracking.py

# Эта работа лицензирована по лицензии MIT.
# Copyright (c) 2013-2023 OpenMV LLC. All rights reserved.
# https://github.com/openmv/openmv/blob/master/LICENSE
#
# Этот пример демонстрирует, как использовать управление окном считывания для считывания небольшой части
# пиксельного массива датчика камеры на очень высокой скорости и перемещать это окно считывания.

# Этот пример был разработан и протестирован на камере OpenMV Cam H7 Plus с датчиком OV5640.

import csi
import time

# Этот пример принудительно устанавливает постоянное значение экспозиции на всё время работы. Однако вы можете
# захотеть динамически регулировать экспозицию, когда окно считывания уменьшается до малого размера.
EXPOSURE_MICROSECONDS = 20000

SEARCHING_RESOLUTION = csi.QVGA
TRACKING_RESOLUTION = csi.QQVGA  # или csi.QQQVGA

TRACKING_LOW_RATIO_THRESHOLD = (
    0.2  # Переключитесь на меньшее окно считывания, когда сторона метки меньше разрешения.
)
TRACKING_HIGH_RATIO_THRESHOLD = (
    0.8  # Переключитесь на большее окно считывания, когда сторона метки больше разрешения.
)

csi0 = csi.CSI()
csi0.reset()  # Сброс и инициализация датчика.
csi0.pixformat(csi.GRAYSCALE)  # Установите формат пикселей в GRAYSCALE
csi0.framesize(SEARCHING_RESOLUTION)
csi0.snapshot(time=1000)  # Подождать, пока настройки вступят в силу.
clock = time.clock()  # Создать объект clock для отслеживания FPS.

csi0.auto_gain(False)  # Отключите, так как иначе будут колебания.
csi0.auto_exposure(False, exposure_us=EXPOSURE_MICROSECONDS)
csi0.snapshot(time=1000)

# sensor_w и sensor_h — это исходные ширина/высота пикселей датчика изображения (x/y изначально равны 0).
x, y, sensor_w, sensor_h = csi0.ioctl(csi.IOCTL_GET_READOUT_WINDOW)

while True:
    clock.tick()
    img = csi0.snapshot()

    # По умолчанию отслеживает TAG36H11.
    tags = img.find_apriltags()

    if len(tags):
        best_tag = max(tags, key=lambda x: x.decision_margin)
        img.draw_rectangle(best_tag.rect)

        # Это значение должно быть меньше, чем выходное разрешение датчика по умолчанию, чтобы мы могли перемещать его.
        readout_window_w = ((sensor_w // csi0.width()) * csi0.width()) / 2
        readout_window_h = ((sensor_h // csi0.height()) * csi0.height()) / 2

        def get_mapped_centroid(t):
            # По умолчанию окно считывания установлено на весь пиксельный массив датчика, при x/y==0.
            # Разрешение, которое вы видите, формируется путём взятия пикселей из окна считывания
            # камеры. Положение x/y задаётся относительно центра датчика.
            x, y, w, h = csi0.ioctl(csi.IOCTL_GET_READOUT_WINDOW)

            # Драйвер камеры будет пытаться масштабировать под любое переданное разрешение, до максимальной
            # ширины/высоты, помещающейся на датчике, сохраняя соотношение сторон.
            ratio = min(w / float(csi0.width()), h / float(csi0.height()))

            # Привяжите cx() к центру области просмотра, а затем масштабируйте до окна считывания.
            mapped_cx = (t.cx - (csi0.width() / 2.0)) * ratio
            # Поскольку соотношение сторон сохраняется, может возникнуть смещение по x.
            mapped_cx += (w - (csi0.width() * ratio)) / 2.0
            # Добавьте наше смещение от центра датчика
            mapped_cx += x + (sensor_w / 2.0)

            # Привяжите cy() к центру области просмотра, а затем масштабируйте до окна считывания.
            mapped_cy = (t.cy - (csi0.height() / 2.0)) * ratio
            # Поскольку соотношение сторон сохраняется, может возникнуть смещение по y.
            mapped_cy += (h - (csi0.height() * ratio)) / 2.0
            # Добавьте наше смещение от центра датчика
            mapped_cy += y + (sensor_h / 2.0)

            return (mapped_cx, mapped_cy)  # Положение X/Y на массиве датчика.

        def center_on_tag(t, res):
            global readout_window_w
            global readout_window_h
            mapped_cx, mapped_cy = get_mapped_centroid(t)

            # Переключитесь на разрешение res (если res не изменилось, это ничего не делает).
            csi0.framesize(res)

            # Постройте окно считывания. x/y — это смещения от центра.
            x = int(mapped_cx - (sensor_w / 2.0))
            y = int(mapped_cy - (sensor_h / 2.0))
            w = int(readout_window_w)
            h = int(readout_window_h)

            # Сфокусируйтесь на центроиде.
            csi0.ioctl(csi.IOCTL_SET_READOUT_WINDOW, (x, y, w, h))

            # Проверьте, не достигаем ли мы края.
            new_x, new_y, w, h = csi0.ioctl(csi.IOCTL_GET_READOUT_WINDOW)

            # При желании вы можете использовать эти значения ошибки для управления сервоприводами, перемещающими камеру.
            x_error = x - new_x
            y_error = y - new_y

            if x_error < 0:
                print("-X Limit Reached ", end="")
            if x_error > 0:
                print("+X Limit Reached ", end="")
            if y_error < 0:
                print("-Y Limit Reached ", end="")
            if y_error > 0:
                print("+Y Limit Reached ", end="")

        center_on_tag(best_tag, TRACKING_RESOLUTION)

        loss_count = 0

        # Этот цикл будет отслеживать метку с гораздо более высокой скоростью считывания и более низким разрешением.
        while True:
            clock.tick()
            img = csi0.snapshot()

            # По умолчанию отслеживает TAG36H11.
            tags = img.find_apriltags()

            # Если метка потеряна, нужно найти новую.
            if not len(tags):
                # Обработайте несколько плохих кадров из-за мерцания метки.
                if loss_count < 2:
                    loss_count += 1
                    continue
                # Сбросьте разрешение.
                csi0.framesize(SEARCHING_RESOLUTION)
                csi0.ioctl(csi.IOCTL_SET_READOUT_WINDOW, (sensor_w, sensor_h))
                break

            loss_count = 0

            # Сузьте список блобов и выделите блоб.
            best_tag = max(tags, key=lambda x: x.decision_margin)
            img.draw_rectangle(best_tag.rect)

            print(clock.fps(), "TAG cx:%d, cy:%d" % get_mapped_centroid(best_tag))

            w_ratio = best_tag.w / csi0.width()
            h_ratio = best_tag.h / csi0.height()

            # Уменьшайте окно отслеживания, пока метка не поместится.
            while (w_ratio < TRACKING_LOW_RATIO_THRESHOLD) or (
                h_ratio < TRACKING_LOW_RATIO_THRESHOLD
            ):
                readout_window_w /= 2
                readout_window_h /= 2
                w_ratio *= 2
                h_ratio *= 2

            # Увеличивайте окно отслеживания, пока метка не поместится.
            while (TRACKING_HIGH_RATIO_THRESHOLD < w_ratio) or (
                TRACKING_HIGH_RATIO_THRESHOLD < h_ratio
            ):
                readout_window_w *= 2
                readout_window_h *= 2
                w_ratio /= 2
                h_ratio /= 2

            center_on_tag(best_tag, TRACKING_RESOLUTION)

    print(clock.fps())