blazepalm_detection.py

# Эта работа лицензирована по лицензии MIT.
# Copyright (c) 2013-2025 OpenMV LLC. Все права защищены.
# https://github.com/openmv/openmv/blob/master/LICENSE
#
# Этот пример демонстрирует модель Google MediaPipe для обнаружения ладони (Palm Detection).
#
# ПРИМЕЧАНИЕ: для работы в реальном времени этому примеру нужна камера OpenMV с NPU, например AE3 или N6.

import csi
import time
import ml
from ml.postprocessing.mediapipe import BlazePalm

# Инициализация датчика.
csi0 = csi.CSI()
csi0.reset()
csi0.pixformat(csi.RGB565)
csi0.framesize(csi.VGA)

# Для наилучшего результата BlazePalm требует квадратное изображение.
csi0.window((400, 400))

# Загрузить встроенную модель обнаружения ладони
model = ml.Model("/rom/palm_detection_full_192.tflite", postprocess=BlazePalm(threshold=0.4))
print(model)

# Линии соединений между суставами руки для отрисовки скелета руки.
palm_lines = ((0, 1), (1, 2), (2, 3), (3, 4), (4, 0), (0, 5), (5, 6))

clock = time.clock()
while True:
    clock.tick()
    img = csi0.snapshot()

    # palms — это список кортежей ((x, y, w, h), score, keypoints)
    for r, score, keypoints in model.predict([img]):
        ml.utils.draw_predictions(img, [r], ("palm",), ((0, 0, 255),), format=None)

        # keypoints — это ndarray формы (7, 2)
        # 0 — запястье (x, y)
        # 1 — сустав указательного пальца mcp (x, y)
        # 2 — сустав среднего пальца mcp (x, y)
        # 3 — сустав безымянного пальца mcp (x, y)
        # 4 — сустав мизинца mcp (x, y)
        # 5 — сустав большого пальца cmc (x, y)
        # 6 — сустав большого пальца mcp (x, y)
        #
        # mcp = пястно-фаланговый сустав — костяшка
        # cmc = запястно-пястный сустав — основание большого пальца
        ml.utils.draw_skeleton(img, keypoints, palm_lines, kp_color=(255, 0, 0), line_color=(0, 255, 0))

    print(clock.fps(), "fps")