movenet_singlepose_detection.py

# Эта работа лицензирована по лицензии MIT.
# Copyright (c) 2013-2026 OpenMV LLC. All rights reserved.
# https://github.com/openmv/openmv/blob/master/LICENSE
#
# Этот пример демонстрирует модель Google MoveNet для оценки позы (Pose Estimation).
#
# ПРИМЕЧАНИЕ: для работы в реальном времени этому примеру нужна камера OpenMV с NPU, например AE3 или N6.

import csi
import time
import ml
from ml.postprocessing.mediapipe import MoveNet

# Инициализация датчика.
csi0 = csi.CSI()
csi0.reset()
csi0.pixformat(csi.RGB565)
csi0.framesize(csi.VGA)

# Загрузить встроенную модель обнаружения позы
model = ml.Model("/rom/movenet_singlepose_192.tflite", postprocess=MoveNet(threshold=0.4))
print(model)

# Линии соединений между суставами тела для отрисовки скелета тела.
body_lines = ((0, 1), (0, 2), (1, 3), (2, 4), (0, 5), (0, 6), (5, 6), (5, 7),
              (7, 9), (6, 8), (8, 10), (5, 11), (6, 12), (11, 12), (11, 13), (13, 15),
              (12, 14), (14, 16))


# Удалить ключевые точки с низкой достоверностью и линии скелета, соединённые с ними.
def filter_keypoints(keypoints, threshold=0.4):
    valid = {i for i, kp in enumerate(keypoints) if kp[2] > threshold}
    remap = {old: new for new, old in enumerate(sorted(valid))}
    f_keypoints = [kp for i, kp in enumerate(keypoints) if i in valid]
    f_body_lines = [(remap[a], remap[b]) for a, b in body_lines if a in valid and b in valid]
    return f_keypoints, f_body_lines


clock = time.clock()
while True:
    clock.tick()
    img = csi0.snapshot()

    # joints — это список кортежей ((x, y, w, h), score, keypoints)
    joints = model.predict([img])

    # Отрисовать ограничивающие прямоугольники вокруг обнаруженных людей и ключевые точки.
    for r, score, keypoints in joints:
        ml.utils.draw_predictions(img, [r], ("person",), ((0, 0, 255),), format=None)

        # keypoints: ndarray (17, 3) суставов тела (x, y, score)
        # Индексы следуют соглашению COCO:
        # 0: нос
        # 1: левый_глаз, 2: правый_глаз
        # 3: левое_ухо, 4: правое_ухо
        # 5: левое_плечо, 6: правое_плечо
        # 7: левый_локоть, 8: правый_локоть
        # 9: левое_запястье, 10: правое_запястье
        # 11: левое_бедро, 12: правое_бедро
        # 13: левое_колено, 14: правое_колено
        # 15: левая_лодыжка, 16: правая_лодыжка
        f_keypoints, f_body_lines = filter_keypoints(keypoints)
        ml.utils.draw_skeleton(img, f_keypoints, f_body_lines,
                               kp_color=(255, 0, 0), line_color=(0, 255, 0))

    print(clock.fps(), "fps")