movenet_singlepose_detection.py

# Dieses Werk ist unter der MIT-Lizenz lizenziert.
# Copyright (c) 2013-2026 OpenMV LLC. Alle Rechte vorbehalten.
# https://github.com/openmv/openmv/blob/master/LICENSE
#
# Dieses Beispiel demonstriert Googles MoveNet-Posenschätzungsmodell.
#
# HINWEIS: Für dieses Beispiel wird eine OpenMV Cam mit NPU wie die AE3 oder N6 benötigt, um in Echtzeit zu laufen.

import csi
import time
import ml
from ml.postprocessing.mediapipe import MoveNet

# Sensor initialisieren.
csi0 = csi.CSI()
csi0.reset()
csi0.pixformat(csi.RGB565)
csi0.framesize(csi.VGA)

# Eingebautes Posenerkennungsmodell laden
model = ml.Model("/rom/movenet_singlepose_192.tflite", postprocess=MoveNet(threshold=0.4))
print(model)

# Linienverbindungen zwischen Körpergelenken zum Zeichnen des Körperskeletts.
body_lines = ((0, 1), (0, 2), (1, 3), (2, 4), (0, 5), (0, 6), (5, 6), (5, 7),
              (7, 9), (6, 8), (8, 10), (5, 11), (6, 12), (11, 12), (11, 13), (13, 15),
              (12, 14), (14, 16))


# Keypoints mit geringer Konfidenz und die damit verbundenen Skelettlinien entfernen.
def filter_keypoints(keypoints, threshold=0.4):
    valid = {i for i, kp in enumerate(keypoints) if kp[2] > threshold}
    remap = {old: new for new, old in enumerate(sorted(valid))}
    f_keypoints = [kp for i, kp in enumerate(keypoints) if i in valid]
    f_body_lines = [(remap[a], remap[b]) for a, b in body_lines if a in valid and b in valid]
    return f_keypoints, f_body_lines


clock = time.clock()
while True:
    clock.tick()
    img = csi0.snapshot()

    # joints ist eine Liste von ((x, y, w, h), score, keypoints)-Tupeln
    joints = model.predict([img])

    # Begrenzungsrahmen um die erkannten Personen und Keypoints zeichnen.
    for r, score, keypoints in joints:
        ml.utils.draw_predictions(img, [r], ("person",), ((0, 0, 255),), format=None)

        # keypoints: ndarray (17, 3) der Körpergelenke (x, y, score)
        # Die Indizes folgen der COCO-Konvention:
        # 0: Nase
        # 1: linkes_Auge, 2: rechtes_Auge
        # 3: linkes_Ohr, 4: rechtes_Ohr
        # 5: linke_Schulter, 6: rechte_Schulter
        # 7: linker_Ellbogen, 8: rechter_Ellbogen
        # 9: linkes_Handgelenk, 10: rechtes_Handgelenk
        # 11: linke_Hüfte, 12: rechte_Hüfte
        # 13: linkes_Knie, 14: rechtes_Knie
        # 15: linker_Knöchel, 16: rechter_Knöchel
        f_keypoints, f_body_lines = filter_keypoints(keypoints)
        ml.utils.draw_skeleton(img, f_keypoints, f_body_lines,
                               kp_color=(255, 0, 0), line_color=(0, 255, 0))

    print(clock.fps(), "fps")