AI应用

• LLM & MultiModal
  • llama.cpp
    • 在此芯P1上使用KleidiAI加速llama.cpp推理
    • 在此芯P1上使用Vulkan加速llama.cpp推理
    • 基于此芯P1部署MiniCPM-O2.6多模态模型
  • MNN
    • 在此芯P1上基于MNN进行大模型推理
  • “周易”Compass
    • 基于此芯P1部署BGE-Small-ZH-V1.5
• Computer Vision
  • “周易”Compass
    • 基于此芯P1部署DeepLabv3
    • 基于此芯P1部署OpenPose
    • 基于此芯P1部署ResNet50
    • 基于此芯P1部署VDSR
    • 基于此芯P1部署YOLOv8
    • 基于此芯P1部署CenterFace
    • 基于此芯P1部署yolov8l_seg
    • 基于此芯P1部署scrfd + arcface
    • 基于此芯P1部署Inception_V3
• Audio
  • Speech to Text
    • 基于此芯P1部署Whisper

选择芯片