whisper.cppのCore ML版をM1 MacBookにインストール

環境

• Macbook M1 air
• Xcode 15
• Python 3.10

XcodeのCommand Line ToolsだけではダメでXcode本体をインストールしておく必要がある

あと事前に

sudo xcodebuild -license

を実行してagreeしておくこと

.venv ❯ xcode-select -p
/Applications/Xcode.app/Contents/Developer

インストール

公式READMEのCore ML supportにかかれている通り

ライブラリのインストール

pip install ane_transformers
pip install openai-whisper
pip install coremltools

make clean
WHISPER_COREML=1 make -j

モデルのダウンロード

例えばlarge-v3を使いたい場合は

• https://huggingface.co/ggerganov/whisper.cpp/blob/main/ggml-large-v3-encoder.mlmodelc.zip
• https://huggingface.co/ggerganov/whisper.cpp/blob/main/ggml-large-v3.bin

をダウンロードして modelsに解凍する mlmodelcだけではNGなので注意 最終的に以下のようになるはず

$ ls -l models |grep ggml-large-v3
drwxr-xr-x@ 7 thr3a  staff         224 11 25 14:52 ggml-large-v3-encoder.mlmodelc
-rw-r--r--@ 1 thr3a  staff  3095033483  1  2 17:54 ggml-large-v3.bin

いざ実行

指定するモデルはmlmodelcの方ではないので注意

./main -m models/ggml-large-v3.bin -l ja -f test.wav -otxt -ovtt -osrt

unable to find utility "coremlc" と言われる

xcrun: error: unable to find utility "coremlc", not a developer tool or in PATH
mv: rename models/coreml-encoder-base.en.mlmodelc to models/ggml-base.en-encoder.mlmodelc: No such file or directory

だからXcode本体をインストールしろ