動かざることバグの如し

近づきたいよ 君の理想に

Minisforum MS-S1 MAX LinuxでLLM動かすための初期設定

linux

無事に届いた！！！！

picture 1

BIOS/UEFI設定

Ubuntuにて

sudo systemctl reboot --firmware-setup

でキー連打しなくてもUEFI画面に遷移できる。

VRAM

  • Advanced -> AMD CBS -> NBIO Common Options -> GFX Configuration
  • UMA Frame buffer Size で 1GBを選択(BIOSによっては512MB選択できるらしい？

IOMMUの無効化

  • Advanced -> AMD CBS -> NBIO Common Options
  • IOMMUで AUTOにする

カーネルパラメータの設定

/etc/default/grubを編集して GRUB_CMDLINE_LINUX_DEFAULT に amd_iommu=off amdgpu.gttsize=131072 ttm.pages_limit=33554432 を追記

- GRUB_CMDLINE_LINUX_DEFAULT="quiet splash"
+ GRUB_CMDLINE_LINUX_DEFAULT="quiet splash amd_iommu=off amdgpu.gttsize=131072 ttm.pages_limit=33554432"
  • amd_iommu=off: AMD CPUのIOMMU（入出力メモリ管理ユニット）機能を無効化
    • 通常、IOMMUはデバイスがメモリにアクセスする際の保護や仮想化のために働く重要な機能
    • 複数のGPUを搭載した際や特定のハードウェア構成において、この機能が原因でUSBポートが反応しなくなったり、起動時にエラーを吐いたりすることがある
    • トラブルを回避するために無効化
  • amdgpu.gttsize=131072: AMDGPUドライバがシステムメモリを参照するために使うGTT（Graphics Translation Table）のサイズを指定している
    • GPUは自身のVRAMが足りない時などにシステムメモリ（メインメモリ）を使う
    • そのアドレス変換テーブルのサイズを強制的に拡張している
  • ttm.pages_limit=33554432: Linuxカーネルのグラフィックスメモリ管理サブシステム（TTM）が確保できるページ数の上限設定
    • いわば「グラフィックドライバがシステムメモリをどれだけ食いつぶして良いか」という制限を緩和している

反映

sudo update-grub

再起動

sudo reboot

amdgpu_topのインストール

github.com

https://github.com/Umio-Yasuno/amdgpu_top/releasesから最新版のdeb落としてきて

sudo apt install ./amdgpu-top_0.11.0-1_amd64.deb

するとインストールできる

sudo amdgpu_top したときに以下のようになっていればOK

picture 0

参考リンク