OpenMythosのサンプルプログラムを動かしました

1.概要 前回、OpenMythosの環境構築まで実現したので、GitHubにあるサンプルプログラム(Usage)を動かしてみました。一部エラーが発生しましたが、結果出力部分なので修正をしました。その内容を記述します。 2.詳細 Usageに記載されているPythonプログラムをopenmythos_usage.pyとして作成します。 $ source ~/mypy/bin/activate (mypy) $ pythoh3 openmythos_usage.py 下記エラーとなります [MLA] Parameters: 1,538,626 [MLA] Logits shape: torch.Size([2, 16, 1000]) [MLA] Generated shape: torch.Size([2, 24]) Traceback (most recent call last):   File "/home/nakasima/openmythos/openmythos_usage.py", line 48, in <module>     rho = torch.linalg.eigvals(A).abs().max().item()           ^^^^^^^^^^^^^^^^^^^^^^^ RuntimeError: linalg.eig: The input tensor A must have at least 2 dimensions. コードの下記部分を修正します #rho = torch.linalg.eigvals(A).abs().max().item() rho = A.abs().max().item() $ source ~/mypy/bin/activate (mypy) $ pythoh3 openmythos_usage.py [MLA] Parameters: 1,538,626 [MLA] Logits shape: torch.Size([2, 16, 1000]) [MLA] Generated shape: torch.Size([2, 24]) [MLA] Spectral radius ρ(A) = 0.3679 (mus...
コメントを投稿

Stable Diffusionをubuntu 22.04でGPU付きで試しました

1.概要

Stable Diffusionの記事をネットで見つけて、LocalPC上で試してみたいと思いました。Deep Learning環境になれた方ならばスムーズに実行できると思います。手始めに導入と動作確認をしたので、その内容を記述します。

2.
詳細
最初、ubuntu-20.04で環境構築に取り組んだのですが、Stable Diffusionがpython3 3.10を必要とするため、ubuntu-22.04で環境構築をしました。参考資料に沿って作業をします。

環境は以下のとおりです
cpu     core i3-7100
gpu     nvidia-1050Ti
memory  16GB
SSD     250GB

手順は以下のとおりです。
(a) nvidia driverインストール
(b) cudaインストール
(c) Stable Diffusionのインストールと起動
(d) GUI利用

(a) nvidia driverインストール
標準のnouveauをdisableにして、下記ドライバーをインストール
$ nvidia-driver-550 - distro non-free recommended

(b) cudaインストール
準備として下記モジュールをインストールします
$ sudo apt -y install curl
$ sudo apt-get -y install git
$ sudo apt -y install python3-pip python3-venv python3-packaging

nvidia-toolkitを導入します
$ sudo apt -y install nvidia-cuda-toolkit

cudaのチェックをするときに、nvccの保存場所が異なるため、copyをします
$ nvcc --version
$ sudo mkdir -p /usr/local/cuda/bin
$ sudo cp -p /usr/bin/nvcc /usr/local/cuda/bin

$ git clone https://github.com/NVIDIA/cuda-samples.git
$ cd ~/cuda-samples/Samples/1_Utilities/deviceQuery
$ SMS=70 make
$ ./deviceQuery
$ cd ~/cuda-samples/Samples/1_Utilities/bandwidthTest
$ SMS=70 make
$ ./bandwidthTest

SMS=70 makeは、GPUの世代に合わせるためのオプション設定です。
設定がないと下記エラーになります。
$ make
/usr/local/cuda/bin/nvcc -ccbin g++ -I../../../Common -m64 --threads 0 --std=c++11 -gencode arch=compute_50,code=sm_50 -gencode arch=compute_52,code=sm_52 -gencode arch=compute_60,code=sm_60 -gencode arch=compute_61,code=sm_61 -gencode arch=compute_70,code=sm_70 -gencode arch=compute_75,code=sm_75 -gencode arch=compute_80,code=sm_80 -gencode arch=compute_86,code=sm_86 -gencode arch=compute_89,code=sm_89 -gencode arch=compute_90,code=sm_90 -gencode arch=compute_90,code=compute_90 -o matrixMul.o -c matrixMul.cu
参考資料を参照願います

(c) Stable Diffusionのインストールと起動
$ git clone https://github.com/AUTOMATIC1111/stable-diffusion-webui
$ cd ~/stable-diffusion-webui
$ python3 launch.py --lowvram --xformers --listen

何故かstable-diffusion-webui/launch.pyでエラーになります。
Traceback (most recent call last):
  File "/home/nakasima/stable-diffusion-webui/launch.py", line 48, in <module>
    main()
  File "/home/nakasima/stable-diffusion-webui/launch.py", line 44, in main
    start()
  File "/home/nakasima/stable-diffusion-webui/modules/launch_utils.py", line 465, in start
    import webui
  File "/home/nakasima/stable-diffusion-webui/webui.py", line 13, in <module>
    initialize.imports()
  File "/home/nakasima/stable-diffusion-webui/modules/initialize.py", line 15, in imports
    import torch  # noqa: F401
ModuleNotFoundError: No module named 'torch'

下記コマンドを再実行しました
$ python3 launch.py --lowvram --xformers --listen

ダウンロードが実行されて、起動します。

(d) GUI利用
Running on local URL:  http://0.0.0.0:7860
の表示が出ているので、ブラウザ(Firefox)から
http://localhost:7860/
でGUIに接続します。

3.所見

・GPU稼働率
　nvidia-smiで参照するとGPUは98%の高稼働率でした
・容量が必要な大きなアプリケーションです
　Ubuntu-22.04が約10GB
　nvidiaのdriver、cudaとStableDiffusionで約20GB

4.参考
[外部サイト参照]
・Stable Diffusion : インストール
・[要点を掴む] CUDAアプリの動かし方

コメント

コメントを投稿

このブログの人気の投稿

miniPCのBMAXでWindows11のsecure boot設定漏れでトラブル発生

0.推奨 Windows11をプリインストールモデルの状態で利用されている場合は問題になることはありません。Windows11のUSB bootメディアを作成して自分で新規導入したり、Windows10からWindows11へupgradeをした場合。Windows11への移行条件確認が十分でない状態があったのではないかと思います。Windows11で必須要件を満たさずに移行されたWindows11環境がありました。 今回のトラブルでBitLockerの48桁の回復キーがないことが痛手でした。Windows11を利用する上でBitLockerの回復キーは大切に保管が必要です。secure bootを設定するとディスクは暗号化されてしまいます。障害復旧に回復キーは必須です。６月の証明書期限切れで問題が発生して、思わぬ事態にならぬように早めにチェックすること、回復キーを保管することを推奨します。 1.概要 始まりは、参考資料の「6月からパソコンが動かなくなる？」です。miniPCのsecure boot設定をmsinfo32で確認すると「無効」でした。そこで、BIOSの設定でsecure bootをenableに設定して、msinfo32は「有効」になりました。これが暗号化設定と認識不足でした。Windows Updateを実行して証明書の更新を実行すると、Windows Updateのボタンが赤色に変わりました。ここからトラブルです。理解不足で複数のミスが重なり、データを消失。復旧も時間を必要としました。その内容を記述します。 2.詳細 (1) トラブルの始まり ネット記事で、secure boot設定が必要で、６月にPCが動かなくなると思って、BIOS設定を変更したことが始まりです。この変更は、BIOSでSecurityのsecure bootをdisableからenableに変更だけです。Windows11を起動してmsinfo32で有効をチェックして完了。追加としてWindows Updateで証明書の導入をしてからハマりました。 障害の状況は、Windows11自体は普通に使えるのですが、Windows Updateのボタンが赤色。文字も赤字に変わりました。今後、発生するupdate適用ができなくなると認識しました。 (2) GoogleAI(Gemini)に...
続きを読む

LinuxMint-22.3にWine 11.6をサクッと入れてみました

1.概要 Wine 11.6が開発版のアップデートリリースの記事を見つけたので、早速、試してみました。 以前の手順と異なる点は、winehq-develを選択する部分だけです。 LinuxMint-22.3導入済み環境があると、５分程度で導入できます。 この内容を記述します。 2.詳細 環境はAMD 4core, Memory 16GB, SSD 256GBです。 LinuxMint-22.3はkernel-6.14の環境です。 手順は下記内容です。今回はフォント関連も導入しました。 参考にした資料は前回と同じです。 wikis/Debian-Ubuntu https://gitlab.winehq.org/wine/wine/-/wikis/Debian-Ubuntu $ cat /etc/os-release $ sudo mkdir -pm755 /etc/apt/keyrings $ wget -O - https://dl.winehq.org/wine-builds/winehq.key | sudo gpg --dearmor -o /etc/apt/keyrings/winehq-archive.key - $ sudo dpkg --add-architecture i386 $ sudo wget -NP /etc/apt/sources.list.d/ https://dl.winehq.org/wine-builds/ubuntu/dists/noble/winehq-noble.sources $ sudo apt update $ sudo apt install --install-recommends winehq-devel $ wine --version $ sudo apt install winetricks $ winetricks cjkfonts $ winetricks --version wine --versionは、11.6と表示されます。 何も問題なく導入できます。 参考 [本ブログ内参照] ・LinuxMint 21.3にWine 11.0を導入しました [外部サイト参照] ・ 「Wine 11.6」リリース─ Androidドライバ再実装やVBScript改善など ・ Wine 11.6 Released...
続きを読む

LinuxMint 21.3にWinBoat導入を試してみました

1.概要 WinBoatの記事をgigazine.netで見つけたので、リニューアルしたと思って、再度チャレンジしました。結果は、再度、期待はずれです。今回はWindowsアプリケーションの起動まで実施しました。記事ではEDGEを起動していますが、私の環境ではサインイン表示なしにEDGEが起動しました。コマンドプロンプトとエクスプローラは試してみて普通に動作しましたが、遅く感じます。この内容に関して記述します。 2.詳細 今回はWinBoatの導入に手こずりました。WinBoatにチャレンジをする方はOSを元に戻せる準備をしてから作業を開始しましょう。私は５回ほど元に戻しました。 HW環境は前回と同じで、AMD Ryzen、Memory 16GB, 4core, SSD 256GBです。 OSも合わせようとしたのですが、Ubuntu-22.04.5を導入するとFirefoxが起動しません。 snapdの問題と思ったのですが、2.72を超えていたので新しい問題と考えて諦めました。 OSをLinuxMint 21.3に変更してチャレンジです。 導入手順も少し変化しており、詳細手順は下記URLに従いました。 https://github.com/TibixDev/winboat 最初の問題はDocker環境です。Ubuntu標準にdocker composeの変更ではうまく行かず、全てやり直しをしました。 次の問題はMemoryです。16GBだけでは不足してハングしたようになりました。swapを8GB追加して問題解決しました。Memoryに関して以前実施したときは16GBで不足することはなかったと認識しています。 環境構築からInstallationのFinishまで約１時間必要です( Windows11 pro japanese選択 ) やっとInstallationが終了したと思うとリソースモニターのCPUが100%でハングです。 CPU 2Virtual Core Frequency: 3.60と表示された環境です(gigazineの表示はFrequency: 1.50) Power Offして再起動して、WinBoatは正常に起動しました。 そこで、EDGEとコマンドプロンプトとエクスプローラを試験しましたが、導入に１時間かけて使いたいとは思わない環境です。 試し...
続きを読む