OpenMythosのサンプルプログラムを動かしました

1.概要 前回、OpenMythosの環境構築まで実現したので、GitHubにあるサンプルプログラム(Usage)を動かしてみました。一部エラーが発生しましたが、結果出力部分なので修正をしました。その内容を記述します。 2.詳細 Usageに記載されているPythonプログラムをopenmythos_usage.pyとして作成します。 $ source ~/mypy/bin/activate (mypy) $ pythoh3 openmythos_usage.py 下記エラーとなります [MLA] Parameters: 1,538,626 [MLA] Logits shape: torch.Size([2, 16, 1000]) [MLA] Generated shape: torch.Size([2, 24]) Traceback (most recent call last):   File "/home/nakasima/openmythos/openmythos_usage.py", line 48, in <module>     rho = torch.linalg.eigvals(A).abs().max().item()           ^^^^^^^^^^^^^^^^^^^^^^^ RuntimeError: linalg.eig: The input tensor A must have at least 2 dimensions. コードの下記部分を修正します #rho = torch.linalg.eigvals(A).abs().max().item() rho = A.abs().max().item() $ source ~/mypy/bin/activate (mypy) $ pythoh3 openmythos_usage.py [MLA] Parameters: 1,538,626 [MLA] Logits shape: torch.Size([2, 16, 1000]) [MLA] Generated shape: torch.Size([2, 24]) [MLA] Spectral radius ρ(A) = 0.3679 (mus...
コメントを投稿

AIの最先端モデルのCode LlamaのGPUを使った動作再現試験

1.概要

前回、AIがCodeを作成するCode Llamaが個人環境で動作するか確認をしました。本当に動作したかを確認するために、別PCで再現試験を実施しました。その内容を記述します。

2.詳細

(a) 再現環境
(b) nvidia + docker + cuda + pytorchの環境構築
(c) Google Colabで実行された内容の再現

(a) 再現環境
利用したPCは下記スペックです
CPU: i3-7100
GPU: nvidia 1050Ti
Memory: 16GB
Disk: 500GB(Hard disk)
OS: Ubuntu-20.04.6(desktop)

(b) nvidia + docker + cuda + pytorchの環境構築
前回と同じです
nvidia-driver-535　を利用
dockerはubuntu-20.04.6の標準
docker hubのnvidia/cuda:11.7.1-runtime-ubuntu20.04を利用
pytorchは、Stable(2.0.1)利用

(c) Google Colabで実行された内容の再現
実行はjupyter-notebookで実行しました。
参考資料に従いGoogle Colabで実行された内容をローカル環境で再現。
再現できました。

3.所見

CodeLlama-7b-hf を利用しているので70億パラメータモデルです。
しかし、モデルは約10GBで巨大です。
Ubuntu-20.04.6の導入完了から時間を測定しました。
(b)(c)の実行に約1.5時間でした。

参考
[外部サイト参照]
・Google Colab で Code Llama を試す
・Llama 2 learns to code

コメント

コメントを投稿

このブログの人気の投稿

miniPCのBMAXでWindows11のsecure boot設定漏れでトラブル発生

0.推奨 Windows11をプリインストールモデルの状態で利用されている場合は問題になることはありません。Windows11のUSB bootメディアを作成して自分で新規導入したり、Windows10からWindows11へupgradeをした場合。Windows11への移行条件確認が十分でない状態があったのではないかと思います。Windows11で必須要件を満たさずに移行されたWindows11環境がありました。 今回のトラブルでBitLockerの48桁の回復キーがないことが痛手でした。Windows11を利用する上でBitLockerの回復キーは大切に保管が必要です。secure bootを設定するとディスクは暗号化されてしまいます。障害復旧に回復キーは必須です。６月の証明書期限切れで問題が発生して、思わぬ事態にならぬように早めにチェックすること、回復キーを保管することを推奨します。 1.概要 始まりは、参考資料の「6月からパソコンが動かなくなる？」です。miniPCのsecure boot設定をmsinfo32で確認すると「無効」でした。そこで、BIOSの設定でsecure bootをenableに設定して、msinfo32は「有効」になりました。これが暗号化設定と認識不足でした。Windows Updateを実行して証明書の更新を実行すると、Windows Updateのボタンが赤色に変わりました。ここからトラブルです。理解不足で複数のミスが重なり、データを消失。復旧も時間を必要としました。その内容を記述します。 2.詳細 (1) トラブルの始まり ネット記事で、secure boot設定が必要で、６月にPCが動かなくなると思って、BIOS設定を変更したことが始まりです。この変更は、BIOSでSecurityのsecure bootをdisableからenableに変更だけです。Windows11を起動してmsinfo32で有効をチェックして完了。追加としてWindows Updateで証明書の導入をしてからハマりました。 障害の状況は、Windows11自体は普通に使えるのですが、Windows Updateのボタンが赤色。文字も赤字に変わりました。今後、発生するupdate適用ができなくなると認識しました。 (2) GoogleAI(Gemini)に...
続きを読む

LinuxMint-22.3にWine 11.6をサクッと入れてみました

1.概要 Wine 11.6が開発版のアップデートリリースの記事を見つけたので、早速、試してみました。 以前の手順と異なる点は、winehq-develを選択する部分だけです。 LinuxMint-22.3導入済み環境があると、５分程度で導入できます。 この内容を記述します。 2.詳細 環境はAMD 4core, Memory 16GB, SSD 256GBです。 LinuxMint-22.3はkernel-6.14の環境です。 手順は下記内容です。今回はフォント関連も導入しました。 参考にした資料は前回と同じです。 wikis/Debian-Ubuntu https://gitlab.winehq.org/wine/wine/-/wikis/Debian-Ubuntu $ cat /etc/os-release $ sudo mkdir -pm755 /etc/apt/keyrings $ wget -O - https://dl.winehq.org/wine-builds/winehq.key | sudo gpg --dearmor -o /etc/apt/keyrings/winehq-archive.key - $ sudo dpkg --add-architecture i386 $ sudo wget -NP /etc/apt/sources.list.d/ https://dl.winehq.org/wine-builds/ubuntu/dists/noble/winehq-noble.sources $ sudo apt update $ sudo apt install --install-recommends winehq-devel $ wine --version $ sudo apt install winetricks $ winetricks cjkfonts $ winetricks --version wine --versionは、11.6と表示されます。 何も問題なく導入できます。 参考 [本ブログ内参照] ・LinuxMint 21.3にWine 11.0を導入しました [外部サイト参照] ・ 「Wine 11.6」リリース─ Androidドライバ再実装やVBScript改善など ・ Wine 11.6 Released...
続きを読む

LinuxMint 21.3にWinBoat導入を試してみました

1.概要 WinBoatの記事をgigazine.netで見つけたので、リニューアルしたと思って、再度チャレンジしました。結果は、再度、期待はずれです。今回はWindowsアプリケーションの起動まで実施しました。記事ではEDGEを起動していますが、私の環境ではサインイン表示なしにEDGEが起動しました。コマンドプロンプトとエクスプローラは試してみて普通に動作しましたが、遅く感じます。この内容に関して記述します。 2.詳細 今回はWinBoatの導入に手こずりました。WinBoatにチャレンジをする方はOSを元に戻せる準備をしてから作業を開始しましょう。私は５回ほど元に戻しました。 HW環境は前回と同じで、AMD Ryzen、Memory 16GB, 4core, SSD 256GBです。 OSも合わせようとしたのですが、Ubuntu-22.04.5を導入するとFirefoxが起動しません。 snapdの問題と思ったのですが、2.72を超えていたので新しい問題と考えて諦めました。 OSをLinuxMint 21.3に変更してチャレンジです。 導入手順も少し変化しており、詳細手順は下記URLに従いました。 https://github.com/TibixDev/winboat 最初の問題はDocker環境です。Ubuntu標準にdocker composeの変更ではうまく行かず、全てやり直しをしました。 次の問題はMemoryです。16GBだけでは不足してハングしたようになりました。swapを8GB追加して問題解決しました。Memoryに関して以前実施したときは16GBで不足することはなかったと認識しています。 環境構築からInstallationのFinishまで約１時間必要です( Windows11 pro japanese選択 ) やっとInstallationが終了したと思うとリソースモニターのCPUが100%でハングです。 CPU 2Virtual Core Frequency: 3.60と表示された環境です(gigazineの表示はFrequency: 1.50) Power Offして再起動して、WinBoatは正常に起動しました。 そこで、EDGEとコマンドプロンプトとエクスプローラを試験しましたが、導入に１時間かけて使いたいとは思わない環境です。 試し...
続きを読む