OpenMythosからPytorchと熟考ループへ移行しました

1.概要

OpenMythosの環境構築や実行試験をしていたのですが、処理ロジックを呼び出すだけでは中身がわかりません。AIでは大規模なテンソルを利用するのでデータの追跡がとても難しく、ロジックが明確なことが大切だと思います。難しい部分はGoogleAI(Gemini)に手助けを依頼して、少し処理を追跡をしてみました。

OpenMythosで利用されている熟考ループの汎用的なサンプルコードを参照して、Pytorchのforward処理部分にbackwardを伴わない数回のループを追加して代替できると知りました。これを知って、OpenMythosはPytorchで実現でき、Pytorchのみに移行しました。これでnvidia-1050Tiでも実行可能になりました。

2.詳細

CNNを利用したTensorflowの勉強を以前していたので、テンソルを利用した学習と学習成果を利用した新しいデータによる検証の手順は理解していました。しかし、LLMの領域は初めてで良くわかりません。こんなときはLLMの基礎を学習することが一番良いことであり、LLMの基礎事例を勉強することにしました。

かれのなまえはたろうです。かれのいぬはぽちです。

私には初めての文書でしたが、LLM分野の方はご存知の文書だと思います。
LLMは、この文書を学習して、「かれのなまえは」と問い合わせると、「たろうです」と答えるロジックを作ります。

LLMは文字列から次の１文字を学習結果を利用して推測します。上記例文では、「かれのな」から「ま」を推測します。これは正解がある学習を利用するのでCNNと似ています。ニューラルネットの定義があり、forwardとbackwardと評価関数と損失計算をする部分も同じです。データ量がある程度必要だったCNNと比較すると、LLMは単純な文書でも実行できます。

この勉強を進める中で、OpenMythosも熟考ループを利用していると知りました。勾配計算によるテンソル修正をforwardとbackwardのペアで実現する部分を変更して、複数回のforwardと１回のbackwardにすることで実現できました。そうであるならば、OpenMythosでなく、Pytorchだけでもできると考えてサンプルコードで勉強しています。

わかったことは、学習時に熟考ループを採用すると、学習成果を利用した新しいデータの検証時も熟考ループが必要なことです。これは学習時に巨大な計算リソースが必要であった従来手順に加えて、新しいデータの検証時にも大きな計算リソースが必要になります。データセンターの設備増強はこれが影響しているのかもしれません。

3.所見

表面だけの勉強では応用ができません。何故、と考えて一歩踏込むことで本質を知る機会になります。ネットを利用して豊富な情報から必要な知識を得られる現在の環境は、沢山の知る機会を与えてくれる貴重なものだと感じています。

コメント

コメントを投稿

このブログの人気の投稿

miniPCのBMAXでWindows11のsecure boot設定漏れでトラブル発生

0.推奨 Windows11をプリインストールモデルの状態で利用されている場合は問題になることはありません。Windows11のUSB bootメディアを作成して自分で新規導入したり、Windows10からWindows11へupgradeをした場合。Windows11への移行条件確認が十分でない状態があったのではないかと思います。Windows11で必須要件を満たさずに移行されたWindows11環境がありました。 今回のトラブルでBitLockerの48桁の回復キーがないことが痛手でした。Windows11を利用する上でBitLockerの回復キーは大切に保管が必要です。secure bootを設定するとディスクは暗号化されてしまいます。障害復旧に回復キーは必須です。６月の証明書期限切れで問題が発生して、思わぬ事態にならぬように早めにチェックすること、回復キーを保管することを推奨します。 1.概要 始まりは、参考資料の「6月からパソコンが動かなくなる？」です。miniPCのsecure boot設定をmsinfo32で確認すると「無効」でした。そこで、BIOSの設定でsecure bootをenableに設定して、msinfo32は「有効」になりました。これが暗号化設定と認識不足でした。Windows Updateを実行して証明書の更新を実行すると、Windows Updateのボタンが赤色に変わりました。ここからトラブルです。理解不足で複数のミスが重なり、データを消失。復旧も時間を必要としました。その内容を記述します。 2.詳細 (1) トラブルの始まり ネット記事で、secure boot設定が必要で、６月にPCが動かなくなると思って、BIOS設定を変更したことが始まりです。この変更は、BIOSでSecurityのsecure bootをdisableからenableに変更だけです。Windows11を起動してmsinfo32で有効をチェックして完了。追加としてWindows Updateで証明書の導入をしてからハマりました。 障害の状況は、Windows11自体は普通に使えるのですが、Windows Updateのボタンが赤色。文字も赤字に変わりました。今後、発生するupdate適用ができなくなると認識しました。 (2) GoogleAI(Gemini)に...
続きを読む

LinuxMint 21.3にWinBoat導入を試してみました

1.概要 WinBoatの記事をgigazine.netで見つけたので、リニューアルしたと思って、再度チャレンジしました。結果は、再度、期待はずれです。今回はWindowsアプリケーションの起動まで実施しました。記事ではEDGEを起動していますが、私の環境ではサインイン表示なしにEDGEが起動しました。コマンドプロンプトとエクスプローラは試してみて普通に動作しましたが、遅く感じます。この内容に関して記述します。 2.詳細 今回はWinBoatの導入に手こずりました。WinBoatにチャレンジをする方はOSを元に戻せる準備をしてから作業を開始しましょう。私は５回ほど元に戻しました。 HW環境は前回と同じで、AMD Ryzen、Memory 16GB, 4core, SSD 256GBです。 OSも合わせようとしたのですが、Ubuntu-22.04.5を導入するとFirefoxが起動しません。 snapdの問題と思ったのですが、2.72を超えていたので新しい問題と考えて諦めました。 OSをLinuxMint 21.3に変更してチャレンジです。 導入手順も少し変化しており、詳細手順は下記URLに従いました。 https://github.com/TibixDev/winboat 最初の問題はDocker環境です。Ubuntu標準にdocker composeの変更ではうまく行かず、全てやり直しをしました。 次の問題はMemoryです。16GBだけでは不足してハングしたようになりました。swapを8GB追加して問題解決しました。Memoryに関して以前実施したときは16GBで不足することはなかったと認識しています。 環境構築からInstallationのFinishまで約１時間必要です( Windows11 pro japanese選択 ) やっとInstallationが終了したと思うとリソースモニターのCPUが100%でハングです。 CPU 2Virtual Core Frequency: 3.60と表示された環境です(gigazineの表示はFrequency: 1.50) Power Offして再起動して、WinBoatは正常に起動しました。 そこで、EDGEとコマンドプロンプトとエクスプローラを試験しましたが、導入に１時間かけて使いたいとは思わない環境です。 試し...
続きを読む

Ubuntu 22.04へWinBoat導入をチャレンジしました

 1.概要 ネット記事でWinBoatに目が止まりました。ベータ版ですが、LinuxでWindowsアプリを実行できる選択肢の１つでコンテナ利用とのことです。参考資料のレポートでは、ゲームチェンジャーになる可能性ともあるとの記述があり、試してみることをしました。結果は、期待はずれでした。その内容を記述します。 2.詳細 https://github.com/TibixDev/winboat 上記githubの「How Does It Work?」に従って作業します。 (a) Prerequisites 利用した環境はAMD Ryzen環境です。Memory 16GB, 4core, SSD 256GB, Ubuntu-22.04.5環境です。 Virtualization: BIOS設定済みでした。 Docker: Docker Compose v2: ubuntu-22.04.5の標準環境でチャレンジしましたが、docker composeがv2必須でした。 資料に沿ってdockerとdocker composeを導入しました。 Docker User Group: 資料に沿って、sudo usermod -aG docker $USERを実行。 FreeRDP: 資料に沿って、Stable版を導入 flatpak remote-add --if-not-exists flathub https://flathub.org/repo/flathub.flatpakrepo flatpak install com.freerdp.FreeRDP Kernel Modules: 資料に沿って実行、この実行をしないと動作しません echo -e "ip_tables\niptable_nat" | sudo tee /etc/modules-load.d/iptables.conf (b) Downloading リンク先の下記ファイルをDownloadしました winboat-0.7.10-x86_64.AppImage (c) 実行 Downloadしたwinboat-0.7.10-x86_64.AppImageを右クリックして実行、Winboatが起動します。必要な条件のチェックが完了すると、User/passwordの入力に加えて、Windo...
続きを読む