Ubuntu User Blog

1.概要 LinuxMint 21.3とUbuntu 22.04も保守用途でソフトウェア更新を定期的にしています。どちらもUbuntults 22.04のリポジトリを利用していますが、ソフトウェア更新に差があるように感じています。LinuxMint 21.3の方が早いタイミングでソフトウェア更新が実行されます。この内容に関して個人の意見を記述します。 2.詳細 最近、LinuxMintやUbuntuのソフトウェア更新量がとても多いと感じています。AIを利用した脆弱性検査の結果、発覚した問題の修正がされているのではないかと思っています。最初に主力で利用しているLinuxMint 22.3でソフトウェア更新されていると気づくと、保守領域のLinuxMint 21.3とUbuntu 22.04などの更新をします。 不思議に思うのは、LinuxMint 21.3で更新された修正情報が、Ubuntu 22.04では修正が遅れて適用されない場合があるようです。どちらもUbuntults 22.04がベースとなっているので条件は同じだと思います。異なる点は、Ubuntu 22.04はsnapを採用しているので追加試験が必要となっている気がしています。また、利用者数の規模もUbuntuの方が多いので慎重に修正のリリースを実施されているとも思います。更に、１世代古い製品なので、更新タイミングが遅れているとも言えそうです。 更新処理の差に関して、例えば、LinuxMint 21.3はkernel-6.8.0-124、Ubuntu 22.04はkernel-6.8.0-111で更新が止まっています。もしかして、ubuntu 22.04のサポート期間の問題かもしれないと思ったので、ubuntu 20.04に続いてubuntu 22.04もPro設定をしました。それから、upgradeを実行したのですが、kernelは変わりません、 3.所見 異なるディストリビューションでソフトウェアのリポジトリが同じものを利用するケースはあまり無いので気が付かないことですが、微妙な更新情報の提供タイミングに違いがあることは認識しておくことが必要です。LinuxMint 21.3はProなどのサービス仕様がないので普通に更新ができるようで、一般利用者にはメリットが大きいと感じています。 参考 [本ブログ内参...

1.概要 OpenMythosの環境構築や実行試験をしていたのですが、処理ロジックを呼び出すだけでは中身がわかりません。AIでは大規模なテンソルを利用するのでデータの追跡がとても難しく、ロジックが明確なことが大切だと思います。難しい部分はGoogleAI(Gemini)に手助けを依頼して、少し処理を追跡をしてみました。 OpenMythosで利用されている熟考ループの汎用的なサンプルコードを参照して、Pytorchのforward処理部分にbackwardを伴わない数回のループを追加して代替できると知りました。これを知って、OpenMythosはPytorchで実現でき、Pytorchのみに移行しました。これでnvidia-1050Tiでも実行可能になりました。 2.詳細 CNNを利用したTensorflowの勉強を以前していたので、テンソルを利用した学習と学習成果を利用した新しいデータによる検証の手順は理解していました。しかし、LLMの領域は初めてで良くわかりません。こんなときはLLMの基礎を学習することが一番良いことであり、LLMの基礎事例を勉強することにしました。 かれのなまえはたろうです。かれのいぬはぽちです。 私には初めての文書でしたが、LLM分野の方はご存知の文書だと思います。 LLMは、この文書を学習して、「かれのなまえは」と問い合わせると、「たろうです」と答えるロジックを作ります。 LLMは文字列から次の１文字を学習結果を利用して推測します。上記例文では、「かれのな」から「ま」を推測します。これは正解がある学習を利用するのでCNNと似ています。ニューラルネットの定義があり、forwardとbackwardと評価関数と損失計算をする部分も同じです。データ量がある程度必要だったCNNと比較すると、LLMは単純な文書でも実行できます。 この勉強を進める中で、OpenMythosも熟考ループを利用していると知りました。勾配計算によるテンソル修正をforwardとbackwardのペアで実現する部分を変更して、複数回のforwardと１回のbackwardにすることで実現できました。そうであるならば、OpenMythosでなく、Pytorchだけでもできると考えてサンプルコードで勉強しています。 わかったことは、学習時に熟考ループを採用すると、学習成果を利用し...