投稿

2月, 2025の投稿を表示しています

OpenMythosのサンプルプログラムを動かしました

1.概要 前回、OpenMythosの環境構築まで実現したので、GitHubにあるサンプルプログラム(Usage)を動かしてみました。一部エラーが発生しましたが、結果出力部分なので修正をしました。その内容を記述します。 2.詳細 Usageに記載されているPythonプログラムをopenmythos_usage.pyとして作成します。 $ source ~/mypy/bin/activate (mypy) $ pythoh3 openmythos_usage.py 下記エラーとなります [MLA] Parameters: 1,538,626 [MLA] Logits shape: torch.Size([2, 16, 1000]) [MLA] Generated shape: torch.Size([2, 24]) Traceback (most recent call last):   File "/home/nakasima/openmythos/openmythos_usage.py", line 48, in <module>     rho = torch.linalg.eigvals(A).abs().max().item()           ^^^^^^^^^^^^^^^^^^^^^^^ RuntimeError: linalg.eig: The input tensor A must have at least 2 dimensions. コードの下記部分を修正します #rho = torch.linalg.eigvals(A).abs().max().item() rho = A.abs().max().item() $ source ~/mypy/bin/activate (mypy) $ pythoh3 openmythos_usage.py [MLA] Parameters: 1,538,626 [MLA] Logits shape: torch.Size([2, 16, 1000]) [MLA] Generated shape: torch.Size([2, 24]) [MLA] Spectral radius ρ(A) = 0.3679 (mus...

uefi-biosのNotePCでgrubを利用したubuntuのmulti-bootで問題発生。設定ミスでした

 1.概要 uefi-biosのNotePCでは、grubを利用してubuntu-20.04をmulti-bootして利用しています。diskはGPT構成を利用しています。今日、使っていなかった区画の/dev/sda6からbootすると、NICなしでネット接続できず、ディスプレイ解像度もVGAに設定されて起動されました。その内容を記述します。 2.詳細 /dev/sda5までは問題なくubuntu-20.04のmulti-bootで利用できていたので、ubuntu-20.04の問題ではなく、multi-boot部分に問題があると考えました。GPTを利用したgrubのmulti-bootでは、/dev/sda1にefi領域(fat32)を確保します。私は最低限の100MBの設定にしていたのですが、どうやら容量不足のようです。ネットには、multi-bootを実行する場合は200MB以上、推奨は512MBの記載がありました。 ディスクパーティション構成の変更は作業量が多いので負担が大きいのですが、efiを100MB->256MBに変更して、残りの区画をすべて再導入しました。その結果、/dev/sda6のubuntu-20.04も正常に起動できるようになりました。 BIOS時代のmulti-bootはMBR制限があり、普通は4つのパーティション構成でmulti-bootをします。GPTからは制限が解除されましたが、efi領域の容量とmulti-bootの数に関係があるとは思っていませんでした。このPCは以前/dev/sda6までmulti-bootで起動できることを確認していたのですが、OSをBackupから戻すことなどを数回実行したこと、ブートに関連する部分が更新されたことなどが影響したと思いますが、本当の原因はわかりません。 3.追加 本問題が再発しました。何か別問題があると思って、grubの定義を再度確認して、rootデバイスのパーティション設定が間違っていることに気が付きました。同じパーティションを指定していたことが要因でした。 参考 [外部サイト参照] ・ EFI System Partition (ESP) size and commentary

Docker環境でOllamaを利用してLlama-3-ELYZA-JP-8Bを動かしました

 1.概要 前回、Ollamaを利用して、Llama-3-ELYZA-JP-8Bを動かしました。今回はより便利なDocker環境で動かすことにチャレンジしました。その内容を記述します。 2.詳細 参考資料を参照して、Ollamaのコンテナをベースに構築をします 利用した環境は前回と同じHWですが、Ubuntu-20.04.6を利用しました elyzaディレクトリを作成して、そこで作業をします mkdir elyza cd elyza containerの/optディレクトリで作業をすることにします (a) Modelfileの作成 下記設定をModelfileという名前で作成します FROM ./Llama-3-ELYZA-JP-8B-q4_k_m.gguf TEMPLATE """{{ if .System }}<|start_header_id|>system<|end_header_id|> {{ .System }}<|eot_id|>{{ end }}{{ if .Prompt }}<|start_header_id|>user<|end_header_id|> {{ .Prompt }}<|eot_id|>{{ end }}<|start_header_id|>assistant<|end_header_id|> {{ .Response }}<|eot_id|>""" PARAMETER stop "<|start_header_id|>" PARAMETER stop "<|end_header_id|>" PARAMETER stop "<|eot_id|>" PARAMETER stop "<|reserved_special_token" (b) Dockerfileの作成 下記設定をDockerfileで作成します from ollama/ollama:latest # RUN apt update RUN apt -y install curl # WOR...

ubuntu 24.04.1の評価利用でSyslogにnouveauのerrorが大量に記録されました

 1.概要 2025-02-01にubuntu-24.04.1を試験利用しているPCでOSのupdateを実行するとGUIへloginできなくなりました。調査のためにUSB-bootして調べるとSyslogにnouveauのerrorが大量に記録されていました。この内容を記述します。 2.詳細 このPCは旧型のAMD 4coreのCPUにnvidia 8400M GTのVGAが搭載されています。どうやらnvidiaのubuntu標準ドライバーが要因のような気がします。ubuntu-22.04.5環境を利用した場合もnvidiaの旧型VGAでは初回login時に問題が発生していました。ubuntu-22.04.5はlogout/loginで解消される場合もありました。 GUIへloginできないので、bug reportを書くと、nvidia driverのnouveauは古いカーネルのsourceを移行しただけのようで、新しいkernel向けのメンテナンスがされていないとのことでした。メンテナンスを検討するための情報として、利用中のPCの情報の提供依頼があり、提出しました。 個人で利用しているPCには、nvidia GT218もあり、ubnutu-22.04.5で同じ問題が発生します。ubuntu-24.04.1では試していないのですが、nouveauを利用しているので同じ問題だと思っています。 intelのi3-7100を利用しているPCは、VGAはintelのchipset内のi915を利用しています。このドライバもnouveauです。試しにubuntu-24.04.1を導入したのですが、こちらは問題なくGUI loginできました。 私はubuntu-20.04.6からubuntu-22.04.5ヘ移行を検討していますが、GUIへのlogin問題が起きるので、ubuntu-22.04.5への移行は試験段階の状態で止まっていました。今回の問題の修正でkernelドライバが更新されて、ubuntu-22.04, ubuntu-24.04でnvidiaの旧型VGAのドライバが改善されることを願っています。 3.訂正 i3-7100にはchipset内のi915とnvidia 1050Tiが搭載されていたのでnouveauが存在していました。Intel N34...

Ollamaを利用してLlama-3-ELYZA-JP-8Bを動かしました

 1.概要 Ollamaを利用してLlama-3-ELYZA-JP-8Bを簡単に動かすことができる記事を見つけて試してみました。その内容を記述します。何と言っても日本製品です。安心して利用できることが一番です。 2.詳細 参考資料に沿って作業を進めることで問題なく動作しました。 (a) 利用した環境 CPU: Ryzen 3 3200G Memory: 16GB SSD: 250GB OS: Ubuntu-22.04.5   (b) 必要なストレージ容量 install作業でOllamaとLlama-3-ELYZA-JP-8Bで約7GB程度です。 コンパクトにできていて、レスポンスもよく、良い感じがします。 参考資料によると、GPT-3.5 Turboより上で、GPT-4より下という感触でしょうか? 参考 [外部サイト参照] ・ 「よーしパパ、Ollama で Llama-3-ELYZA-JP-8B 動かしちゃうぞー」 ・ Llama 3 の日本語継続事前学習モデル「Llama-3-ELYZA-JP-8B」を試してみる ・ ELYZA

ubuntu 24.04でnouveauでエラーが発生

 1.概要 minidlnaをdockerを利用した動作試験でdocker関連でエラーが発生して止まっていました。ubuntu-24.04に修正情報を適用して、再度試してみたのですが、今度はGUIが起動しなくなりました。調べてみるとnouveauでエラーが発生しているようです。ubuntu-24.04の修正情報適用はしばらく待つのが良さそうです。 2.詳細 大量の下記エラー内容が記録されていました。 kernel: nouveau 0000:01:00.0: gr: 00100000 [] ch 2 [000fa90000 gnome-shell[1586]] subc 3 class 8297 mthd 0d78 data 00000004 kernel: nouveau 0000:01:00.0: gr: DATA_ERROR 00000012 [RT_LINEAR_WITH_ZETA] 私はバックアップから復元して、復旧しました。 参考 [本ブログ内参照] waylandを利用する上で、旧型nvidaは問題が多くて取り外しました