OpenMythosのサンプルプログラムを動かしました

1.概要 前回、OpenMythosの環境構築まで実現したので、GitHubにあるサンプルプログラム(Usage)を動かしてみました。一部エラーが発生しましたが、結果出力部分なので修正をしました。その内容を記述します。 2.詳細 Usageに記載されているPythonプログラムをopenmythos_usage.pyとして作成します。 $ source ~/mypy/bin/activate (mypy) $ pythoh3 openmythos_usage.py 下記エラーとなります [MLA] Parameters: 1,538,626 [MLA] Logits shape: torch.Size([2, 16, 1000]) [MLA] Generated shape: torch.Size([2, 24]) Traceback (most recent call last):   File "/home/nakasima/openmythos/openmythos_usage.py", line 48, in <module>     rho = torch.linalg.eigvals(A).abs().max().item()           ^^^^^^^^^^^^^^^^^^^^^^^ RuntimeError: linalg.eig: The input tensor A must have at least 2 dimensions. コードの下記部分を修正します #rho = torch.linalg.eigvals(A).abs().max().item() rho = A.abs().max().item() $ source ~/mypy/bin/activate (mypy) $ pythoh3 openmythos_usage.py [MLA] Parameters: 1,538,626 [MLA] Logits shape: torch.Size([2, 16, 1000]) [MLA] Generated shape: torch.Size([2, 24]) [MLA] Spectral radius ρ(A) = 0.3679 (mus...
コメントを投稿

Docker環境でOllamaを利用してLlama-3-ELYZA-JP-8Bを動かしました

 1.概要

前回、Ollamaを利用して、Llama-3-ELYZA-JP-8Bを動かしました。今回はより便利なDocker環境で動かすことにチャレンジしました。その内容を記述します。

2.詳細

参考資料を参照して、Ollamaのコンテナをベースに構築をします
利用した環境は前回と同じHWですが、Ubuntu-20.04.6を利用しました

elyzaディレクトリを作成して、そこで作業をします
mkdir elyza
cd elyza
containerの/optディレクトリで作業をすることにします

(a) Modelfileの作成

下記設定をModelfileという名前で作成します

FROM ./Llama-3-ELYZA-JP-8B-q4_k_m.gguf
TEMPLATE """{{ if .System }}<|start_header_id|>system<|end_header_id|>
{{ .System }}<|eot_id|>{{ end }}{{ if .Prompt }}<|start_header_id|>user<|end_header_id|>
{{ .Prompt }}<|eot_id|>{{ end }}<|start_header_id|>assistant<|end_header_id|>
{{ .Response }}<|eot_id|>"""
PARAMETER stop "<|start_header_id|>"
PARAMETER stop "<|end_header_id|>"
PARAMETER stop "<|eot_id|>"
PARAMETER stop "<|reserved_special_token"

(b) Dockerfileの作成

下記設定をDockerfileで作成します

from ollama/ollama:latest
#
RUN apt update
RUN apt -y install curl
#
WORKDIR /opt
COPY Modelfile /opt/Modelfile
#
RUN curl -L -o Llama-3-ELYZA-JP-8B-q4_k_m.gguf "https://huggingface.co/elyza/Llama-3-ELYZA-JP-8B-GGUF/resolve/main/Llama-3-ELYZA-JP-8B-q4_k_m.gguf?download=true"

(c) docker-compose.ymlの作成

下記設定をdocker-compose.ymlで作成します

version: '3.5'
services:
  ollama:
    container_name: ollama
    build:
      context: .
      dockerfile: Dockerfile
      
(d) container起動

$ docker-compose up -d

(e) containerへlogin後、elyza起動

$ docker exec --user root -it ollama /bin/bash

containerにloginすると/optディレクトリに入るので、下記コマンドを実行します

$ ollama create elyza -f Modelfile
$ ollama run elyza

参考
[本ブログ内参照]
・Ollamaを利用してLlama-3-ELYZA-JP-8Bを動かしました
[外部サイト参照]
・OllamaでLlama-3-ELYZA-JP-8Bを使う方法！

コメント

コメントを投稿

このブログの人気の投稿

miniPCのBMAXでWindows11のsecure boot設定漏れでトラブル発生

0.推奨 Windows11をプリインストールモデルの状態で利用されている場合は問題になることはありません。Windows11のUSB bootメディアを作成して自分で新規導入したり、Windows10からWindows11へupgradeをした場合。Windows11への移行条件確認が十分でない状態があったのではないかと思います。Windows11で必須要件を満たさずに移行されたWindows11環境がありました。 今回のトラブルでBitLockerの48桁の回復キーがないことが痛手でした。Windows11を利用する上でBitLockerの回復キーは大切に保管が必要です。secure bootを設定するとディスクは暗号化されてしまいます。障害復旧に回復キーは必須です。６月の証明書期限切れで問題が発生して、思わぬ事態にならぬように早めにチェックすること、回復キーを保管することを推奨します。 1.概要 始まりは、参考資料の「6月からパソコンが動かなくなる？」です。miniPCのsecure boot設定をmsinfo32で確認すると「無効」でした。そこで、BIOSの設定でsecure bootをenableに設定して、msinfo32は「有効」になりました。これが暗号化設定と認識不足でした。Windows Updateを実行して証明書の更新を実行すると、Windows Updateのボタンが赤色に変わりました。ここからトラブルです。理解不足で複数のミスが重なり、データを消失。復旧も時間を必要としました。その内容を記述します。 2.詳細 (1) トラブルの始まり ネット記事で、secure boot設定が必要で、６月にPCが動かなくなると思って、BIOS設定を変更したことが始まりです。この変更は、BIOSでSecurityのsecure bootをdisableからenableに変更だけです。Windows11を起動してmsinfo32で有効をチェックして完了。追加としてWindows Updateで証明書の導入をしてからハマりました。 障害の状況は、Windows11自体は普通に使えるのですが、Windows Updateのボタンが赤色。文字も赤字に変わりました。今後、発生するupdate適用ができなくなると認識しました。 (2) GoogleAI(Gemini)に...
続きを読む

LinuxMint-22.3にWine 11.6をサクッと入れてみました

1.概要 Wine 11.6が開発版のアップデートリリースの記事を見つけたので、早速、試してみました。 以前の手順と異なる点は、winehq-develを選択する部分だけです。 LinuxMint-22.3導入済み環境があると、５分程度で導入できます。 この内容を記述します。 2.詳細 環境はAMD 4core, Memory 16GB, SSD 256GBです。 LinuxMint-22.3はkernel-6.14の環境です。 手順は下記内容です。今回はフォント関連も導入しました。 参考にした資料は前回と同じです。 wikis/Debian-Ubuntu https://gitlab.winehq.org/wine/wine/-/wikis/Debian-Ubuntu $ cat /etc/os-release $ sudo mkdir -pm755 /etc/apt/keyrings $ wget -O - https://dl.winehq.org/wine-builds/winehq.key | sudo gpg --dearmor -o /etc/apt/keyrings/winehq-archive.key - $ sudo dpkg --add-architecture i386 $ sudo wget -NP /etc/apt/sources.list.d/ https://dl.winehq.org/wine-builds/ubuntu/dists/noble/winehq-noble.sources $ sudo apt update $ sudo apt install --install-recommends winehq-devel $ wine --version $ sudo apt install winetricks $ winetricks cjkfonts $ winetricks --version wine --versionは、11.6と表示されます。 何も問題なく導入できます。 参考 [本ブログ内参照] ・LinuxMint 21.3にWine 11.0を導入しました [外部サイト参照] ・ 「Wine 11.6」リリース─ Androidドライバ再実装やVBScript改善など ・ Wine 11.6 Released...
続きを読む

LinuxMint 21.3にWinBoat導入を試してみました

1.概要 WinBoatの記事をgigazine.netで見つけたので、リニューアルしたと思って、再度チャレンジしました。結果は、再度、期待はずれです。今回はWindowsアプリケーションの起動まで実施しました。記事ではEDGEを起動していますが、私の環境ではサインイン表示なしにEDGEが起動しました。コマンドプロンプトとエクスプローラは試してみて普通に動作しましたが、遅く感じます。この内容に関して記述します。 2.詳細 今回はWinBoatの導入に手こずりました。WinBoatにチャレンジをする方はOSを元に戻せる準備をしてから作業を開始しましょう。私は５回ほど元に戻しました。 HW環境は前回と同じで、AMD Ryzen、Memory 16GB, 4core, SSD 256GBです。 OSも合わせようとしたのですが、Ubuntu-22.04.5を導入するとFirefoxが起動しません。 snapdの問題と思ったのですが、2.72を超えていたので新しい問題と考えて諦めました。 OSをLinuxMint 21.3に変更してチャレンジです。 導入手順も少し変化しており、詳細手順は下記URLに従いました。 https://github.com/TibixDev/winboat 最初の問題はDocker環境です。Ubuntu標準にdocker composeの変更ではうまく行かず、全てやり直しをしました。 次の問題はMemoryです。16GBだけでは不足してハングしたようになりました。swapを8GB追加して問題解決しました。Memoryに関して以前実施したときは16GBで不足することはなかったと認識しています。 環境構築からInstallationのFinishまで約１時間必要です( Windows11 pro japanese選択 ) やっとInstallationが終了したと思うとリソースモニターのCPUが100%でハングです。 CPU 2Virtual Core Frequency: 3.60と表示された環境です(gigazineの表示はFrequency: 1.50) Power Offして再起動して、WinBoatは正常に起動しました。 そこで、EDGEとコマンドプロンプトとエクスプローラを試験しましたが、導入に１時間かけて使いたいとは思わない環境です。 試し...
続きを読む