https://end0tknr.hateblo.jp/entry/20230708/1688797711
先日の上記entryの関連です。
bitsandbytesは、機械学習の省メモリ化を行う8-bit optimizer ですが、 標準では windowsのdllを提供していません。
また、インターネットを検索すると 「dll をダウンロード & bitsandbytes の main.py 変更」の 情報をよく見かけます。
が、
以下のurlで 「bitsandbytes 0.37.2 ～ 0.39.1 for win のdll付」を配布しており、 pipコマンドでさらっとインストールできます。
大変、ありがたいです。
# 0.37.2 python -m pip install \ https://github.com/jllllll/bitsandbytes-windows-webui/releases/download/wheels/bitsandbytes-0.37.2-py3-none-win_amd64.whl \ --force-reinstall # 0.38.1 python -m pip install \ https://github.com/jllllll/bitsandbytes-windows-webui/releases/download/wheels/bitsandbytes-0.38.1-py3-none-win_amd64.whl \ --force-reinstall # 0.39.0 python -m pip install \ https://github.com/jllllll/bitsandbytes-windows-webui/releases/download/wheels/bitsandbytes-0.39.0-py3-none-win_amd64.whl # 0.39.1 python -m pip install \ https://github.com/jllllll/bitsandbytes-windows-webui/releases/download/wheels/bitsandbytes-0.39.1-py3-none-win_amd64.whl
