Проблема с Training Lora.
Цитата: Даниил от 13.05.2023, 02:01Лора на трейне не использует gpu, но cpu. Мучаюсь 2 дня, сделал всё, что можно. Делал вместе с GPT 4
2023-05-13 01:25:55.146275: I tensorflow/stream_executor/cuda/cudart_stub.cc:29] Ignore above cudart dlerror if you do not have a GPU set up on your machine. 2023-05-13 01:26:14.701065: W tensorflow/stream_executor/platform/default/dso_loader.cc:64] Could not load dynamic library 'cudart64_110.dll'; dlerror: cudart64_110.dll not found 2023-05-13 01:26:14.701158: I tensorflow/stream_executor/cuda/cudart_stub.cc:29] Ignore above cudart dlerror if you do not have a GPU set up on your machine. WARNING[XFORMERS]: xFormers can't load C++/CUDA extensions. xFormers was built for: PyTorch 2.0.0+cu118 with CUDA 1108 (you have 2.0.0+cpu) Python 3.10.10 (you have 3.10.9) Please reinstall xformers (see https://github.com/facebookresearch/xformers#installing-xformers) Memory-efficient attention, SwiGLU, sparse and more won't be available. Set XFORMERS_MORE_DETAILS=1 for more details prepare tokenizer
У меня стоит питон 3.10.10 (другие версии не стоят), PyTorch 2.0.0+cu118 ,
NVIDIA-SMI 531.61 Driver Version: 531.61 CUDA Version: 12.1 | |-----------------------------------------+----------------------+----------------------+ | GPU Name TCC/WDDM | Bus-Id Disp.A | Volatile Uncorr. ECC | | Fan Temp Perf Pwr:Usage/Cap| Memory-Usage | GPU-Util Compute M. |
Лора на трейне не использует gpu, но cpu. Мучаюсь 2 дня, сделал всё, что можно. Делал вместе с GPT 4
2023-05-13 01:25:55.146275: I tensorflow/stream_executor/cuda/cudart_stub.cc:29] Ignore above cudart dlerror if you do not have a GPU set up on your machine. 2023-05-13 01:26:14.701065: W tensorflow/stream_executor/platform/default/dso_loader.cc:64] Could not load dynamic library 'cudart64_110.dll'; dlerror: cudart64_110.dll not found 2023-05-13 01:26:14.701158: I tensorflow/stream_executor/cuda/cudart_stub.cc:29] Ignore above cudart dlerror if you do not have a GPU set up on your machine. WARNING[XFORMERS]: xFormers can't load C++/CUDA extensions. xFormers was built for: PyTorch 2.0.0+cu118 with CUDA 1108 (you have 2.0.0+cpu) Python 3.10.10 (you have 3.10.9) Please reinstall xformers (see https://github.com/facebookresearch/xformers#installing-xformers) Memory-efficient attention, SwiGLU, sparse and more won't be available. Set XFORMERS_MORE_DETAILS=1 for more details prepare tokenizer
У меня стоит питон 3.10.10 (другие версии не стоят), PyTorch 2.0.0+cu118 ,
Цитата: Сергей от 13.05.2023, 02:03Даниил, приветствую 🖐
Вам нужно посмотреть это видео.
В нём дана портативная сборка LoRA, которая без проблем работает.
Даниил, приветствую 🖐
Вам нужно посмотреть это видео.
В нём дана портативная сборка LoRA, которая без проблем работает.
Цитата: Даниил от 13.05.2023, 13:39Это называется, я решил 3 дня назад начало этого видео на 3 минуты перемотать))
Спасибо большое! Вопрос решился!
Это называется, я решил 3 дня назад начало этого видео на 3 минуты перемотать))
Спасибо большое! Вопрос решился!