Обучение модели на GPU

Доброго времени суток!
Пытаюсь обучить модель для ner согласно гайду с сайта, при попытке обучения появляется ошибка, что модель не видит gpu (gpu is not avaiable), вследствие чего обучение продолжится на cpu. Обучение провожу в google colab. Есть ли гайды по обучению модели на gpu?

Приветствую @nolimiits !

Действительно в некоторых случаях обучение именно NER модели на GPU может не проходить.

Попробуйте заменить файл torch_transformers_sequence_tagger.py файлом по ссылке.

Мы планируем обновить этот файл в ближайщем релизе.

1 Like

@Vasily Спасибо за ваш ответ! Простите за крайне глупый вопрос, но не могли бы вы подсказать, как я могу заменить этот файл? Не могу его найти, к сожалению

у себя в колабе обнаружил его тут /usr/local/lib/python3.10/dist-packages/deeppavlov/models/torch_bert/torch_transformers_sequence_tagger.py

попробовал заменить файл на тот, что Вы посоветовали - к сожалению, модель так все еще и не видит GPU
Пишет то же, что и в прошлый раз:
Unable to place component TorchTransformersSequenceTagger on GPU, since no CUDA GPUs are available. Using CPU.
@Vasily уже идет ошибка с моей стороны или могут быть альтернативные варианты решения?

@nolimiits возможно, GPU действительно недоступно.

Попробуйте запустить

import torch
torch.cuda.is_available()

Если вывод False, то надо проверить подключена ли GPU в Colab, для этого необходимо перейти в меню Edit->Notebook settings.