Пытаюсь сделать кастомный конфиг для задачи few shot ner. Но убрать устаревшую elmo модель в качестве эмбеддера и использовать берт, голову оставить svm как в оригинальном конфиге deeppavlov/configs/ner/ner_few_shot_ru.json. Но получается что deeppavlov/models/embedders/transformers_embedder.py не поддерживает подачу данных батчами и происходит OOM . Может должна помочь “dataset_iterator” с функцией gen_batches, но вроде она для обучения, а не извлечения ембеддингов. Подскажите плз куда смотреть
Если есть хотя бы небольшая обучающая выборка, то лучше пробовать дообучить модель совместно со стандартным датасетом.
Если необходимые Вам классы есть в датасете ontonotes, то можно использовать мультиязычный конфиг на основе ontonotes.
Для NER zero-shot можно использовать конфиг для squad модели, где в качестве контекста – текст, где необходимо найти сущность, в качестве вопроса – текстовое описание сущности.
Напишите какой способ Вам подходит больше всего и я попробую дать более развернутый ответ.