Новость

Своя GPT-like LLM по WH40K с нуля. Часть 5: интеграция с Hugging Face

1 источник

Все новости

Пятая часть цикла статей о создании и обучении небольшой decoder-only LLM с нуля. В этом выпуске автор упаковывает модель LinguaLaboratoriumMechanicus в формат Hugging Face: создаёт конфиг и обёртку под transformers, а также сохраняет и загружает модель на Hub.

В пятой части цикла автор продолжает работу над небольшой decoder-only LLM LinguaLaboratoriumMechanicus, созданной и обученной во вселенной Warhammer 40K. На этом этапе модель упаковывается в формат Hugging Face: добавляются конфиг и обёртка под transformers, после чего модель сохраняется и загружается на Hub.

Источники 1
  • Своя GPT-like LLM по WH40K с нуля. Часть 5: интеграция с Hugging Face Habr AI 
    Своя GPT-like LLM по WH40K с нуля. Часть 5: Интеграция с Hugging Face

Привет, Хабр! Меня зовут Владимир, и это пятая часть цикла статей по написанию и обучению небольшой decoder-only LLM с нуля. В прошлых частях мы собрали и обучили модель LinguaLaboratoriumMechanicus — миниатюрную GPT-like LLM во вселенной Warhammer 40K. В этой части упакуем её в формат Hugging Face: сделаем конфиг и обёртку под transformers, сохраним и зальём модель на Hub. Читать далее

#huggingface #hub #transformers #llm #gpt #python #pytorch | @habr_ai