my-finetuned-llm

Эта модель была дообучена на основе TinyLlama/TinyLlama-1.1B-Chat-v1.0 с использованием QLoRA.

Использование

from transformers import AutoModelForCausalLM, AutoTokenizer

model = AutoModelForCausalLM.from_pretrained("Slpgog/my-finetuned-llm")
tokenizer = AutoTokenizer.from_pretrained("Slpgog/my-finetuned-llm")

# Генерация
prompt = "<|user|>\nВаш вопрос здесь</s>\n<|assistant|>\n"
inputs = tokenizer(prompt, return_tensors="pt")
outputs = model.generate(**inputs, max_new_tokens=256)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

Параметры обучения

• Base model: TinyLlama/TinyLlama-1.1B-Chat-v1.0
• LoRA r: 64
• LoRA alpha: 16
• Learning rate: 0.0002
• Epochs: 3
• Batch size: 4
• Max sequence length: 512

Дата обучения

2026-01-30 21:45:48