Modele, które robią Twoją robotę, a nie każdą.
Gdy prompty i retrieval przestają wystarczać, trzeba zmienić model. Robię fine-tuning otwartych modeli na Twoich danych, destyluję duże modele do małych, które uruchomisz u siebie, używam uczenia ze wzmocnieniem, żeby wyostrzyć je pod konkretny język albo stos, i trenuję od zera, gdy nic gotowego nie pasuje.
Co dostajesz
- 01 Wytrenowany model i pipeline, który go stworzył
- 02 Zestaw ewaluacji zbudowany z Twoich prawdziwych przypadków
- 03 Model card: co robi, gdzie zawodzi, ile kosztuje jego uruchomienie
- 04 Przekazanie, żeby Twój zespół mógł go dotrenować
Dowody
- Python prywatne
Model compass
W toku. Qwen dostrojony do pracy w terminalu i jako agent, destylowany i dostrajany przez RL do wariantów 4,5B pod konkretne stosy, trenowany na jednej karcie RTX 4090.
- Python kod ↗
lora
Fine-tuning modelu rozumującego, mały i skuteczny.
github.com/jtrefon/lora
- Python kod ↗
llm-mini
Transformer LLM zbudowany od zera z minimalną liczbą zależności.
github.com/jtrefon/llm-mini
- Rust kod ↗
blt
Wydajny tokenizer bajtowy w Ruście.
github.com/jtrefon/blt
- Rust kod ↗
distiller
Destylacja modeli w Ruście.
github.com/jtrefon/distiller
Notatki na ten temat
- amber-bench Lokalne modele do kodowania agentowego, zmierzone.
- 2026-10-27 Attention Is All You Need: praca, pomysł i to, co zmieniła
- 2026-10-27 DeepSeek: architektura stojąca za V3 i R1 oraz moment DeepSeek
- 2026-10-27 Destylacja: KL na logitach, temperatura i on-policy kontra off-policy
- 2026-10-27 Ile kosztuje trening LLM: 6ND FLOP-ów, 16 bajtów na parametr, Chinchilla
- 2026-10-27 Matematyka LoRA i QLoRA: rząd, alfa, pamięć i co naprawdę się trenuje
- 2026-10-27 Mnożenie macierzy i jak działają akceleratory tensorowe
Sprawdzenie zakresu
Nie zatrudniaj mnie do tego, jeśli
Problem rozwiąże lepszy prompt i dobry retrieval. Sprawdzę to najpierw.
Masz taki problem?
Opisz swój problem30-minutowa rozmowa techniczna z inżynierem, który to buduje. Bez działu sprzedaży, bez slajdów.