AI KÉPZÉS
Hogyan futtassunk open-source modelleket helyben, privát AI céljából
A Mistral AI open-source LLM-je, a Phi-2, offline futtatható a laptopodon – így az adatok privátak maradnak, és elkerülhető a más modellekkel járó cenzúra.
- Töltsd le az LM Studio-t – egy ingyenes platformot helyi AI modellekhez.
- Az LM Studio-n belül keress rá a "phi-2"-re.
- Válaszd ki a „TheBloke/phi-2-GGUF” lehetőséget, és töltsd le a Q6_K vagy Q4_K_S verziót.
- Nyisd meg a Chat fület, győződj meg róla, hogy a Phi-2 van kiválasztva, majd kezdj el promptokat írni!
- --