yerel llm çalıştırmak
ollama gibi araçlarla artık çocuk oyuncağı haline geldi, eskiden terminalde debelenirdik.
gizlilik takıntısı olanlar için tek seçenek. verileriniz bilgisayarınızdan dışarı çıkmıyor.
kendi gpu'nuz üzerinde model çalıştırmanın tadı başka hiçbir şeyde yok.