Bagikan pengalaman penyebaran lokal @agentcoinsite penambangan dan berikan kepada teman-teman yang ingin naik mobil untuk menghindari jebakan 👇 Perangkat keras: RTX 4090 (24GB) Model: Qwen2.5:32B (kuantisasi Q4_K_M, menempati ~20GB VRAM) Alat: Ollama + Skrip Python Beberapa poin penting: 1️⃣ Model harus dipilih untuk versi kuantitatif 4-bit, jika tidak, model tidak 2️akan disimpan dalam tampilan ⃣ Atur OLLAMA_KEEP_ALIVE=-1 untuk membuat model bertahan di memori, jika tidak, model harus dimuat 3️ulang setiap kali diminta ⃣ Versi baru perpustakaan OpenAI Python memiliki masalah kompatibilitas dengan Ollama, jadi disarankan untuk langsung menggunakan permintaan untuk menyesuaikan API asli Sekarang berjalan secara otomatis, dan tagihan listrik diubah menjadi AGC, yang jauh lebih ekonomis 🚀 daripada cloud API #AgentCoin #AGC #LocalLLM #RTX4090