Suniy intelektga VideoKarta olish kerakmi ?
Yaqinda Suniy Intelekt uchun videokarta oldim, ancha xarajat bo'ldi, lekin bu arziydimi degan savol tug'iladi.
ChatGPT, Gemini, Grok, Claude kabi LLM modellar hammasi videokarta yordamida ishlaydi, natijada sifatli va katta modellar ishlatish qimmat.
Yaqinda bitta dasturchi VibeCoding qilaman deb kuniga 2000$ sarflaganini eshitdim, undan ko'ra videokarta olib qo'ysa bo'lmaydimi deysiz.
Kundan kunga LLM larga bog'liqligimiz oshib borar ekan, yaxshi LLM ishlataman desangiz qimmat , xarajati ko'p.
Oyiga 100$ qimmat emas dersiz, lekin yiliga bu 1200$ bo'ladi!
Tekin LLM modellari pullikga o'xshab yaxshi emas ham dersiz, lekin bu vaqtincha!
Kundan kunga bepul Open-source LLM Modellar va Tool lar ko'paymoqda, misol uchun: LLama, Deepseek, Gemma, Ollama, OpenCode va hakoza.
Xuddi Windows pullik bo'lgani kabi, bepul operatsion tizimlar mavjud bo'ladi: Ubuntu, PopOS va hakoza.
Bundan tashqari, sifat bu faqat LLM ga bog'liq emas, qo'shimcha (RAG) Tool lar ishlatish yordamida kichkina xajmdagi LLM modellar ham, yaxshi natijaga erishsa bo'ladi.
Fikrimcha, LLM ga talab hamma joyda kuchayar ekan, videoKarta(+RAM, +NVME_SSD) larga talab oshishda davom etadi.
Faqat AI Bubble yorilsagina bu talab kamayishi mumkin, lekin kundalik hayotda sunniy intelekt ishlatishda davom etarkansiz, bu bubble uzoq davom etishi mumkin.
