Az utóbbi időben nagyon sok szó esik a Deepseek kinai MI-ről. Most ennek a telepítését vesszük át Linuxra. A folyamat nagyon egyszerű, de nem gyors. Nagy állományok kerülnek letöltésre, így nekem a folyamat egy órás volt. A leírás viszonylag rövid lesz, mert az alul megjelölt videó segédanyaga.

Miért érdemes a Deepseek kinai mesterséges intelligenciát használni?

A DeepSeek egy kínai mesterséges intelligencia (MI) modellcsalád, amelyet a DeepSeek AI fejlesztett ki. Főként nagy nyelvi modellek (LLM) és más MI-alapú megoldások terén nyújt alternatívát a nyugati modellek, például az OpenAI vagy a Google rendszereivel szemben. Ha a használatát fontolgatod, itt van néhány előnye és szempont, amiért érdemes lehet kipróbálni

 

Előnyök

1. Erős kínai nyelvi támogatás

   • A DeepSeek AI-t kifejezetten úgy optimalizálták, hogy jobban értse és kezelje a kínai nyelvet és kulturális kontextusokat, mint sok nyugati modell.
   • Kínai kultúrával kapcsolatos kérdésekben (pl. ünnepi hagyományok, helyi trendek) megbízhatóbb és kontextusosabban gazdag válaszokat ad.

2. Nyílt forráskódú alternatíva

   • Egyes DeepSeek modellek open-source formában is elérhetők, így könnyebben testreszabhatók és integrálhatók saját fejlesztésekbe.

3. Költséghatékonyság

   • Kínai MI-megoldások gyakran olcsóbb alternatívát kínálnak a nyugati modellekhez képest, különösen a felhőalapú szolgáltatások esetében.
   • A bemutatott modell ingyenes.

4. Erős matematikai és programozási képességek

   • A DeepSeek Code nevű modell például kifejezetten fejlesztőknek készült, és jó teljesítményt nyújt kódgenerálásban.

5. Kelet-ázsiai piacra optimalizált tartalom

   • Ha Kínában vagy a környező régiókban használnád az MI-t, a DeepSeek valószínűleg jobban illeszkedik a helyi igényekhez, szabályozásokhoz és adatkörnyezethez.
   • A bemutatott modellre a kínai cenzúra vonatkozik, így egyes nyugati cenzúra által nem pontosan kifejtett tartalmak is jól követhetőek benne.

Hátrányok és figyelembe veendő tényezők

• Nyugati nyelveken nem feltétlenül olyan erős, mint az OpenAI vagy az Anthropic modellek. A magyarja kicsit döcögős, de nem jelen komoly hátrányt.
• Politikai és szabályozási kérdések: Kínai MI-modellek esetében a tartalomszűrés eltérhet a nyugati standardoktól. Tapasztalat, hogy kínaiaknak kényes témákat a kínai szempontból mutat be. Nem kellene ezeket feszegetni...
• Kevesebb globális integráció: A DeepSeek nem feltétlenül támogat annyi API-integrációt, mint a nagyobb nemzetközi versenytársak.

Mikor érdemes használni?

• Ha kínai vagy kelet-ázsiai tartalmakkal dolgozol, és erős nyelvi támogatásra van szükséged.
• Ha open-source megoldásokat keresel és szeretnéd testreszabni az MI-modellt.
• Ha olcsóbb, de erős MI-alternatívát szeretnél bizonyos területeken, például kódgenerálásban vagy matematikai számításokban. Én alap, minimális kódgenerátornak használom, arra kiválóan alkalmas - ingyen.

A webes felhasználása

Értelemszerű: https://chat.deepseek.com, egy fiók készítése, majd használata. Pont olyan kinézete van, mint bármelyik másiknak.

A Linux rendszeredre való telepítés:

Lefrissítjük a rendszert:

sudo apt update && sudo apt upgrade -y

Alap feladat, minden nagyobb telepítés előtt érdemes megtenni.

Pár elvárt program telepítése:

sudo apt install python3
python3 --version

A verziónak 3.8 felett kell lenni.

sudo apt install python3-pip
pip3 --version

Azaz a python és a python saját csomagkezelőjének telepítése.

sudo apt install git
git --version

A Github kezelő program telepítése.

curl -fsSL https://ollama.com/install.sh | sh
ollama --version

Az adatmodell futtatáshoz szükséges környezet telepítése. Amíg települ, addig ezt az oldalt nézegetheted. Az adatmodelleket sorolják fel. Nem csak a Deepseek modelljeit használhatod!

Az ollama szervizeinek az indítása:

sudo systemctl start ollama
sudo systemctl enable ollama

A háttérben futó dolgokat elindítjuk. Fontos, hogy elinduljanak a gép indításakor.

ollama run deepseek-r1:7b

Letölti, majd terminálos felületen indítja az adatmodellt, azaz már használhatod is!

A modellek nem kicsit, 3-500giga köztiek, így hosszabb idő, amíg lejön. A letöltés csak az első indításkor indul el, ha már a gépeden van az adatmodell, akkor villámgyorsan indul!

Amit érdemes tudni: a memóriádnál nagyobb adatmodell nem feltétlen fog elindulni.

Az ollama alap parancsai:

A modell indítása:

ollama run adatmodell_neve

A leszedett modellek listázása:

ollama list

Egy modell törlése:

ollama rm adatmodell_neve

Grafikus felület telepítése

Ha elegendő a terminálos kinézet, akkor - szerintem - felesleges, de akinek jobban tetszik...

Megfelelő python program letöltése:

sudo apt install python3-venv

Python környezet beállítása:

python3 -m venv ~/open-webui-venv
source ~/open-webui-venv/bin/activate

A grafikus program letöltése:

pip install open-webui

Nem kicsi adatmennyiség jön le, türelem!

open-webui serve

Szintén igaz, hogy letölt, de az is, hogy csak az első futtatáskor.

Alul - sikeres futás indításakor - kiírja a böngészőbe írandó lokális címet:

 http://0.0.0.0:8080

Ha minden jól megy, akkor már közel hasonló kinézetet kapsz, mint a webes felületen.

Ha indítani akarod újra:

python3 -m venv ~/open-webui-venv
source ~/open-webui-venv/bin/activate

Majd:

open-webui serve

Majd az ismert címer kell beírni a böngészőbe:

 http://0.0.0.0:8080

A telepítés nálam sikeres volt, igaz hosszú, de így egy lokálisan telepített MI lesz a gépen, és azt internet nélkül is használhatom.

A magyarázgatós videó: https://youtu.be/h_EMb_XX4UI

Ha picit is haladó vagy, akkor számodra felesleges, mert a fenti parancsokat élőben futtatva mutatom be a telepítéseket. Haladóknak nem mond semmi többet, mint a fenti parancsok...