Skip to content

Latest commit

 

History

History
252 lines (168 loc) · 8.62 KB

README-tr.md

File metadata and controls

252 lines (168 loc) · 8.62 KB
Raw

Kendi GaiaNet düğümünüzü çalıştırın

GaiaNet Discord GaiaNet Twitter Gaianet website

Hızlı başlangıç

Mac, Linux veya Windows WSL'de tek bir komut satırıyla varsayılan düğüm yazılım yığınını yükleyin.

curl -sSfL 'https://github.com/GaiaNet-AI/gaianet-node/releases/latest/download/install.sh' | bash

Düğümü başlatın. Bu işlem $HOME/gaianet/config.json dosyasında belirtilen model dosyalarını ve vektör veritabanı dosyalarını indirecektir ve dosyalar büyük olduğu için birkaç dakika sürebilir.

gaianet init

Düğümü başlatın.

gaianet start

Kod, resmi düğüm adresini konsola aşağıdaki gibi yazdırır. Düğüm bilgilerini görmek için bu URL'ye bir tarayıcı açabilir ve ardından düğümdeki AI aracısı ile sohbet edebilirsiniz.

... ... https://0xf63939431ee11267f4855a166e11cc44d24960c0.gaianet.xyz

Düğümü durdurmak için aşağıdaki komut dosyasını çalıştırabilirsiniz.

gaianet stop

Kurulum kılavuzu

curl -sSfL 'https://raw.githubusercontent.com/GaiaNet-AI/gaianet-node/main/install.sh' | bash
Çıktı aşağıdaki gibi görünmelidir: 
[+] Downloading default config file ...

[+] Downloading nodeid.json ...

[+] Installing WasmEdge with wasi-nn_ggml plugin ...

Info: Detected Linux-x86_64

Info: WasmEdge Installation at /home/azureuser/.wasmedge

Info: Fetching WasmEdge-0.13.5

/tmp/wasmedge.2884467 ~/gaianet
######################################################################## 100.0%
~/gaianet
Info: Fetching WasmEdge-GGML-Plugin

Info: Detected CUDA version:

/tmp/wasmedge.2884467 ~/gaianet
######################################################################## 100.0%
~/gaianet
Installation of wasmedge-0.13.5 successful
WasmEdge binaries accessible

    The WasmEdge Runtime wasmedge version 0.13.5 is installed in /home/azureuser/.wasmedge/bin/wasmedge.


[+] Installing Qdrant binary...
    * Download Qdrant binary
################################################################################################## 100.0%

    * Initialize Qdrant directory

[+] Downloading the rag-api-server.wasm ...
################################################################################################## 100.0%

[+] Downloading dashboard ...
################################################################################################## 100.0%

Varsayılan olarak $HOME/gaianet dizinine yüklenir. Alternatif bir dizine yüklemeyi de seçebilirsiniz.

curl -sSfL 'https://raw.githubusercontent.com/GaiaNet-AI/gaianet-node/main/install.sh' | bash -s -- --base $HOME/gaianet.alt

Düğümü başlatın

gaianet init
Çıktı aşağıdaki gibi görünmelidir: 
[+] Downloading Llama-2-7b-chat-hf-Q5_K_M.gguf ...
############################################################################################################################## 100.0%############################################################################################################################## 100.0%

[+] Downloading all-MiniLM-L6-v2-ggml-model-f16.gguf ...

############################################################################################################################## 100.0%############################################################################################################################## 100.0%

[+] Creating 'default' collection in the Qdrant instance ...

    * Start a Qdrant instance ...

    * Remove the existed 'default' Qdrant collection ...

    * Download Qdrant collection snapshot ...
############################################################################################################################## 100.0%############################################################################################################################## 100.0%

    * Import the Qdrant collection snapshot ...

    * Recovery is done successfully

initkomutu düğümü$HOME/gaianet/config.json` dosyasına göre başlatır. Önceden ayarlanmış konfigürasyonlarımızdan bazılarını kullanabilirsiniz.

gaianet init --config https://raw.githubusercontent.com/GaiaNet-AI/node-configs/main/llama-3-8b-instruct_london/config.json

Önceden ayarlanmış yapılandırmaların bir listesini görmek için gaianet init --help yapabilirsiniz. gaianet_docsgibi önceden ayarlanmış yapılandırmaların yanı sıra, düğümün istediğiniz duruma başlatılması için kendiconfig.json` dosyanıza bir URL de iletebilirsiniz.

Alternatif bir dizinde kurulu bir düğümü init etmeniz gerekiyorsa, bunu yapın.

gaianet init --base $HOME/gaianet.alt

Düğümü başlat

gaianet start
Çıktı aşağıdaki gibi görünmelidir: 
[+] Starting Qdrant instance ...

    Qdrant instance started with pid: 39762

[+] Starting LlamaEdge API Server ...

    Run the following command to start the LlamaEdge API Server:

wasmedge --dir .:./dashboard --nn-preload default:GGML:AUTO:Llama-2-7b-chat-hf-Q5_K_M.gguf --nn-preload embedding:GGML:AUTO:all-MiniLM-L6-v2-ggml-model-f16.gguf rag-api-server.wasm --model-name Llama-2-7b-chat-hf-Q5_K_M,all-MiniLM-L6-v2-ggml-model-f16 --ctx-size 4096,384 --prompt-template llama-2-chat --qdrant-collection-name default --web-ui ./ --socket-addr 0.0.0.0:8080 --log-prompts --log-stat --rag-prompt "Use the following pieces of context to answer the user's question.\nIf you don't know the answer, just say that you don't know, don't try to make up an answer.\n----------------\n"


    LlamaEdge API Server started with pid: 39796

Düğümü yerel kullanım için başlatabilirsiniz. Yalnızca localhost üzerinden erişilebilir olacak ve GaiaNet etki alanının genel URL'lerinden hiçbirinde bulunmayacaktır.

gaianet start --local-only

Alternatif bir temel dizinde yüklü bir düğümü de başlatabilirsiniz.

gaianet start --base $HOME/gaianet.alt

Düğümü durdur

gaianet stop
Çıktı aşağıdaki gibi görünmelidir: 
[+] Stopping WasmEdge, Qdrant and frpc ...

Alternatif bir temel dizinde yüklü bir düğümü durdurun.

gaianet stop --base $HOME/gaianet.alt

Yapılandırmayı güncelle

gaianet configalt komutunu kullanarakconfig.jsondosyasında tanımlanan anahtar alanları güncelleyebilirsiniz. Konfigürasyonu güncelledikten sonragaianet init` komutunu tekrar çalıştırmalısınız.

Örneğin chat alanını güncellemek için aşağıdaki komutu kullanın:

gaianet config --chat-url "https://huggingface.co/second-state/Llama-2-13B-Chat-GGUF/resolve/main/Llama-2-13b-chat-hf-Q5_K_M.gguf"

Örneğin chat_ctx_size alanını güncellemek için aşağıdaki komutu kullanın:

gaianet config --chat-ctx-size 5120

Aşağıda config alt komutunun tüm seçenekleri yer almaktadır.

$ gaianet config --help

Kullanım: gaianet config [SEÇENEKLER]

Seçenekler:
--chat-url <url>               Update the url of chat model.
  --chat-ctx-size <val>          Update the context size of chat model.
  --embedding-url <url>          Update the url of embedding model.
  --embedding-ctx-size <val>     Update the context size of embedding model.
  --prompt-template <val>        Update the prompt template of chat model.
  --port <val>                   Update the port of LlamaEdge API Server.
  --system-prompt <val>          Update the system prompt.
  --rag-prompt <val>             Update the rag prompt.
  --rag-policy <val>             Update the rag policy [Possible values: system-message, last-user-message].
  --reverse-prompt <val>         Update the reverse prompt.
  --domain <val>                 Update the domain of GaiaNet node.
  --snapshot <url>               Update the Qdrant snapshot.
  --qdrant-limit <val>           Update the max number of result to return.
  --qdrant-score-threshold <val> Update the minimal score threshold for the result.
  --base <path>                  The base directory of GaiaNet node.
  --help                         Show this help message

İyi eğlenceler!