跳至主要内容

2 篇文章 含有標籤「v0.1.0」

檢視所有標籤

· 閱讀時間約 3 分鐘
Ching-Pao Lin

各位開發者、使用者午安，

我們在初版釋出後，聽到了不少使用者的問題與回饋，
現在v0.1.0穩定版已釋出，此版本在Windows版安裝方式上，做了些許的調整
這次的更新同步釋出了Docker版本，供使用者快速安裝、依需求調整環境架構，
也修正了一些使用上已知的小bug，

以下是此次更新主要的更新內容

Windows Portable 版​

  1. 模型架設方式調整，現在可以簡易的設定更多模型
  2. 修正使用 MySQL 或 PostgreSQL 時會發生的多種錯誤
  3. Readme 更新的更完整

Docker 版​

  1. 可透過 Docker Compose 一件啟動整個系統與多個 Executor
  2. 選用穩定的軟體堆疊，可直接作為生產環境
  3. 模組化設計，可自由選擇要啟動的 Executor 種類與數量

Executor​

  1. 加上命令列介面啟動器，可一鍵啟動多種 Executor，並允許將Prompt模板、System Prompt、生成設定 (Generation config)等常用的參數用指令帶入
  2. 支援Huggingface Transformers與Llama.cpp等常見地端模型推論框架
  3. 支援與 OpenAI API 或 Gemini-Pro API 相容的推論服務，如vLLM、LiteLLM等
  4. 將常用功能包成 Executor 框架，如自動註冊重試、自動註銷、自動歷史紀錄修剪、中斷生成等
  5. 將 Executor 框架打包成套件，方便自行擴充 Executor
  6. 修正 llama.cpp executor 的生成錯誤 bug
  7. 底層框架換成 FastAPI 以提昇效率與穩定性

Multi-chat​

  1. 網站機率跳到/stream route 的 bug 修正
  2. 模型預設圖片
  3. 一些小 Bug 修復
  4. 多了更多設定網站用的 Command line 工具

如需從舊版遷移至新版，請參考此份遷移指南

· 閱讀時間約 2 分鐘
Ching-Pao Lin

這是從最初版更新至v0.1.0穩定版的教學

  1. 請先透過git clone https://github.com/kuwaai/genai-os.git --tag v0.1.0，或從此處下載並解壓縮，取得一份乾淨的v0.1.0版專案
  2. 這邊將舊版專案稱為old資料夾，剛才取得的新版專案稱為new資料夾，如果有這些檔案，請將這些檔案完整複製並取代到對應的位置：
    • old/multi-chat/storage/app/ => new/src/multi-chat/storage/app/
    • old/multi-chat/database/database.sqlite => new/src/multi-chat/database/database.sqlite
    • old/multi-chat/public => new/src/multi-chat/public
    • old/multi-chat/.env => new/src/multi-chat/.env
  3. 除了第二點提到的這些檔案，如果您還有自行修改、增加那些檔案，也請複製過去
  4. 如果您是windows portable版本，請將以下資料夾或檔案移動至對應位置(由於Python版本有變，無須移動Python資料夾)：
    • old/windows/nginx-1.24.0/ => new/windows/packages/nginx-1.24.0/
    • old/windows/node-v20.11.1-win-x64/ => new/windows/packages/node-v20.11.1-win-x64/
    • old/windows/php-8.1.27-Win32-vs16-x64/ => new/windows/packages/php-8.1.27-Win32-vs16-x64/
    • old/windows/Redis-6.0.20-Windows-x64-msys2/ => new/windows/packages/Redis-6.0.20-Windows-x64-msys2/
    • old/windows/RunHiddenConsole/ => new/windows/packages/RunHiddenConsole/
    • old/windows/composer.phar => new/windows/packages/composer.phar
  5. 如果您是Linux上執行的，請來到new/src/multi-chat/executables/sh/底下執行production_update.sh，如果是Windows Portable版，請執行new/windows/底下的build.bat
  6. 檔案更新這樣應該就完成了，此時可以檢查是否有東西壞掉，Windows Portable版的部分請接續新版的模型設定教學來設定模型。