- 多元化大模型支持:
- 本搜索引擎具備卓越的兼容性和靈活性,支持多種大模型(LLMs)。
- 無論是本地部署的llama3、gemma、mistral等模型,還是云服務提供的OpenAI/gpt4-o、Groq/Llama3等,都能輕松接入,為用戶提供豐富的智能搜索體驗。
- 現代化技術棧構建:
- 項目采用業界領先的Next.js作為前端框架,構建出高效、用戶友好的搜索界面。
- 后端則基于FastAPI框架,確保數據處理的快速與穩定。
- 此外,項目還集成了Tavily、Logfire、Redis和shadcn/ui等工具和服務,進一步提升了整體性能與可靠性。
- 靈活的部署方案:
- 為滿足用戶的不同需求,我們提供了本地和云部署兩種方案。
- 用戶可以選擇通過Docker在本地輕松運行,或者將前端部署到Vercel,后端部署到Render,享受云服務的便捷與高效。
- 項目現狀與展望:
- 目前,我們的項目正處于積極開發階段,并計劃在未來進行一系列優化與擴展。
- 我們將不斷添加對更多本地LLMs的支持,以提供更廣泛、更智能的搜索服務。
- 同時,我們還將改進Docker部署流程,簡化用戶操作,提升部署效率。
- 此外,我們還計劃整合LiteLLM和searxng等先進技術,減少對外部服務的依賴,進一步提升項目的獨立性與自主性。
- 在線體驗地址: