国内大语言模型

序号 名字 网址 访问方式 备注
1 Kimi Chat https://www.moonshot.cn web + app 月之暗面 Moonshot
2 智谱清言 https://chatglm.cn web + app 智谱
3 通义千问 https://tongyi.aliyun.com web + app 阿里
4 文心一言 https://yiyan.baidu.com web + app 百度
5 海螺问问 https://yingshi-ai.com （原名「应事AI助手」） web + app Minimax
6 讯飞星火 https://xinghuo.xfyun.cn web + app 讯飞
7 抖音豆包 https://www.doubao.com web + app 抖音
8 360智脑 https://ai.360.cn web + app 360
9 混元助手 https://hunyuan.tencent.com/bot/chat web + mini app 腾讯
10 百川智能 https://www.baichuan-ai.com web 搜狗
11 商汤商量 https://chat.sensetime.com web 商汤
12 紫东太初 https://taichu-web.ia.ac.cn web 中科院
13 DeepSeek https://chat.deepseek.com web
14 零一万物 https://01.ai 模型 开
15 书生・浦语 https://intern-ai.org.cn 模型
16 华为盘古 https://pangu.huaweicloud.com 无 开放给企业申请

生产环境运行 LLM

  1. vLLM： https://docs.vllm.ai/en/latest/
  2. Triton TensorRT-LLM： https://github.com/NVIDIA/TensorRT-LLM
  3. BentoML： https://github.com/bentoml/BentoML

消费级 PC 运行 LLM

  1. https://github.com/ggerganov/llama.cpp
  2. https://github.com/SJTU-IPADS/PowerInfer
  3. https://ollama.ai ， https://github.com/ollama-webui/ollama-webui
  4. https://gpt4all.io/index.html
  5. https://github.com/oobabooga/text-generation-webui
  6. https://github.com/imartinez/privateGPT
  7. https://github.com/xorbitsai/inference
  8. https://github.com/withcatai/catai 基于 node-llama-cpp
  9. https://lmstudio.ai
  10. https://github.com/langchain-ai/langchain
  11. https://github.com/mudler/LocalAI