https://yaoblog.site/tags/mo-xingqingyao的博客Halo v2.24.1zh-cnhttps://yaoblog.site/upload/logo.avifhttps://yaoblog.site/tags/mo-xingSat, 20 Jun 2026 23:32:30 GMThttps://yaoblog.site/archives/qwen3.6-27bmo-xing-xiao-guo模型部署 模型下载 用魔塔命令下载模型文件，Qwen/Qwen3.6-27B modelscope download --model Qwen/Qwen3.6-27B --local_dir /data/Qwen3.6-27B docker-compose.y]]>/archives/qwen3.6-27bmo-xing-xiao-guoAdministratorAIMon, 1 Jun 2026 03:59:51 GMThttps://yaoblog.site/archives/mo-xing-de-diao-you目前的生产场景中，模型调优分为两种，第一种就是公网模型的调优，第二种就是机器学习的模型调优，按照目前的情况来看，我做公网模型的调优的场景会多一点，第二种在生产场景中几乎没有遇到； 公网模型调优： 往往在用 MaxKB 智能体平台中，客户在使用一些公网模型老是发现回答出现幻觉（答非所问、胡编乱造）的场]]>/archives/mo-xing-de-diao-youAdministratorAIFri, 29 May 2026 03:05:10 GMThttps://yaoblog.site/archives/hun-yuan-hy-mt2fan-yi-mo-xing5月22号，腾子发布并开源了一款专注于支持 33 种语言之间互译的翻译模型。其中，HY-MT2-7B 是在 WMT25 夺冠模型HY-MT-7B 基础上的升级版本，针对解释性翻译和混合语言场景进行了优化，新增了术语干预、上下文翻译和格式化翻译功能。Hy-MT2 在通用翻译、实际业务、专业领域及指令对]]>/archives/hun-yuan-hy-mt2fan-yi-mo-xingAdministratorAIWed, 27 May 2026 02:08:03 GMThttps://yaoblog.site/archives/tan-tao-yi-xia-bu-tong-xing-ye-dui-yu-mo-xing-de-xuan-xing本章是用来总结一下，AI 迅速发展的这两年，我负责过的项目客户，他们在自己行业中选择的模型和我对这些模型在使用方面的一下看法吧。 教育行业 国内大学中约50个客户左右：（一个客户可能使用的模型系列是多种的） 使用Qwen系列的占65%，使用ChatGPT的有42%，使用方舟的有18%，使用kimi的]]>/archives/tan-tao-yi-xia-bu-tong-xing-ye-dui-yu-mo-xing-de-xuan-xingAdministratorAITue, 12 May 2026 07:39:39 GMThttps://yaoblog.site/archives/gpustack-bu-shu-ben-di-shi-jue-mo-xing下载谷歌仓库的llama.cpp镜像（yusiwen/llama.cpp的镜像它的启动命令有点不一样目前还没试出来） docker pull ghcr.io/ggml-org/llama.cpp:server-cuda12-b7666 在gpustack 中导入下面yaml 说明： -m ：表示模型]]>/archives/gpustack-bu-shu-ben-di-shi-jue-mo-xingAdministratorAIWed, 29 Apr 2026 02:06:03 GMThttps://yaoblog.site/archives/mo-xing-ya-ce因为GB10小盒子的显存和内存是共享的，所以在压测前需要将内存损耗降到最低 sysctl -w vm.drop_caches=3 降低之后需要安装虚拟环境进行隔离环境，以前写了很多了就不赘述了 conda activate vllm 在虚拟环境安装 vllm 依赖 pip install vLLM]]>/archives/mo-xing-ya-ceAdministratorAITue, 28 Apr 2026 09:17:25 GMThttps://yaoblog.site/archives/sglangtui-li-yin-qing-bu-shu-z-image-turbo下载镜像 我7元花钱买了50G的镜像加速包，轩辕镜像加速包 #登录轩辕的专属域名才能享用加速 docker login -u 账号 -p '密码' docker.xuanyuan.run docker pull docker.xuanyuan.run/lmsysorg/sglang:latest]]>/archives/sglangtui-li-yin-qing-bu-shu-z-image-turboAdministratorAITue, 28 Apr 2026 02:55:29 GMThttps://yaoblog.site/archives/loramo-xing-wei-diao-shi-zhan使用 LLama-Factory 进行模型微调 安装 LLama-Factory git clone https://github.com/hiyouga/LLaMA-Factory.git cd LLaMA-Factory pip install -e ".[torch,metrics]" -]]>/archives/loramo-xing-wei-diao-shi-zhanAdministratorAITue, 28 Apr 2026 02:52:52 GMThttps://yaoblog.site/archives/bu-shu-comfyui-x-z_images_turbo-tu-sheng-tu典型ComfyUI 安装流程 # 1. 创建Conda环境（生成在 /root/miniconda3/envs/comfyui） conda create -n comfyui python=3.10 conda activate comfyui #查询对应目录是否有足够空间（大于需要100G的空]]>/archives/bu-shu-comfyui-x-z_images_turbo-tu-sheng-tuAdministratorAITue, 28 Apr 2026 02:51:35 GMT