Qwen3.5-9B基础教程：start.sh脚本解析+环境变量注入+PATH调试技巧

张开发
• 2026/4/4 16:23:44 • 15 分钟阅读

最新文章

推荐文章

相关文章

分享文章

Qwen3.5-9B基础教程：start.sh脚本解析+环境变量注入+PATH调试技巧
Qwen3.5-9B基础教程start.sh脚本解析环境变量注入PATH调试技巧1. 项目概述Qwen3.5-9B是一个拥有90亿参数的开源大语言模型具备强大的逻辑推理、代码生成和多轮对话能力。该模型支持多模态理解图文输入和长上下文处理最高可达128K tokens是当前开源模型中的佼佼者。项目环境配置如下模型Qwen3.5-9B多模态版本环境torch28Conda环境服务端口7860进程管理Supervisor2. 项目结构解析项目核心文件结构如下/root/qwen3.5-9b/ ├── app.py # 主程序(Gradio WebUI) ├── start.sh # 启动脚本 ├── service.log # 运行日志 └── history.json # 对话历史记录其中start.sh脚本是整个项目的启动入口负责环境准备和程序启动。理解这个脚本的工作原理对于项目维护和问题排查至关重要。3. start.sh脚本深度解析3.1 脚本基础结构典型的start.sh脚本包含以下核心部分#!/bin/bash # 环境变量设置 export PYTHONPATH/root/qwen3.5-9b export MODEL_PATH/root/ai-models/Qwen/Qwen3.5-9B # 激活conda环境 source /opt/miniconda3/bin/activate torch28 # 启动主程序 python app.py --model-path $MODEL_PATH --port 78603.2 关键环境变量说明变量名作用示例值PYTHONPATHPython模块搜索路径/root/qwen3.5-9bMODEL_PATH模型文件存储路径/root/ai-models/Qwen/Qwen3.5-9BCUDA_VISIBLE_DEVICES指定使用的GPU设备03.3 环境变量注入技巧在Supervisor配置中注入环境变量的正确方式[program:qwen3.5-9b] environmentHOME/root,USERroot,PATH/opt/miniconda3/envs/torch28/bin:%(ENV_PATH)s注意PATH变量的特殊处理方式使用%(ENV_PATH)s保留系统原有PATH值。4. PATH环境变量调试技巧4.1 PATH问题的常见表现报错command not found但命令确实存在程序运行时找不到依赖库Conda环境激活后命令仍指向系统路径4.2 调试方法查看当前PATH值echo $PATH检查命令实际路径which python临时修改PATH测试export PATH/opt/miniconda3/envs/torch28/bin:$PATHSupervisor环境调试supervisorctl tail qwen3.5-9b4.3 PATH设置最佳实践绝对路径优先在脚本中使用绝对路径调用命令环境隔离确保conda环境的bin目录在PATH最前面日志记录在启动脚本中添加PATH记录echo Current PATH: $PATH /root/qwen3.5-9b/service.log5. 常见问题解决方案5.1 模型加载失败现象日志中出现Model loading failed或长时间卡在加载阶段排查步骤检查模型文件权限ls -l /root/ai-models/Qwen/Qwen3.5-9B验证模型完整性md5sum /root/ai-models/Qwen/Qwen3.5-9B/pytorch_model.bin检查GPU内存状态nvidia-smi5.2 端口冲突问题解决方案查找占用7860端口的进程lsof -i :7860修改app.py启动端口demo.launch(server_port7861)更新Supervisor配置中的启动命令5.3 依赖版本冲突排查方法检查当前环境安装的包conda list对比requirements.txtpip freeze | grep -E torch|transformers|gradio重建干净环境conda create -n torch28_new python3.106. 性能优化建议6.1 启动加速技巧预加载模型from transformers import AutoModelForCausalLM model AutoModelForCausalLM.from_pretrained(/root/ai-models/Qwen/Qwen3.5-9B, device_mapauto)启用量化减少显存占用model AutoModelForCausalLM.from_pretrained(..., load_in_4bitTrue)6.2 内存优化配置在start.sh中添加以下环境变量export PYTORCH_CUDA_ALLOC_CONFmax_split_size_mb:128 export CUDA_LAUNCH_BLOCKING16.3 日志优化修改Gradio日志级别import logging logging.basicConfig(levellogging.WARNING)7. 总结与下一步通过本文你应该已经掌握了Qwen3.5-9B项目的start.sh脚本工作原理环境变量注入的正确方法和调试技巧PATH问题的排查和解决方案常见问题的诊断和处理方法下一步建议尝试修改start.sh脚本添加自定义环境变量练习使用which和echo命令调试PATH问题记录一次完整的服务启动过程分析各阶段耗时获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。

更多文章