Qwen2.5-14B-Instruct镜像部署|像素剧本圣殿WebUI HTTPS反向代理配置

张开发
2026/4/16 4:28:39 15 分钟阅读

分享文章

Qwen2.5-14B-Instruct镜像部署|像素剧本圣殿WebUI HTTPS反向代理配置
Qwen2.5-14B-Instruct镜像部署像素剧本圣殿WebUI HTTPS反向代理配置1. 项目概述像素剧本圣殿Pixel Script Temple是一款基于Qwen2.5-14B-Instruct深度微调的专业剧本创作工具。这个独特的创作环境将强大的AI推理能力与复古未来像素美学相结合为编剧和内容创作者提供了一个沉浸式的工作站。1.1 核心特点专业剧本创作针对剧本格式、对白和场景描述进行深度优化双GPU加速支持CUDA 0和1并行推理确保快速响应流式输出集成TextIteratorStreamer实现打字机效果复古UI设计CRT扫描线、故障艺术和RPG对话框系统2. 环境准备2.1 硬件要求组件最低配置推荐配置GPUNVIDIA RTX 3090 (24GB)Dual NVIDIA RTX 4090 (48GB)CPU8核16线程16核32线程内存64GB128GB存储1TB NVMe SSD2TB NVMe SSD RAID 02.2 软件依赖# 基础环境 sudo apt update sudo apt install -y \ docker-ce \ docker-compose-plugin \ nginx \ certbot # NVIDIA容器工具包 distribution$(. /etc/os-release;echo $ID$VERSION_ID) \ curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add - \ curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list sudo apt-get update sudo apt-get install -y nvidia-container-toolkit3. 镜像部署3.1 拉取镜像docker pull registry.cn-hangzhou.aliyuncs.com/scriptgen/pixel-script-temple:8bit-pro3.2 启动容器docker run -d \ --name pixel_script_temple \ --gpus all \ -p 7860:7860 \ -v /data/scriptgen:/app/data \ -e TZAsia/Shanghai \ registry.cn-hangzhou.aliyuncs.com/scriptgen/pixel-script-temple:8bit-pro3.3 验证部署访问http://服务器IP:7860应该能看到像素风格的Web界面。如果无法访问检查防火墙设置sudo ufw allow 7860/tcp4. HTTPS反向代理配置4.1 Nginx基础配置创建新的Nginx配置文件sudo nano /etc/nginx/sites-available/pixel-script-temple添加以下内容server { listen 80; server_name script.yourdomain.com; location / { proxy_pass http://localhost:7860; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; proxy_set_header X-Forwarded-Proto $scheme; } }启用配置sudo ln -s /etc/nginx/sites-available/pixel-script-temple /etc/nginx/sites-enabled sudo nginx -t sudo systemctl reload nginx4.2 获取SSL证书使用Certbot获取Lets Encrypt证书sudo certbot --nginx -d script.yourdomain.com4.3 最终HTTPS配置Certbot会自动更新Nginx配置最终版本类似server { server_name script.yourdomain.com; location / { proxy_pass http://localhost:7860; proxy_http_version 1.1; proxy_set_header Upgrade $http_upgrade; proxy_set_header Connection upgrade; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; proxy_set_header X-Forwarded-Proto $scheme; } listen 443 ssl; ssl_certificate /etc/letsencrypt/live/script.yourdomain.com/fullchain.pem; ssl_certificate_key /etc/letsencrypt/live/script.yourdomain.com/privkey.pem; include /etc/letsencrypt/options-ssl-nginx.conf; ssl_dhparam /etc/letsencrypt/ssl-dhparams.pem; } server { if ($host script.yourdomain.com) { return 301 https://$host$request_uri; } listen 80; server_name script.yourdomain.com; return 404; }5. 高级配置5.1 性能优化# 在http块中添加 proxy_buffer_size 128k; proxy_buffers 4 256k; proxy_busy_buffers_size 256k; # 在server块中添加 client_max_body_size 50M; keepalive_timeout 300;5.2 安全加固# 防止点击劫持 add_header X-Frame-Options SAMEORIGIN; # 启用XSS保护 add_header X-XSS-Protection 1; modeblock; # 禁用内容类型嗅探 add_header X-Content-Type-Options nosniff; # CSP策略 add_header Content-Security-Policy default-src self; script-src self unsafe-inline; style-src self unsafe-inline; img-src self data:;;5.3 负载均衡配置双GPUupstream pixel_backend { server localhost:7860; server localhost:7861; # 如果有第二个实例 keepalive 32; } # 然后在location中修改proxy_pass为 proxy_pass http://pixel_backend;6. 常见问题解决6.1 连接问题排查# 检查容器日志 docker logs pixel_script_temple # 测试端口连通性 curl -v http://localhost:7860 # 检查Nginx错误日志 tail -f /var/log/nginx/error.log6.2 GPU资源监控# 查看GPU使用情况 nvidia-smi # 容器内GPU状态 docker exec -it pixel_script_temple nvidia-smi6.3 证书自动续期设置自动续期任务sudo crontab -e添加以下行0 12 * * * /usr/bin/certbot renew --quiet7. 总结通过以上步骤我们完成了像素剧本圣殿的完整部署和HTTPS反向代理配置。这套专业剧本创作工具现在可以通过安全的HTTPS连接访问同时获得了Nginx的性能优化和安全加固。7.1 关键要点回顾双GPU支持确保容器正确识别和使用所有GPU资源HTTPS加密使用Lets Encrypt提供免费SSL证书性能优化调整Nginx缓冲区大小和keepalive参数安全加固添加安全头防止常见Web攻击7.2 后续建议定期检查证书有效期并设置自动续期监控GPU使用情况必要时扩展更多计算节点考虑使用CDN加速静态资源加载定期备份创作数据挂载的/data/scriptgen目录获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。

更多文章