Qwen-Ranker Pro生产环境部署Nginx反向代理HTTPS安全访问配置1. 环境准备与基础部署在开始配置生产环境之前我们需要先完成Qwen-Ranker Pro的基础部署。这个智能语义精排系统基于Qwen3-Reranker-0.6B模型构建专门解决搜索系统中的结果相关性偏差问题。1.1 系统要求确认确保你的服务器满足以下基本要求Ubuntu 18.04 或 CentOS 7至少8GB RAM推荐16GB至少20GB可用磁盘空间Python 3.8 环境显卡支持可选但推荐用于更好性能1.2 基础服务启动首先通过提供的脚本启动基础服务# 进入项目目录 cd /root/build/ # 启动Qwen-Ranker Pro服务 bash start.sh这个命令会启动Streamlit服务默认监听8501端口。服务启动后你可以在本地通过http://localhost:8501访问系统界面。2. Nginx反向代理配置现在我们来配置Nginx作为反向代理让外部用户能够安全访问你的Qwen-Ranker Pro服务。2.1 安装Nginx在Ubuntu系统上安装Nginx# 更新包列表 sudo apt update # 安装Nginx sudo apt install nginx -y # 启动Nginx服务 sudo systemctl start nginx sudo systemctl enable nginx2.2 配置反向代理创建Nginx配置文件# 创建配置文件 sudo nano /etc/nginx/sites-available/qwen-ranker在配置文件中添加以下内容server { listen 80; server_name your-domain.com; # 替换为你的域名或服务器IP # 反向代理配置 location / { proxy_pass http://localhost:8501; proxy_http_version 1.1; proxy_set_header Upgrade $http_upgrade; proxy_set_header Connection upgrade; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; proxy_set_header X-Forwarded-Proto $scheme; proxy_cache_bypass $http_upgrade; # 增加超时时间适应模型推理耗时 proxy_connect_timeout 300s; proxy_send_timeout 300s; proxy_read_timeout 300s; } # 静态文件缓存配置 location /static { proxy_pass http://localhost:8501/static; proxy_cache_valid 200 302 1h; proxy_cache_valid 404 1m; } }启用配置文件并测试# 创建符号链接 sudo ln -s /etc/nginx/sites-available/qwen-ranker /etc/nginx/sites-enabled/ # 测试配置是否正确 sudo nginx -t # 重新加载Nginx配置 sudo systemctl reload nginx3. HTTPS安全访问配置为了确保数据传输安全我们需要为服务配置HTTPS加密访问。3.1 安装Certbot和SSL证书使用Lets Encrypt免费SSL证书# 安装Certbot sudo apt install certbot python3-certbot-nginx -y # 获取SSL证书替换为你自己的域名 sudo certbot --nginx -d your-domain.com # 设置证书自动续期 sudo certbot renew --dry-run3.2 完整的HTTPS配置Certbot会自动更新你的Nginx配置最终的配置文件应该类似这样server { listen 80; server_name your-domain.com; return 301 https://$server_name$request_uri; } server { listen 443 ssl http2; server_name your-domain.com; ssl_certificate /etc/letsencrypt/live/your-domain.com/fullchain.pem; ssl_certificate_key /etc/letsencrypt/live/your-domain.com/privkey.pem; # SSL优化配置 ssl_protocols TLSv1.2 TLSv1.3; ssl_ciphers ECDHE-RSA-AES256-GCM-SHA512:DHE-RSA-AES256-GCM-SHA512:ECDHE-RSA-AES256-GCM-SHA384:DHE-RSA-AES256-GCM-SHA384; ssl_prefer_server_ciphers off; ssl_session_cache shared:SSL:10m; ssl_session_timeout 10m; # 安全头部 add_header Strict-Transport-Security max-age63072000 always; add_header X-Frame-Options DENY; add_header X-Content-Type-Options nosniff; add_header X-XSS-Protection 1; modeblock; location / { proxy_pass http://localhost:8501; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; proxy_set_header X-Forwarded-Proto $scheme; # 超时设置 proxy_connect_timeout 300s; proxy_send_timeout 300s; proxy_read_timeout 300s; } }4. 性能优化与安全加固为了让Qwen-Ranker Pro在生产环境中运行更稳定安全我们还需要进行一些优化配置。4.1 Nginx性能调优编辑Nginx主配置文件sudo nano /etc/nginx/nginx.conf在http块中添加以下优化配置http { # 基础性能优化 sendfile on; tcp_nopush on; tcp_nodelay on; keepalive_timeout 65; types_hash_max_size 2048; # 缓冲区和超时设置 client_body_buffer_size 128k; client_max_body_size 100m; client_header_buffer_size 1k; large_client_header_buffers 4 4k; # Gzip压缩 gzip on; gzip_vary on; gzip_min_length 1024; gzip_types text/plain text/css text/xml application/json application/javascript application/xmlrss; }4.2 防火墙配置配置UFW防火墙只允许必要端口# 允许SSH连接 sudo ufw allow ssh # 允许HTTP和HTTPS sudo ufw allow 80/tcp sudo ufw allow 443/tcp # 启用防火墙 sudo ufw enable # 查看防火墙状态 sudo ufw status4.3 服务监控与日志设置日志轮转和监控# 查看Nginx访问日志 sudo tail -f /var/log/nginx/access.log # 查看错误日志 sudo tail -f /var/log/nginx/error.log # 设置日志轮转 sudo nano /etc/logrotate.d/nginx-custom5. 故障排除与维护在生产环境中可能会遇到各种问题这里提供一些常见问题的解决方法。5.1 常见问题解决问题1502 Bad Gateway错误# 检查后端服务是否运行 ps aux | grep streamlit # 检查端口监听 netstat -tlnp | grep 8501 # 重启服务 bash /root/build/start.sh问题2SSL证书过期# 手动更新证书 sudo certbot renew # 检查证书状态 sudo certbot certificates问题3性能问题# 监控系统资源 top htop # 检查Nginx工作进程 sudo systemctl status nginx5.2 定期维护任务设置定期维护脚本# 创建维护脚本 sudo nano /usr/local/bin/qwen-maintenance.sh脚本内容#!/bin/bash # 自动更新SSL证书 certbot renew --quiet # 重启Nginx使新证书生效 systemctl reload nginx # 清理旧日志文件 find /var/log/nginx -name *.log.* -mtime 30 -delete echo $(date): 维护任务完成 /var/log/qwen-maintenance.log设置定时任务# 编辑crontab sudo crontab -e # 添加每周日凌晨3点执行维护任务 0 3 * * 0 /usr/local/bin/qwen-maintenance.sh6. 总结通过以上步骤你已经成功将Qwen-Ranker Pro部署到生产环境并配置了Nginx反向代理和HTTPS安全访问。这个配置提供了主要优势安全访问通过HTTPS加密所有数据传输性能优化Nginx反向代理提供更好的并发处理能力稳定可靠完善的监控和维护机制易于扩展配置支持后续的负载均衡扩展后续建议定期检查SSL证书有效期监控系统资源使用情况根据访问量调整Nginx worker进程数量考虑配置负载均衡以支持更高并发现在你的智能语义精排系统已经可以在生产环境中安全稳定地运行为用户提供高质量的搜索结果重排序服务。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。