nginx_uWSGI_django_virtualenv_supervisor发布web服务器

nginx

导论

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28

WSGI是Web服务器网关接口。它是一个规范，描述了Web服务器如何与Web应用程序通信，以及Web应用程序如何链接在一起以处理一个请求，（接收请求，处理请求，响应请求）
基于wsgi运行的框架有bottle,DJango,Flask,用于解析动态HTTP请求
支持WSGI的服务器
 wsgiref
 python自带的web服务器
 Gunicorn
 用于linux的 python wsgi Http服务器，常用于各种django，flask结合部署服务器。
 mode_wsgi
 实现了Apache与wsgi应用程序的结合
 uWSGI
 C语言开发，快速，自我修复，开发人员友好的WSGI服务器，用于Python Web应用程序的专业部署和开发。

在部署python程序web应用程序时，可以根据性能的需求，选择合适的wsgi server，不同的wsgi server区别在于并发支持上，有单线程，多进程，多线程，协程的区别，其功能还是近似，无非是请求路由，执行对应的函数，返回处理结果。




Django部署

Django的主要部署平台是 WSGI，这是用于Web服务器和应用程序的Python标准。

Django的 startproject管理命令设置一个简单的默认WSGI配置，可以根据需要为您的项目进行调整，并指示任何符合WSGI的应用程序服务器使用。

application 
使用WSGI部署的关键概念是应用程序服务器用于与代码通信的 application 可调用。它通常在服务器可访问的Python模块中作为名为 application 的对象提供。

startproject 命令创建包含这样的 application 可调用的文件 <project_name>/wsgi.py. ，它被Django的开发服务器和生产WSGI部署使用。
WSGI服务器从其配置中获取 application 可调用的路径。 Django的内置服务器，即 runserver 命令，从 WSGI_APPLICATION 设置读取它。

为什么用nginx和uwsgi

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17

1、首先nginx 是对外的服务接口，外部浏览器通过url访问nginx,

2、nginx 接收到浏览器发送过来的http请求，将包进行解析，分析url，如果是静态文件请求就直接访问用户给nginx配置的静态文件目录，直接返回用户请求的静态文件，

如果不是静态文件，而是一个动态的请求，那么nginx就将请求转发给uwsgi,uwsgi 接收到请求之后将包进行处理，处理成wsgi可以接受的格式，并发给wsgi,wsgi 根
据请求调用应用程序的某个文件，某个文件的某个函数，最后处理完将返回值再次交给wsgi,wsgi将返回值进行打包，打包成uwsgi能够接收的格式，uwsgi接收wsgi 发
送的请求，并转发给nginx,nginx最终将返回值返回给浏览器。

1、要知道第一级的nginx并不是必须的，uwsgi完全可以完成整个的和浏览器交互的流程，但是要考虑到某些情况
安全问题，程序不能直接被浏览器访问到，而是通过nginx,nginx只开放某个接口，uwsgi本身是内网接口，这样运维人员在nginx上加上安全性的限制，可以达到保护程序的作用。

2、负载均衡问题，一个uwsgi很可能不够用，即使开了多个work也是不行，毕竟一台机器的cpu和内存都是有限的，有了nginx做代理，一个nginx可以代理多台uwsgi完成uwsgi的负载均衡。

3、静态文件问题，用django或是uwsgi这种东西来负责静态文件的处理是很浪费的行为，而且他们本身对文件的处理也不如nginx好，所以整个静态文件的处理都直接由nginx完成，静态文件
的访问完全不去经过uwsgi以及其后面的东西。

为什么要用nginx,uwsgi

nginx有关

nginx官网

http://nginx.org/en/

nginx有关uwsgi模块介绍

http://nginx.org/en/docs/http/ngx_http_uwsgi_module.html

nginx、WSGI、uwsgi、uWSGI、django这几个关系

wsgi 全称web server gateway interface，wsgi不是服务器，也不是python模块，只是一种协议，
描述web server如何和web application通信的规则。运行在wsgi上的web框架有bottle，flask，django
uwsgi 和wsgi一样是通信协议，是uWSGI服务器的单独协议，用于定义传输信息的类型
uWSGI 是一个web服务器，实现了WSGI协议，uwsgi协议。a
nginx web服务器，更加安全，更好的处理处理静态资源，缓存功能，负载均衡，因此nginx的强劲性能，配合uWSGI服务器会更加安全，性能有保障。
django 高级的python web框架，用于快速开发，解决web开发的大部分麻烦，程序员可以更专注业务逻辑，无须重新造轮子

Django Nginx+uwsgi安装配置

以前我们使用 python manage.py runserver 来运行服务器。这只适用测试环境中使用。正式发布的服务，需要一个可以稳定而持续的服务器。

基础开发环境配置

yum groupinstall "Development tools"yum install zlib-devel bzip2-devel pcre-devel openssl-devel ncurses-devel sqlite-devel readline-devel tk-devel

提前安装好

python3环境virtualenvdjango1.11.11

安装django1.11

pip3 install django==1.11

创建django项目mysite

django-admin startproject mysite

创建app01

python3 manage.py startapp app01mysite/settings.py

settings.py设置

ALLOWED_HOSTS = [‘*‘]install app01mysite/urls.pyfrom app01 import viewsurlpatterns = [ url(r‘^admin/‘, admin.site.urls), url(r‘^hello_django/‘, views.hello),]

app01/views.py

from django.shortcuts import render,HttpResponse# Create your views here.def hello(request): print(‘request is :‘,request) return HttpResponse(‘django is ok ‘)

安装uWSGI

进入虚拟环境venv，安装uwsgi(venv) [root@slave 192.168.11.64 /opt]$pip3 install uwsgi检查uwsgi版本(venv) [root@slave 192.168.11.64 /opt]$uwsgi --version2.0.17.1

检查uwsgi python版本

uwsgi --python-version

运行简单的uWSGI

启动一个python

uwsgi --http :8000 --wsgi-file test.pyhttp :8000: 使用http协议，端口8000wsgi-file test.py: 加载指定的文件，test.py#test.pydef application(env, start_response): start_response(‘200 OK‘, [(‘Content-Type‘,‘text/html‘)]) return [b"Hello World"] # python3

uWsgi热加载python程序

1
2
3
4
5
6

在启动命令后面加上参数
uwsgi --http :8088 --module mysite.wsgi --py-autoreload=1 
#发布命令
command= /home/venv/bin/uwsgi --uwsgi 0.0.0.0:8000 --chdir /opt/mysite --home=/home/venv --module mysite.wsgi
#此时修改django代码，uWSGI会自动加载django程序，页面生效
复制代码

运行django程序

#mysite/wsgi.py 确保找到这个文件uwsgi --http :8000 --module mysite.wsgimodule mysite.wsgi: 加载指定的wsgi模块

uwsgi配置文件

uwsgi支持ini、xml等多种配置方式，本文以 ini 为例， 在/etc/目录下新建uwsgi_nginx.ini，添加如下配置：# mysite_uwsgi.ini file[uwsgi]# Django-related settings# the base directory (full path)chdir = /opt/mysite# Django‘s wsgi filemodule = mysite.wsgi# the virtualenv (full path)home = /opt/venv# process-related settings# mastermaster = true# maximum number of worker processesprocesses = 1# the socket (use the full path to be safesocket = 0.0.0.0:8000# ... with appropriate permissions - may be needed# chmod-socket = 664# clear environment on exitvacuum = true

指定配置文件启动命令

uwsgi --ini /etc/uwsgi_nginx.ini

配置nginx结合uWSGI

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41

worker_processes 1;
error_log logs/error.log;
pid logs/nginx.pid;
events {
 worker_connections 1024;
}
http {
 include mime.types;
 default_type application/octet-stream;
 log_format main ‘$remote_addr - $remote_user [$time_local] "$request" ‘
 ‘$status $body_bytes_sent "$http_referer" ‘
 ‘"$http_user_agent" "$http_x_forwarded_for"‘;
 access_log logs/access.log main;
 sendfile on;
 keepalive_timeout 65;
　　#nginx反向代理uwsgi
 server {
 listen 80;
 server_name 192.168.11.64;
 location / {
　　　　 #nginx自带ngx_http_uwsgi_module模块，起到nginx和uwsgi交互作用
 #通过uwsgi_pass设置服务器地址和协议，讲动态请求转发给uwsgi处理
 include /opt/nginx1-12/conf/uwsgi_params;
 uwsgi_pass 0.0.0.0:8000;
 root html;
 index index.html index.htm;
 }
　　　　 #nginx处理静态页面资源
　　　　 location /static{
　　　　　　　　alias /opt/nginx1-12/static;　　　
 }
　　　　　#nginx处理媒体资源
　　　　　location /media{
　　　　　　　　alias /opt/nginx1-12/media;　　
 }
 error_page 500 502 503 504 /50x.html;
 location = /50x.html {
 root html;
 }
 }
}

http { include mime.types; default_type application/octet-stream; log_format main ‘$remote_addr - $remote_user [$time_local] "$request" ‘ ‘$status $body_bytes_sent "$http_referer" ‘ ‘"$http_user_agent" "$http_x_forwarded_for"‘; access_log logs/access.log main; sendfile on; keepalive_timeout 65; upstream crm_django { server 192.168.12.77:8000; } # 虚拟主机一 server { listen 80; server_name www.xx.com; location / { uwsgi_pass crm_django; include /opt/nginx1-12/conf/uwsgi_params; } location /static { alias /opt/static/; } }

以上配置完启动nginx

supervisor

supervisor 是基于 python 的任务管理工具，用来自动运行各种后台任务，当然你也能直接利用 nohup 命令使任务自动后台运行，
但如果要重启任务，每次都自己手动 kill 掉任务进程，这样很繁琐，而且一旦程序错误导致进程退出的话，系统也无法自动重载任务。

这里要配置基于virtualenv的supervisor

由于supervisor在python3下无法使用，因此只能用python2去下载！！！！！！

#注意此时已经退出虚拟环境了！！！！！yum install python-setuptoolseasy_install supervisor通过命令生成supervisor的配支文件echo_supervisord_conf > /etc/supervisord.conf然后再/etc/supervisord.conf末尾添加上如下代码！！！！！！

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18

supervisord.conf配置文件参数解释
[program:xx]是被管理的进程配置参数，xx是进程的名称
[program:xx]
command=/opt/apache-tomcat-8.0.35/bin/catalina.sh run ; 程序启动命令
autostart=true ; 在supervisord启动的时候也自动启动
startsecs=10 ; 启动10秒后没有异常退出，就表示进程正常启动了，默认为1秒
autorestart=true ; 程序退出后自动重启,可选值：[unexpected,true,false]，默认为unexpected，表示进程意外杀死后才重启
startretries=3 ; 启动失败自动重试次数，默认是3
user=tomcat ; 用哪个用户启动进程，默认是root
priority=999 ; 进程启动优先级，默认999，值小的优先启动
redirect_stderr=true ; 把stderr重定向到stdout，默认false
stdout_logfile_maxbytes=20MB ; stdout 日志文件大小，默认50MB
stdout_logfile_backups = 20 ; stdout 日志文件备份数，默认是10
; stdout 日志文件，需要注意当指定目录不存在时无法正常启动，所以需要手动创建目录（supervisord 会自动创建日志文件）
stdout_logfile=/opt/apache-tomcat-8.0.35/logs/catalina.out
stopasgroup=false ;默认为false,进程被杀死时，是否向这个进程组发送stop信号，包括子进程
killasgroup=false ;默认为false，向进程组发送kill信号，包括子进程

1
2
3
4

[program:my]
#command=/opt/venv/bin/uwsgi --ini /etc/uwsgi_nginx.ini #这里是结合virtualenv的命令 和supervisor的精髓！！！！
command= /home/venv/bin/uwsgi --uwsgi 0.0.0.0:8000 --chdir /opt/mysite --home=/home/venv --module mysite.wsgi
#--home指的是虚拟环境目录 --module找到 mysite/wsgi.py

最后启动supervisor，完成uWSGI启动django，nginx反向代理

supervisord -c /etc/supervisord.conf #启动supervisor
supervisorctl -c /etxc/supervisord.conf restart my #重启my项目
supervisorctl -c /etc/supervisord.conf [start|stop|restart] [program-name|all]

重新加载supervisor

一、添加好配置文件后二、更新新的配置到supervisord supervisorctl update三、重新启动配置中的所有程序supervisorctl reload四、启动某个进程(program_name=你配置中写的程序名称)supervisorctl start program_name五、查看正在守候的进程supervisorctl六、停止某一进程 (program_name=你配置中写的程序名称)pervisorctl stop program_name七、重启某一进程 (program_name=你配置中写的程序名称)supervisorctl restart program_name八、停止全部进程supervisorctl stop all注意：显示用stop停止掉的进程，用reload或者update都不会自动重启。

django的静态文件与nginx配置 重点

django的静态文件与nginx配置mysite/settings.pySTATIC_ROOT=‘/opt/nginx1-12/static‘STATIC_URL = ‘/static/‘STATICFILES_DIRS=[ os.path.join(BASE_DIR,"static"),]上述的参数STATIC_ROOT用在哪？通过python3 manage.py collectstatic 收集所有你使用的静态文件保存到STATIC_ROOT！STATIC_ROOT 文件夹 是用来将所有STATICFILES_DIRS中所有文件夹中的文件，以及各app中static中的文件都复制过来# 把这些文件放到一起是为了用nginx等部署的时候更方便

总结

linux基本管理命令

服务器上安装服务,python3.6(宿主机上的物理解释器)1.虚拟解释器virtualenv虚拟出多个干净、隔离的python解释器环境问题：管理上较为麻烦，需要找到venv的路径，并且source activate 才能激活虚拟环境2.virtualenvwrapper工具更为方便的使用以及管理virtualenv1.配置好环境变量之后，每次开机就加载这个软件2.workon 激活并且切换多个虚拟环境mkvirtualenv 创建lsvirtualenvcdvirtualenvrmvirtualenv

mariadb

mariadb(mysql)，与django连接，存储数据(yum install mariadb-server mariadb-client)初始化连接数据库 __init.py__ import pymysql pymysql.install()本地django连接linux上的数据库注意事项：1.防火墙问题，需配置规则，或者关闭防火墙 使用云服务器的同学，需要注意开通3306端口（安全组功能）2.远程连接mysql，需要授权，远程连接grant all privileges .....

edis

import redis 

准备django项目

准备django项目 > crm 在服务器上运行crm

1.把本地代码，传至linux
-scp(linux与linux网络传输)
-xshell(yum install lrzsz) (windows)
lrzsz 可以通过如下俩命令管理文件，也可以直接拖拽文件
rz 接收
sz 发送
lrzsz只适用于小文件，大文件，请用xftp
-xftp (更为高效的企业级文件传输协议软件)

2.django项目需要配置allow_hosts=[‘*’]，允许所有主机访问
debug=True #返回给项目一个debug信息，暴露了项目配置信息，因此在线上要关闭

Nginx

1.web服务器，用户的统一入口，
我们的想法是，让用户通过nginx这个入口，就能访问到我们的应用服务器的功能
www.pythonav.cn 入口 < 80端口
端口转发，反向代理
80端口的请求 > 8000的端口应用

server{}虚拟主机

2.反向代理服务器

proxy_pass 后端应用服务器的ip:port (转发给一个单点机器)proxy_pass upstream负载均衡池

3.负载均衡服务器

nginx接收到了基于wsgi协议的动态请求，然后通过uwsgi_pass转发给uwsgi服务器uwsgi_pass mydjango;upstream mydjango { server 192.168.12.1:8000 weight=1; server 192.168.12.2:8000 weight=5; server 192.168.12.3:8000 weight=10;}

4.处理静态文件，者是nginx的天然优势，处理静态文件的高并发性性能

www.python.com/static/xxx.js 文件存放目录/data/static/xxx.jswww.python.com/static/xxx.css 文件存放目录/data/static/xxx.css www.python.com/static/xxx.jpg 文件存放目录/data/static/xxx.jpglocation /static { alias /data/static;}uwsgi uwsgi服务器： 通过uwsgi这个软件启动crm项目，且是一个支持高并发，多进程的一个应用服务器 uwsgi --module crm python3 manage.py runserver 0.0.0.0:8000 ×× 不再用这种单机形式启动crm django-admin startproject crm django-admin startapp app01 crm -crm -wsgi.py (重点级的文件，django启动，实现wsgi协议的文件) -manage.py

常见问题：

uwsgi 启动crm的时候，非常有可能报错一个 no application(找不到应用)uwsgi找不到你的crm的wsgi.py 其实uwsgi是通过这个application对象加载crm的 application = get_wsgi_application()

进程管理工具：

启动进程后，通过命令 手动管理 ps -ef |grep uwsgi #启停uwsgi kill -9 pid pkill uwsgi killall uwsgi #管理nginx ps -ef kill #管理mysqlps -ef kill #进程管理工具 supervisor 服务启动后supervisorctl ，可以通过这个命令，非常方便的管理进程，也可以统一启动，停止所有的进程 批量管理进程 mysql : running/stop nginx : running/stop uwsgi:running/stop

项目发布配置手册：

(更换不同的服务器环境，首先就要解决环境依赖的问题)

1.pip3 frezz > requirements.py 2. pip3 install -r requirements.py 3.docker 

1.准备python环境，准备虚拟环境，激活了虚拟环境
mkvirtualenv nbcrm
检测是否虚拟环境正常
which pip3
which python3

2.安装django模块（此时的操作都是在nbcrm这个虚拟环境下了）
pip3 install django==1.11.11

3.安装pymysql连接mysql数据库
pip3 install pymysql

4.安装django的一个django-multiselectfield

pip3 install django-multiselectfield

5.解决项目的数据库连接问题，修改settings.py
1.启动linux的数据库，创建对应的数据库，密码设置等等
create database nb_crm;
2.更改settings.py
DATABASES = {
‘default’: {
‘ENGINE’: ‘django.db.backends.mysql’,
‘NAME’: ‘nb_crm’, #数据库名
‘HOST’: ‘127.0.0.1’, #这里服务器的ip地址
‘PORT’: 3306, #端口
‘USER’: ‘root’, #用户名
‘PASSWORD’: ‘redhat123’, #用户密码
}
}
3.更改允许主机
ALLOWED_HOSTS = [‘*’]

4.线上关闭debug(肖锋的这个nb_crm先别改debug了)，默认先用Truedebug=True 

使用uwsgi启动django

1.安装uwsgi

pip3 install -i https://pypi.douban.com/simple uwsgi

2.通过uwsgi命令启动python应用

uwsgi --http 0.0.0.0:8888 --wsgi-file test1.py --http 指明是http协议 --socket 启动一个socket 链接 --wsgi-file 指明一个python应用文件

3.通过uwsgi启动django项目(问题是，uwsgi不处理static静态文件的配置)
uwsgi –http :8888 –module Nb_crm.wsgi

4.uwsgi可以热加载项目

uwsgi --http :9999 --module mycrm.wsgi --py-autoreload=1 --py-autoreload是告诉uwsgi自动重启加载django项目

5.通过uwsgi的配置文件启动项目

1.手动创建uwsgi.ini文件touch uwsgi.ini2.写入如下配置[uwsgi] #项目的绝对路径，定位到项目的第一层 chdir = /opt/NB_crm #指明项目的wsgi文件路径 module = NB_crm.wsgi #指明你的虚拟解释器的第一层路径 home = /root/Envs/nbcrm #指明通过uwsgi，启动多少个进程 processes = 5 #非常重要 #非常重要 #非常重要 #如果你已经配置了nginx(启动了nginx服务，配置了uwsgi_pass)，请用这个socket连接 #socket = 0.0.0.0:8000 #如果你没用nginx，想通过uwsgi直接启动web服务，指明http协议 http = 0.0.0.0:9999 #在退出uwsgi环境后，清空环境变量 vacuum = true

6.通过配置文件启动NB_crm（注意uwsgi不会处理静态文件，如果有，也是浏览器的缓存！！！！）
uwsgi –ini uwsgi.ini

7.配置django的settings.py，收集所有NB_crm项目所需的静态文件
1.#通过命令，收集整个项目所有的静态文件，放入到/opt/static/
STATIC_ROOT=’/opt/static/‘
2.执行命令
python3 manage.py collectstatic
3.此时NB_crm的所有静态文件，都跑到/opt/static/底下了
(nbcrm) [root@node1 /opt/NB_crm 11:09:33]#ls /opt/static/
admin css imgs js plugins

8.配置nginx
1.配置一个网站入口，当用户访问192.168.12.96:80 这个web应用时，自动将请求转发给uwsgi，uwsgi处理后，返回给nginx，返回给用户
当请求是192.168.12.96:80的时候，其实访问的是192.168.12.96:9999 这是动态请求，因为我是找到的uwsgi

#匹配度最低的写法，因此就是任何的请求都访问到这里2.通过nginx去处理静态文件 3.nginx.conf配置如下#定义负载均衡池，里面放入uwsgi的地址upstream nbcrm { server 127.0.0.1:8000;

}

server { listen 80; server_name www.xx.com; #讲nginx入口的请求，直接反向代理给uwsgi location / { uwsgi_pass nbcrm; include /opt/nginx1-12/conf/uwsgi_params;

}

#通过nginx处理nbcrm的静态文件location /static { alias /opt/static/; }}

9.更改uwsgi.ini ，指明socket连接，结合uwsgi 和nginx

#如果你已经配置了nginx，请用这个socket连接socket = 0.0.0.0:8000

10.启动uwsgi.ini
uwsgi –ini uwsgi.ini

启动nginx./nginx 并且访问nginx的域名入口，查看是否能访问到uwsgi项目，并且静态文件是否正常www.xx.com 查看浏览器状态

11.配置supversior，管理uwsgi进程

注意，请退出虚拟环境，在宿主机环境下，安装supvervisor

1.安装easy_install ，python2的软件包管理工具 ，如果有了可以忽略
yum install python-setuptools

#安装软件easy_install supervisor

2.使用supervisor命令,常用命令如下
生成配置文件
echo_supervisord_conf > /etc/supervisord.conf

3.修改配置文件，添加任务，按照自己的机器环境修改此命令
[program:crm_project]

#启动uwsgi的命令就是这个command=/root/Envs/nbcrm/bin/uwsgi --ini /opt/NB_crm/uwsgi.ini#自动启动uwsgi，挂了之后自动加载autorestart=true

4.启动supvervisord服务，启动uwsgi

#服务端命令，用于启动这个服务supervisord -c /etc/supervisord.conf

5.通过命令管理uwsgi
supervisorctl 直接回车，进入交互式管理状态

[root@node1 ~ 11:53:32]#supervisorctl crm_project RUNNING pid 2008, uptime 0:01:56

也可以通过命令交互式的管理uwsgi

#服务端启动后，通过命令管理软件supervisorctl start crm_projectsupervisorctl stop crm_project supervisorctl status crm_project