主要邏輯
上傳
前端請求nginx 服務, nginx 呼叫upload 腳本,腳本透過尋找配置,找到對應的邏輯儲存路徑和實體儲存機器的agent 的ip 和端口,透過tcp 發包到對應agent ,部署在對應機器的agent 接受數據,並寫入本地檔案。
下載
http下載請求nginx , nginx 呼叫download 腳本,腳本解析連結參數,根據參數找到對應的agent 位址,請求返回檔案二進位內容,腳本接受到agent 傳回的數據,回傳給請求端。
設定nginx+lua
接下來主要講一下nginx 安裝設定(這裡包括lua的二進位流處理lpack, md5計算,mysql 操作, json 操作)
1、安裝nginx
下載
解壓縮tar -xvf nginx-1.10.3.tar.gz
2、安裝luajit(輕量級lua)
修改makefile 裡面的安裝路徑export prefix= /usr/local/luajit
export luajit_lib=/usr/local/luajit/lib export luajit_inc=/usr/local/luajit/include/luajit-2.0 ./configure --prefix=/usr/local/nginx --with-http_stub_status_module --with-http_ssl_module --add-module=/home/oicq/jeffzhuang/ngx_devel_kit-0.3.0 --add-module=/home/oicq/jeffzhuang/lua-nginx-module-0.10. make -j2 make install#啟動/usr/local/nginx/sbin/nginx 重啟指令` usr/local/nginx/sbin/nginx -s reload v如果報錯找不到luajit庫ln -s /usr/local/lib/libluajit-5.1.so.2 /lib64/libluajit-5.1.so.2測試nginx直接開啟瀏覽器就可以了http:10.x.x.x:8080就可以看到歡迎介面了6 、設定conf/nginx.conf運行lua 腳本增加lua庫的查找路徑lua_package_path,lua_package_cpath 7、增加mysql.lua下載 拷貝到lua_package_path 目錄下就可以了8、增加csjon#修改makefile 裡面的prefix=/usr/local/luajit就是luajit 的安裝路徑,make後將產生的cjson.so拷貝到lua_package_cpath目錄下9、安裝lpack 可以用現成的lpack.lua拷貝到lua_package_path 或用https://github.com/luadist/lpack 編譯產生lpack.so拷貝到lua_package_cpath 64位元需要增加編譯命令-fpic10、upload.lua下載
11、md5下載
主要程式碼1、前端上傳頁面程式碼
<!doctype html> <html> <head> <title>file upload example</title> </head> <body> <form action="emer_upload/order_system_storage" method="post" enctype="multipart/form-data"> <input type="file" name="testfilename"/> <input type="submit" name="upload" value="upload" /> </form> </body> </html>
2、upload上傳程式碼,該模組在解析檔案上傳請求的過程中,主要採用了簡單的類似有限狀態機的演算法來實現的,在不同的狀態由對應的handler 處理。
--文件下载服务写到 saverootpath .."/" .. filename 下面 function download() local chunk_size = 4096 local form,err=upload:new(chunk_size) if not form then ngx.log(ngx.err, "failed to new upload: ", err) ngx.exit(ngx.http_internal_server_error) end form:set_timeout(100000) while true do local typ,res,err=form:read() if not typ then errormsg="failed to read :"..err return 1 end if typ =="header" then local key=res[1] local value=res[2] if key =="content-disposition" then local kvlist=string.split(value,';') for _, kv in ipairs(kvlist) do local seg = string.trim(kv) if seg:find("filename") then local kvfile = string.split(seg, "=") filename = string.sub(kvfile[2], 2, -2) if filename then --获取文件后缀名字 fileextension=getextension(filename) local linuxtime=tostring(os.time()) filepath=saverootpath .."/" ..linuxtime..filename filetosave,errmsg = io.open(filepath, "w+") --存储的文件路径 --ngx.say("failed to open file ", filepath) if not filetosave then --ngx.say("failed to open file ", filepath .. errmsg) errormsg="打开文件失败"..filepath .. errmsg return 1 end else errormsg="请求参数找不到文件名字" return 1 end --跳出循环 break end end end elseif typ =="body" then if filetosave then filetosave:write(res) filemd5:update(res) end elseif typ =="part_end" then if filetosave then local md5_sum=filemd5:final() --ngx.say("md5: ", str.to_hex(md5_sum)) filemd532=str.to_hex(md5_sum) filetosave:close() filetosave = nil end elseif typ =="eof" then break else ngx.log(ngx.info, "do other things") end end return 0 end
3、tcp接收二進位資料
-- 读取byte function readint8(tcp) local next, val = string.unpack(tcp:receive(1), "b") return tonumber(val); end -- 读取int16 function readint16(tcp) local next, val = string.unpack(tcp:receive(2), "h"); return tonumber(val); end -- 读取int32 function readint32(tcp) local next, val = string.unpack(tcp:receive(4), ">i"); return tonumber(val); end -- 读取字符串 function readstring(tcp,len) return tostring(tcp:receive(len)); end
4、tcp寫二進位數據,這裡和agent 的通訊協定是:開始標誌位+包長度+json 字串+結束標誌位,所以對應pack 用的參數就是biab ,> 就是轉換成大端
jsondata["filename"]=filemd532 .. "." .. fileextension jsondata["cmd"]="write" jsondata["filesize"]=tostring(filelen) jsondata["path"]=system.."/"..storagedate local jsonstr=cjson.encode(jsondata) local uilen=string.len(jsonstr) senddata=bpack(">b1iab",startindex,uilen,jsonstr,endindex) socket:send(senddata)###5、下載錯誤的時候,使用了redirect 直接跳到錯誤頁面,方便輸出錯誤訊息,其實這裡還可以做用戶token 校驗###
local errorurl="/downloaderror.html" errormsg="url 参数解析有问题 "..index return ngx.redirect(errorurl.."?msg="..errormsg,``` ngx.http_moved_temporarily)
以上是nginx+lua建構檔案上傳下載服務問題怎麼解決的詳細內容。更多資訊請關注PHP中文網其他相關文章!