最近做一个导入大文件,因为涉及到要对文件处理得到需要的结构的数据。
把大量数据保存在数组中。
在处理的过程中,消耗很大内存,不是memory_limit设置问题,我已经设置足够大。
处理过程中自己也有unset掉不要的。但是通过memory_get_usage()输出函数调用前跟调用后的内存对比。
发现函数调用后,内存并没有明显的下降。那些大数组都已经unset掉了。也是一样。
如果导入的文件量不大,不会出现内存溢出的错误提示。但是当文件大到一定程度。就因为执行过程中,
函数调用完,内存还是占用很大。而导致内存溢出。
这个让我有点郁闷了。函数调用完不是都释放了局部变量空间了吗?
是不是什么内存泄露,有人遇到相同问题吗。希望有遇到相同问题的或者有人知道的。一起来讨论下。谢谢。
ps:分数蛮少的,只能这样了。
unset()的是数组还是数组元素?
还有,函数中使用的数组是局部变量还是全局变量?
还有,函数中使用的数组是局部变量还是全局变量?
嗯 这些我都考虑了
unset是数组
我也知道 函数里unset()全局变量
只是消除函数里面那个临时变量
我都有把全局$GLOBALS 变量给unset
还是如此
以前做的东西没出过类似问题,因为之前没处理过这样大的数据。
现在遇到这样的问题,让我重新思考这个问题。
今天还看了 PHP内存管理的原理了
不知道是否有人也遇到过
代码。。。
代码。。。
代码太长了,我贴一个函数吧
function importTestSuiteFormArray1($db,$parentID,$tproject_id,$userID,$duplicateLogic,&$testsuiteArray,&$testcaseArray){ global $productIndex; $unexistPF = array();//用于存放当前项目中没有的excel文件存在的平台 $produceRelFB = array(); $resultMap = null; $tsResult = null;//测试套件导入结果 $tables = tlObject::getDBTables("platforms"); $pfSql = " select id,name from ".$tables['platforms']." where testproject_id=$tproject_id"; $pfRe = $db->fetchColumnsIntoMap($pfSql,"id","name"); $pfRe = is_null($pfRe) ? array() : $pfRe; foreach($productIndex as $vKey=>$pItem){ if(!in_array($vKey, $pfRe)){ $unexistPF[] = $vKey; } }// $memory1 = memory_get_usage();// $fileName = date("md-His");// $hand = fopen("e:/testcase/".$fileName.".txt","a+");// $bTime = microtime_float(); $tempTSArray = array(); $createSuc = "创建成功。"; $updateSuc = "更新成功。"; if(is_array($testsuiteArray) && count($testsuiteArray)>0){ foreach($testsuiteArray as $key=>$tsItem){// $begin = microtime_float(); if ($tsItem['name'] != "") { if($tsItem['parentNum']==0){ $parID = $parentID; }else{ $parID = $tempTSArray[$key]['parentID']; } $tsuiteMgr = new testsuite($db); $info = $tsuiteMgr->get_by_name($tsItem['name'],$parID); if( is_null($info) ) { $ret = $tsuiteMgr->create($parID,$tsItem['name'],"",$tsItem['node_order']); $tsuiteID = $ret['id']; $tsResult[] = array($tsItem['name'],$createSuc); } else { $tsuiteID = $info[0]['id']; $ret = $tsuiteMgr->update($tsuiteID,$tsItem['name'],"",null,$tsItem['node_order']); $tsResult[] = array($tsItem['name'],$updateSuc); } if(is_array($tsItem['children']) && count($tsItem['children'])>0){ foreach($tsItem['children'] as $val){ $tempTSArray[$val]['parentID'] = $tsuiteID; } } }// $end = microtime_float();// fwrite($hand, "每条规约用时:".($end-$begin)."\r\n"); } }// echo "testsuiteArray前".memory_get_usage()."<br>"; $testsuiteArray = null;// echo "testsuiteArray后".memory_get_usage()."<br>"; $GLOBALS['testsuiteArray']=null;// echo "全局testsuiteArray后".memory_get_usage()."<br>"; if(is_array($testcaseArray) && count($testcaseArray)>0){ $tcData = array();// $begin = microtime_float(); $flag = 0; foreach ($testcaseArray as $key=>$tsItem){ if($tsItem['parentNum']==0){ $parID = $parentID; }else{ $parID = $tempTSArray[$key]['parentID']; } $tcData[$flag] = array( "name"=>$tsItem['name'], "node_order"=>$tsItem['order'], "parentID"=>$parID ) ; if(is_array($tsItem['property']) && count($tsItem['property'])>0){ foreach($tsItem['property'] as $pKey=>$val){ $tcData[$flag][$pKey] = $val; } } if(is_array($tsItem['custom_fields']) && count($tsItem['custom_fields'])>0){ foreach($tsItem['custom_fields'] as $cfName=>$cfValue){ $tcData[$flag][customfields][] = array("name"=>$cfName,"value"=>$cfValue); } } if(is_array($tsItem['srs']) && count($tsItem['srs'])>0){ $tcData[$flag]['srs'] = $tsItem['srs']; } if(is_array($tsItem['produce']) && count($tsItem['produce'])>0){ $tcData[$flag]['produce'] = $tsItem['produce']; } $flag++; }// $end = microtime_float();// fwrite($hand, "循环用例时间:".($end-$begin)."\r\n");// echo "testcaseArray前".memory_get_usage()."<br>"; $testcaseArray = null;// echo "testcaseArray后".memory_get_usage()."<br>"; $GLOBALS['testcaseArray']=null;// echo "全局testcaseArray后".memory_get_usage()."<br>"; $tempTSArray = null;// echo "tempTSArray后".memory_get_usage()."<br>"; if(is_array($tcData) && count($tcData)>0){// $begin = microtime_float(); $resultMap = saveImportedTCData1($db,$tcData,$tproject_id,$userID,null,$duplicateLogic,$produceRelFB,$pfRe); $tcData = null;// echo "tcData后".memory_get_usage()."<br>";// $memory2 = memory_get_usage();// $end = microtime_float();// fwrite($hand, "保存用例总时间:".($end-$begin)."\r\n");// fwrite($hand, "总用时:".($end-$bTime)."\r\n");// fwrite($hand, "内存消耗:".($memory2-$memory1)."\r\n"); } } $return = array("resultMap"=>$resultMap,"tsResult"=>$tsResult,"unexistPF"=>$unexistPF,"produceRel"=>$produceRelFB); return $return;// return $resultMap; }
木有人。。。
可以参考
http://www.laruence.com/2011/03/04/1894.html
可以参考
http://www.laruence.com/2011/03/04/1894.html
哈哈,这篇我看过也研究过博主说的。
它说被符号表占了。那我是想符号表占的如何释放。
我正在问那个博主。谢谢你的回复
文件分析后,数组占用了20M
然后数据库操作,这里涉及的操作很多。
执行完后内存比最开始的大接近1G
这样的结果是不是有什么异常啊。
在处理过程中有把 没必要的数据都unset了。
其实经过仔细分析
那些数组在调用完以后都有释放。
那调用完以后为什么会占用那么大内存?
因为数据库的大量操作?
- -
正想问得问题,,3Q
5000个数组,每个数组里面还有的信息较多。
执行了17W多的数据库操作,和40多秒的数据库执行时间
采用循环操作。
每执行完一个数组的操作内存逐渐增加。
照理说每次循环用到得局部变量都一样。
只有保存数据库操作结果的数组有增加,可是它的增加的量小。
不可能需要那么大的内存。
那这些额外的内存占用从哪里来呢?
直到该函数调用完。这些内存空间都没释放,这是为什么呢?
why?why?why?
遇到这个瓶颈让我很苦恼。
经验丰富
很有成就的大哥大叔们
那多出来的内存怎么来的呢?
HELP。。。。。
你试试,释放下数据库连接试试,可能被数据库操作占用了。
你试试,释放下数据库连接试试,可能被数据库操作占用了。
数据库释放了也一样。
这中间的操作导致了 内存泄露了吗?
有人遇到这样的情况吗
我以前碰到过的情况是create_function有内存泄漏,但你这里没有用
这个大概只能自己慢慢调了,
你装xdebug里面有几个功能可以帮助分析内存
我要炸了- -
想太多了
你需要检查一下承载返回值的 $return 所占的空间
你需要检查一下承载返回值的 $return 所占的空间
返回值 $return 被unset了
还是占用很大
$resultMap=saveImportedTCData1($db,$tcData,$tproject_id,$userID,null,$duplicateLogic,$produceRelFB,$pfRe);
你去看下php的垃圾回收机制吧。
你去看下php的垃圾回收机制吧。
这个早在我是学生时代就了解java gc
php gc也早就了解了跟java很像的机制。
我现在是觉得不是这些问题
我觉得应该深入php内核 研究下php内存分配机制
使用xdebug 只有执行实现 没有内存情况
我用WinCacheGrind .exe 查看的
还是我没找到- -
如果没有处理过这样大的数据
跟这么多次的数据库操作
在一般系统上还碰不到这些问题
这样功能到不是会常用
但是作为一个管理工具
有时候就是要执行这么几次大数据的处理
我想这个东西解决了
应该又是一次成长 会更加注意效率 还有其他问题
一定要解决
感觉好孤单 一个人自言自语- -
你的这个函数中还调用了其他自定义函数,也还实例化了自定义类,这些都有可能产生问题
你得一个一个排查
那就检查一下这个函数saveImportedTCData1,看看是不是因为他内部的问题
另外如果是从数据库中获取数据,记录集资源有没有被释放……
谢谢楼上两位回答。
自定义类 还有函数没错
其实最大问题saveImportedTCData1 在这个函数。
我把这个函数产生的所有输出都给释放掉了了。
即使是释放完了 通过meomory_get_usage()输出的内存占用依然是调用这个函数之前内存调用的n倍
大概多了一个数量级。
我看我还是检查下这个函数
话说xdebug 能通过WinCacheGrind 查看内存消耗吗
我没看到有查看内存的
再次向回答人说谢谢
ps:其实如果百度跟谷歌能找到我要的答案我一般不会问。我发现我问的问题大多数没有得到想要答案。能跟大家交流沟通也学习很多。再努力找原因。
?????。
自己排查吧,这个外人真帮不上什么忙,特别是你的saveImportedTCData1怎么写的都不知道。
加下引用传递再测试一下,可能是因为你函数里有一次变量分离的,而变量本身又很大的缘故。
$resultMap=saveImportedTCData1($db, &$tcData,$tproject_id,$userID,null,$duplicateLogic, &$produceRelFB,$pfRe);
自己排查吧,这个外人真帮不上什么忙,特别是你的saveImportedTCData1怎么写的都不知道。
加下引用传递再测试一下,可能是因为你函数里有一次变量分离的,而变量本身又很大的缘故。
$resultMap=saveImportedTCData1($db,&$tcData,$tproject_id,$userID,null,$duplicateLogic,&$produc……
恩 我的那个函数原型是刚好在$tcData,和$produceRelFB 有引用
刚才检查了一下
上面那个函数中有行代码
$tcData[$flag][customfields][] = array("name"=>$cfName,"value"=>$cfValue);
经过xdebug 再调试分析
最终问题得以解决
谢谢以上所有朋友
敬佩楼主啊
不过楼主怎么解决的? 我最近也遇到这个类似的问题了 求解
同问楼主是怎么解决的 主要是那些方面的问题 导致的