php – 使用curl下载乱码事件日志

发布时间:2022-04-30 发布网站:脚本宝典
脚本宝典收集整理的这篇文章主要介绍了php – 使用curl下载乱码事件日志脚本宝典觉得挺不错的,现在分享给大家,也给大家做个参考。
开始使用Flurry Analytics,发现它的分析工具不够用而且速度太慢. 3个步骤的简单漏斗被处理3天,而通常使用3个左连接查询在表格上占用100,000行,需要0,001秒.

Flurry允许在“事件日志”页面上以csv格式下载原始事件数据,因此我决定导入所有事件并在家中进行分析.

Flurry只允许下载100,000条记录,他们建议您经常下载以适应此限制.他们有原始事件下载API但由于某种原因放弃了它.因此,唯一的方法是转到“事件日志”页面并手动下载事件数据.但是你可以想象它很烦人.

所以我决定在PHP中使用curl获取这些数据.我已经将GET HTTP请求复制到带有标题的下载链接获取数据.
但整个魔都在会话/ cookie中,我可以从现有会话中复制.因此,要使curl查询成功,我必须:

>在浏览器中访问flurry网站并登录
>转到“事件日志”页面,选择时间范围参数,然后单击“下载”
>在嗅探器中复制请求标头
>将它们粘贴到我的PHP代码
>从现在开始,我可以在PHP中进行此查询,直到会话cookie过期

我不确定但是假设cookie会在第二天到期,所以整个这个努力都没用.

据我所知,我应该尝试使用curl进行POST登录,并保持此连接执行GET以下载数据.然而,即使复制整个POST登录请求正文,我也无法登录 – 它使用相同的登录页面进行回复,尽管302应该重定向
https://dev.flurry.com/fullPageTakeover.do?originalTarget=&isFirstPostLogin=true&defaultTarget=%2Fhome.do

看起来flurry以某种方式保护免受这种卷曲阅读.或者也许有人成功了?

这是代码

$cookie_file_path = "cookies.txt";
    $LOginURL         = "https://dev.flurry.COM/secure/LOGin.do";
    $MY_EMaiL ="my email";
    $MY_PASS="password";
    $MY_GamE_ID="gameid";

    $ch = curl_init();

    curl_setopt($ch,CURLOPT_HEADER,0);
    curl_setopt($ch,CURLOPT_SSL_VERIFYHOST,CURLOPT_SSL_VERIFYPEER,false);
    curl_setopt ($ch,CURLOPT_USERAGENT,"Mozilla/5.0 (Windows; U; Windows NT 5.1; en-US; rv:1.8.1.6) Gecko/20070725 Firefox/2.0.0.6");
    curl_setopt ($ch,CURLOPT_TIMEOUT,60);
    curl_setopt($ch,CURLOPT_RETURNtransfer,1);
    curl_setopt($ch,CURLOPT_FOLLOWLOCATION,CURLOPT_COOKIEFILE,$cookie_file_path);
    curl_setopt($ch,CURLOPT_cookiejar,$cookie_file_path);
    curl_setopt ($ch,CURLOPT_REFERER,$LOGINURL);


    curl_setopt($ch,CURLOPT_URL,$LOGINURL);
    curl_setopt($ch,CURLOPT_POST,CURLOPT_POSTFIELDS,"loginEmail=$MY_EMAIL&loginPassword=$MY_PASS&__checkBox_rememberMe=true&struts.token.name=struts.token&struts.token=7NB9NWLOYZ8SD8TWR8LGS63revDI8SQS");

    $result = curl_exec($ch);


    $remotePageUrl = "https://dev.flurry.com/eventsLogCsv.do?PRojectID=$MY_GAME_ID&versionCut=versionsAll&intervalCut=7Days&stream=true&direction=1&offset=0";
    curl_setopt($ch,$remotePageUrl);
    $result = curl_exec($ch);

    echo $result;

还试图传递cookie(就像它从浏览器那样),但没有任何帮助:

Cookie: _ga=GA1.2.100867533.1424333566; S0hZTkM0RFRXRjJNSlg2TVdXSEs_fIT=1424333594147; fid=SG1162A8DEfc14B8428E7C2AFC71D3AEA00C1872F5; JSESSIONID=w34~mvbdvftm9x9dez9dg9b2pmhs; _map_zooMLevel=0;
_map_zoneId=0; __utmt=1; __utmt_~1=1; S0hZTkM0RFRXRjJNSlg2TVdXSEs_fs=eyJiYSI6MTQyNDMzNzkzMzU2OCwicGF1c2VUaW1lc3RhbXAiOjAsImJjIjotMSwiZXZlbnRDb3VudGVyIjowLCJwdXJjaGFzZUNvdW50ZXIiOjAsImVycm9yQ291bnRlciI6MCwidGltZWRFdmVudHMiOltDFQ==;
__utma=83277827.100867533.1424333566.1424333594.1424336847.2; __utmb=83277827.8.10.1424336847; __utmc=83277827; __utmz=83277827.1424333594.1.1.utmcsr=flurry.com|utmccn=(referral)|utmcmd=referral|utmcct=/; __utma=34058230.100867533.1424333566.1424333566.1424336847.2; __utmb=34058230.8.10.1424336847; __utmc=34058230; __utmz=34058230.1424333566.1.1.utmcsr=(direct)|utmccn=(direct)|utmcmd=(none); _mkto_trk=id:802-tbr-126&token:_mch-flurry.com-1424333577360-64839; S0hZTkM0RFRXRjJNSlg2TVdXSEs_flp=1424338032448

感谢silkfire Flurry问题解决了!

解决方法

struts.token是一个CRSF令牌,它绑定到您的会话并在每次页面加载时重新生成.但是在你的代码中,它是静态的.您需要在第一个cURL请求之后获取它,然后将其注入POST数组以用于第二个请求.

您还要登录页面是/loginAction.do而不是/login.do.

这就是我成功登录Flurry的方式:

$post = [
         'loginEmail'        => 'E-MAIL','loginPassword'     => 'PASSWORD','struts.token.name' => 'struts.token'
        ];

$ch = curl_init('https://dev.flurry.com/secure/login.do');
curl_setopt($ch,true);
curl_setopt($ch,$_SERVER['HTTP_USER_AGENT']);
curl_setopt($ch,null);

curl_setopt($ch,false);

libXMl_use_internal_errors(true);

$dom = new DOMDocument('1.0','UTF-8');
$dom->loadhtml(curl_exec($ch));

$xpath = new DOMXPath($dom);


$post['struts.token'] = $xpath->query('//input[@name="struts.token"]')->item(0)->getAttribute('value');

curl_setopt($ch,'https://dev.flurry.com/secure/loginAction.do');
curl_setopt($ch,http_build_query($post));

$data = curl_exec($ch);


echo $data;

脚本宝典总结

以上是脚本宝典为你收集整理的php – 使用curl下载乱码事件日志全部内容,希望文章能够帮你解决php – 使用curl下载乱码事件日志所遇到的问题。

如果觉得脚本宝典网站内容还不错,欢迎将脚本宝典推荐好友。

本图文内容来源于网友网络收集整理提供,作为学习参考使用,版权属于原作者。
如您有任何意见或建议可联系处理。小编QQ:384754419,请注明来意。