如果php通过url读取远程文件失败

 今天写一个抓取网页的程序结果都失败了返回的错误是：“failed to open stream: HTTP request failed!”；我前段时间刚用过。不知道什么原因，最后在网上找到一个解决办法，虽然按照它提示没有解决问题。从另一个侧面反映有些站点的防抓取工作做得很好。

列出它的解决办法希望对大家能有帮助：

当使用php5自带的file_get_contents方法来获取远程文件的时候，有时候会出现file_get_contents(): failed to open stream: HTTP request failed!这个警告信息。

google或者baidu一下，好多这样的问题，解决的方法都是修改php.ini，把allow_url_fopen给启用，改成 allow_url_fopen = On

这样做可以解决某些人的问题，有人说在php.ini中，有这样两个选项:allow_url_fopen =on(表示可以通过url打开远程文件)，user_agent="PHP"（表示通过哪种脚本访问网络，默认前面有个 " ; " 去掉即可。）重启服务器。

但是有些还是会有这个警告信息，想用完美的解决还差一步，还得设置php.ini里面的user_agent，php默认的user_agent是 PHP，我们把它改成Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.0)来模拟浏览器就可以了

user_agent="Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; .NET CLR 2.0.50727; .NET CLR 3.0.04506.30; GreenBrowser)"

在用file_get_contents函数采集网站时，有时会遇到明明用浏览器可以看，但就是采不到内容的问题。这很有可能是服务器上做了设置， 根据 User_agent判断是否为正常的浏览器请求，默认PHP的file_get_contents函数是不发送ua的，如果要采集这样的网站，我们就要 让PHP模拟浏览器发送UA，这样对方的服务器就会以为我们是用浏览器是浏览，而返回正常的内容。
发送UA方法很简单，在使用file_get_contents函数前加上这一句:
ini_set('user_agent','Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; .NET CLR 2.0.50727; .NET CLR 3.0.04506.30; GreenBrowser)');
$url='http://www.baidu.com';
echo $flg=@file_get_contents($url);
其中Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; .NET CLR 2.0.50727; .NET CLR 3.0.04506.30; GreenBrowser)是 IE7 WindowsXP GreenBrowser环境下的UA，可根据需要自行修改成其他的，甚至可以伪装蜘蛛。