本文實例講述了php使用fputcsv實現大數據的導出操作。分享給大家供大家參考，具體如下：
為了實驗大數據的導出，我們這里先自已創建一張大表，表結構如下:
CREATE TABLE `tb_users` (
`id` int(11) unsigned NOT NULL AUTO_INCREMENT COMMENT '用戶ID',
`name` varchar(32) DEFAULT '' COMMENT '用戶名',
`age` tinyint(3) DEFAULT '0' COMMENT '用戶年齡',
`desc` varchar(255) DEFAULT '' COMMENT '用戶描述',
`phone` varchar(11) DEFAULT '' COMMENT '用戶手機',
`qq` varchar(16) DEFAULT '' COMMENT '用戶QQ',
`email` varchar(64) DEFAULT '' COMMENT '用戶郵箱',
`addr` varchar(255) DEFAULT '' COMMENT '用戶地址',
PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;
然后寫個php腳本往這個表插入數據，代碼如下:
?php
set_time_limit(0);
ini_set('memory_limit', '128M');
//使用TP3.2的String類，php7下會報錯，注意把類名換一下
require './String.class.php';
use Org\Util\NewString;
$begin = microtime(true);
$db = new mysqli('127.0.0.1', 'root', '', 'test');
if($db->connect_error) {
die('connect error');
}
//數據插入語句
$insSql = '';
//一百萬數據，分200步，每步插入5000條
$step = 200;
$nums = 5000;
for($s = 0; $s $step; ++$s) {
$insSql = 'INSERT INTO tb_users VALUES';
for($n = 0; $n $nums; ++$n) {
$name = NewString::randString(3, 4);
$age = mt_rand(1, 120);
$desc = NewString::randString(64, 4);
$phone = NewString::randString(11, 1);
$qq = NewString::randString(13, 1);
$email = $qq . '@qq.com';
$addr = NewString::randString(128, 4);
$insSql .= "(NULL, '{$name}', $age, '{$desc}', '{$phone}', '{$qq}', '{$email}', '{$addr}'),";
}
$insSql = rtrim($insSql, ',');
$db->query($insSql);
}
$end = microtime(true);
echo '用時:', $end - $begin;
$db->close();
里面用到的TP3.2的String類大家自行上TP官網下載。整個用時2個多小時，最后數據大小662M。
現在我們用php提供的fputcsv來導出這一百萬的數據，原理就是打開一個標準輸出流，然后把數據按一萬條來分割，每一萬條就刷新緩沖區。
?php
set_time_limit(0);
ini_set('memory_limit', '128M');
$fileName = date('YmdHis', time());
header('Content-Type: application/vnd.ms-execl');
header('Content-Disposition: attachment;filename="' . $fileName . '.csv"');
$begin = microtime(true);
//打開php標準輸出流
//以寫入追加的方式打開
$fp = fopen('php://output', 'a');
$db = new mysqli('127.0.0.1', 'root', '', 'test');
if($db->connect_error) {
die('connect error');
}
//我們試著用fputcsv從數據庫中導出1百萬的數據
//我們每次取1萬條數據，分100步來執行
//如果線上環境無法支持一次性讀取1萬條數據，可把$nums調小，$step相應增大。
$step = 100;
$nums = 10000;
//設置標題
$title = array('ID', '用戶名', '用戶年齡', '用戶描述', '用戶手機', '用戶QQ', '用戶郵箱', '用戶地址');
foreach($title as $key => $item) {
$title[$key] = iconv('UTF-8', 'GBK', $item);
}
//將標題寫到標準輸出中
fputcsv($fp, $title);
for($s = 1; $s = $step; ++$s) {
$start = ($s - 1) * $nums;
$result = $db->query("SELECT * FROM tb_users ORDER BY id LIMIT {$start},{$nums}");
if($result) {
while($row = $result->fetch_assoc()) {
foreach($row as $key => $item) {
//這里必須轉碼，不然會亂碼
$row[$key] = iconv('UTF-8', 'GBK', $item);
}
fputcsv($fp, $row);
}
$result->free();
//每1萬條數據就刷新緩沖區
ob_flush();
flush();
}
}
$end = microtime(true);
echo '用時：', $end - $begin;
整個過程用時5分鐘，最終生成的csv文件大小420M。
對于如何用phpexcel導出大數據，并沒有什么比較好的方案，phpexcel提供的一些緩存方法，數據壓縮，雖然內存使用小了，但所用時間則加長了，時間換空間，顯然并不是最好的方案。比較靠譜的方法還是生成多個下載鏈接地址，把你要下載的數據，以get形式傳遞當前頁數，后臺進行數據分頁然后導出。
a href="/downSearchData.php?參數1=值1參數2=值2page=1" rel="external nofollow" >下載匯總結果1/a>
a href="/downSearchData.php?參數1=值1參數2=值2page=2" rel="external nofollow" >下載匯總結果2/a>
a href="/downSearchData.php?參數1=值1參數2=值2page=3" rel="external nofollow" >下載匯總結果3/a>
比如你有一個查詢數據表單，ID為searchFrm，然后你想把導出數據按1萬條分割(phpexcel一次導出1萬條是沒有問題的，效率還行)
form id="searchFrm">
姓名input type="text" name="uname">
input type="button" id="searchDataBtn" value="導出匯總結果">
/form>
div id="searchDataList">/div>
script type="script">
$("#searchDataBtn").on("click", function() {
var params = $("#searchFrm").serialize();
//獲取查詢數據的條數
$.get("/getSearchDataRows?" + params, function(data) {
var downDataList = "";
if(data["rows"]) {
//rows是數據總條數，pageSize是一頁多少條
var pageNum = Math.ceil(data["rows"] / data["pageSize"]);
for(var i = 1; i = pageNum; ++i) {
downDataList += "a href='/downSearchData.php?'" + params + "page=" + i + ">下載匯總結果" + i + "/a>nbsp;nbsp;";
}
$("#searchDataList").html(downDataList);
} else {
$("#searchDataList").text("沒有數據");
}
}, "json");
return false;
});
/script>
更多關于PHP相關內容感興趣的讀者可查看本站專題：《php+mysql數據庫操作入門教程》、《php+redis數據庫程序設計技巧總結》、《php面向對象程序設計入門教程》及《php常見數據庫操作技巧匯總》
希望本文所述對大家PHP程序設計有所幫助。
您可能感興趣的文章:- 使用Python pandas讀取CSV文件應該注意什么?
- 使用python把json文件轉換為csv文件
- 使用pandas庫對csv文件進行篩選保存
- Python CSV文件模塊的使用案例分析
- 使用opencsv文件讀寫CSV文件
- python csv一些基本操作總結
