golang - go-sql-driver/mysql for rows.Next()的性能問題
問題描述
1.當(dāng)查詢出來的記錄過萬時(shí),遍歷Rows的時(shí)間過長,達(dá)到1分鐘甚至更多
程序代碼:
rows, err := p.conn.Query(sqlStr, params...)if err != nil { log.Println('mysql query error', err.Error()) return nil, err}log.Println('conn結(jié)束:', goutil.GetCurrentTime())//延時(shí)關(guān)閉Rowsdefer rows.Close()//獲取記錄列if columns, err := rows.Columns(); err != nil { return nil, err} else { //拼接記錄Map values := make([]sql.RawBytes, len(columns)) scans := make([]interface{}, len(columns)) for i := range values {scans[i] = &values[i] } //此處遍歷在3W記錄的時(shí)候,長達(dá)1分鐘甚至更多 for rows.Next() {_ = rows.Scan(scans...)each := map[string]interface{}{}for i, col := range values { each[columns[i]] = string(col)}rowMaps = append(rowMaps, each) } return rowMaps, nil}
問題解答
回答1:可以用創(chuàng)建多個(gè)goroutine 分段查詢數(shù)據(jù)。使用channl在線程中拿去查詢結(jié)構(gòu)進(jìn)行迭代。
回答2:這不是golang性能的問題,其他編程語言也會(huì)類似。一次性去拿三萬條記錄本來就是個(gè)不合理的需求,應(yīng)該通過分頁來解決,一次只取幾十到幾百條。
相關(guān)文章:
1. mac里的docker如何命令行開啟呢?2. 為什么我ping不通我的docker容器呢???3. Docker for Mac 創(chuàng)建的dnsmasq容器連不上/不工作的問題4. docker容器呢SSH為什么連不通呢?5. nignx - docker內(nèi)nginx 80端口被占用6. 關(guān)docker hub上有些鏡像的tag被標(biāo)記““This image has vulnerabilities””7. angular.js使用$resource服務(wù)把數(shù)據(jù)存入mongodb的問題。8. docker gitlab 如何git clone?9. docker 下面創(chuàng)建的IMAGE 他們的 ID 一樣?這個(gè)是怎么回事????10. docker-compose 為何找不到配置文件?

網(wǎng)公網(wǎng)安備