Go のメモリに完全にロードせずに、大規模な JSON 配列を効率的に処理するにはどうすればよいですか?

ラージ ストリーム JSON のデコード

ファイルに保存されている大規模な JSON 配列を扱う場合、配列全体をメモリにロードしないようにすることが重要です。これは、アウトにつながる可能性があるためです。メモリエラー。代わりに、JSON データ要素を要素ごとにストリーミングすることを検討してください。

これを実現する 1 つのアプローチは、エンコーディング/json ドキュメントで説明されています。

package main

import (
    "encoding/json"
    "fmt"
    "log"
    "strings"
)

func main() {
    const jsonStream = `
                [
                    {"Name": "Ed", "Text": "Knock knock."},
                    {"Name": "Sam", "Text": "Who's there?"},
                    {"Name": "Ed", "Text": "Go fmt."},
                    {"Name": "Sam", "Text": "Go fmt who?"},
                    {"Name": "Ed", "Text": "Go fmt yourself!"}
                ]
            `
    type Message struct {
        Name, Text string
    }
    dec := json.NewDecoder(strings.NewReader(jsonStream))

    // read open bracket
    t, err := dec.Token()
    if err != nil {
        log.Fatal(err)
    }
    fmt.Printf("%T: %v\n", t, t)

    // while the array contains values
    for dec.More() {
        var m Message
        // decode an array value (Message)
        err := dec.Decode(&m)
        if err != nil {
            log.Fatal(err)
        }

        fmt.Printf("%v: %v\n", m.Name, m.Text)
    }

    // read closing bracket
    t, err = dec.Token()
    if err != nil {
        log.Fatal(err)
    }
    fmt.Printf("%T: %v\n", t, t)

}

このサンプル コードでは、

• 文字列から JSON データを読み取るためにデコーダー オブジェクト (dec) が作成されます。
• デコーダーは以下を読み取ります。配列の左括弧から始めて、トークンを 1 つずつ取得します。
• for ループは配列要素を反復処理し、それぞれを Message 構造体に解析します。
• 各メッセージの名前とテキストが出力されます。 .
• ループは、dec.More() によって示される、配列内で使用可能な要素がなくなるまで継続します。 function.
• 最後に、デコーダは配列の閉じ括弧を読み取って出力します。

このアプローチにより、データ構造全体をメモリにロードせずに、大きな JSON 配列をストリーミングできます。リソースの使用を最適化し、効率的な処理を可能にします。

以上がGo のメモリに完全にロードせずに、大規模な JSON 配列を効率的に処理するにはどうすればよいですか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。