>백엔드 개발 >Golang >메모리 고갈을 방지하기 위해 Go에서 대용량 JSON 파일을 효율적으로 처리하려면 어떻게 해야 합니까?

메모리 고갈을 방지하기 위해 Go에서 대용량 JSON 파일을 효율적으로 처리하려면 어떻게 해야 합니까?

Linda Hamilton
Linda Hamilton원래의
2024-12-17 04:33:25523검색

How Can I Efficiently Process Large JSON Files in Go to Avoid Memory Exhaustion?

대규모 JSON 파일 스트리밍

파일에서 대규모 JSON 배열을 디코딩하면 모든 데이터를 한 번에 로드하려고 할 때 메모리 문제가 발생할 수 있습니다. 이 문제를 해결하기 위해 스트리밍 기술을 사용할 수 있습니다.

제공된 예에서 광범위한 JSON 파일에 대해 json.Unmarshal을 활용하면 전체 배열 로딩으로 인해 메모리가 소모됩니다.

이를 방지하려면 , JSON 요소를 순차적으로 스트리밍하는 것을 고려하세요. 다음은 Golang 문서 예제를 기반으로 한 접근 방식입니다.

import (
    "encoding/json"
    "fmt"
    "strings"
)

func main() {
    const jsonStream = `
                [
                    {"Name": "Ed", "Text": "Knock knock."},
                    {"Name": "Sam", "Text": "Who's there?"},
                    {"Name": "Ed", "Text": "Go fmt."},
                    {"Name": "Sam", "Text": "Go fmt who?"},
                    {"Name": "Ed", "Text": "Go fmt yourself!"}
                ]
            `
    type Message struct {
        Name, Text string
    }
    dec := json.NewDecoder(strings.NewReader(jsonStream))

    for dec.More() {
        var m Message
        if err := dec.Decode(&m); err != nil {
            fmt.Println(err)
            return
        }
        fmt.Printf("%v: %v\n", m.Name, m.Text)
    }
}

요소를 스트리밍하면 코드가 요소를 순차적으로 처리하여 메모리 소비를 줄입니다. 이 예제는 문자열 입력을 기반으로 합니다. 필요에 따라 파일에서 읽도록 수정할 수 있습니다.

위 내용은 메모리 고갈을 방지하기 위해 Go에서 대용량 JSON 파일을 효율적으로 처리하려면 어떻게 해야 합니까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

성명:
본 글의 내용은 네티즌들의 자발적인 기여로 작성되었으며, 저작권은 원저작자에게 있습니다. 본 사이트는 이에 상응하는 법적 책임을 지지 않습니다. 표절이나 침해가 의심되는 콘텐츠를 발견한 경우 admin@php.cn으로 문의하세요.