Jax, Flax 및 Optax를 사용한 이미지 분류

이 튜토리얼은 JAX, Flax 및 Optax를 사용하여 MNIST 숫자 분류를위한 CNN (Convolutional Neural Network)을 구축, 훈련 및 평가하는 것을 보여줍니다. 환경 설정 및 데이터 전처리에서 모델 아키텍처, 교육 루프 구현, 메트릭 시각화 및 사용자 정의 이미지에 대한 예측에 이르기까지 모든 것을 다룹니다. 이 접근법은 효율적이고 확장 가능한 딥 러닝을 위해 이러한 라이브러리의 시너지 강점을 강조합니다.

학습 목표 :

• 간소화 된 신경망 개발을 위해 Jax, Flax 및 Optax의 통합을 마스터하십시오.
• TFDS (Tensorflow DataSets)를 사용하여 전처리 및로드 데이터 세트를 배우십시오.
• 효과적인 이미지 분류를 위해 CNN을 구현하십시오.
• 주요 메트릭 (손실 및 정확성)을 사용하여 교육 진행 상황을 시각화합니다.
• 사용자 정의 이미지에서 모델의 성능을 평가하십시오.

이 기사는 Data Science Blogathon의 일부입니다.

목차 :

• 학습 목표
• Jax, Flax 및 Optax Powerhouse
• JAX 설정 : 설치 및 가져 오기
• MNIST 데이터 : 로딩 및 전처리
• CNN 구성
• 모델 평가 : 메트릭 및 추적
• 훈련 루프
• 교육 및 평가 실행
• 성능 시각화
• 사용자 정의 이미지로 예측
• 결론
• 자주 묻는 질문

Jax, Flax 및 Optax Powerhouse :

효율적이고 확장 가능한 딥 러닝에는 계산, 모델 설계 및 최적화를위한 강력한 도구가 필요합니다. Jax, Flax 및 Optax는 이러한 요구를 종합적으로 해결합니다.

Jax : 수치 컴퓨팅 우수성 :

JAX는 Numpy와 같은 인터페이스로 고성능 수치 계산을 제공합니다. 주요 기능은 다음과 같습니다.

• 자동 차별화 (AutoGrad) : 복잡한 기능에 대한 손쉬운 기울기 계산.
• JIT (Just-In-Time) 컴파일 : CPU, GPU 및 TPU의 실행 가속화.
• 벡터화 : vmap 통한 단순화 된 배치 처리.
• 하드웨어 가속 : GPU 및 TPU에 대한 기본 지원.

아마 : 유연한 신경망 :

Jax 기반 라이브러리 인 Flax는 신경망 구성에 대한 사용자 친화적이고 고도로 사용자 정의 가능한 접근 방식을 제공합니다.

• 상태가 높은 모듈 : 단순화 된 매개 변수 및 상태 관리.
• Concise API : @nn.compact 데코레이터를 사용한 직관적 인 모델 정의.
• 적응성 : 단순에서 복잡한 다양한 아키텍처에 적합합니다.
• Seamless Jax 통합 : Jax의 기능을 쉽게 활용합니다.

Optax : 포괄적 인 최적화 :

Optax는 그라디언트 처리 및 최적화를 간소화하여 제공합니다.

• Optimizer Variety : SGD, Adam 및 RMSPROP를 포함한 광범위한 최적화기.
• 그라디언트 조작 : 클리핑, 스케일링 및 정규화 도구.
• 모듈 식 설계 : 그라디언트 변환 및 최적화의 쉬운 조합.

이 결합 프레임 워크는 효율적인 딥 러닝 모델 개발을위한 강력한 모듈 식 생태계를 제공합니다.

JAX 설정 : 설치 및 가져 오기 :

필요한 라이브러리 설치 :

 ! PIP 설치 -업그레이드 -Q PIP JAX JAXLIB FLAX OPTAX TENSORFLOW -DATASETS

필수 라이브러리 가져 오기 :

 Jax를 가져옵니다
jax.numpy를 JNP로 가져옵니다
아마 수입 리넨에서 Nn
flax에서 트레인 트레인 _state
Optax 가져 오기
Numpy를 NP로 가져옵니다
Tensorflow_datasets를 TFD로 가져옵니다
matplotlib.pyplot을 plt로 가져옵니다

MNIST 데이터 : 로딩 및 전처리 :

TFDS를 사용하여 MNIST 데이터 세트를로드하고 전처리합니다.

 def get_datasets () :
  ds_builder = tfds.builder ( 'mnist')
  ds_builder.download_and_prepare ()
  Train_ds = tfds.as_numpy (ds_builder.as_dataset (split = 'train', batch_size = -1))
  test_ds = tfds.as_numpy (ds_builder.as_dataset (split = 'test', batch_size = -1)).
  Train_ds [ 'image'] = jnp.float32 (Train_ds [ 'image']) / 255.0
  test_ds [ 'image'] = jnp.float32 (test_ds [ 'image']) / 255.0
  TRAIN_DS, TEST_DS를 반환합니다

Train_ds, test_ds = get_datasets ()

이미지는 범위 [0, 1]로 정규화됩니다.

CNN 구성 :

CNN 아키텍처 :

 클래스 CNN (NN.Module) :
  @nn.compact
  def __call __ (self, x) :
    x = nn.conv (feations = 32, kernel_size = (3, 3)) (x)
    x = nn.relu (x)
    x = nn.avg_pool (x, window_shape = (2, 2), strides = (2, 2))
    x = nn.conv (feature = 64, kernel_size = (3, 3)) (x)
    x = nn.relu (x)
    x = nn.avg_pool (x, window_shape = (2, 2), strides = (2, 2))
    x = x.reshape ((x.shape [0], -1))
    x = nn.dense (피처 = 256) (x)
    x = nn.relu (x)
    x = nn.dense (피처 = 10) (x)
    반환 x

여기에는 컨볼 루션 층, 풀링 층, 평평한 층 및 조밀 한 층이 포함됩니다.

모델 평가 : 메트릭 및 추적 :

손실과 정확도를 계산하기위한 함수를 정의합니다.

 def compute_metrics (Logits, Labels) :
  loss = jnp.mean (optax.softmax_cross_entropy (logits, jax.nn.one_hot (labels, num_classes = 10))).
  정확도 = jnp.mean (jnp.argmax (logits, -1) == 레이블)
  메트릭 = { '손실': 손실, '정확도': 정확도}}
  반환 메트릭

# ... (Train_Step 및 Eval_Step 함수는 크게 동일하게 유지됩니다) ...

(Train_step 및 Eval_Step 함수는 원래 코드와 유사하게 여기에 포함됩니다.)

훈련 루프 :

교육 루프는 모델을 반복적으로 업데이트합니다.

 # ... (Train_Epoch 및 Eval_Model 함수는 크게 동일하게 유지됩니다) ...

(Train_Epoch 및 Eval_Model 함수는 원래 코드와 유사하게 여기에 포함됩니다.)

교육 및 평가 실행 :

우리는 교육 및 평가 과정을 실행합니다.

 # ... (교육 및 평가 실행 코드는 크게 동일하게 유지됩니다) ...

(매개 변수 초기화, Optimizer 설정 및 교육 루프를 포함한 교육 및 평가 실행 코드는 여기에 원래 코드와 유사하게 포함됩니다.)

성능 시각화 :

Matplotlib을 사용하여 교육 및 테스트 메트릭을 시각화합니다.

 # ... (matplotlib 플로팅 코드는 크게 동일하게 유지됩니다) ...

(원래 코드와 유사하게 손실 및 정확도를 시각화하기위한 Matplotlib 플롯 코드가 여기에 포함됩니다.)

사용자 정의 이미지 예측 :

이 섹션은 사용자 정의 이미지에 대한 예측을 보여줍니다 (코드는 원본과 크게 동일하게 유지됨).

 # ... (사용자 정의 이미지에 대한 업로드, 전처리 및 예측을위한 코드는 거의 동일하게 유지됩니다) ...

결론:

이 튜토리얼은 CNN을 구축하고 훈련하기위한 JAX, Flax 및 Optax의 효율성과 유연성을 보여주었습니다. TFD의 사용을 단순화하고 데이터 처리 및 메트릭 시각화는 귀중한 통찰력을 제공했습니다. 사용자 정의 이미지에서 모델을 테스트하는 기능은 실제 적용 가능성을 강조합니다.

자주 묻는 질문 :

(FAQ는 원본과 크게 동일하게 유지됩니다.)

제공된 Colab 링크가 여기에 포함됩니다. /uploads/....webp 이미지 경로를 이미지의 실제 경로로 바꾸는 것을 잊지 마십시오.

위 내용은 Jax, Flax 및 Optax를 사용한 이미지 분류의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!