우리는 퍼셉트론이 단 하나의 레이어로 구성된 가장 간단한 신경망이라는 것을 알고 있습니다. 퍼셉트론은 생물학적 뉴런의 행동을 시뮬레이션하는 기계입니다. 그래서 이번에 제가 여러분께 전해드릴 강의는 Python을 사용하여 퍼셉트론을 구현하는 방법입니다. 모델은 다음과 같습니다.
n차원 입력에서 w와 b는 매개변수이고, w는 가중치이고, 각 입력은 가중치에 해당하며, b는 데이터에서 학습해야 하는 편향 항입니다.
활성화 함수 퍼셉트론의 활성화 함수에는 다양한 선택이 있습니다. 예를 들어 활성화 함수로 다음 단계 함수 f를 선택할 수 있습니다.
사실 퍼셉트론은 모든 선형 함수, 선형 분류 또는 선형 함수에 적합할 수 있습니다. 회귀 문제 퍼셉트론을 사용하면 모두 해결할 수 있습니다. 하지만 퍼셉트론은 XOR 연산을 구현할 수 없고, 물론 모든 선형 분류기는 XOR 연산을 구현할 수 없습니다.
소위 XOR 연산:
위 그림에서는 카테고리 0과 1을 구분할 수 있는 직선을 찾을 수 없습니다. and 연산을 위해 퍼셉트론을 구현할 수 있으며 직선을 찾아 두 부분으로 나눌 수 있습니다. .
및 연산의 경우:
퍼셉트론 훈련
먼저 가중치 w를 무작위로 초기화하고 b를 매우 작은 수로 편향한 다음 훈련 중에 w와 b의 값을 지속적으로 업데이트합니다.
1. 가중치를 0 또는 작은 난수로 초기화합니다.
2. 각 훈련 샘플 x(i)에 대해 다음 단계를 수행합니다.
출력 값 y^을 계산합니다.
가중치를 업데이트합니다.
퍼셉트론은 아래의 및 연산을 구현하는 데 사용됩니다.
# -*- coding: utf-8 -*- # python 3.4 import numpy as np from random import choice from sklearn import cross_validation from sklearn.linear_model import LogisticRegression '''''
1. 가중치를 0 또는 작은 난수로 초기화합니다.
2. 다음 단계:
계산 출력 값 y^.
가중치 업데이트
''' def load_data(): input_data=[[1,1], [0,0], [1,0], [0,1]] labels=[1,0,0,0] return input_data,labels def train_pre(input_data,y,iteration,rate): #=========================== '''''
매개변수:
input_data: 입력 데이터
y: 라벨 목록
iteration: 훈련 라운드 수
rate: 학습 속도
''' #============================ unit_step = lambda x: 0 if x < 0 else 1 w=np.random.rand(len(input_data[0]))#随机生成[0,1)之间,作为初始化w bias=0.0#偏置 for i in range(iteration): samples= zip(input_data,y) for (input_i,label) in samples:#对每一组样本 #计算f(w*xi+b),此时x有两个 result=input_i*w+bias result=float(sum(result)) y_pred=float(unit_step(result))#计算输出值 y^ w=w+rate*(label-y_pred)*np.array(input_i)#更新权重 bias=rate*(label-y_pred)#更新bias return w,bias def predict(input_i,w,b): unit_step = lambda x: 0 if x < 0 else 1#定义激活函数 result=result=result=input_i*w+b result=sum(result) y_pred=float(unit_step(result)) print(y_pred) if __name__=='__main__': input_data,y=load_data() w,b=train_pre(input_data,y,20,0.01) predict([1,1],w,b)
믿고 확인하세요. 이 사례를 읽고 나면 방법을 익힐 수 있습니다. 더 흥미로운 정보를 보려면 PHP 중국어 웹사이트의 다른 관련 기사를 주목하세요!
관련 자료:
PHP가 스택 데이터 구조 및 대괄호 일치 알고리즘을 구현하는 방법에 대한 자세한 코드 예
PHP에서 가장 간단한 문자열 일치 알고리즘, PHP 일치 알고리즘_PHP 튜토리얼
위 내용은 Python에서 퍼셉트론을 구현하는 방법의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!