권위 있는 목록 | NetEase Yidun은 중국정보통신기술원(China Academy of Information and Communications Technology)에서 생성 AI 기술 및 응용 분야의 우수 사례로 선정되었습니다.

생성 인공지능 기술을 기반으로 한 연구 작업을 더욱 수행하고, 그 응용 및 산업 개발 현황을 심층적으로 탐구하고, 뛰어난 성과를 요약 및 홍보하며, 산업의 고품질 발전을 촉진하겠습니다. 2023년 2월, 중국정보통신기술학원(이하 'CAICT')은 과학기술부 인공지능 및 응용 평가 핵심 연구소 AI 엔지니어링 추진 위원회의 생성 AI 실무 그룹에 의존했습니다. 산업정보기술, 제너레이티브 AI 워킹그룹 공식 출범. AI 기술 및 적용사례 모음 5월 31일 오후 항저우 일반 인공 지능 포럼의 대형 모델 기술 응용 하위 포럼에서 NetEase Intelligence Enterprise의 자회사인 NetEase Yidun의 생성 AI 기술 및 응용 우수 사례에 대한 1차 선정 결과가 공식적으로 발표되었습니다. , 우수한 사례로 선정되어 중국 신용을 획득했습니다. Tongyuan Academy에서 인증서를 발급합니다.

1. 콘텐츠 위험 통제는 여전히 인터넷 보안의 최우선 과제입니다

최근 인터넷의 급속한 발전과 함께 네트워크 데이터는 폭발적인 성장을 보이고 있습니다. 텍스트, 이미지, 음성, 영상 등 다양한 형태의 콘텐츠는 사람들의 일상과 업무에 필수적인 부분이 되었습니다. 콘텐츠 형태의 다양화와 콘텐츠 제작 문턱의 대폭 낮아짐으로 인해 우리 삶의 편리성과 효율성이 크게 향상되었습니다. 그러나 이로 인해 발생하는 콘텐츠 위험 관리 문제는 점점 더 인터넷 보안의 최우선 과제로 떠오르고 있습니다.

2. 기존 콘텐츠 위험 관리는 새로운 과제에 직면합니다

디지털 콘텐츠 위험 관리 및 통제는 범위와 유형이 넓고, 세분화되어 있으며, 잦은 대립, 요구 사항과 표준이 다양하다는 특징을 가지고 있습니다. 과거 디지털 콘텐츠의 위험 관리는 일반적으로 식별 및 보호를 위해 "후처리 + 사용자 정의 + 인식" 접근 방식을 채택했습니다.

· 사후 포지셔닝은 유해한 유형이나 데이터가 나타난 후의 타겟 솔루션을 의미합니다. 적시성은 사후 포지셔닝인 경우가 많으며, 위험을 사전에 인식하고 예방할 수 있는 명확한 능력이 없습니다.

· 맞춤화란 광범위한 유해 정보 유형 및 범위를 말하며, 신뢰할 수 있는 보편적인 역량이 부족하기 때문에 다양한 유해 유형에 대해 지속적인 모델 맞춤화 교육이 필요하며, 각 맞춤화에는 처음부터 전문적인 현장 역량을 구축해야 합니다. 소모적이고 비용이 많이 듭니다.

· 인지란 장면 콘텐츠 정보를 잘 활용하지 않고 대상의 유해한 유형만을 대상으로 하는 경우가 많다는 의미입니다. 즉, 과거의 콘텐츠 리스크 관리는 인지 수준 식별이 아닌 인지 수준 식별을 기반으로 했습니다. 인지 수준 추론.

·동시에 유해 유형의 정의에는 주관적, 경계적, 세부적 차이가 많은 경우가 많습니다. 표준의 다양한 대체를 기반으로 자주 적용되는 모델은 진정으로 차별화되고 계층적이며 정확한 보호를 달성할 수 없습니다.

따라서 발생할 수 있는 보안 위험을 사전에 인지하고 예방하는 방법, 새롭게 등장하는 위험 유형에 대해 보안 보호 역량을 신속하게 구축하는 방법, 심층적인 인지 추론을 위해 현장 정보를 종합적으로 통합하는 방법, 정밀한 보호를 차별화하고 계층화하는 방법이 디지털화되었습니다. 내용 안전에 관한 중요한 과제와 어려움.

3. AIGC는 콘텐츠 위험 관리에 새로운 아이디어를 제공합니다

현재 AIGC 개발을 통해 보다 보편적이고 프런트엔드이며 빠른 응답을 제공하는 디지털 콘텐츠 위험 제어 기능을 제공할 수 있습니다. AIGC는 '세계 지식'을 주입해 보다 폭넓은 일반 역량, 창의적 역량, 데이터 인식, 지식 융합 역량을 갖췄습니다. 구체적으로:

· 일반 기능과 추가 맞춤형 도메인 보안 기능을 기반으로 콘텐츠 위험 관리에 소요되는 시간과 비용이 크게 절감됩니다.

· 콘텐츠 위험 제어는 창의적인 능력을 바탕으로 알려지지 않은 위험을 사전에 감지하고 예방하여 "사후 위치 지정"을 "사전 위치 지정"으로 변환하여 알려지지 않은 유해 유형의 숨겨진 위험을 줄입니다.

· 풍부한 정보 주입 및 융합 능력을 바탕으로 장면, 배경, 지식 등 유해 유형 이외의 포괄적인 정보를 최대한 활용하고 통합하여 콘텐츠 리스크 관리의 장면 이해 및 지식 전달 능력을 향상시키며, 심층적인 인지적 논리적 추론과 포괄적인 예방 및 통제를 수행합니다.

· 신속한 상황 학습 패러다임과 사고 추론 프로세스를 기반으로 콘텐츠 리스크 관리는 모델 업데이트 없이 다양한 표준에 보다 편리하게 적응하고, 차별화되고 계층적이며 계층적인 정밀 예방 및 제어를 제공합니다.

4. NetEase Yidun: 생성적 AI 기술로 콘텐츠 위험 제어 가능

위 아이디어를 바탕으로 NetEase Yidun은 생성 AI 기술을 사용하여 AIGC 기반 세대 대결 방지 및 제어, 소규모 샘플 유해 정보 식별, 세분화된 적응 식별, 종합 정보 논리적 추론 및 기타 솔루션을 개발하고 가장 강력한 창을 사용하여 생성합니다. 가장 강한 방패. 세부 사항은 다음과 같습니다:

(1) AIGC를 기반으로 대립 예방 및 통제 계획 생성

보안 위험의 조기 인식 및 예방을 달성하기 위해 NetEase Yidun은 AIGC의 창의적인 역량을 기반으로 AIGC 기반 세대 대결 예방 및 제어 솔루션을 개발하여 기존의 "발견 + 배포 및 제어"를 "발견 + 생성 + 배포 및 제어". 이 솔루션은 현재 모델에서 다룰 수 없거나 식별 효과가 낮은 유해 유형 및 샘플을 생성합니다. 현재 주류 보안 위험 유형을 기반으로 AIGC 방법을 통해 보안 위험 변화 추세를 추가로 시뮬레이션하여 보안에 대한 조기 인식을 달성합니다. 위험. 추가 배포 및 제어 방법에는 반복 예방 및 제어 모델의 공동 훈련을 위해 AIGC 생성 샘플 결합, 고정 소수점 예방 및 제어를 위한 AIGC 생성 적대 라이브러리 구축 등이 포함됩니다.

(2) AIGC 소규모 표본 유해정보 식별 체계

AIGC의 종합 역량을 바탕으로 효율적이고 신속한 디지털 리스크 관리 역량 구축과 전문적인 현장 역량을 더욱 발전시키기 위해 AIGC 기반 소량표본 유해정보 식별 솔루션을 개발하였습니다. '일반역량+도메인역량' 구축 계획을 처음부터 'AIGC 범용역량+일반역량보상+도메인역량' 구축 단계로 개선한다. 소표본 일반 능력 보상 모듈 설계를 통해 전문 시나리오에서 AIGC 일반 능력 적용의 격차를 적은 수의 샘플 비용으로 메우고 도메인 능력 구축 모듈과 직접 연결됩니다. "AIGC 범용 기능 + 범용 기능 보상" 방법을 사용하는 것은 범용 기능을 처음부터 구축하는 것보다 더 빠르고 효율적이며 비용도 저렴합니다.

(3) AIGC 기반의 세분화된 적응형 인식 방식

차별화된 계층적, 계층적 정확한 예방 및 제어를 달성하기 위해 AIGC 프롬프트 상황 학습 패러다임과 사고 추론 능력을 기반으로 AIGC 기반 세분화 적응형 식별 솔루션을 개발하고 AIGC의 프롬프트 학습 아이디어를 적용했습니다. 유해 콘텐츠 이해 솔루션, 다양한 표준에 따른 다중 모드 프롬프트 및 추론 입력 정렬을 탐색하여 다양한 프롬프트 및 추론 입력을 통해 다양한 표준이 매핑됩니다. 예를 들어 과거에는 섹시 장르를 좀 더 세밀하게 해체하기 어려웠거나, 해체하는 데 드는 비용이 매우 높았다. 이제는 섹시함 등 좀 더 세분화된 카테고리로 나눌 수 있다. 해변 장면과 나이트클럽 장면의 섹시함을 통해 장르 기준을 다듬습니다. 시나리오와 샘플의 경우 다양한 주관성과 경계 기준에 더 잘 적응할 수 있으며 보다 세밀하고 계층적인 정밀한 예방 및 제어를 달성할 수 있습니다.

(4) AIGC 종합정보 논리추론 솔루션

인지적 논리적 추론과 종합적인 예방 및 통제를 달성하기 위해 AIGC의 정보주입과 융합, 논리적 추론 능력을 바탕으로 AIGC 기반의 종합적인 정보논리추론 솔루션을 개발했습니다. 유해한 정보만을 대상으로 하는 본래의 인식 인식을 개선하여 인지 추론을 위해 유해한 정보를 포함한 모든 정보를 통합할 수 있도록 합니다. AIGC의 시각적 언어 모델은 유해한 정보를 제외한 종합적인 정보를 획득하고 종합적인 추론에 사용됩니다. "도메인 역량 기반 유해정보 추출 + 의사결정" 기반의 기존 솔루션을 "도메인 역량 기반 유해정보 추출 + AIGC 기반 일반 지식 추출 + 정보 융합 및 종합적 논리적 의사결정" 기반 솔루션으로 개선 시각적 언어 모델을 기반으로 제작".

5. 생성적 AI는 콘텐츠 위험 제어에 상당한 이점을 제공합니다

디지털 콘텐츠 위험 제어 시나리오에서 NetEase Yidun은 도메인 보안 기능의 효율적이고 신속한 구축, 보안 위험의 조기 인식 및 예방, 인지 추론 및 포괄적인 예방 및 제어, 차별화되고 계층적이며 계층화된 정밀성을 달성하기 위해 생성 AI 기능을 개발 및 통합합니다. 예방과 통제. 관련 솔루션의 출시로 Yidun은 세 가지 수준의 기능, 데이터 및 정보에서 AIGC 기능을 완전히 결합하고 고객이 실제로 적용하는 디지털 콘텐츠 위험 제어 시나리오에서 효과, 비용, 적시성, 다양성 및 적응성을 달성하는 데 도움이 되었습니다. 안정성 및 기타 측면에서.

위 내용은 권위 있는 목록 | NetEase Yidun은 중국정보통신기술원(China Academy of Information and Communications Technology)에서 생성 AI 기술 및 응용 분야의 우수 사례로 선정되었습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!