칭화의 새로운 연구로 정보를 해독하는 누에고치방! 네이처(Nature) 하위 저널에 새로운 정보 역학 이론 게재

신세대 정보화와 지능기술의 급속한 발전은 인류를 점차 지능사회로 나아가게 하고 있습니다. 디지털 기술과 지능형 추천 알고리즘의 지원으로 미디어와 플랫폼은 점점 더 배려해지고 있으며 항상 사람들의 개인화된 선호도와 요구 사항을 최대한 빠르고 정확하게 충족시킬 수 있습니다.

그러나 동시에 지능적이고 정확한 추천은 사이버 공간에서 비슷한 견해를 가진 사람들이 그룹을 형성하고, 그 그룹 내에서 구체적인 가치 선호가 모여 증폭되는 '정보 누에고치방' 현상을 지속적으로 일으키고 있습니다. , 점차 극단적인 의견을 형성하고 있습니다.

연예인이나 사교 행사에 대한 모든 극단적인 견해는 이념적 참여와 영향력을 위한 도구로 사용될 수 있으며, 사이버 공간과 현실 세계에 불길을 더하고 '격렬한 여론'을 선동할 수 있습니다.

그러나 그럼에도 불구하고 우리는 여전히 정보 고치에 대해 거의 알지 못합니다. 실제 온라인 시스템에서 정보 고치는 얼마나 심각한가요? 대규모 실증적 연구가 부족한데, 정보고치의 형성 메커니즘은 무엇인가? 기초이론적 뒷받침이 부족하여 정보누에고실 문제를 어떻게 해결할 것인가? 효과적인 수단이 부족합니다.

최근 칭화대학교 전자학과 도시과학컴퓨팅연구센터와 공공정책경영대학원은 정보 역학에 대한 대규모 실증적 연구와 이론적 모델링을 통해 처음으로 학문 간 협력을 진행했습니다. 대규모 데이터 실증 연구와 이론을 통해 정보 매체에 대한 정보가 밝혀졌습니다. 누에고치 방 출현의 내부 메커니즘과 위상 전환 경계는 현재 지능 사회에서 인간-지능 상호 작용의 복잡한 사회 시스템을 이해하는 데 새로운 아이디어를 제공합니다.

이 연구 결과는 네이처 머신 인텔리전스(Nature Machine Intelligence)에 "인간-AI ​​적응 역학이 정보 고치의 출현을 주도한다"라는 제목으로 온라인 게재됐다.

페이퍼 링크: https://www.nature.com/articles/s42256-023-00731-4

코드 및 데이터 링크: https://github.com/tsinghua-fib- lab/Adaptive-Information-Dynamic-Model

이 결과는 뉴스와 동영상의 두 가지 일반적인 시나리오에 중점을 두고 있습니다. 5억 7천만 개의 사용자 행동 데이터를 분석하고 정보 엔트로피를 사용하여 정보 누에고치의 심각도를 측정한 결과, 1년간의 상호작용을 통해 활성 사용자의 57% 이상이 다양한 수준의 정보 엔트로피 감소를 경험했으며 이는 실제 시스템에서 정보 고치의 심각성을 나타냅니다.

실증적 결과를 바탕으로 이 결과는 인간과 추천 알고리즘 사이의 핵심 피드백 루프를 모델링하고 시스템 정보 엔트로피 코쿤 상변화 과정의 진화 법칙을 통해 정보를 특성화하는 인간 지능 적응 정보 역학 모델을 제안합니다.

이 모델은 "다양성-부분정보 누에고치방-심층정보 누에고치방" 복합 시스템의 상변화 과정과 상변화 경계를 비평형 통계역학의 관점에서 드러내며, 인간 지능을 제어할 수 있는 기반을 제공합니다. 정보 누에고치 문제는 이론적 기반을 제공하고 시스템의 긍정적인 피드백과 부정적인 피드백, 알고리즘의 정확한 푸시 및 사용자의 자유로운 탐색의 균형을 유지하여 정보 누에고치를 깨는 후속 설계에 영감을 줍니다. 추천 알고리즘.

논문 개요

새로운 파괴적 기술인 인공 지능은 인간의 생산, 생활 방식 및 사고 방식을 근본적으로 변화시키고 있으며 경제 발전과 사회 발전에 중요하고 광범위한 영향을 미칩니다. 그중 추천 알고리즘은 가장 널리 사용되는 인공지능 기술로 정보 과잉 문제를 효과적으로 완화할 수 있으며 사람들이 보고 듣고 생각하는 것에 큰 영향을 미칠 수 있다.

그러나 추천 알고리즘은 양날의 검이기도 합니다. 그것이 제공하는 개인화 추천은 사람들에게 노출되는 정보를 점점 더 동질화시키고 점차 정보 고치에 갇히게 만듭니다. 이러한 동질적인 정보는 사람들의 시야를 제한하고 집단과 사회로부터 소외시킬 뿐만 아니라 사회적 갈등과 분열을 조장할 것입니다.

따라서 정보 고치의 발생을 억제하기 위해서는 그 메커니즘을 이해하는 것이 첫 번째 단계입니다.

정보의 동질성 문제에 대한 연구[1-5]가 있었는데, 대부분 인간의 행동이나 지능형 알고리즘에 초점을 맞췄습니다. 실증적 연구 방법을 통해 소셜 미디어에서 동질적인 군중이 모이는 잠재적 요인이나 알고리즘의 필터링 효과를 지적했지만, 데이터와 방법론의 한계로 인해 상관관계 결론만 제시할 수 있다.

최근 일부 실증연구[25,26]에서 인과관계 분석이 이루어졌습니다. 그러나 이러한 연구는 여전히 기본 메커니즘에 대한 분석 및 설명을 제공하지 않습니다. 게다가 현재 추천 알고리즘의 대부분은 블랙박스 인공지능 딥러닝 방식을 기반으로 하고 있으며, 그 뒤에 있는 수억 개의 매개변수로 인해 정보 고치의 근본 원인에 대한 통찰력을 얻기가 더욱 어렵습니다.

출처를 알 수 없는 정보 코쿠닝 문제를 해결하기 위해 연구팀은 뉴스와 동영상이라는 두 가지 일반적인 시나리오에 중점을 두었습니다. 대규모 실증 연구를 통해 1년간의 상호 작용 동안 활성 사용자의 57% 이상이 다양한 수준의 정보 다양성 감소를 경험했으며 유사성 기반 매칭과 긍정적 및 부정적 피드백이 정보 균질화 프로세스에 영향을 미치는 핵심 요소임을 지적했습니다.

더 나아가, 연구팀은 추천 알고리즘 분야의 경험적 발견과 실천을 바탕으로 확률론적 열역학의 아이디어에서 영감을 얻어 인간 지능 적응형 정보 역학 모델을 창의적으로 제안했습니다.

이 모델은 유사성 일치와 피드백 활용을 기반으로 두 가지 기본 메커니즘을 설명하여 인간과 추천 알고리즘 간의 주요 피드백 루프를 기계적으로 모델링하고 시스템 정보 엔트로피의 진화를 통해 시스템 단계 변경 프로세스를 설명합니다.

인간-지능 상호작용 복합체에서 정보를 제어하기 위해 시뮬레이션 실험과 이론적 분석을 통해 "다양성-부분정보 누에고치방-심층정보 누에고치방" 복합 시스템의 상변화 과정과 상변화 경계를 밝힙니다. 사회 시스템 누에고치집 문제는 이론적 기초와 실천적 방법을 제공한다.

인간 지능 적응 정보 역학 모델

Technical Key Points

연구팀은 두 가지 일반적인 콘텐츠 추천 시나리오인 뉴스와 비디오에 중점을 두고 있으며 대규모 실제 데이터에 대한 실증 분석을 통해 , 실생활 정보누에고치의 심각성과 영향요인을 분석하였다.

구체적으로, 연구팀은 정보 엔트로피를 사용하여 사용자가 받는 정보의 다양성을 특성화한 결과, 활성 사용자의 57% 이상이 정보 다양성의 다양한 정도 감소를 경험했으며 그들의 비전은 추천 알고리즘에 의해 점차 제한된다는 사실을 발견했습니다. 좁은 정보 누에고치.

추가 분석을 통해 연구팀은 유사성 매칭과 긍정 및 부정 피드백을 기반으로 한 추천 알고리즘의 강점이 정보 고치 생성에 영향을 미치는 핵심 요소라는 사실을 발견했습니다. 이 실증적 연구는 최초로 실제 대규모 온라인 정보 시스템에서 정보 누에고치의 심각성을 정량화했을 뿐만 아니라 후속 이론적 모델의 기초를 마련했습니다.

(a-c) 현실 세계에서 정보 누에고치의 심각도를 정량화하기 위해 뉴스와 비디오의 두 가지 일반적인 시나리오에 중점을 둡니다. (d-f) 유사성 일치 강도와 긍정적 및 부정적 피드백이 형성에 영향을 미칩니다. 정보 고치.

연구팀은 추천 알고리즘 분야의 경험적 결론과 실습을 바탕으로 확률론적 열역학 이론을 결합하여 인간 지능 적응형 정보 역학 모델을 창의적으로 제안했습니다.

이 모델은 정보 엔트로피를 사용하여 사용자에게 노출되는 정보의 다양성을 나타내고, 시스템 정보 엔트로피 분포를 사용하여 시스템 상태를 나타냅니다.

수억 개의 매개 변수에 의존하는 딥 러닝 모델과 달리 제안된 모델은 유사성 매칭과 사용자 피드백을 기반으로 하는 두 가지 기본 메커니즘에만 의존하여 인간과 추천 알고리즘 간의 핵심 피드백을 기계적으로 모델링하고 사용합니다. 확률론적 동적 ​​방정식은 인간과 지능 사이의 복잡한 동적 상호 작용 과정을 설명합니다.

이 중 은 사용자 l의 관찰된 관심 분포를 나타내고, 는 항목 k의 특성 분포를 나타내며, 은 유사성 기반 매칭 강도, 긍정적 피드백 활용도 및 부정적 피드백을 나타냅니다. 각각 피드백 활용, 자유로운 탐색 강도.

위 공식을 바탕으로 다양한 주제에 대한 사용자의 관찰된 선호도를 설명하는 Focke-Planck 방정식을 도출할 수 있습니다. 또한 평균 필드 근사법을 통해 최종적으로 사용자가 받는 정보 엔트로피를 도출할 수 있습니다. 인구에서.

연구팀은 서로 다른 매개변수 공간에서 인간-지능 상호 작용 복합 사회 시스템이 다양화, 부분 정보 누에고치 방, 심층 정보 누에고치 방의 세 가지 상태를 가지며, 이 세 가지 시스템 상태가 각각 세 가지 다른 정보에 의해 제어된다는 점을 지적했습니다. 엔트로피 분포를 통해

대규모 시뮬레이션 실험과 실증적 분석을 통해 제안된 모델의 설명력과 유효성이 더욱 검증되었습니다.

(a) 유사성 기반 매칭 강도 또는 (b) 긍정적인 피드백 활용이 증가함에 따라 인간-지능 상호 작용의 복잡한 사회 시스템은 다양한 상태에서 부분적인 정보 누에고치로 경험해 왔습니다. 상태, 그리고 깊이 정보 누에고치 상태의 위상 전이 과정으로 넘어갑니다. 빨간색 점선은 이론적인 선이고, 히스토그램은 시뮬레이션 선입니다.

연구팀은 유사성 기반 매칭의 강도나 긍정적인 피드백의 활용도가 높아질수록 복잡계가 다양화된 상태에서 부분정보 누에고치 상태, 그리고 심층정보 누에고치로의 위상 전환을 보인다는 사실을 발견했습니다. 상태.

그러나 부정적인 피드백 활용률이나 자유 탐색 강도가 증가하면 시스템은 역상 전환 과정, 즉 심층 정보 누에고치에서 부분 정보 누에고치로, 최종적으로 다양화된 상태로 진행됩니다. 위의 4가지 상전이 과정은 이론적 분석과 대규모 시뮬레이션 실험을 통해 일관되게 검증되었습니다.

(a) 부정적인 피드백 활용이 증가하거나 (b) 자유 탐색 강도가 증가함에 따라 인간-지능 상호 작용 복합 사회 시스템은 심층 정보 누에고치 상태에서 부분 정보 누에고치 상태로 경험했습니다. , 그리고 다각화 상태의 역상 전환 과정으로 이동합니다. 빨간색 점선은 이론적인 선이고, 히스토그램은 시뮬레이션 선입니다.

공동 분석을 통해 연구팀은 유사성 추천, 긍정 및 부정 피드백 활용, 자유 탐색을 기반으로 한 4가지 요소의 공동 구동에 의해 구동되는 전체 시스템의 위상 변화 다이어그램을 입증하고, 정보 고치에서 출현.

특히 유사성 기반 매칭은 다양성에서 동질성까지 복잡한 상호작용 시스템을 촉진하는 효과적인 역장 역할을 합니다. 긍정적 피드백은 이 역장을 더욱 증폭시켜 정보 다양성을 감소시킵니다.

그리고 부정적인 피드백과 자유로운 탐색은 유효 역장의 효과에 저항하여 시스템에 교란을 도입하여 정보의 다양성을 촉진합니다.

상전이 경계에 대해서는 이론적 예측 결과와 시뮬레이션 실험 결과가 높은 일관성을 보이는 동시에 대체 함수, 측정된 정보 엔트로피 분포 등 수많은 시뮬레이션 실험과 실증적 분석을 수행했습니다. 등을 통해 제안된 모델의 견고성과 유효성을 추가로 검증했습니다.

시스템 상변화 다이어그램, (a-b) 비디오 및 뉴스 장면 데이터를 기반으로 한 3차원 시스템 상변화 다이어그램, (c-e) 비디오 장면 데이터를 기반으로 한 2차원 시스템 상변화 다이어그램, (f-h) 2차원 시스템 뉴스 장면 데이터를 기반으로 한 위상 변화 다이어그램 시스템 위상 변화 다이어그램.

인공 지능 기술이 널리 적용됨에 따라 인간과 지능 시스템 간의 복잡한 상호 작용은 여러 개체와 여러 피드백을 포함하는 복잡한 인간 지능 상호 작용 시스템을 구성합니다.

현재 인공 지능은 대부분 딥 러닝 기술을 기반으로 하며, 블랙박스 특성은 이러한 복잡한 대화형 시스템의 동적 특성과 창발적 동작에 대한 깊은 이해를 더욱 방해합니다.

연구팀이 제안한 적응형 정보 역학 모델은 정보 고치의 창발적 행동에 대한 기계적 모델링을 제공함으로써 다양하고 복잡한 인간-지능 상호 작용 시스템에 대한 심층 연구를 위한 강력한 이론적 도구를 제공합니다. 또한 제안된 이론적 모델은 책임 있는 추천 알고리즘 설계에 실질적인 지침이 됩니다.

이 연구는 정보 코쿠닝을 위한 두 가지 효과적인 방법을 지적합니다. 즉, 부정적인 피드백의 효과적인 사용을 촉진하고, 사용자의 부정적인 피드백을 학습하는 새로운 관점에서 사용자 선호도를 모델링하고, 사용자의 자유도를 높여 사용자의 자유로운 탐색을 촉진합니다. 정보의 지평을 넓히기 위해 자신의 콘텐츠를 소비하는 자율성.

요약하자면, 이번 연구 결과는 추천 알고리즘 설계의 실질적인 개선 방향을 제시할 뿐만 아니라, 인간-지능의 상호 작용하는 복잡한 사회 시스템을 이해하기 위한 이론적 도구를 제공하여 AI를 위한 복잡 시스템에 대한 후속 연구에 영감을 줄 수 있습니다.

저자 소개

칭화 대학교 전자학과 도시 과학 및 컴퓨팅 연구 센터의 Pu Jinghua 박사 과정 학생과 Liu Jiazhen이 논문의 공동 제1저자입니다. Li Yong 부교수가 교신저자이고, Zhang Fang 조교수와 Tsinghua 공공 정책 및 경영 대학의 Su 교수가 공동 저자입니다.

이 연구 결과는 과학 기술 혁신 2030 - "차세대 인공 지능" 주요 프로젝트와 중국 자연 과학 재단의 지원을 받습니다.

위 내용은 칭화의 새로운 연구로 정보를 해독하는 누에고치방! 네이처(Nature) 하위 저널에 새로운 정보 역학 이론 게재의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!