ChatGPT가 질주하고 있는데 안전벨트는 어디에 있나요?

OpenAI의 ChatGPT는 지난해 11월 30일 출시 이후 단 3개월 만에 다양한 소셜 분야를 휩쓸었습니다. 일반 사람들은 검색 엔진으로 사용하고, 사무원은 카피 작성, 회의록 작성, 프로그램 회원이 사용합니다. 코드를 작성합니다.

그런데 걱정스럽게도 학생들이 숙제에도 사용하고 있어요. 얼마 전 설문 조사에 따르면 미국 학생 중 거의 90%가 이미 ChatGPT를 사용하여 숙제를 작성하고 있으며 ChatGPT에서 생성한 한 보고서가 수업에서 1위를 차지한 것으로 나타났습니다. 학교 교사들에게 이러한 변화는 너무 갑작스럽게 다가옵니다. 일부 학교에서는 대책을 내놓기도 전에 직접 금지를 선택하기도 했다.

Citigroup, Goldman Sachs, JPMorgan Chase와 같은 월스트리트 금융 기관을 포함한 일부 회사에서는 ChatGPT를 사용할 때 직원이 민감한 회사 정보를 유출할 것을 우려하여 ChatGPT를 금지했습니다.

이러한 열광적인 반응은 문제를 반영합니다. 우리 사회는 아직 ChatGPT와 같은 AI 생성 모델의 도래를 받아들일 준비가 되어 있지 않으며 관련 문제에 대한 토론이 의제에 올라야 합니다. 최근 개최된 글로벌 인공지능 개발자 파이오니어 컨퍼런스 "Youzhizhi: AI 안전 및 윤리적 통찰 주제 포럼"이 객석으로 가득 찬 이유가 아닐까 싶습니다.

컨퍼런스의 주제는 "보안 및 윤리적 통찰"이지만, 손님들의 토론 범위는 이에 국한되지 않고 AI 세대 모델에서 다음과 같은 다양한 차원의 토론을 추가했습니다. ChatGPT로서 기본부터 연구의 영향부터 응용 문제, 새로운 시대의 인재 양성 아이디어까지 모든 각도에서 심도 있는 논의가 진행되었습니다. 이 포럼을 통해 모두가 다음 질문에 대한 답을 제시하려고 노력하고 있습니다. 도래한 AIGC 시대, 우리는 어떻게 대응해야 할까요?

ChatGPT는 과학 연구 분야에 어떤 영감과 도전을 가져오나요?

올해 1월, Turing Award 수상자 Yann LeCun은 ChatGPT에 대한 가혹한 평가로 인해 인기 검색어 목록에 올랐습니다. 그의 견해로는 "기본 기술에 관한 한 ChatGPT에는 특별한 혁신이 없으며" "혁명적인 것"도 아니고 괜찮은 엔지니어링 사례로 간주될 수 있습니다.

"ChatGPT가 혁명적인가"는 논란의 여지가 있는 주제입니다. 그러나 이것이 실제로 공학적 걸작이라는 점에는 의심의 여지가 없습니다. 현장에서 중국과학원 원사 E Weinan도 이 점을 지적했다.

이번 명작은 OpenAI의 점진적인 검증과 집중적인 투자의 결과임을 강조하기도 했습니다. 그 중에서도 '집중투자'가 매우 중요합니다. OpenAI의 성공은 이전의 '소규모 워크숍, 프로젝트 기반' AI 역량 강화 방식이 역사화되고 있으며, 'AI 엔지니어링 및 플랫폼화'가 인공지능 기술의 배당금을 방출하는 데 중요한 지원이 되고 있음을 보여주기 때문입니다. 이러한 변화에 적응할 수 있다면 자연어 분야에서 AI의 성공이 기초과학 연구 분야에서도 재현될 것으로 기대된다. 이는 E Weinan 학자가 과학용 AI 분야에 종사하고 있는 작업이기도 합니다.

물론 이 작업은 쉽지 않으며 데이터, 기초 소프트웨어 도구, 컴퓨팅 플랫폼, 지능형 과학 연구 플랫폼 등 기초 과학 연구를 위한 플랫폼 인프라 구축에 집중해야 합니다. 지난 몇 년 동안 Academician E는 팀을 이끌고 이 분야에서 몇 가지 작업을 수행했으며 원자 간 위치 에너지 함수의 사전 훈련 모델과 같은 중요한 결과를 발표했습니다.

그러나 그들의 작업은 축적된 데이터 형식이 다르고 시끄럽고, 소프트웨어에 기본 테스트 시스템이 부족하고, 컴퓨팅 인프라가 따라잡을 수 없는 등 여전히 많은 과제에 직면해 있습니다. Academician E의 견해로는 이것이 "새벽 전의 어둠"입니다. 독창적인 혁신의 방향으로 자원을 과감하게 모아야만 우리는 새벽을 맞이할 수 있습니다.

ChatGPT의 등장은 자연 과학 외에도 사회 과학 분야의 연구자들에게 특정한 영감을 주었습니다. 이와 관련하여 화동사범대학교 정치외교학부 학장인 우관쥔이 매우 귀중한 아이디어를 제공했습니다.

Dean Wu는 사회과학 연구자들이 ChatGPT 앞에서 어느 정도 위기의식을 가져야 한다고 지적했습니다. 우선, 그 이면에는 인류학자들이 전통적인 현장 조사로는 수집할 수 없을 만큼 엄청난 양의 데이터가 있고, 짧은 시간에 많은 양의 데이터를 처리할 수 있다는 점이다. 둘째, 사람이 평생 다 읽지 못할 수도 있는 많은 양의 책을 "읽습니다".

Wu Guanjun은 "우리는 (기술적) 특이점에 직면해 있지만 많은 학자들이 이를 인식하지 못하고 있습니다"라고 말했습니다.

여기서 기술 특이점이란 기술 발전의 역사를 바탕으로 요약한 관점을 말하며, 미래에는 피할 수 없는 사건이 일어날 것이라고 믿습니다. 즉, 기술 발전은 매우 짧은 시간 내에 무한에 가까워질 것입니다. 개선. 그때쯤이면 우리에게 익숙한 모든 지식, 가치, 규칙은 무효가 될 것입니다.

따라서 그는 사회과학자들에게 기술 특이점 시대에 대한 연구를 발전시키기 위해 다른 과학자들과 협력할 것을 촉구했습니다. 이런 종류의 연구는 아리스토텔레스의 지식 분류 중 '실천적 지식'(예: 윤리학, 정치학)에 초점을 맞추고 있는데, 다른 두 가지 유형의 지식(생산적 지식과 이론적 지식)에서는 AI가 학습을 시작했고 심지어 인간보다 더 잘 배우기도 하기 때문입니다. 정치 등 실무지식 분야에서는 AI가 다시 말할 수만 있을 뿐, 새로운 세계를 만들어낼 수는 없다. 따라서 우 학장은 인류가 이 분야에서 큰 잠재력을 가질 것이라고 믿습니다.

AIGC 시장이 폭발할 위기에 처해 있는데, 어플리케이션 측은 어떻게 준비해야 할까요?

몇일 전, OpenAI가 오랫동안 기다려온 ChatGPT의 API를 출시했는데, 가격은 100만 개의 토큰을 생성하는 데 2달러밖에 들지 않습니다. 애플리케이션 측면에서 이는 매우 흥미로운 소식입니다. 동시에 국내 ChatGPT 유사 제품의 연구 개발도 가속화되고 있으며 이달 신제품이 출시될 예정이다. 내년에는 AIGC 모델이 지원하는 애플리케이션이 국내외에서 폭발적으로 증가할 것으로 예상됩니다.

그러나 동시에 애플리케이션에 대한 우리의 투자는 따라가지 못하는 것 같습니다. 이는 Deloitte China 회장 Jiang Ying이 관찰한 현상입니다.

구체적으로 그녀는 우리나라의 인공지능 개발이 R&D 공급 측면과 응용 수요 측면에서 투자 불균형을 이루고 있음을 발견했습니다. 이러한 불균형은 세 가지 측면에서 나타납니다.

일단, 역할 측면에서 현재 많은 의사결정 조직은 주로 과학 연구 기관과 기술 기업으로 구성되어 있으며, 업계 협회 등 적용 시나리오에 관련 당사자의 참여가 상대적으로 부족합니다. 따라서 Jiang Ying은 인공 지능 개발에서 수요 측 세력을 변화시키는 역할을 더욱 강화하기 위해 다자간 동맹을 구축해야 한다고 믿습니다.

두 번째로, 개발 측면에서는 기술 혁신을 통해 인공지능의 발전을 개선하는 것이 충분히 언급되고 많은 지지를 받았지만, 모델 혁신의 힘은 제대로 평가되지 않았습니다. 따라서 Jiang Ying은 인공지능의 혁신적인 비즈니스 모델의 실제 적용을 장려하고 이 분야에 대한 연구를 늘려야 한다고 제안했습니다.

마지막으로 인재 양성 측면에서 현재 많은 대학에서 인공지능 관련 전공을 두고 있지만 이들 전공의 대부분은 이공계 지식과 기술의 양성에 국한되어 있어 두 가지 전공을 갖춘 인재가 상대적으로 부족합니다. 기술 및 관리 응용 프로그램에 대한 지식을 제공합니다. 실제 적용 시나리오에서 AI가 진정으로 경제적 효율성을 달성하려면 이를 사용하여 특정 생산 라인의 작업을 완료하는 것만으로는 충분하지 않으며 전체 프로세스와 관리 구조를 변화시켜야 합니다. 그러한 요구를 충족시키는 것은 현재 매우 부족합니다.

응용 수준에서는 Tian FengSenseTime 지능형 산업 연구소 소장과 상하이 인공 지능 연구소 부사장도 자신의 견해를 공유했지만 그는 더 초점을 맞추고 있습니다. 모델 리스크, 데이터 리스크 등 AI 적용 과정에 존재하는 다양한 리스크에 대해 다루고 있습니다.

특히 Tian Feng은 기술 및 관리 도구를 사용하여 기업 AI 윤리 거버넌스 역량을 향상할 것을 옹호합니다. 지난 몇 년 동안 SenseTime은 디지털 워터마킹, 데이터 둔감화, 데이터 샌드박스, 모델 신체 검사 플랫폼 등 전체 제품 수명 주기를 포괄하는 AI 윤리적 위험 거버넌스 도구 상자 세트를 개발했습니다. .

학생들이 모두 ChatGPT를 사용하고 있는데, 교사는 어떻게 해야 하나요?

포럼에서 상하이 대학교 부총장 Wang Xiaofan이 다음과 같은 질문을 받았습니다. 상하이 대학교는 학생들의 ChatGPT 사용을 금지합니까? 이에 대해 왕교장은 “나는 금지를 옹호하지 않는다”고 답했다.

그가 보기에 ChatGPT와 같은 AI 도구의 등장은 긍정적인 측면도 있습니다.

교육 실습에서는 학생들에게 즉각적인 피드백을 제공하여 AlphaGo가 인간 체스 선수를 지원하는 것처럼 학생들이 더 빠르게 발전할 수 있도록 도와줍니다. 30년 전에는 여전히 도서관에서 문서를 하나씩 확인하고 있었습니다. 20년 전에는 온라인으로 빠르게 문서를 검색하기 시작했으며 오늘날 ChatGPT는 이미 문서를 초록이나 리뷰로 정리하는 데 도움을 주고 있습니다. 이는 의심할 여지 없이 학습 지식의 효율성을 크게 향상시킵니다.

교육 내용과 방법 측면에서 교직원은 다음 사항을 반영해야 합니다. 우리 교육은 어떤 종류의 지식을 전달해야 합니까? 고등 교육 교육 및 학습을 보다 효율적으로 만들기 위해 ChatGPT와 같은 도구를 어떻게 사용할 수 있습니까? 이러한 반성과 변화를 거쳐 고등교육은 그 본질에 더 가까워질 수 있습니다. 아인슈타인이 말했듯이, "대학 교육의 가치는 많은 사실을 암기하는 것이 아니라 두뇌가 생각하도록 훈련하는 것입니다... 항상 최우선 순위는 독립적인 사고와 판단 능력의 습득이 아닌 전반적인 능력을 키우는 것입니다." 지식. "특정 지식".

물론 ChatGPT가 고등 교육에 가져오는 문제는 피할 수 없습니다. 이와 관련하여 왕 총장은 수행해야 할 세 가지 작업을 제안했습니다. 첫째, 따라야 할 규칙이 있습니다. 즉, 교육 및 연구에 AIGC를 사용하기 위한 지침 원칙을 공식화하고 학생과 교사가 이를 이해하고 따를 수 있도록 보장하는 것입니다. 둘째, 공정한 사용, 즉 교육, 학습, 연구에서 AIGC의 합리적인 사용을 지원하지만 표절과 같은 학문적 부정행위를 금지하기 위한 효과적인 조치를 취하는 것입니다. 교육 및 연구 과정, 공정 사용 AIGC와 같은 인공 지능 기술은 학문적 청렴성 및 윤리 과정 교육에 통합됩니다.

인공지능의 발전은 자동차의 낡은 길을 따라갈 수 없습니다

게스트들의 멋진 나눔에 더해 이번 포럼은 두 가지 중요한 결과도 낳았습니다.

첫 번째 결과는 상하이 표준 "정보 기술 인공 지능 시스템 수명 주기 거버넌스 지침" 실무 그룹의 핵심 전문가 구성원에게 임명장을 수여한 것입니다. 이 가이드는 AI 알고리즘 모델의 개념적 설계부터 시작하여 개발, 테스트 및 평가, 배포, 운영 모니터링 및 폐기의 전체 수명주기를 거치면서 인공지능 시스템의 거버넌스에 대한 지침을 제공합니다. 이는 인공지능 시스템 거버넌스에 대한 국내 최초의 지역 표준으로, 표준 규칙으로 개발을 촉진하고, 기술적 수단과 규제 조치를 통해 안전과 윤리의 최종선을 유지하며, AIGC와 같은 기술이 자신의 능력을 최대한 발휘할 수 있도록 보장하는 것을 목표로 합니다. 사회적, 경제적 가치를 창출하고 활용함으로써 실제 결과는 인공지능 개발에 있어 '상하이 경험'을 확립합니다.

두 번째 결과 '2023 상하이 인공지능 안전 윤리 이니셔티브' 발표 및 서명. "제안"은 "인공 지능 산업 발전 촉진에 관한 상하이 규정"에 따라 인공 지능 개발자가 빛을 향해 나아가도록 옹호하고 인공 지능 산업이 공정성과 정의, 콘텐츠 보안, 개인 정보 보호를 향해 나아갈 수 있도록 보장합니다. 보호, 상호 연결, 공동 구축 및 공유를 통해 거버넌스의 방향은 계속해서 위쪽으로 발전하고 발전합니다. 상하이 인공 지능 산업 협회, 상하이 청년 및 중년 지식인 협회, 상하이 Lingang 그룹, 정보 통신 기술 아카데미 화동 지부 및 시립 소프트웨어 개발 센터 대표가 공동으로 "제안"에 서명했습니다.

왜 이 두 가지를 해야 하나요? 왕 회장은 연설에서 다음과 같은 상식을 언급했습니다. 자동차는 19세기 말에 발명되었지만 20세기 후반이 되어서야 여러 나라에서 운전 중 안전벨트 착용을 의무화하는 규정을 도입했습니다. 얼마나 많은 사람들이 헛되이 죽었는지 짐작할 수 있습니다.

잘 생각해보면 우리는 사실 19세기에 막 자동차에 노출된 사람들과 조금 비슷하다. 신흥 AIGC가 가속하고 있지만 운전자를 제한하는 규정도 없고 안전벨트도 없다. 차 안에 있는 사람들을 위해. 이러한 문제는 시급합니다.

"오늘날 인공지능의 발전은 분명히 자동차의 길을 따라갈 수 없습니다"라고 왕 교장은 진심으로 말했습니다. AIGC 시대의 도래에 차분히 대처할 수 있도록 사회 각계각층은 포럼을 기점으로 새로운 길을 모색하고 있습니다.

위 내용은 ChatGPT가 질주하고 있는데 안전벨트는 어디에 있나요?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!