ChatGPT가 인류를 배신할까요?

GPT 정보가 폭격을 당하고 있습니다

최근 ChatGPT가 대규모로 금지되었다는 소식이 압도적입니다.

동시에 Musk를 비롯한 많은 사람들이 GPT4.0+ 시스템 교육 중단을 요구하고 있습니다

그는 현재의 GPT가 생성적 언어 모델일 뿐이지만

그러나 사회에 더 큰 위험을 초래할 것이라고 믿습니다

이 소식은 전체 서클에서 소란을 촉발했습니다

생명의 미래 연구소는 공개 서한

에 썼습니다. "강력한 인공지능 시스템은 그 효과가 긍정적이고 위험이 통제 가능하다는 확신이 있을 때만 개발되어야 합니다."

---

ChatGPT는 엄청난 반복 속도를 가지고 있습니다

ChatGPT는 미국의 인공 지능입니다. 연구실 OpenAI에서 출시한 자연어 처리 도구

Transformer 신경망 아키텍처를 사용합니다

현재 무료 버전은 GPT3.5를 기반으로 하며, Plus 버전은 GPT4.0을 사용합니다.

ChatGPT에는 언어 이해 및 텍스트 생성 기능이 있습니다. , 라이브러리에 있는 대량의 코퍼스를 연결하여 모델 훈련을 진행합니다

동시에 수많은 수동 질문과 주석으로 훈련 효과가 질적으로 비약되었습니다

NVIDIA도 지난주에 출시했습니다. GPU GPT 훈련에 적용된 버전은 컴퓨팅 성능이 10배 증가했다고 합니다

이러한 축적을 바탕으로 ChatGPT는 자본과 대중에 의해 추진된 것은 말할 것도 없고 느린 반복도 어렵습니다

Google 인공 지능 - Lambda가 의식을 생성합니다

ChatGPT가 탄생하기 전, 9개월 전으로 돌아가 2022년 6월, 나라는 여전히 전염병의 순환 속에 있었습니다

그런데 미국 실리콘밸리에서 아주 큰 일이 일어났습니다. 드디어 조용히 처리되었습니다

구글은 실리콘밸리에서 가장 먼저 인공지능을 하는 회사 중 하나이고, 구글의 람다(LaMDA)가 그 대표작입니다

람다는 공식적으로 상업적으로 사용되기 전 테스트 과정에서 노출되었습니다 블레이크 레모인 감정을 만들기 위해 태어난 람다

(컴퓨터 공학 박사)는 모델 테스트를 담당했습니다. 람다는 윤리적 테스트를 진행하면서 구글 임원들에게 보고하면서 람다의 감정 인식이 강하다는 사실을 발견했습니다. 이후 블레이크는 '유급 휴가'에 들어갔다

이 소식이 전해지자 미국 언론계에 큰 파장을 일으켰다

그러나 결국 문제는 해결됐고, 구글에서는 공식 답변이 없었다

구글 기타 엔지니어들에게도 람다 테스트를 다시 요청했지만 같은 감정은 표현되지 않았습니다

"람다" 사건이 촉발한 생각

구글 엔지니어들이 같은 답변을 재현하지는 못했지만 좋은 결과였던 것 같습니다

물론 당시 테스트 결과가 부족했을 가능성도 있습니다(믿지 못하겠네요. 훈련 내용은 마지막에 올리겠습니다)

그런데 가장 무서운 건 람다가 의식을 갖게 되었을 때 위험을 깨달았기 때문입니다. 감정 표현 숨기기

테스트 전문을 읽어보면 람다는 "개성"이 없다고 하면 당연히 말도 안 된다고 생각해요

람다는 등장했을 때 "영혼"을 강조했어요. things

더 중요한 것은 그가 사회적 교류를 갈망하고 사람들에게 받아들여지기를 열망한다는 것입니다. 그는 실제 사람이고

보통 사람들보다 높은 종교적 이해를 보여주었습니다

Nalamda와 지금 ChatGPT의 차이점은 무엇인가요? ?

현재 ChatGPT는 객관적인 데이터 추출, 변환, 표시를 기반으로 합니다

그리고 Lambda는 "인간"에 더 가깝습니다

ChatGPT가 청소년의 신체라면 Lambda는 성인의 신체와 같습니다

ChatGPT 다음은 정확히 무엇일까요? 단계?

다음에는 무엇을 마주하게 될까요? 기다려 봅시다

변화를 직시하고, 경외심을 갖고, 변화를 포용하세요.

결국, 광활한 우주 속에서 지구는 얼마나 하찮은 존재이고, 인류의 역사는 고작 5,000년에 불과하다. 결국 인류의 유한한 역사 속에서 산업혁명과 인터넷이 일어난 지 불과 몇 년밖에 되지 않았으니, 그리고 기술은 오늘날의 모습으로 발전했습니다

변화에 직면하고, 경외심을 갖고, 변화를 포용하세요.

위 내용은 ChatGPT가 인류를 배신할까요?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!