>  기사  >  기술 주변기기  >  회사 경영진은 실수로 ChatGPT와 회사 데이터를 공유하는 것에 대해 걱정했습니다.

회사 경영진은 실수로 ChatGPT와 회사 데이터를 공유하는 것에 대해 걱정했습니다.

PHPz
PHPz앞으로
2023-05-31 13:27:071429검색

회사 경영진은 실수로 ChatGPT와 회사 데이터를 공유하는 것에 대해 걱정했습니다.

"기업 내 생성 인공 지능 현황" 보고서에 따르면 ChatGPT는 기업에서 가장 인기 있는 챗봇이며, CopyAI(35%)와 Anyword(26%)가 각각 2위와 3위를 차지했습니다. 그러나 많은 회사는 직장에서 생성 AI 도구의 사용을 금지했으며, ChatGPT가 가장 일반적으로 금지되었으며(32%), CopyAI(28%)와 Jasper(23%)가 그 뒤를 이었습니다.

Waseem Alshikh, Writer의 공동 창립자이자 CTO는 다음과 같이 말했습니다. “요즘 생성 AI에 대한 과대 광고가 너무 많습니다. 우리는 실제로 무슨 일이 일어나고 있는지, 즉 누가 그것을 사용하고 있는지, 어떤 도구를 사용하고 있는지, 어떻게 사용하는지 이해하고 싶었습니다. 무엇을 해야 하는지, 그리고 그 한계와 제약은 무엇인지 알아보았습니다. 사실상 모든 산업에서 적어도 생성적 인공 지능을 적용하려고 노력하고 있으며, 이는 기업 내의 한 가지 기능에만 국한되지 않습니다. IT, 운영, 마케팅, 인사, 법률, L&D 등에서 널리 사용됩니다.”

제너레이티브 AI의 가장 일반적인 사용 사례

설문조사에 따르면 제너레이티브 AI의 가장 일반적인 응용 분야는 광고 및 헤드라인 생성입니다. 간결한 텍스트(31%), 다양한 미디어 및 채널을 위한 기존 콘텐츠의 용도 변경(27%), 블로그 및 지식 기반 기사와 같은 광범위한 콘텐츠 생성(25%).

Alshikh는 “인공지능은 마케팅 담당자, UX 디자이너, 편집자, 고객 서비스 전문가 등이 처음부터 새로운 콘텐츠를 생성하는 데 많은 시간을 절약해 줍니다. 그러나 실제 가치는 콘텐츠 개발 과정에서만 나오는 것이 아닙니다. 부분은 지루한 부분에서 나옵니다. 바쁘고 빠르게 움직여야 할 때 방해가 될 수 있는 콘텐츠의 용도 변경, 분석, 연구, 변형 및 배포까지, 생성적 AI는 이러한 작업을 자동으로 처리할 수 있습니다. ”

직장에서 생성 AI 사용: 축복인가 저주?

설문 조사에서 중요한 결과가 나왔습니다. 주요 결과 중 하나는 거의 모든 기업이 정보 기술과 함께 다양한 기능에 걸쳐 생성 인공 지능을 사용하고 있다는 것입니다. (30%), 운영(23%), 고객 성공(20%), 마케팅(18%), 지원(16%), 영업(15%) 및 인사(15%)가 가장 일반적인 구현 영역입니다.

보고서에 따르면 설문 조사 응답자의 59%는 자신의 회사가 생성 인공 지능 도구를 구입했거나 구입할 계획이라고 답했습니다. 설문조사에 따르면 응답자의 약 19%가 자신의 회사가 5개 이상의 생성 AI 도구를 사용하고 있다고 답했습니다. 또한 응답자의 56%는 생성 AI가 생산성을 최소 50% 증가시킨다고 답했으며, 26%는 생산성이 75% 이상 증가한다고 답했습니다.

Alshikh에 따르면 생성 인공 지능 기술을 가장 널리 사용하는 산업은 건설과 IT로 16%를 차지합니다. 금융 보험, 기술 서비스, 제조업이 각각 8%, 8%, 5%를 차지하며 그 뒤를 바짝 뒤따랐습니다. 특히 Writer에서는 금융 및 보험 분야에서 많은 사용 사례를 볼 수 있습니다. ”

ChatGPT는 무료이고, 작동하기 쉽고, 다재다능하기 때문에 일반 대중에게 가치 있는 것으로 간주됩니다. 이 도구에는 제한된 데이터 세트, 불충분한 정확성, 환각 및 편견에 대한 민감성 등 많은 한계가 있다는 것이 인식되어 있습니다. 데이터 개인 정보 보호 문제

Alshikh는 다음과 같이 덧붙였습니다. "ChatGPT도 정확성이 제한되어 있다는 점을 인식하고 있습니다. ". 창의적인 이야기와 소네트를 만드는 능력 외에도 기업은 브랜드와 평판을 보호해야 합니다. 불행하게도 ChatGPT 및 기타 유사한 도구는 정확성과 브랜드 일관성을 위해 의존해야 하는 잘못된 정보의 증가로 이어지고 있습니다. ”

Writer를 위한 새로운 제품 기능

회사는 최근 기업 고객에게 데이터 소스부터 작업자 수준의 정확성, 보안에 이르기까지 모든 단계에서 최고 품질을 제공하도록 설계된 새로운 제품 기능을 발표했습니다. , 개인 정보 보호 및 규정 준수. 이러한 기능에는 자체 호스팅 LLM(대형 언어 모델)이 포함되어 있어 사용자가 온프레미스 또는 클라우드에서 LLM을 호스팅, 운영 및 사용자 지정할 수 있습니다.

또한 회사는 Writer 플랫폼에 지식 그래프를 도입하여 고객이 모든 데이터 소스(Slack에서 Wiki, 지식 기반, 클라우드 스토리지 인스턴스까지)를 색인화하고 액세스할 수 있도록 했습니다.

작가 CEO이자 공동 창업자인 May Habib은 서면 성명에서 다음과 같이 말했습니다. "우리는 LLM이 액세스할 수 있는 데이터부터 LLM이 호스팅되는 위치까지 기업에 완전한 통제권을 제공합니다. 생성 인공 지능을 기반으로 데이터를 통제할 수 없는 경우, 인텔리전스의 결과는 품질, 부작용 또는 보안 위험에 대해 이해할 수 없습니다.”

생성 AI의 위험을 완화하기 위한 주요 고려 사항

ChatGPT와 같은 비즈니스 모델은 일반적으로 다양한 공개 소스에서 인텔리전스를 수집한다고 Alshikh는 말했습니다. , 이는 창의성에는 좋을 수 있지만 브랜드 일관성에는 좋지 않습니다.

그는 또한 비즈니스 리더들이 기업에서 생성 인공 지능을 구현함으로써 경쟁 우위를 얻을 수 있다는 것을 깨달았다고 지적했습니다. 그러나 부정확한 콘텐츠 생성 및 기밀 데이터 노출 가능성을 포함하여 ChatGPT와 같은 무료 챗봇 사용의 위험도 인식하고 있습니다.

그는 우리 작가의 목표가 단순히 새로운 적용 시나리오에 머무르는 것이 아니라 실제 효과를 통해 기업에 실질적인 영향을 미치는 것이라고 설명했습니다. 우리는 정확성 및 개인 정보 보호와 관련된 문제를 해결했으며 Intuit 및 UnitedHealthcare와 같은 고객을 위한 기술, 의료 및 금융 서비스를 포함하여 규제가 엄격한 산업에 배포되고 있습니다. ”

ChatGPT의 인기를 감안하여 그는 ChatGPT 또는 OpenAI 기반 도구가 데이터 개인정보 보호, 브랜딩 및 규제 정책을 준수하는지 여부를 고려할 것을 권고했습니다. 또한 그는 대안을 평가하기 위해 기능적 사용 사례와 요구 사항을 수집할 것을 권고했습니다.

Alshikh는 다음과 같이 조언합니다. “기업에서 ChatGPT 사용에 대한 정책을 마련한 경우 민감한 회사 데이터를 유출하지 않고 안전한 도구와 사용 방법을 모든 사람이 알 수 있도록 지속적인 커뮤니케이션 및 교육 프로그램 구현을 고려해야 합니다. 동시에 기업 경영진은 다음과 같은 몇 가지 중요한 질문을 스스로에게 물어봐야 합니다. 회사의 데이터를 보호하는가? 브랜드, 스타일, 메시지 및 회사 상황에 맞게 출력을 조정할 수 있습니까? 우리 비즈니스 워크플로에 포함되나요?”

위 내용은 회사 경영진은 실수로 ChatGPT와 회사 데이터를 공유하는 것에 대해 걱정했습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

성명:
이 기사는 51cto.com에서 복제됩니다. 침해가 있는 경우 admin@php.cn으로 문의하시기 바랍니다. 삭제