생성적 AI에 대한 기업 사용 정책 개발을 위한 6가지 모범 사례

제너레이티브 AI(Generative AI)는 비지도 및 준지도 알고리즘을 사용해 기존 자료(텍스트, 오디오, 비디오, 이미지, 코드 등)로부터 새로운 콘텐츠를 생성하는 최근 주목받는 AI 기술입니다. 이 AI 부문의 사용이 폭발적으로 증가하고 있으며, 조직에서는 고객에게 더 나은 서비스를 제공하고, 기존 데이터를 더 많이 활용하고, 운영 효율성을 개선하는 등 다양한 용도로 생성 AI를 사용하고 있습니다.

그러나 다른 신흥 기술과 마찬가지로 생성 AI에도 상당한 위험과 과제가 있습니다. Salesforce가 고위 IT 리더를 대상으로 실시한 최근 ​​설문조사에 따르면, 응답자의 79%는 생성 AI 기술에 보안 위험이 있을 수 있다고 생각하고, 응답자의 73%는 생성 AI가 편향될 수 있다고 우려하며, 59%는 생성 AI의 결과를 믿습니다. 부정확합니다. 또한, 특히 외부에서 사용되는 생성 AI로 생성된 콘텐츠가 진정성 있고 정확하거나, 저작권이 있는 콘텐츠이거나, 경쟁사에서 가져온 콘텐츠인 경우 법적인 문제도 고려해야 합니다.

예를 들어, ChatGPT 자체는 "내 응답은 대규모 텍스트 데이터세트에서 학습된 패턴과 상관관계를 기반으로 생성되며 데이터세트에 인용된 모든 소스의 정확성이나 신뢰성을 확인할 수 있는 능력이 없습니다."라고 말합니다.

비영리 Tech Policy Press 조직에 따르면 법적 위험만으로도 매우 광범위하며 계약, 사이버 보안, 데이터 개인정보 보호, 기만적인 거래 관행, 차별, 허위 정보, 윤리, 지적 재산권 및 검증과 관련된 위험이 포함됩니다.

실제로 조직에는 이미 생성 AI 사용을 테스트하는 직원이 많을 수 있으며, 이 활동이 실험에서 실제 생활로 이동함에 따라 의도하지 않은 결과가 발생하기 전에 사전 조치를 취하는 것이 중요합니다.

Google의 최고 의사 결정 과학자 Cassie Kozyrkov는 다음과 같이 말했습니다. "AI가 생성한 코드가 작동하면 매우 좋습니다. 하지만 항상 작동하는 것은 아니므로 다른 곳에 복사하여 붙여넣기 전에 테스트하는 것을 잊지 마세요. ChatGPT 결과입니다.”

기업 사용 정책 및 관련 교육은 직원들이 이 기술의 일부 위험과 함정을 이해하는 데 도움이 될 수 있으며, 이 기술을 최대한 활용하는 방법을 이해하는 데 도움이 되는 규칙과 권장 사항을 제공할 수 있습니다. 조직을 위험에 빠뜨리고 비즈니스 가치를 극대화합니다.

이를 염두에 두고 기업의 생성 AI 사용을 위한 정책 개발을 위한 6가지 모범 사례를 소개합니다.

정책 범위 결정 - 기업이 사용 정책을 개발하는 첫 번째 단계는 정책 범위를 고려하는 것입니다. 예를 들어, 여기에는 모든 형태의 AI가 포함됩니까, 아니면 생성 AI만 포함됩니까? 생성적 AI만을 대상으로 하는 것은 다른 수많은 AI 기술에 영향을 주지 않고 ChatGPT를 포함한 대규모 언어 모델을 다루기 때문에 유용한 접근 방식이 될 수 있습니다. 더 넓은 영역에 대한 AI 거버넌스 정책을 어떻게 수립하는지는 또 다른 문제이며, 온라인에는 그러한 리소스가 수백 개 있습니다.

조직 전체의 모든 관련 이해관계자를 참여시키세요. 여기에는 HR, 법무, 영업, 마케팅, 비즈니스 개발, 운영 및 IT가 포함될 수 있습니다. 각 팀마다 목적이 다를 수 있으며, 콘텐츠를 사용하거나 오용하는 방식이 다른 결과를 초래할 수 있습니다. IT 및 혁신 팀의 참여는 정책이 위험 관리 관점에서 개발된 제한적 조치일 뿐만 아니라 비즈니스 위험을 관리하는 동시에 생산성과 비즈니스 이점을 극대화하도록 설계된 균형 잡힌 권장 사항 집합임을 보여줍니다.

생성 AI의 현재 및 미래 사용 고려 – 모든 이해관계자와 협력하여 현재 적용되고 있는 모든 내부 및 외부 사용 사례와 미래에 구상된 사용 사례를 항목화합니다. 각 항목은 정책 개발에 정보를 제공하고 관련 영역을 보장하는 데 도움이 됩니다. 덮여 있습니다. 예를 들어, 생성적 AI 제도 콘텐츠를 실험하는 제안 팀(계약자 포함)이나 창의적인 마케팅 콘텐츠를 생성하는 제품 팀을 본 경우 잠재적으로 다른 사람의 지적 재산권을 침해하는 결과물에 대한 후속 결과가 있을 수 있음을 알 수 있습니다. 권리. 지적재산권 위험.

끊임없이 진화하는 상태 - 기업 사용 정책을 개발할 때 시스템에 들어가는 정보, 생성 AI 시스템이 어떻게 사용되는지, 그리고 시스템에서 나오는 정보가 어떻게 나오는지 깊이 생각하고 다루는 것이 중요합니다. 시스템은 이후에 사용됩니다. 내부 및 외부 사용 사례와 그 사이의 모든 것에 집중하세요. 이 조치는 모든 AI 생성 콘텐츠에 라벨을 지정하도록 요구함으로써 해당 콘텐츠가 외부 사용을 위해 실수로 용도 변경되는 것을 방지하는 데 도움이 될 수 있습니다. 이를 통해 내부 사용을 위한 경우에도 투명성을 보장하고 인간 생성 콘텐츠와의 혼동을 피하거나 귀하가 믿는 정보에 따른 조치를 방지할 수 있습니다. 검증 없이 사실이고 정확해야 합니다.

조직 전체에 널리 공유하세요 - 정책은 금방 잊어버리거나 읽지 않는 경우가 많기 때문에 교육 동영상 제작, 실시간 회의 개최 등 정책과 관련된 적절한 훈련과 교육을 제공하는 것이 중요합니다. 예를 들어, IT, 혁신, 법률, 마케팅 및 제안 팀 또는 기타 관련 팀의 대표자들과의 실시간 Q&A 세션은 직원들이 미래의 기회와 과제를 이해하는 데 도움이 될 수 있습니다. 예를 들어 인용할 수 있는 주요 법적 사건이 나타나는 경우와 같이 청중이 상황에 처할 수 있도록 도움이 되는 예를 많이 포함하십시오.

문서에 대한 동적 업데이트 - 모든 정책 문서와 마찬가지로 문서를 동적으로 유지하고 새로운 용도, 외부 시장 조건 및 개발 요구 사항에 따라 적절한 속도로 업데이트해야 합니다. 모든 이해관계자가 정책에 "승인"하도록 하거나 이를 CEO가 서명한 기존 정책 매뉴얼에 통합하는 것은 이러한 정책이 고위급 승인을 받았으며 조직에 중요하다는 것을 보여줍니다. 귀하의 정책은 생성적 AI, AI 기술, 일반적인 기술 거버넌스 등 광범위한 거버넌스 접근 방식의 한 구성 요소여야 합니다.

이 내용은 법적 조언이 아니며 법률 및 인사 부서가 정책을 승인하고 전파하는 데 앞장서야 합니다. 하지만 이것이 여러분에게 몇 가지 참고 아이디어를 제공할 수 있기를 바랍니다. 10년 전 기업 소셜 미디어 정책과 마찬가지로 지금 이것에 시간을 투자하면 앞으로 몇 년 동안 예상치 못한 일과 변화하는 위험을 줄이는 데 도움이 될 것입니다.

위 내용은 생성적 AI에 대한 기업 사용 정책 개발을 위한 6가지 모범 사례의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!