CIO 공유: 기업에서 생성 AI를 활용하는 방법

제너레이티브 AI는 기업에 혁신적인 기회를 제공하지만, 이 새로운 시대에 고위 관리자는 코드 품질을 보장하고 기술적 위험을 줄이기 위해 제너레이티브 AI 적용에 세심한 주의를 기울여야 합니다. 경영진은 AI 솔루션의 신뢰성과 보안을 신중하게 평가하고 잠재적인 문제를 적시에 감지하고 수정하기 위한 효과적인 모니터링 방법을 개발해야 합니다. 엄격한 기술 표준과 감독 메커니즘을 확립함으로써 기업은

제너레이티브 AI를 더 잘 활용할 수 있습니다. 생성 AI는 초기 단계에서 조직을 변화시키기 시작하고 IT 전략에 큰 영향을 미칩니다. 대규모 언어 모델은 엔지니어링 민첩성을 가속화하지만 기술 부채 문제도 발생시킵니다. Red Monk의 수석 분석가이자 공동 창립자인 Stephen O'Grady는 "생성 시스템이 코드 생성 속도를 높여 기술 부채가 축적될 수 있습니다."라고 지적했습니다.

그러나 이로 인해 CIO가 탐색하고 구현하는 일이 중단되어서는 안 됩니다. Salesforce의 수석 부사장이자 최고 정보 책임자인 Juan Perez는 AI라고 덧붙였습니다. 그는 AI를 적절한 거버넌스, 보안 제어, 유지 관리 및 지원, 수명주기 관리가 필요한 애플리케이션으로 봅니다. 그는 AI 제품의 수가 계속 증가함에 따라 AI 여정을 지원하기 위해서는 가장 적합한 모델과 기본 데이터를 선택하는 것이 중요하다고 말했습니다.

제너레이티브 AI를 올바르게 적용하면 더 낮은 비용으로 더 높은 품질의 제품을 생산할 수 있습니다. 월그린스 부츠 얼라이언스(Walgreens Boots Alliance) 최고정보책임자(CIO) 닐 샘플(Neal Sample)은 “AI가 비즈니스 전반에 긍정적인 영향을 미칠지 여부의 문제가 아니라 그 영향의 정도와 속도가 문제”라며 “책임 있는 AI 개발을 촉진해야 한다”고 강조했다. , 정부 규제와 기업 지배구조가 가장 중요합니다.

제너레이티브 AI: IT 전략의 핵심

기계 학습 모델은 더 빠른 IT 반복을 가능하게 하는 잠재력을 가지고 있습니다. 코드 테스트 플랫폼 Sonar의 CIO인 Andrea Malagodi는 적어도 이러한 모델은 일상적이고 반복적인 작업을 자동화하여 소프트웨어 개발자가 더 창의적이고 더 높은 수준의 작업에 집중할 수 있도록 대역폭을 확보할 수 있다고 말했습니다. Palo Alto Networks의 CIO인 Meerah Rajavel은 “이러한 팀을 지원하기 위해 생성적 AI 도구에 투자하는 것은 팀의 성장, 생산성 및 전반적인 만족도에 대한 투자입니다.”라고 덧붙였습니다. 생성적 AI는 개발, 특히 코드 생성을 크게 촉진할 것이라고 덧붙였습니다. Java, Python 및 C++와 같은 성숙한 프로그래밍 언어이지만 그 힘은 여기서 끝나지 않습니다. 그녀는 AI가 소프트웨어 개발 주기 초기에 단위 테스트, 디버깅 및 잘못된 구성 식별을 지원하기 위해 코드 테스트를 왼쪽으로 전환하는 데 도움이 될 수 있다고 믿습니다. "CIO로서 개발자의 성공을 돕는 최고의 도구를 제공하는 것이 내 업무의 핵심 구성 요소이며 AI는 의심할 여지없이 효율성을 높이는 데 도움이 될 것입니다."

노코드 자동화 플랫폼 회사인 Workato의 최고 정보 책임자인 Carter Busse는 올해 IT 전략의 핵심. 그러나 AI의 잠재력은 IT 분야에만 국한되지 않고 고객 지원, 생산성 향상, 부서 간 혁신 촉진에도 역할을 할 수 있습니다. Busse는 "CIO의 임무는 비즈니스의 효율적인 개발을 지원하는 것이며 AI는 우리가 발전할 수 있는 핵심 수단입니다."라고 지적했습니다. AI는 부서 간 운영을 크게 촉진하고 기업을 위해 더 많은 가치를 창출하며 조직의 전반적인 발전.

그래서 코드 생성은 최신 AI 물결의 혜택을 받는 유일한 영역이 아닙니다. 클라우드 데이터 웨어하우스 회사인 Snowflake의 최고 정보 책임자(CIO)이자 최고 데이터 책임자인 Sunny Bedi는 직원 생산성이 가장 큰 영향을 받았다고 말했습니다. 그는 앞으로 모든 직원이 AI 비서와 긴밀히 협력하여 신입사원의 온보딩 경험을 개인화하고 내부 커뮤니케이션을 조정하며 혁신적인 아이디어의 프로토타입을 제작할 것이라고 예측합니다. 그는 대규모 언어 모델의 기본 기능을 활용함으로써 기업이 검색, 문서 추출, 콘텐츠 생성 및 검토, 챗봇과 같은 작업을 위해 제3자에 대한 의존도를 줄일 수도 있다고 덧붙였습니다.

AI가 기술 부채를 완화하는 방법

제너레이티브 AI 모델은 IT 부채의 주요 원인이 아니라 적용 방법입니다. Sample은 AI 모델을 기존 기술 생태계에 적용할 때 "조직에서 AI를 구현하기로 선택한 측면과 구현 방식을 신중하게 고려해야 합니다."라고 말했습니다. , 레거시 연결 수정과 생성 AI를 동시에 스택에 통합하는 경우 기술 부채가 누적될 위험이 높아집니다.

반면에, 제너레이티브 AI를 올바르게 사용하면 레거시 애플리케이션을 다시 작성하고 백로그 작업을 자동화하여 오래된 기술 부채를 제거하는 데 도움이 될 수 있습니다. 즉, CIO는 올바른 클라우드 환경과 전략 없이 뛰어들어서는 안 됩니다. 엔터프라이즈 관리 소프트웨어 제품군인 온베이스(OnBase)를 개발한 하이랜드(Hyland)의 최고정보책임자(CIO) 스티브 와트는 "조직이 생성 AI를 너무 일찍 구현하면 기존 기술 부채가 계속 늘어나거나 어떤 경우에는 장기적인 기술 부채가 될 수 있다"고 말했다. . 따라서 그는 새로운 AI 기반 이니셔티브가 무너지지 않도록 기존 기술 부채를 해결하기 위한 계획을 개발할 것을 권장합니다.

처음에는 기업이 AI 및 대규모 언어 모델을 실험할 때 IT 부채가 늘어날 수 있습니다. 그러나 Busse는 장기적으로 대규모 언어 모델이 부채를 줄일 것이라고 믿습니다. 그러나 이는 변화하는 요구에 동적으로 대응하는 AI의 능력에 달려 있습니다. “비즈니스 프로세스에 AI를 내장하면 프로세스 변화에 더 빠르게 적응할 수 있어 기술 부채가 줄어들 것입니다.”

AI 코드 품질을 평가하세요

최근 AI 품질에 대한 우려가 제기되고 있습니다. 생성된 코드 의심에 대한 응답으로 보고서에서는 AI 보조자가 등장한 이후 코드 변경 및 코드 재사용이 증가했다고 강조했습니다. Red Monk의 O'Grady는 AI가 생성한 코드의 품질은 배포된 모델, 현재 사용 사례, 개발자의 기술을 포함한 여러 요소에 따라 달라진다고 말했습니다. "인간 개발자와 마찬가지로 AI 시스템도 결함이 있는 코드를 출력하며 앞으로도 계속 그럴 것입니다."

예를 들어 Sonar의 Malagodi는 22개 모델을 평가한 최근 Microsoft Research 연구를 인용하여 이러한 모델이 일반적으로 성능이 좋지 않은 것으로 나타났습니다. 벤치마크는 훈련 환경의 근본적인 맹점을 제시합니다. 보고서는 AI 보조자가 기능 코드를 생성할 수 있지만 이것이 항상 기능적 정확성을 넘어서서 코딩 규칙을 준수하는 것은 물론 효율성, 보안, 유지 관리성과 같은 다른 맥락을 고려하는 것은 아니라고 설명합니다.

Malagodi는 이 분야에 아직 개선의 여지가 많다고 믿습니다. 그는 “생성 AI는 더 많은 코드 라인을 더 빠르게 생성할 수 있지만 품질이 좋지 않으면 프로세스에 매우 많은 시간이 소요될 수 있다”고 말했다. 깨끗한. “이는 AI가 생성한 코드가 일관되고 의도적이며 적응 가능하고 책임감이 있어 안전하고 유지 관리가 가능하며 신뢰할 수 있고 접근 가능한 소프트웨어가 된다는 것을 의미합니다.

이러한 모델의 근본에 있는 품질 문제는 코드 출력에 부정적인 영향을 미칠 수 있습니다. 클라우드 기술 인텔리전스 플랫폼 Snow Software의 CIO인 Alastair Pooley는 생성 AI가 뛰어난 기술적 결과를 생성할 수 있는 잠재력을 가지고 있지만 데이터 품질, 모델 아키텍처 및 교육 절차가 좋지 않은 결과를 초래할 수 있다고 말했습니다. “훈련이 부족한 모델이나 예상치 못한 극단적인 경우로 인해 출력 품질이 저하되고 운영 위험이 발생하며 시스템 신뢰성이 저하될 수 있습니다.”라고 그는 말했습니다.

Palo Alto Networks의 Rajavel은 AI가 다른 도구와 마찬가지로 어떤 도구를 사용하고 어떻게 사용하는지에 따라 결과가 달라진다고 덧붙였습니다. 적절한 AI 거버넌스가 없으면 선택한 모델로 인해 제품 아키텍처 및 예상 결과와 일치하지 않는 품질이 낮은 아티팩트가 발생할 수 있습니다. 그녀는 또 다른 중요한 요소는 하나의 모델이 모든 것에 적합하지 않기 때문에 현재 작업에 어떤 AI를 선택하는지라고 덧붙였습니다.

잠재적 AI 위험 목록

IT 부채 및 코드 품질 외에도 생성 AI를 배포할 때 고려해야 할 잠재적으로 부정적인 결과가 다양합니다. Pooley는 "이러한 문제에는 데이터 개인 정보 보호 및 보안, 알고리즘 편견, 직업 대체, AI 생성 콘텐츠의 윤리적 딜레마 등이 포함될 수 있습니다."라고 말했습니다.

한 가지 측면은 악의적인 개인이 생성 AI를 사용하여 공격을 시작한다는 것입니다. Rajavel은 생성 AI가 설득력 있는 피싱 캠페인을 작성하고 허위 정보를 퍼뜨릴 수 있기 때문에 사이버 범죄자들이 이 기술을 활용하여 대규모 공격을 수행하기 시작했다고 지적했습니다. 공격자는 생성 AI 도구와 모델 자체를 표적으로 삼아 데이터 유출이나 콘텐츠 출력 손상을 일으킬 수도 있습니다.

O'Grady는 "생성 시스템은 공격을 가속화하고 도울 수 있는 잠재력을 가지고 있지만 많은 기업의 가장 큰 우려는 폐쇄된 공급업체 시스템에서 개인 데이터가 유출되는 것이라고 할 수 있습니다."

이러한 기술은 공격을 생성할 수 있습니다. 매우 놀라운 결과입니다. 설득력 있는 결과이지만 결과에는 오류가 가득할 수도 있습니다. 모델의 오류 외에도 고려해야 할 비용 영향이 있으며, 잘못된 모델을 사용하거나 소비 비용을 이해하지 못하여 자신도 모르게 또는 불필요하게 AI에 많은 돈을 지출하기 쉽습니다.

Perez는 다음과 같이 말했습니다. "AI는 위험이 없는 것은 아닙니다. 가장 기본적인 사용자부터 가장 숙련된 엔지니어까지 누구나 그 결과를 신뢰할 수 있도록 하기 위해 인간이 모든 영역을 제어하면서 처음부터 구축되어야 합니다." 페레즈는 또 다른 해결되지 않은 문제는 AI 개발 및 유지 관리 소유권인데, 이는 많은 IT 직원이 AI 모델과 알고리즘을 구현하고 훈련할 시간이 부족하기 때문에 IT 팀에 혁신 요구를 따라잡아야 한다는 압력을 가한다고 말했습니다.

무시할 수 없는 문제: 고용

그리고 주류 언론의 주목을 끄는 결과가 있습니다: AI가 인간 노동을 대체합니다. 그러나 생성적 AI가 IT 산업의 고용에 어떤 영향을 미칠지는 아직 결정되지 않았습니다. 오그레이디는 “현재 고용에 미칠 영향을 예측하기 어렵기 때문에 잠재적인 우려가 있다”고 말했다.

이 논쟁에는 의심할 여지 없이 다양한 관점이 있지만 Walgreen의 샘플은 AI가 인류에 실존적 위협을 가한다고 믿지 않습니다. 대신 그는 직원의 삶을 개선할 수 있는 생성 AI의 잠재력에 대해 낙관하고 있습니다. 그는 “AI가 많은 직업에 영향을 미칠 것이라는 부정적인 견해가 있지만 긍정적인 견해는 AI가 인간을 더 좋게 만들 것이라는 점”이라며 “궁극적으로 AI가 자동화될 수 있는 반복적인 작업을 수행할 필요성을 없애줄 것이라고 생각한다. 더 높은 수준의 업무에 집중할 수 있어요.”

AI에 대한 걱정을 덜어주는 방법

AI에 대한 걱정을 덜어주는 방법은 여러 가지가 있습니다. Perez의 경우 생성 AI의 품질은 이러한 모델이 수집하는 데이터에 따라 달라집니다. "고품질의 신뢰할 수 있는 AI를 원한다면 고품질의 신뢰할 수 있는 데이터가 필요합니다."라고 그는 말했습니다. 그러나 문제는 데이터가 종종 오류로 가득 차 있고 다양한 소스와 다양한 형식의 데이터를 통합하는 도구가 필요하다는 것입니다. . 그는 또한 단순히 "게임에 참여"하는 것이 아니라 인간을 운전석에 더 많이 두는 것을 강조했습니다. “저는 AI를 신뢰할 수 있는 조언자로 생각하지만 유일한 의사 결정자는 아닙니다.”

소프트웨어 품질을 유지하려면 AI가 생성한 코드가 정확한지 확인하기 위한 엄격한 테스트도 필요합니다. 이를 위해 Malagodi는 기업이 적절한 품질 검사를 보장하기 위해 정적 분석 및 단위 테스트를 포함한 "코드 정리" 접근 방식을 채택할 것을 권장합니다. "개발자가 깔끔한 코드 모범 사례에 집중하면 코드와 소프트웨어가 안전하고 유지 관리가 가능하며 신뢰할 수 있고 액세스 가능하다는 확신을 가질 수 있습니다." Bedi는 모든 새로운 기술과 마찬가지로 초기 열정을 적절한 수준으로 조절해야 한다고 덧붙였습니다. 주의. 따라서 IT 리더는 아키텍처 드리프트를 감지하고 애플리케이션 요구 사항에 대한 준비를 지원할 수 있는 관찰 도구와 같은 AI 도우미를 효과적으로 사용하기 위한 단계를 고려해야 합니다.

AI 채택에 대한 거버넌스

Pooley는 "제너레이티브 AI는 기술 발전의 새로운 시대를 대표하며, 제대로 관리된다면 엄청난 이점을 가져올 수 있는 잠재력이 있습니다."라고 말했습니다. 그러나 그는 CIO가 혁신 사이에 균형을 유지해야 한다고 제안했습니다. 내재된 위험, 특히 이러한 도구의 통제되지 않은 사용으로 인해 발생하는 데이터 침해를 제한하기 위한 통제 및 지침이 마련되어야 합니다. "많은 기술 기회와 마찬가지로 CIO는 문제가 발생할 경우 책임을 져야 합니다."

Sample의 경우 규제 기관은 AI가 사회에 미치는 위험을 완전히 해결할 책임이 있습니다. 그는 새로운 AI 안전 기준을 마련하기 위해 최근 바이든 행정부가 내린 행정명령을 예로 들었다. 또 다른 측면은 빠르게 변화하는 기술을 관리하기 위한 기업 지침 개발에 앞장서고 있다는 것입니다. 예를 들어 Walgreens는 공정성, 투명성, 보안 및 설명 가능성과 같은 고려 사항을 포함하는 AI 관련 거버넌스 프레임워크를 개발하기 시작했습니다.

Workato의 Busse는 또한 보안과 거버넌스를 우선시하는 내부 지침 개발을 옹호합니다. 그는 직원 교육, 내부 플레이북 개발, AI 실험 승인 프로세스 구현을 권장했습니다. Pooley는 많은 기업이 위험을 해결하고 생성 AI의 이점을 활용하는 데 도움을 주기 위해 AI 실무 그룹을 설립했다고 언급했습니다. 보안에 민감한 일부 조직은 더욱 엄격한 조치를 취하고 있습니다. O'Grady는 침투를 방지하기 위해 많은 구매자가 여전히 온프레미스 시스템을 우선시할 것이라고 덧붙였습니다.

Perez는 "CIO는 팀이 조직에 이익이 되는 방식으로 생성 AI를 식별, 구축, 구현 및 사용할 수 있는 적절한 교육과 기술을 갖도록 하는 데 앞장서야 합니다."라고 말했습니다. 그는 Salesforce의 제품 및 엔지니어링 팀을 다음과 같이 설명했습니다. 이 강력한 기술 사용과 관련된 위험을 최소화하기 위해 AI 입력과 출력 사이에 신뢰 계층을 구축합니다.

즉, AI의 의도적인 채택과 AI의 거버넌스도 똑같이 중요합니다. Hyland의 Watt는 "조직에서는 AI가 수행하는 작업과 비즈니스에 가장 큰 이점이 무엇인지에 대한 명확한 아이디어 없이 AI 구현을 서두르고 있습니다."라고 Hyland의 Watt는 말했습니다. 따라서 기술이 어떤 문제를 해결할 수 있는지 이해하는 것이 중요합니다. 문제를 해결하고, 어떤 문제를 해결할 수 없는지는 문제에 대한 솔루션을 극대화하는 방법을 아는 데 중요합니다.

비즈니스에 긍정적인 영향

제너레이티브 AI는 적절한 검토를 통해 수많은 영역에서 민첩성을 높일 것이며 CIO는 제너레이티브 AI가 사용자 경험과 같은 실질적인 비즈니스 성과를 달성하는 데 사용될 것으로 기대합니다. Perez는 "제너레이티브 AI를 통해 기업은 한때 불가능하다고 느꼈던 고객 경험을 만들 수 있습니다. AI는 더 이상 틈새 팀을 위한 도구가 아닙니다. 모든 사람이 이를 사용하여 생산성과 효율성을 높일 수 있는 기회를 갖게 될 것입니다." 경험의 이점은 외부 고객에게만 국한되지 않습니다. Rajavel은 내부 직원 경험에도 도움이 될 것이라고 덧붙였습니다. 그녀는 내부 데이터에 대해 훈련된 AI 비서가 기업 내부 페이지에서 이미 제공되는 답변을 가져오는 것만으로도 IT 요청을 절반으로 줄일 수 있을 것으로 예측합니다.

Sample은 Walgreens가 생성적 AI 기반 음성 비서, 챗봇 및 문자 메시지를 통해 고객 경험도 개선하고 있다고 말했습니다. 통화량을 줄이고 고객 만족도를 향상함으로써 팀원은 매장 내 고객에게 더 집중할 수 있습니다. 또한 회사는 공급망, 매장 공간, 재고 관리 등 매장 내 운영을 최적화하기 위해 AI를 배포하여 리더들이 비즈니스 수익 및 수익에 대한 결정을 내릴 수 있도록 돕습니다. 그러나 경계가 중요합니다.

O'Grady는 다음과 같이 말했습니다. "이전의 모든 기술 물결과 마찬가지로 AI는 의심할 여지 없이 상당한 부정적인 영향과 부수적 피해를 가져올 것입니다. 전반적으로 AI는 개발을 가속화하고 인간 능력을 향상시키는 동시에 문제의 범위를 크게 확대합니다.”

.

위 내용은 CIO 공유: 기업에서 생성 AI를 활용하는 방법의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!