생성적 인공 지능을 구축하려면 거대한 모델에 의존하는 것 이상이 필요합니다.

생성 인공 지능(GenAI)의 급속한 성장으로 인해 기업은 비즈니스 애플리케이션에서 이 기술의 힘을 활용할 수 있는 새롭고 혁신적인 방법을 찾기 위해 안간힘을 쓰고 있습니다. 많은 기업에서는 LLM(대형 언어 모델)이 AI 기반 비즈니스 애플리케이션의 구축 방식을 재구성했다고 믿고 있습니다. 필요한 것은 LLM 모델에 데이터를 공급하는 것뿐입니다. 그러나 상황은 그리 쉽지 않습니다.

연구 및 자문 회사인 Forrester는 GenAI 상용 애플리케이션에는 단순한 범용 LLM 이상이 필요하다는 점을 강조하는 새로운 보고서를 발표했습니다. 아무리 세심하게 조정되고 큐 교육을 받은 LLM이라도 GenAI 기반 애플리케이션을 구축하고 안전하게 실행하는 데 충분하지 않을 수 있습니다. 이러한 단순한 접근 방식에서는 조직이 모든 독점 지식을 업무에 활용하는 것을 허용하지 않습니다. 또한 확장성, 보안 및 비용 문제를 포함한 다른 위험도 있습니다.

Forrester의 보고서는 15개 최대 서비스 제공업체가 어떻게 GenAI를 사용하여 전 세계 2,000개 이상의 기업이 GenAI 기반 비즈니스 애플리케이션을 작성하도록 지원하는지 조사합니다. 보고서의 조사 결과에 따르면 기업은 GenAI 기반 애플리케이션을 안전하고 효율적으로 실행하기 위해 "레이어, 게이트 및 파이프" 아키텍처를 조립해야 합니다.

"레이어, 도어 및 파이프" 아키텍처는 많은 스마트 레이어의 리소스를 활용하여 내부 및 외부 기능을 하나로 묶습니다. 또한 사람, 회사, 모델 자체를 보호하기 위해 입출력 제어 게이트가 필요합니다. 또한 요청을 출력으로 변환하기 위해 인텔리전스 계층을 프롬프트, 포함 및 조율하는 애플리케이션 파이프라인이 필요합니다. 마지막으로 결과를 테스트 및 모니터링하고 그에 따라 조정하려면 테스트 및 학습 루프가 필요합니다.

보고서에서는 "레이어, 게이트 및 파이프" 아키텍처의 요소를 자세히 살펴보면 인텔리전스 레이어에는 일반, 임베디드 및 특수 GenAI 모델을 포함한 광범위한 기능이 포함되어 있다고 나와 있습니다.

조직이 스스로 생성하고 관리해야 하는 지능형 리소스에는 소프트웨어 애플리케이션, AI/ML 모델, 비공개 GenAI 모델, 정형 및 비정형 데이터, 사람들의 신호 및 행동이 포함됩니다. 조직이 공급업체로부터 얻어야 하는 인텔리전스 소스에는 도메인별 GenAI 모델, 공개 GenAI 도구, 번들형 GenAI 모델(예: SaaS 애플리케이션)이 포함되어야 합니다.

입력 게이트를 사용하여 잘못된 요청, 가짜 프롬프트 및 위험한 검색을 차단하세요. 또한 모호한 요청을 답변 가능한 프롬프트로 바꿀 수도 있습니다. 출력 게이트는 규정 준수 요구 사항 및 보안과 같은 측면을 기반으로 문제의 출력을 검증하는 데 도움이 됩니다.

애플리케이션 파이프라인은 API 우선 워크플로를 통해 이 모든 것을 함께 연결하는 데 사용됩니다. 원활한 엔드투엔드 흐름을 위해 인텔리전스 계층의 리소스를 원활하게 결합하는 데 도움이 됩니다. 아키텍처의 마지막 요소는 테스트 피드백 루프를 통한 테스트입니다. 애플리케이션에 대한 신뢰, 확신 및 효율성을 구축하는 데 도움이 됩니다.

Forrester 보고서에 따르면 기업은 이제 GenAI 애플리케이션을 지원하기 위한 완전한 스택을 구축하면서 서로 다른 부품으로 애플리케이션을 조립할 수 있는 기회를 갖게 되었습니다. 적절한 주의를 기울여야만 기업은 GenAI 비즈니스 애플리케이션의 강력한 이점을 최대한 활용할 수 있습니다

위 내용은 생성적 인공 지능을 구축하려면 거대한 모델에 의존하는 것 이상이 필요합니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!