Chen Xiaojian: Amazon Cloud Technology의 생성 AI 보편화를 구축하기 위한 5가지 핵심 요소

Amazon 클라우드 기술 중화권 제품 부서 총괄 관리자 Chen Xiaojian

현재 '100개 모델 대결'에서는 대형 모델로 대표되는 생성형 인공지능이 전례 없는 속도로 인공지능 발전의 선두주자로 급부상하고 있다. 하지만 생성 AI는 단순히 큰 모델을 의미하는 것이 아닙니다. 10월 말, Amazon Cloud Technology는 생성적 인공 지능 빌더 컨퍼런스를 개최했습니다. Amazon Cloud Technology 중화권 제품 부서 총괄 책임자인 Chen Xiaojian은 "새 시대의 생성적 인공 지능 강화 및 데이터 및 인공 지능 지원"이라는 주제로 연설했습니다. 지능은 모두에게 이익이 된다.”는 연설에서 생성 인공지능 응용 전체는 마치 바다 위에 떠 있는 빙산과 같다고 언급했다. 대부분의 사람들은 바다에 노출된 모서리만 볼 수 있다. 이 모서리가 기본 모델이고 가속도 칩과 빙산의 밑바닥에는 데이터베이스, 데이터 분석 및 데이터 보안 서비스와 기본 모델 이상의 기타 지원 서비스도 필요합니다. 그렇다면 생성적 인공지능이 혁신적인 기업에 어떤 종류의 운영 및 서비스 개선을 가져올 수 있을까요? Amazon Cloud 기술은 생성 인공 지능 분야에서 어떤 기여를 할 수 있습니까? 우리는 업계의 업스트림과 다운스트림을 하나로 모으는 이 생성적 인공 지능 빌더 컨퍼런스에서 이미 답을 얻었습니다

이 컨퍼런스는 세 개의 주요 하위 장소로 구성되어 있으며, 각각 응용 기반, 데이터 전략, AI 네이티브 등 생성 AI 분야의 뜨거운 주제를 논의합니다. 동시에, 더 많은 개발자들이 생성 AI 시대 개발의 매력을 경험할 수 있도록 돕기 위해 컨퍼런스에서는 개발자 포럼과 파워 트레이닝 캠프도 마련했습니다. 이러한 활동은 개발자에게 실질적인 지침과 지원을 제공하기 위해 고안되었으며, 개발자가 생성 AI 기술을 더 잘 이해하고 적용하는 데 도움이 될 수 있습니다. 또한, 이번 컨퍼런스에서는 Siemens Group, Kingsoft Office Software, Covestro China 등 Amazon Cloud Technology의 생성적 AI 혁신의 대표적인 고객사들도 혁신 사례를 공유하여 참가자들에게 귀중한 경험과 영감을 제공했습니다.

컨퍼런스 주최자인 Amazon Cloud Technology는 현재 애플리케이션 시나리오, 도구 및 인프라, 데이터 기반, AI 기본 애플리케이션 구축, 생성 AI 서비스 등 5가지 주요 영역에 중점을 두고 기업과 개발자가 생성 AI 잠재력을 완전히 탐색할 수 있도록 지원합니다. Amazon CEO Andy Jassy는 "우리의 목표는 누구나 대기업과 동일한 고급 인프라와 비용을 확보하여 자체 혁신을 실현할 수 있도록 하는 것입니다."라고 말했습니다. 현재 Amazon Cloud Technology는 완전한 엔드투엔드 생성 AI를 제공합니다. 기술 스택에는 가속 칩 및 스토리지 최적화와 같은 하위 가속 계층, 중간 계층 모델 구축 도구 및 서비스, 생성 AI 관련 애플리케이션의 최상위 계층이 포함됩니다. 고객의 다양한 요구를 충족하기 위해 모든 수준에서 혁신이 계속됩니다. Amazon Cloud Technology는 관련 제품 및 서비스를 통해 생성 AI 기술을 대중화하고 더 많은 기업과 개인 개발자가 혁신을 가속화할 수 있도록 지원하기를 희망합니다

제너레이티브 AI의 보편화를 실현하는 방법에 대해 Chen Xiaojian은 Amazon 클라우드 기술이 중점을 두는 5가지 핵심 요소에 대해 자세히 설명했습니다.

먼저 적절한 적용 시나리오를 선택하고 일반적인 시나리오부터 시작하여 비즈니스 모델을 혁신하세요. Chen Xiaojian은 고객 경험 향상, 직원 생산성 및 창의성 향상, 비즈니스 프로세스 최적화가 애플리케이션 시나리오가 기업에 제공하는 비즈니스 가치의 세 가지 주요 측면이라고 믿습니다. 그는 연설에서 2023년 6월 맥킨지 컨설팅이 발표한 생성적 AI 생산성 프론티어 기술 보고서(Generative AI Productivity Frontier Technology Report)를 인용했다. 보고서는 생성적 AI 기술이 가져오는 경제적 이익의 약 3/4가 마케팅과 영업, 제품, R&D에서 나온다고 지적했다. 네 가지 주요 기능은 바로 생성 AI 애플리케이션 방향의 주요 힘인 소프트웨어 엔지니어링 및 고객 운영입니다. 이를 위해 Salesforce는 Amazon Bedrock과 Amazon Titan을 생성 AI 제품에 통합하여 고객이 Salesforce Data Cloud의 데이터를 쉽고 안전하게 사용하여 생성 AI 애플리케이션을 구축할 수 있도록 했습니다.

사례 연구로 하이얼 혁신 디자인 센터는 생성 AI를 사용하여 그래픽 도면, 그래프 생성 도면, 정량 도면, 전체 장면 도면의 네 가지 측면에서 효율성을 향상시켰으며, 온라인에 접속한 후 자동화된 설계 시스템을 적용하여 작업 시간을 단축했습니다. 관련 사업의 순환주기를 20% 단축합니다. 동시에 국내 게임 분야 선두 기업인 무통테크놀러지(Mutong Technology)도 게임 개발과 관련된 비즈니스 프로세스를 최적화하기 위해 Amazon Bedrock을 활용하고 있습니다.

다음과 같이 다시 작성되었습니다. 둘째, 특별히 제작된 생성 AI 도구와 인프라를 활용하여 비용 효율적인 생성 AI 애플리케이션을 신속하게 구축할 수 있습니다. 이 분야에서는 Amazon Cloud Technology가 제공하는 Amazon Bedrock 서비스와 Amazon SageMaker Jumpstart를 결합하여 기본 모델에 대한 다양한 요구 사항을 가진 고객이 자신에게 맞는 기본 모델을 쉽고 안전하게 선택할 수 있도록 돕습니다. 현재 Amazon Bedrock은 Meta, Anthropic, Cohere, AI21 Labs, Stability AI와 같은 주요 타사 제공업체는 물론 Amazon Cloud Technology에서 개발한 Amazon Titan 모델 제품군을 포함하여 선택할 수 있는 다양한 기본 모델을 제공합니다. 코딩이 필요 없는 관리형 에이전트인 Amazon Bedrock Agent를 사용하면 자동으로 작업을 분류 및 조정하고, API를 통해 관련 데이터 소스에 연결하고, 백엔드에서 Amazon Lambda에 연결하여 작업을 실행할 수 있습니다. 또한 Amazon SageMaker JumpStart는 산업계와 학계의 더 많은 오픈 소스 모델에 액세스할 수 있으며 심층적으로 사용자 정의된 환경과 평가 기능을 제공합니다

Amazon 클라우드 기술은 매우 유연하고 비용 효율적인 다양한 고성능, 저비용 교육 솔루션을 제공합니다. 예를 들어 Amazon Cloud Technology의 Amazon EC2 P5 인스턴스에는 최신 Intex GPU 칩 H100 Tensor Core가 탑재되어 있어 이전 세대보다 6배 더 빠르고 훈련 비용을 40% 절감합니다. 또한 Amazon Cloud Technology의 Amazon EC2 Inf2 인스턴스는 Amazon Cloud Technology가 자체 개발한 기계 학습 추론 칩인 Amazon Inferentia2를 사용하는데, 이는 다른 유사한 EC2 인스턴스보다 비용 효율성이 40% 더 높습니다. 마찬가지로 Amazon Cloud Technology의 Amazon EC2 Trn1 인스턴스는 Amazon Cloud Technology가 자체 개발한 기계 학습 훈련 칩인 Amazon Trainium을 사용합니다. 유사한 인스턴스에 비해 훈련 비용이 50% 절약됩니다

다시 작성한 내용은 다음과 같습니다. 첫째, 데이터의 견고한 기반을 마련하고, 민영화된 데이터를 활용해 차별화된 경쟁우위를 구축합니다. Amazon Cloud Technology는 데이터의 저장, 쿼리, 분석부터 비즈니스 인텔리전스, 기계 학습, 생성 인공 지능 활용까지 포괄적인 데이터 서비스를 제공할 뿐만 아니라 데이터를 쉽게 통합 및 관리하고 효율적인 솔루션을 통해 애플리케이션 및 데이터 개방을 관리합니다. 보안 정책을 제공합니다. 예를 들어, 생성 인공 지능 분야의 사용자 개인 정보, 세션 정보 관리, 프라이빗 도메인 지식 기반과 같은 애플리케이션 시나리오를 위해 Amazon Cloud Technology는 Amazon OpenSearch Service, Amazon Aurora PostgreSQL 및 Amazon RDS에 벡터 데이터베이스 기능을 추가했습니다. PostgreSQL. 데이터 통합 ​​측면에서 Amazon Cloud Technology는 "제로 ETL"이라는 개념을 제안하고 Redshift 통합을 위한 Aurora Zero ETL을 출시했습니다. 이를 통해 실시간으로 생성된 비즈니스 데이터를 Amazon Aurora에서 데이터 웨어하우스 Amazon Redshift로 동기화할 수 있습니다. 실시간에 가까운 빅 데이터 집계 분석을 달성하기 위한 ETL 도구입니다. 데이터 거버넌스 측면에서 Amazon Cloud Technology는 데이터에 액세스하고 분석 도구를 사용할 때 내부 구성원의 과중한 작업량을 줄이기 위해 새로운 데이터 거버넌스 서비스인 Amazon DataZone을 제공합니다

회의에서 Siemens Dayu 팀은 Amazon 클라우드 기술의 지원을 받아 인공 지능 생성을 통해 상호 작용하는 지능형 채팅 로봇 "Xiaoyu"를 공유했습니다. 가장 매력적인 부분은 "RAG 아키텍처 + 벡터 데이터베이스" 설계를 채택한 것입니다. 핵심 지식 베이스가 벡터 형식으로 구축되어 대규모 벡터 데이터를 저장할 수 있습니다. 또한 RAG 아키텍처는 대형 모델의 유용성을 크게 확장하여 조정 없이 동일한 모델을 사용하여 새 부품을 처리할 수 있습니다. 또한 Amazon Cloud Technology는 벡터 데이터베이스, 생성 인공 지능 등 일련의 핵심 기술을 제공하기 때문에 전체 솔루션의 지침 완료율이 무려 80%에 달합니다

클라우드 네이티브 서비스를 통해 AI 애플리케이션 구축을 가속화하여 민첩한 비즈니스 혁신을 촉진할 수 있습니다. Chen Xiaojian은 오늘날 생성 인공 지능 시대에 더 많은 고객이 기본 아키텍처를 필요로 한다고 믿고 이를 위해 5가지 세부 사항을 제안했습니다. 첫 번째는 느슨하게 결합된 방식으로 각 기능 모듈 간의 종속성을 처리하는 마이크로서비스와 이벤트 기반 아키텍처를 핵심으로 하는 설계 프레임워크입니다. 둘째, 서버리스 아키텍처를 우선적으로 사용하여 인프라의 운영, 유지 관리 및 배포 부담을 줄여 비즈니스 로직과 혁신에 더 집중할 수 있습니다. 셋째, 데이터 의사결정을 최우선으로 두고, 데이터 역량을 애플리케이션의 핵심 경쟁 우위로 간주하고, 이를 생성적 인공지능 애플리케이션의 설계 개념에 통합합니다. 넷째, 보안 조치에 중점을 두고 영향 제어 방법을 채택하여 잠재적 위험 범위를 줄이면서 보안 규정 준수와 데이터 보호를 중요한 위치에 둡니다. 마지막으로, 바퀴 재발명을 피하기 위해 기술 자체에 초점을 맞추는 것 외에도 DevOps, 서비스형 인프라, 자동화와 같은 최신 애플리케이션 거버넌스 개념에 계속 투자하고 기업 내에서 애플리케이션 자산 및 관행 공유를 촉진해야 합니다. , 효율적이고 민첩한 빌더 문화를 구축하세요

마지막으로, 즉시 사용 가능한 생성 AI 서비스를 사용하여 반복적인 작업을 제거하고 혁신에 집중하세요. 이를 위해 Amazon Cloud Technology는 실시간으로 프로그래밍 코드 제안을 제공하여 개발자 생산성을 근본적으로 향상시킬 수 있는 인공지능 프로그래밍 파트너인 Amazon CodeWhisperer를 제공합니다. 도구를 사용하지 않은 개발자에 비해 CodeWhisperer를 사용한 개발자는 작업을 57% 더 빨리 완료하고 성공률도 27% 더 높았습니다. 또한 Amazon Whisperer는 더 나은 코드 제안을 생성할 수 있는 사용자 지정 기능을 출시했습니다. 이를 통해 고객은 내부 API, 데이터베이스, 모범 사례, 아키텍처 패턴 등을 포괄할 수 있는 비공개 코드 라이브러리를 사용하여 CodeWhisperer의 코드 권장 사항을 안전하게 사용자 지정할 수 있습니다. 동시에 Amazon Cloud Technology는 Amazon Quicksight Q 기능과 Amazon Bedrock에서 제공하는 대규모 언어 모델 기능을 결합하여 Amazon QuickSight

에 생성적 BI 기능을 제공합니다.

현재 Amazon Cloud Technology는 1000개 이상의 중소기업과 스타트업이 즉시 사용 가능한 생성 AI 서비스 및 도구를 통해 생성 AI 혁신을 신속하게 실현하도록 지원했으며 100,000명 이상의 중국 개발자에게 역량을 부여했습니다.

"생성 AI 애플리케이션 개발은 도전으로 가득 찬 체계적인 프로젝트이며 단순히 제품과 서비스를 결합하는 문제가 아닙니다." Chen Xiaojian은 마침내 "Amazon의 자체 리소스 외에도 강력한 파트너를 구축해야 합니다."라고 덧붙였습니다. 생성 AI 애플리케이션 구축에 따른 다양한 기술적 문제를 해결하고 애플리케이션 상용화를 가속화합니다. 클라우드 서비스 제공 외에도 솔루션 설계자, 제품 기술 전문가, 인공지능 연구소, 데이터 연구소, 그리고 신속한 프로토타이핑 팀. "

위 내용은 Chen Xiaojian: Amazon Cloud Technology의 생성 AI 보편화를 구축하기 위한 5가지 핵심 요소의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!