Azure의 AI 워크로드

이 문서에서는 AI 워크로드 디자인의 아키텍처 문제를 해결합니다. 비결정적 기능, 데이터 및 애플리케이션 디자인 및 작업에 중점을 둡니다. 권장 사항은 Azure Well-Architected Framework 원칙을 기반으로 하며 성공적인 Azure 구현의 인사이트를 포함합니다.

이러한 문서는 워크로드 소유자 및 설계자, 개발 리더 및 IT 리더와 같은 기술 이해 관계자를 위한 것입니다. 데이터 과학자와 같은 특수한 AI 및 데이터 역할도 이 지침을 알고 있어야 합니다. 다양한 역할과 팀 간의 협업이 주요 측면이기 때문입니다.

AI 워크로드란?

Well-Architected Framework의 컨텍스트에서 AI 워크로드는 예측, 판별 또는 생성 작업의 요구를 충족합니다. 윤리적 기능에 중점을 두고, 빠르게 진화하는 AI 기술에 적응하고, 관련성과 설명을 유지하는 데 중점을 둡니다. 모든 결정 지점에서 Well-Architected 프레임워크 핵심 요소를 적용하여 시스템이 안정적이고 안전하며 효율적이며 비용 효율적인지 확인합니다.

AI 워크로드는 워크로드의 일부에서 결정적 기능을 고정된 결과가 비현실적인 상황에서 해결하는 비결정적 동작으로 대체하기 때문에 기존 워크로드와 다릅니다. 대신 코드와 데이터를 엔터티 또는모델로 결합하여 기존 시스템에서 제공할 수 없는 고유한 환경을 구현합니다.

디자인 전략을 시작하기 전에 먼저 이러한 핵심 사항을 고려합니다.

광범위한 모델 범주에 익숙해지세요.

• 생성 AI: 기계 학습을 사용하여 새 콘텐츠를 자율적으로 만듭니다. 여기에는 사용자 데이터로 사용자 지정하거나 Azure OpenAI Service와 같은 서비스로 사용할 수 있는 언어 모델이 포함됩니다. 예를 들어 언어 모델 유형인 GPT는 사람의 대화형 언어를 모방하는 것을 전문으로 하며 채팅 및 자연어 환경에 적합합니다.

  사용 사례: 생성 AI는 아티클, 스토리 및 아트를 생성할 수 있습니다. 또한 가상 데이터를 생성하여 데이터 세트의 균형을 맞추고 챗봇을 인간과 더 유사하게 만들 수 있습니다.

• 차별적 AI: 명시적 프로그래밍을 사용하여 규칙 및 알고리즘에 따라 특정 작업을 수행합니다. 이것은 다음과 같이 나뉩니다.

  • 모델 기반: 예측 시스템은 예측을 수행하기 위해 이전 관찰에서 수행된 학습을 기반으로 패턴을 찾지만 새 콘텐츠를 만들거나 자체적으로 조정할 수는 없습니다.
  • 비모델 기반: 자율 에이전트는 미리 정의된 규칙을 따라 비디오 게임 캐릭터와 같은 시스템과 상호 작용합니다.

  사용 사례: 차별 AI는 예측 분석, 권장 사항 시스템 및 사기 감지에 사용됩니다.

이 문서 시리즈에서는 다양한 AI 워크로드를 다루며 필요한 경우 언어 모델과 같은 특정 유형에 중점을 둡니다.

빌드 및 구매 옵션 평가

일반 응답이 허용되는 경우 워크로드에 대해 불투명한 처리를 사용하는 미리 빌드된 모델 또는 AI 서비스 기반 솔루션으로 충분해야 합니다. 하지만 비즈니스와 관련된 데이터가 필요하거나 규정 준수 요구 사항이 있는 경우 사용자 지정 모델을 만듭니다.

사용자 지정 모델, 미리 빌드된 모델 또는 서비스 중에서 선택할 경우 다음 요소를 고려합니다.

• 데이터 제어: 사용자 지정 모델을 사용하면 중요한 데이터를 더 많이 제어할 수 있습니다. 미리 빌드된 모델은 일반 작업에 더 쉽습니다.
• 사용자 지정: 사용자 지정 모델은 고유한 요구 사항에 더 적합합니다. 미리 빌드된 모델에는 유연성이 부족할 수 있습니다.
• 비용 및 유지 관리: 사용자 지정 모델에는 지속적인 유지 관리 및 리소스가 필요합니다. 미리 빌드된 모델은 일반적으로 초기 비용이 낮고 인프라 부담이 줄어듭니다.
• 성능: 미리 빌드된 서비스는 최적화된 인프라 및 확장성을 제공합니다. 대기 시간이 짧거나 확장성이 높은 요구 사항에 적합합니다.
• 전문 지식: 사용자 지정 모델에는 숙련된 팀이 필요합니다. 미리 빌드된 모델은 종종 배포가 더 빨라지고 전문 지식이 제한된 경우 사용하기가 더 쉽습니다.

일반적인 과제는 무엇인가요?

• 컴퓨팅 비용: AI 함수는 높은 컴퓨팅 요구 사항으로 인해 비용이 많이 들 수 있으며 워크로드 디자인에 따라 컴퓨팅 요구 사항이 달라질 수 있습니다. 요구 사항을 이해하고 비용을 관리하는 데 적합한 서비스를 선택합니다.
• 보안 및 규정 준수 요구 사항: 기성품 솔루션은 보안 및 규정 준수 요구 사항을 충족하지 못할 수 있습니다. 불필요한 부담을 피하기 위한 연구 옵션입니다.
• 데이터 볼륨: 다양한 형식으로 대용량 데이터 볼륨을 처리하면 중요한 정보를 보호하고 효율적인 처리를 수행해야 하는 과제가 있습니다. 스토리지, 처리 및 전송 비용을 최적화하는 작업은 지속적인 작업이어야 합니다.
• 모델 감쇠: 모델은 시간이 지남에 따라 저하되어 부정확한 결과를 초래합니다. AI 시스템 테스트는 임의성 때문에 어렵습니다.
• 기술 과제: 새로운 AI 워크로드에는 광범위한 학습이 필요한 특수한 역할 및 새로운 운영 프로세스가 필요할 수 있습니다.
• AI 혁신의 속도: 최신 기술을 도입하여 최첨단을 유지하는 것은 매력적인 선택이 될 수 있습니다. 새 기술을 신중하게 평가하여 사용자 환경을 개선하고 최신 상태로 유지하기 위해 복잡성을 추가하지 않도록 합니다.
• 윤리적 요구 사항: 사용 사례가 AI의 윤리적 대상인지 여부를 명확하게 결정합니다. 책임 있는 시스템을 빌드하려면 계획 및 구현 단계 전반에 걸쳐 윤리적 표준을 유지해야 합니다.

이 지침을 사용하는 방법

✔ 디자인 방법론부터 시작합니다. 이 방법은 기술 및 운영 영역에서의 근거 및 되풀이 테마를 설명하여 줍니다. 이 체계적인 접근 방식은 요구 사항 및 디자인 전략을 정의하는 데 도움이 됩니다. 업무량의 전반적인 목표에 맞추기 위해 불확실한 선택에 직면할 때 이 방법론을 다시 검토하세요. 또한 관련자와 공동 작업하여 기술적 결정을 정당화하고 지속적인 개선을 위한 고객 피드백을 통합하는 프레임워크를 제공합니다.

✔ 디자인 원칙을 계속 진행하여 디자인 방법론이 핵심 Well-Architected Framework 핵심 요소와 어떻게 일치하는지 확인할 있습니다. 성장 진화를 고려합니다. 절충을 포함하여 모든 핵심 요소에 대한 기본 원칙을 총체적으로 평가합니다.

✔ 솔루션에 가장 큰 영향을 주는 디자인 영역에 집중합니다. 각 영역에는 디자인 결정을 안내하는 고려 사항 및 권장 사항이 포함됩니다.

✔ 평가 검토 도구 사용하여 프로덕션 환경에서 최적화된 AI 워크로드의 준비 상태를 평가합니다.

일반적인 아키텍처 패턴 및 디자인 영역

다음 다이어그램에서는 초기 컬렉션에서 최종 사용자 상호 작용까지 시스템을 통해 데이터가 흐르는 방법을 보여 줍니다.

AI 워크로드의 일반적인 아키텍처 패턴을 보여 주는

아키텍처는 AI 기반 솔루션에서 효율적인 데이터 처리, 모델 최적화 및 실시간 애플리케이션 배포를 가능하게 하는 다양한 구성 요소의 통합을 강조합니다. 여기에는 데이터 원본, 데이터 처리, 모델 학습, 모델 배포 및 사용자 인터페이스와 같은 모듈이 포함됩니다.

다음 표에서는 해당 패턴과 관련된 몇 가지 주요 디자인 영역에 대해 설명합니다.

다음 단계