프롬프트 토큰
프롬프트 모델은 단어나 문자를 텍스트 단위로 사용하지 않고 대신 그 사이에 있는 토큰(token)을 사용합니다.
- 토큰은 단일 문자, 단어의 일부 또는 전체 단어일 수 있습니다.
- 많은 일반적인 단어가 단일 토큰으로 표시됩니다.
- 덜 일반적인 단어는 여러 토큰으로 표시됩니다.
- 이미지 또는 문서가 프롬프트 지침에 포함되면 변환 규칙에 따라 토큰으로 변환됩니다.
프롬프트에서 사용하는 토큰
프롬프트 명령을 만들고 실행하면 다음과 같은 상황이 발생합니다.
- 프롬프트 명령은 입력 토큰이라는 토큰 시퀀스로 분해됩니다.
- 모델은 출력 토큰이라는 일련의 토큰으로 답변을 생성합니다.
입력 토큰은 다음에서 오는 토큰의 합계입니다.
- Microsoft의 시스템 메타 프롬프트입니다. 이 시스템 프롬프트는 표시되지 않으며 프롬프트 응답의 안전을 위해 필수적입니다. 수백 개의 토큰을 나타냅니다.
- 프롬프트 명령입니다.
- 있는 경우 입력 값입니다.
- 있는 경우 검색된 참조 자료입니다.
출력 토큰은 모델 응답에서 오는 토큰입니다.
토큰이 라이선스에 미치는 영향
입력 토큰, 출력 토큰 및 모델 버전을 조합하여 프롬프트 실행 비용을 계산할 수 있습니다. 자세한 내용은 다운로드 가능한 PDF 파일인 Microsoft Power Platform 라이선싱 가이드의 AI Builder 요율표 섹션에서 확인하세요.
프롬프트가 포함된 솔루션을 빌드할 때 프롬프트의 평균 비용을 평가하는 것이 중요할 수 있습니다. 이 목표를 달성하기 위한 두 가지 가능성은 다음 섹션에서 설명합니다.
프롬프트 빌더의 크레딧 계산
Power Automate 또는 Power Apps 포털 내의 AI Hub에서 프롬프트를 테스트할 때 프롬프트에서 소비한 크레딧을 표시할 수 있습니다. 테스트는 무료이므로 예상 값입니다.
Power Automate 흐름의 토큰 수
흐름에서 프롬프트 작업을 호출할 때 수식을 사용하여 연결된 입력 및 토큰을 가져올 수 있습니다.
입력 토큰
outputs('Create_text_with_GPT_using_a_prompt')?['body/responsev2/predictionOutput/promptTokens']
출력 토큰
outputs('Create_text_with_GPT_using_a_prompt')?['body/responsev2/predictionOutput/completionTokens']
이미지 또는 문서를 토큰으로 변환하는 방법
이미지를 프롬프트에 전달하면 토큰으로 변환됩니다.
PDF 문서를 프롬프트에 전달하면 먼저 페이지당 하나의 이미지로 변환된 다음 토큰으로 변환됩니다.
토큰에서 이미지로의 변환에는 Azure OpenAI 로직이 완전히 적용됩니다.
Azure OpenAI에 이미지를 전달할 때 자동 설정을 사용합니다. 즉, 이미지의 토큰 비용은 초기 해상도에 따라 달라집니다.
저해상도 이미지
해상도가 512 x 512 픽셀보다 낮은 이미지는 크기에 관계없이 이미지당 85개 토큰의 고정 변환율을 갖습니다.
고해상도 이미지
해상도가 512 x 512 픽셀보다 높은 이미지의 경우 토큰 변환은 두 단계로 이루어집니다. 단계는 다음 표에 설명되어 있습니다.
| 단계 | Description | 변환 프로세스 |
|---|---|---|
| 6 | 이미지 크기 조정 | 이미지 크기가 2048 x 2048 픽셀 정사각형에 맞게 조정됩니다. 가장 짧은 면이 768픽셀보다 크면 가장 짧은 면의 길이가 768픽셀이 되도록 이미지 크기가 더 조정됩니다. 가로 세로 비율은 크기를 조정하는 동안 유지됩니다. |
| 2 | 토큰 변환 | 크기가 조정된 이미지는 512 x 512 픽셀 타일로 나뉩니다. 부분 타일은 전체 타일로 반올림됩니다. 타일 수에 따라 총 토큰 비용이 결정됩니다: 각 512 x 512 픽셀 타일에는 170개의 토큰이 필요합니다. 추가 85개의 기본 토큰이 합계에 추가됩니다. |