콘솔 대시보드 페이지에서는 팀 내의 모든 에이전트의 호출수 및 사용한 토큰수를 확인할 수 있습니다.
대시보드는 실시간으로 집계되고 일간, 주간, 월간으로 구분지어 확인할 수 있습니다. 만약 상세 집계를 확인하고싶다면 엑셀 파일로 다운로드받을 수 있습니다.
•
집계기간동안 에이전트를 호출한 기록을 에이전트별로 구분하여 확인할 수 있습니다.
•
집계기간동안 LLM을 사용한 기록을 확인할 수 있습니다.
•
사용한 LLM 모델별로 Input 토큰과 Output 토큰을 구분하여 확인할 수 있습니다.
LLM Token
토큰은 AI 언어 모델이 텍스트를 처리하는 기본 단위입니다. 단어보다 작은 단위로, 영어에서는 보통 4~5글자가 하나의 토큰이 되며, 한글은 더 많은 토큰으로 나뉩니다.
Input token과 Output token
•
Input token: 사용자가 AI에 입력하는 텍스트의 토큰 수
•
Output token: AI가 생성하여 출력하는 응답의 토큰 수
비용과의 관계
대부분의 AI 서비스는 토큰 사용량에 따라 비용을 책정합니다. 일반적으로 인풋 토큰과 아웃풋 토큰의 가격이 다르며, 아웃풋 토큰의 가격이 더 높은 경우가 많습니다. 따라서 효율적인 프롬프트 작성은 비용 절감으로 직결됩니다.