Firefly Graph의 일부 작업에는 미리 계산할 수 없는 비용이 발생합니다.이런 경우 고정된 크레딧 예상치 대신 실행 버튼 옆에 크레딧 변동 표시가 나타납니다.이 섹션에서는 이것이 무엇을 의미하는지, 왜 발생하는지, 그리고 비용이 확정되지 않은 워크플로를 실행할 때 무엇을 예상해야 하는지 설명합니다.
"크레딧 변동"은 어떤 의미입니까?
표준 노드는 예측 가능한 비용을 가집니다.1024×1024 이미지 하나를 생성하는 이미지 생성 노드를 실행하면, Firefly Graph는 그 비용을 알고 실행하기 전에 비용을 보여줍니다.
비용이 확정되지 않은 노드는 다릅니다. Graph는 크레딧이 소모될 것임을 확인할 수 있지만, 정확한 총액은 워크플로 실행이 완료될 때까지 알 수 없습니다.실제 비용은 실제 사용량에서 계산되며 실행이 완료되면 계정에 정산됩니다.
일부 비용을 예측할 수 없는 이유는 무엇인가요?
워크플로의 비용이 확정되지 않는 두 가지 뚜렷한 이유가 있습니다.
- 노드 자체가 가변적인 출력을 생성함: 일부 노드는 설계상 비결정적입니다. 가장 명확한 예는 대형 언어 모델 노드입니다. 비용은 모델이 프롬프트에 대한 응답으로 생성하는 토큰 수에 따라 달라지며, 이는 생성이 완료될 때까지 알 수 없습니다. 짧은 답변과 긴 답변의 비용이 다르며, Graph는 모델이 어떤 답변을 생성할지 예측할 방법이 없습니다.이 범주의 다른 노드에는 가변적인 수의 항목을 반환하는 노드(예: 입력 이미지에서 찾은 개체 수만큼 반환하는 개체 세그먼트 노드)나 출력 구조가 입력 콘텐츠에 따라 달라지는 노드가 포함됩니다.
- 그래프가 노드를 가변적인 횟수만큼 실행합니다: 실행당 고정 비용이 있는 노드라도 목록, 루프 또는 스트림 컨텍스트 내에서 사용될 때는 미확정 상태가 될 수 있습니다.노드가 업스트림 목록의 항목당 한 번씩 실행되고, 해당 목록의 크기 자체가 이전의 비결정적 노드에 의해 생성되는 경우, 총 실행 횟수와 따라서 총 비용은 워크플로가 실행될 때까지 계산할 수 없습니다.이는 팬아웃되는 워크플로에서 일반적입니다. 세분화 노드가 N개의 엔티티를 반환하고, 다운스트림 생성 노드가 엔티티당 한 번씩 실행됩니다.개수와 항목당 비용 모두 사후에만 알 수 있는 총계에 기여합니다.
미확정 비용이 표시되는 방법
워크플로에 비용이 확정되지 않은 노드가 하나 이상 포함되어 있거나 가변적인 호출 횟수를 생성하는 실행 경로가 있으면 Graph는 일반적인 크레딧 예상치를 '크레딧 변동' 레이블로 대체합니다. 워크플로를 시작하기 전에 실행 컨트롤에서 이를 확인할 수 있습니다.
표시기에 마우스를 올리거나 펼치면 그래프에서 변동성에 기여하는 노드를 확인할 수 있으므로 실행하기 전에 워크플로를 검토할 수 있습니다.
워크플로를 실행할 때 무엇을 인정하는 것입니까?
크레딧 변동이 있는 워크플로를 실행하면 다음에 동의하게 됩니다.
잔액을 확인하여 언제든지 생성 크레딧을 검토할 수 있으며, 예상보다 반복을 많이 실행하는 경우를 식별하기 위해 처리가 시작될 때 항상 그래프 실행을 모니터링해야 합니다.
미확정 비용 관리하기
제어력을 유지하는 몇 가지 실용적인 방법:
