메인 콘텐츠로 건너뛰기
W&B Inference API를 사용하여 프로그래밍 방식으로 파운데이션 모델에 액세스하는 방법을 알아보세요.

기본 URL

다음 URL에서 Inference 서비스에 액세스할 수 있습니다:
https://api.inference.wandb.ai/v1
중요이 엔드포인트를 사용하려면 다음이 필요합니다.
  • Inference 크레딧이 있는 W&B 계정
  • 유효한 W&B API 키
둘 이상의 팀에 속해 있거나 사용 내역을 프로젝트에 귀속하려면 팀 ID와 프로젝트 ID도 필요합니다. 코드 예제에서는 <your-team>/<your-project> 형식으로 표시됩니다. 별도로 지정하지 않으면 기본 entity와 프로젝트 이름 inference가 사용됩니다.

사용 가능한 메서드

W&B Inference API는 파운데이션 모델과 상호작용할 수 있는 OpenAI 호환 엔드포인트를 제공합니다:
  • Chat Completions - 다양한 파운데이션 모델을 사용해 채팅 완성을 생성합니다
  • List Models - 사용 가능한 모든 모델와 해당 IDs를 조회합니다

인증

모든 API 요청은 W&B API 키를 사용해 인증해야 합니다. wandb.ai/settings에서 API 키를 생성하세요. 요청 헤더에 API 키를 포함하세요:
  • OpenAI SDK의 경우: api_key 파라미터로 설정
  • API를 직접 호출하는 경우: Authorization: Bearer <your-api-key> 사용

오류 처리

전체 오류 코드 목록과 해결 방법은 API 오류를 참조하세요.

다음 단계

  • API 동작을 직접 확인하려면 사용 예시를 사용해 보세요
  • UI에서 모델을 탐색하세요
  • 계정의 사용 제한을 확인하세요