LLM Inference API

始める前に

• LLM Inference API を利用できる ArcaneFlux アカウント
• Secret を保存できるローカル環境
• Node.js 18 以降、または curl

1. API キーを設定

キーをソースコードやシェル履歴へ直接残さず、環境変数または Secret Store から読み込みます。

export ARCANEFLUX_API_KEY="your_api_key"

2. OpenAI SDK を接続

公式 SDK の baseURL と apiKey だけを ArcaneFlux へ向けます。

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.ARCANEFLUX_API_KEY,
  baseURL: "https://api.arcaneflux.com/v1"
});

3. リクエストを送信

const response = await client.chat.completions.create({
  model: "af-llm",
  messages: [{ role: "user", content: "Hello" }]
});

console.log(response.choices[0].message);

確認する項目

• HTTP ステータスと応答本文
• モデル識別子と usage
• コンソールに記録された request ID と利用量

4. 運用前チェック

• キーを開発、CI、本番で分離する
• timeout と再試行回数に上限を設ける
• request ID と失敗理由をログへ残す
• キーの失効とローテーション手順を決める

Limits & retry

Rate limit と利用可能枠はプランおよび API キーの Quota によって異なります。

Base URL

https://api.arcaneflux.com/v1

Authentication

HTTP Authorization ヘッダーへ Bearer API key を設定します。

Authorization: Bearer $ARCANEFLUX_API_KEY

Endpoints

Chat request

Streaming

stream: true を指定すると SSE chunk を順次返します。利用量が必要な場合は最後の chunk まで読み取ります。

Errors

{
  "error": {
    "code": "invalid_api_key",
    "message": "...",
    "request_id": "req_..."
  }
}