Infimind LLM Gateway TypeScript SDK

这是 sdks/typescript 下的 Infimind LLM Gateway TypeScript SDK。它面向 Node.js 18+ 服务端运行环境，使用 ESM、全局 fetch、zod 与 AsyncIterable，统一调用阿里云、火山引擎、云雾、WaveSpeed 的文本、图像、图像编辑和视频生成能力。

安装

pnpm install

环境变量

export ALIYUN_API_KEY="..."
export VOLCENGINE_API_KEY="..."
export YUNWU_API_KEY="..."
export WAVESPEED_API_KEY="..."

可选 base URL 覆盖：

export ALIYUN_BASE_URL="https://..."
export ALIYUN_TEXT_BASE_URL="https://..."
export ALIYUN_MEDIA_BASE_URL="https://..."

其他 provider 使用 VOLCENGINE_*、YUNWU_*、WAVESPEED_* 的同名规则。

文本生成

import { LLMGatewayClient } from "@infimind-next/llm-gateway";

const client = LLMGatewayClient.fromEnv();
const result = await client.generateText({
  provider: "aliyun",
  model: "qwen-plus",
  prompt: "写一句产品文案",
});

console.log(result.text);

文本流式

for await (const chunk of client.streamText({
  provider: "yunwu",
  model: "gpt-4o-mini",
  prompt: "用三点介绍流式输出",
})) {
  process.stdout.write(chunk.delta);
}

图像生成

PROVIDER=wavespeed MODEL=wavespeed-ai/flux-dev pnpm example:generate-image

图像编辑

图像编辑首版只对 Yunwu 和 WaveSpeed 开放；Aliyun 和 Volcengine 会返回 UnsupportedCapabilityError。

PROVIDER=yunwu MODEL=gpt-image-1 IMAGE="https://example.com/input.png" pnpm example:edit-image

视频生成

PROVIDER=aliyun MODEL=wan2.6-t2v DURATION=5 pnpm example:generate-video

默认测试

pnpm test
pnpm lint
pnpm typecheck
pnpm build

Live Tests

Live tests 是 opt-in 的真实供应商调用，会产生供应商费用，也可能受额度、模型权限、区域和异步任务排队影响。

RUN_LIVE_TESTS=1 pnpm test:live

live tests 会自动加载仓库根目录 .env。缺少对应 API key 的 provider 会自动 skip。

License

本 SDK 使用 AGPL-3.0-only。发布包会包含 LICENSE。