kouta728's picture
Upload folder using huggingface_hub
ae5184d verified
|
Raw History Blame Contribute Delete
3.06 kB

A newer version of the Gradio SDK is available: 6.32.0

Upgrade
metadata
title: PLaMo 3 Translate API
emoji: 🌐
colorFrom: blue
colorTo: green
sdk: gradio
sdk_version: 6.31.0
app_file: app.py
python_version: '3.12'
short_description: PLaMo 3 Translate 2B (PFN) REST & MCP API on ZeroGPU
startup_duration_timeout: 30m

🌐 PLaMo 3 Translate API

PLaMo 3 Translate(PFN 製・53言語対応の翻訳特化 LLM)を ZeroGPU(RTX PRO 6000 Blackwell 48GB)上で動かし、REST API / MCP サーバとして叩けるようにした Space です。

Built with PLaMo.

Endpoints

Endpoint Description
POST /gradio_api/call/translate 1テキスト翻訳
POST /gradio_api/call/translate_batch JSON 配列の一括翻訳
https://<space>.hf.space/gradio/mcp MCP サーバ(tools: translate, translate_batch)

curl

curl -s -X POST "https://kouta728-plamo-3-translate-api.hf.space/gradio_api/call/translate" \
  -H "Content-Type: application/json" \
  -d '{"data": ["会議は来週の月曜日に変更されました。", "en", "", "", "", "", "", 512]}'
# => {"event_id": "<id>"}
curl -s "https://kouta728-plamo-3-translate-api.hf.space/gradio_api/call/translate/<id>"
# => {"data": ["The meeting has been rescheduled for next Monday."]}

/translate の data は順に: text, target_lang, source_lang, context, glossary, form, history, max_new_tokens

  • target_lang: en, ja, zh-hans, ...(53言語コード)
  • source_lang: 空欄で自動判定
  • context: 文脈(例: 周辺テキスト)
  • glossary: [{"source": "管理画面", "target": "dashboard"}] 形式の JSON
  • form: plain / polite(target_lang="ja" のときのみ)
  • history: 過去の {"source": ..., "translation": ...} ペアの JSON(段落またぎで訳語を統一)
  • max_new_tokens: 最大 4096

Python (gradio_client)

from gradio_client import Client

client = Client("https://kouta728-plamo-3-translate-api.hf.space")
print(client.predict("こんにちは、お元気ですか?", "en", api_name="/translate"))
# Hello, how are you?

Model

  • Default: pfnet/plamo-3-translate-2b (BF16, 約5.8GB)
  • Change via env var MODEL_REPO (e.g. pfnet/plamo-3-translate-0.8b / -8b; 31B は ZeroGPU xlarge が必要)

Runtime notes

  • ZeroGPU 上で動くため、長時間アクセスがないと Space はスリープします(復帰時はコールドスタートで数分かかることがあります)。 定期的に ping する keep-alive の Scheduled Job を設定済みです(hf jobs scheduled ps で確認)。
  • 翻訳リクエストは呼び出し側アカウントの ZeroGPU 日次クォータ(無料アカウント 5分/日)を消費します。Space 作成者(このアカウント)は無料です。

License

Model: PLaMo Community License (個人・非商用利用は無料。商用利用は売上10億円以下なら登録フォームで無料)