PhoWhisper-small-ct2

Bản CTranslate2 (int8-ready) của vinai/PhoWhisper-small — ASR tiếng Việt. Mirror từ diepho/PhoWhisper-small-ct2 để phục vụ voice-bench (harness benchmark STT/TTS tiếng Việt).

Model gốc: VinAI Research, license BSD-3-Clause. Mirror này giữ nguyên trọng số, không fine-tune thêm.

Dùng với faster-whisper

from faster_whisper import WhisperModel

model = WhisperModel("vudang449/PhoWhisper-small-ct2", device="cpu", compute_type="int8")
segments, info = model.transcribe(
    "audio.wav", language="vi", beam_size=5,
    vad_filter=True,
    vad_parameters={"min_silence_duration_ms": 300, "speech_pad_ms": 400},
    condition_on_previous_text=False,
)
print(" ".join(s.text for s in segments))

Số đo (voice-bench, Mac Mini M4 24GB, CPU int8, eval VIVOS-test 50 clips + long-form 3:16)

Chế độ	WER	CER	Latency
Per-utterance (clip ngắn)	6.24%	3.17%	p50 1.51s / p90 1.65s
Long-form 195.6s (1 request)	9.17%	—	RTF 0.143 (28.1s)

Decode params khuyến nghị như snippet trên (beam 5 + VAD 300/400ms + condition_on_previous_text=False) — tuned cho tiếng Việt trên CPU; đừng hạ beam xuống 1 (hallucinate insertions trên clip ngắn).

Cần accuracy cao hơn (chấp nhận chậm ~5×): vudang449/PhoWhisper-large-ct2 — WER 5.50%.