03 / 05
LLM IME
中国語ピンインの略式入力 IME。頭文字だけ打てば、ファインチューニングした小さなモデルが前の文脈から文全体を当てます。
ピンインの頭文字だけ打てば、モデルが文脈から文全体を当てます
やったこと
頭文字だけを打つと(nh → 你好)、ファインチューニングした Qwen3-0.6B が文脈に合わせて文ごとに点数をつけ、beam search で候補を出します。
打ち間違えても、2 つのキーを逆に打っても、ちゃんと読み取れます。よく使う言葉も覚えます。
モデルは Mac の中で動き(MLX)、IME 本体は Swift と InputMethodKit で書いています。