AI推論基盤エンジニア（シニア／LLM／音声モデル）/生成AI・音声AI技術を活用したソリューションの開発・提供企業の求人

【業務概要】
音声AIおよびLLMの推論フレームワークを独立して設計・実装し、スループットとGPUコストを最適化するAI推論基盤エンジニア（シニア）のポジションです。複数の音声モデルおよび大規模言語モデル（LLM）を対象に、学習、評価、データ生成、バッチ推論を効率的に実行するためのAI推論基盤の構築を担当します。

【具体的な業務】
1. 音声モデル向け共通推論フレームワークの設計・実装
- 音声認識（ASR）・音声合成（TTS）・音声対話（Speech-to-Speech）・音声生成など、複数種類の音声モデルに対応する共通推論アーキテクチャの設計
- 共通モジュールとモデル固有モジュールの責務分離、新規モデルを追加するためのAdapter／Pluginインターフェースの設計
- モデル開発チームが利用する推論API・SDK・実行ツールの開発

2. 大規模音声データの高効率バッチ推論・Pipeline最適化
- 可変長音声に対するDynamic Batching・Bucketing、複数GPU／ノードによるデータ並列推論の設計
- 前処理・推論・後処理・ストレージI/Oを重ね合わせる非同期実行Pipelineの構築
- End-to-Endの処理時間とコストを基準としたボトルネックの計測・改善

3. LLM推論の適応・最適化
- vLLM・SGLangなど成熟した推論エンジンを活用したLLM推論環境の構築
- Tensor／Pipeline Parallel、Continuous Batching、KV Cache／Prefix Cacheなどの調整
- Prefill／Decodeの特性やタスク優先度を考慮したスケジューリング設計

4. GPUリソースの利用設計（推論ワークロード視点）
- バッチ推論・評価を対象としたGPU割り当てとキャパシティ設計
- Kubernetes・Slurm・RayなどによるGPU推論ジョブの実行制御
- モデル・タスク単位でのGPU使用量と推論コストの可視化・改善

【ポジションの魅力】
1. 音声モデルの推論という、最適化の定石が未確立な領域でゼロからアーキテクチャを設計できる環境です。
2. 音声とLLMの両面を対象に、フレームワーク設計からバッチ推論・スケジューリングまで一貫して最適化できます。
3. 推論効率の改善が直接プロダクトの競争力やGPUコスト削減に直結し、事業成長を技術面から支えられます。

【必須スキル】
- PythonおよびPyTorchによる実装力（設計からモジュール実装まで一人で実行できること）
- GPUクラスタ上での推論基盤の実務経験、および性能分析・コスト改善の実績
- 非同期/並行処理、分散データ処理、可変長データのバッチング・並列推論の経験
- 複数の研究・モデル開発チームと技術的な調整を行えるコミュニケーション能力
- 英語を用いた専門的な技術コミュニケーション能力（技術文献の読解、英語での議論）
- 以下のいずれかの専門性（両方保持者は優遇）:
・LLM推論の専門性: vLLM・SGLang等を用いた実務経験、および推論機構（Prefill/Decode、KV Cache等）の深い理解
・音声モデル推論の専門性: ASR・TTS等の実務経験、および音声推論パイプライン（前処理 後処理）の深い理解

【歓迎スキル】
- 音声生成モデル（Diffusion / Flow Matching）や Audio Codec などの推論経験
- ASR・TTS・Speech-to-Speech など複数モデルにまたがる実務経験
- RL（強化学習）Rollout 推論環境の構築・最適化への関心・経験
- 可変長音声に対するDynamic Batching や複数 GPU / ノードによる分散・並列推論の設計経験
- C++ / CUDA / Triton / NCCL への基礎理解と、Profiler を用いたボトルネック特定能力
- GPU コストおよび計算予算の管理・最適化経験
- 社内 AI Framework / 推論ライブラリ / モデル SDK の設計経験
- vLLM / SGLang / PyTorch / Ray などへの OSS Contribution 経験
- 技術ロードマップ・設計標準・コードレビュー方針の策定経験
- 日本語または中国語でのコミュニケーション能力

【求める人物像】
- アーキテクチャ設計だけでなく、自らも手を動かして実装まで担える方
- 性能やコストの課題に対して、ProfilerやBenchmark等のデータに基づいて論理的に判断できる方
- 既存のOSSやフレームワークを活用し、必要な部分を拡張できる実用主義な方
- 他チームが使いやすい基盤を作り、組織全体の生産性を高めることを楽しめる方

生成AI・音声AI技術を活用したソリューションの開発・提供