AI Platform Engineer（LLM推論・評価基盤担当）/AIネイティブCRMの開発・提供企業の求人

【業務概要】
営業活動の効率化を目指すAIプロダクトを開発する企業でのポジションです。プロダクトにおけるLLMコール基盤、推論ルーティング、評価（ベンチマーク）基盤、ジョブオーケストレーションの設計・実装・運用を担当します。既製のマネージドサービスを繋ぐだけでなく、推論の経済性と品質を技術で支えるAIプラットフォームの中核を担います。

【具体的な業務】
・複数サービス・複数モデル（商用 API / セルフホスト OSS モデル）を統合的に扱う推論ゲートウェイの設計・実装
・vLLM 等の推論エンジンを用いたセルフホスト推論環境の構築、チューニング（KV キャッシュ / Prefix Caching、量子化、バッチング等）
・スキル・ツールごとのタスク性能特性の計測と、モデル タスクのルーティングポリシーの設計・実装
・推論クラス（リアルタイム / ニアリアルタイム / 長期間バッチ Job）の定義と割り当て設計
・上位モデルから小型モデルへの置き換え、蒸留を含むコスト最適化ループの実装と、可視化
・本番の実行ログから評価データセット（Golden Set）を継続的に生成するパイプラインの設計
・オフライン評価・オンライン評価の両輪設計（ルールベース評価、LLM-as-a-Judge、人手アノテーション、A/B・シャドー実行）
・リグレッションゲートの構築：モデル / プロンプト / スキル定義の変更を CI で自動評価し、昇格判断を仕組み化
・評価指標そのものの妥当性検証（指標のハッキング耐性、人手判断との相関の追跡）
・定期実行 Job / イベント駆動 Job を統一的に扱う宣言的なジョブ制御平面と、リコンシリエーション型の制御ループの実装
・障害検知・自動リトライ・部分再実行・冪等性設計・バックプレッシャ制御
・トレース・メトリクス・コスト・品質を同一の軸で追える可観測性の設計と、AI 推論コストの可視化・管理

【ポジション・部門の魅力】
・単なるマネージドサービスの組み合わせではなく、推論の経済性そのものを設計する経験が得られます。
・AI-Native プロダクトの基盤として、プロダクトの競争力に直結する重要なコア機能開発を担えます。

【必須スキル】
・分散システムまたはデータ基盤の設計・運用経験 3年以上
・Python での本番システム開発経験、および SQL の実務利用
・コンテナ / オーケストレーション（Docker、Kubernetes 等）を用いた本番運用経験
・Infrastructure as Code（Terraform, Bicep 等）と CI/CD を前提とした開発フローの経験
・クラウド（Azure/AWS/GCP）上でのインフラ設計経験
・性能・コスト・品質を数値で定義し、計測に基づいて改善を検証した経験
・AI コーディングエージェント（Claude Code, Codex 等）を活用した開発環境の設計・運用経験
・職能の境界にとらわれず、課題解決のためにフルスタックで動ける姿勢
・仕様が固まっていない領域で、自ら問いを立てて設計提案ができること
※上記に加え、以下のいずれか1つ以上の領域の実務経験：
・GPU を用いた推論または学習基盤の構築・運用経験（vLLM / TensorRT-LLM / SGLang 等でのサービング、CUDA 環境の運用）
・複数バックエンドへのルーティング / トラフィック制御基盤の設計経験、あるいはコスト最適化を主目的としたアーキテクチャ改善のリード経験
・機械学習または LLM アプリケーションの評価パイプライン構築経験（オフライン評価、A/B テスト基盤、データ品質管理のいずれか）
・ワークフローオーケストレーション基盤（Airflow / Dagster / Temporal / Argo 等）の設計・運用経験、または Kubernetes Operator / コントローラの実装経験

【歓迎スキル】
・LLM アプリケーションの本番運用経験（RAG、エージェント、ツール呼び出し）
・モデル蒸留・量子化・ファインチューニングの実務経験
・推論経済性（トークン単価、GPU 時間あたりスループット）を軸にした意思決定の経験
・ストリーム処理基盤（Kafka / Pub-Sub 等）とイベント駆動アーキテクチャの設計経験
・MLOps / LLMOps ツールチェーンの導入・評価経験
・大規模ログ基盤の設計経験
・OpenTelemetry / Langfuse 等を活用した LLM トレーシング・オブザーバビリティ基盤の設計・運用経験
・コスト最適化（FinOps）の実践経験
・音声認識・NLP 関連サービスのインフラ経験
・OSS へのコントリビューション、技術記事や登壇による発信
・論文・技術動向をキャッチアップし、自社アーキテクチャへの適用可否を判断した経験
・英語での技術文書読解・コミュニケーション

【求める人物像】
・AI Platform から事業成果を出したい方
・モデルを「作る人」ではなく、モデルを「選び・測り・切り替える基盤を作る人」としてのアイデンティティを持てる方
・「精度が上がった」を測定可能な形に翻訳することを面倒がらず、評価指標の妥当性を疑い続けられる方
・技術的な美しさと単位経済性のトレードオフを自分の判断軸に持っている方
・インフラ・データ・ML の境界にある問題を「自分の担当外」と切らない方
・少人数チームで、曖昧な課題に対して自律的に仮説を立てて実行できる方
・属人的な運用を見つけたら、それを自動化・宣言化する方向に手が動く方
・施策からデリバリーまでの「人間の介在」を減らすことに執着できる方
・AI の進化に合わせて自分の働き方を常にアップデートし続け、変化そのものを楽しめる方
・不確実性の高い環境でも、柔軟にアプローチを提案できる方
・前例の少ない領域で、正解のない設計論点について選択肢と根拠を並べて議論を前に進められる方

AIネイティブCRMの開発・提供企業