シニアLLMOpsエンジニア/アプリケーションの企画・開発・運営の求人

●業務概要
LLM・AIエージェントの基盤を通じて、生成AIが生み出す事業価値を増幅させるポジションです。
本番運用に共通する複雑性を基盤側で引き受け、利用チームがユースケース固有の課題解決に集中できる状態を実現します。プロダクトAI/MLエンジニアやソフトウェアエンジニアなどの利用チームと連携し、モデル利用・評価・監視・変更管理を支える基盤、開発・運用環境、共通の運用パターンを設計・開発・運用します。

●具体的な業務
1. 検証した施策をそのまま本番へつなげられる共通基盤の開発・運用
・複数チームが共通の方法でLLMを利用するためのモデル利用基盤（LLM Gateway）や、AIエージェントの実行・外部ツール連携を支える基盤の設計・開発・運用
・新しいモデルや機能を試し切り替えられる仕組みの整備、クラウド・コンテナ・CI/CD・IaCを用いた再現性のある開発・実行環境の整備
2. 安全性とコスト効率を標準で備えた仕組みづくり
・認証・認可、Secret管理、利用制限、監査ログなどを組み込んだ環境整備
・セキュリティ・法務・事業部門と連携したAI利用ポリシーやガードレールの整備
・利用量・コストの可視化とコスト最適化
3. 品質を確かめながら届け、改善し続けられる運用づくり
・評価データセット・評価方法の整備とリスクに応じた評価・レビューの仕組みづくり
・プロンプト・モデルのバージョン管理、変更時のリグレッションテスト、リリース・切り戻しの仕組みづくり
・出力品質、応答時間、エラー率などの可視化（ログ・メトリクス・トレース）とアラート・Runbookの整備
4. 利用チームとの協働と標準化・セルフサービス化の推進
・個別のLLMアプリケーション・AIエージェントのインフラ・運用課題に対するアーキテクチャ設計・実装・改善
・共通ライブラリ、テンプレート、チェックリスト、ドキュメントへの還元と標準化の定着

●ポジションの魅力
・基盤がLLM活用の広がりに左右するため影響力が大きい環境です。
・これまでの土台を活かしつつ、同社における新たな標準を自ら設計できます。
・変化し続けるモデルやAIエージェントに対し、素早く安全に取り込める基盤づくりに向き合えます。
・共通基盤の開発からアーキテクチャ設計、ルールづくりまで幅広く関わることができます。

【必須スキル】
・機械学習の学習・評価・デプロイ・推論などを支える基盤の設計・実装・本番運用経験
・クラウド・コンテナを用いたソフトウェアのチーム開発経験、およびCI/CD・IaCを用いた再現性のある開発・運用環境の構築・改善経験
・可用性・セキュリティ・コスト・運用負荷のトレードオフを踏まえ、品質・性能の監視、障害対応、モデル更新・切り戻しを含む運用設計・改善を主導した経験
・VPC構成、クラウド権限管理、Secret管理、監査ログ、脆弱性対応など、インフラ・アプリケーション双方のセキュリティに関する実務経験
・既存システムや運用の背景を踏まえ、利用者・事業の課題に応じて技術方針と改善の優先順位を定め、関係者と合意を形成して実装・移行まで推進した経験
・利用者の課題に応じて共通機能・テンプレート・自動化の仕組みなどを設計・実装し、開発者が自ら安全に利用できる状態に整え、定着させた経験

【歓迎スキル】
・検索・推薦・ランキング・マッチングなどにおける、オンライン推論やリアルタイムデータ連携の開発・運用経験
・LLMOps・AIガバナンス/セキュリティの経験

【求める人物像】
・事業のミッション・バリューに共感し、業界・顧客への理解を技術的な判断に活かせる方
・利用者の制約や優先順位を理解し、複数職種と建設的に対話して合意を形成できる方
・標準化する部分と個別の事情に応じて柔軟性を残す部分を見極められる方
・小さく検証し、その学びを継続的な改善に活かせる方
・設計・運用・意思決定の背景をドキュメントやレビューで共有し、チームで再現できる仕組みに変えられる方
・相手に配慮したコミュニケーションができる方

アプリケーションの企画・開発・運営