シニアLLMOpsエンジニア/アプリケーションの企画・開発・運営の求人

【業務概要】
LLM・AIエージェントの基盤を通じて、生成AIが生み出す事業価値を増幅させることが本ポジションのミッションです。個別のプロダクトや業務で活用が進む生成AIについて、本番運用に共通する複雑性を基盤側で引き受け、利用チームがユースケース固有の課題解決に集中できる状態を実現します。複数チームと連携し、モデル利用・評価・監視・変更管理を支える基盤、開発・運用環境、共通の運用パターンを設計・開発・運用します。

【具体的な業務】
1. 検証した施策を本番へつなげられる共通基盤の開発・運用
・複数チームが共通の方法でLLMを利用するためのモデル利用基盤（LLM Gateway）や、AIエージェントの実行・外部ツール連携基盤の設計・開発・運用
・新しいモデルや機能を素早く試し切り替えられる仕組みの整備、クラウドやIaCを用いた開発・実行環境の整備
2. 安全性とコスト効率を標準で備えた仕組みづくり
・認証・認可、Secret管理、利用制限、監査ログなどを組み込んだ安全な環境整備
・セキュリティや法務部門と連携した個人情報取扱ポリシーやガードレールの整備
・利用量・コストの可視化とモデル選択・キャッシュ等によるコスト最適化
3. 品質を確かめながら届け改善し続けられる運用づくり
・評価データセット・評価方法の整備と、自動評価・人による確認を組み合わせた評価仕組みづくり
・プロンプト・モデルのバージョン管理、リグレッションテスト、切り戻し等の仕組みづくり
・出力品質、応答時間、エラー率を把握するログ・メトリクス・トレースとアラート等の整備
4. 利用チームとの協働と標準化・セルフサービス化の推進
・個別のLLMアプリケーション・AIエージェントのインフラ・運用課題に対するアーキテクチャ設計・実装
・得られた知見を共通ライブラリ、テンプレート、ドキュメントへ反映しセルフサービス化を推進

【ポジション・部門の魅力】
・基盤がLLM活用の広がりに直接影響を与えるため、事業上のインパクトが非常に大きいです。
・業界でも標準が定まりきっていない領域において、同社における最適な標準を自ら設計できます。
・進化し続けるモデルやエージェントに向き合い、技術選定から運用ルールづくりまで幅広く主導できます。

【必須スキル】
・機械学習の学習・評価・デプロイ・推論などを支える基盤の設計・実装・本番運用経験
・クラウド・コンテナを用いたソフトウェアのチーム開発経験、およびCI/CD・IaCを用いた再現性のある開発・運用環境の構築・改善経験
・可用性・セキュリティ・コスト・運用負荷を踏まえた品質・性能監視、障害対応、モデル更新を含む運用設計・改善の主導経験
・VPC構成、権限管理、Secret管理、監査ログ等、インフラ・アプリ双方のセキュリティ実務経験
・課題に応じて技術方針と改善優先順位を定め、ステークホルダーと合意形成し実装・移行を推進した経験
・共通機能やテンプレート等のセルフサービス化を設計・実装し定着させた経験

【歓迎スキル】
・検索・推薦・ランキング・マッチング等におけるオンライン推論やリアルタイムデータ連携の開発・運用経験
・LLMOps・AIガバナンス/セキュリティの実務経験

【求める人物像】
・事業や顧客への理解を深め、技術的な判断に活かせる方
・利用者の制約や優先順位を理解し、複数職種と建設的に対話できる方
・標準化と柔軟性のバランスを見極め、小さく検証して継続的改善に活かせる方
・設計や意思決定の背景をドキュメント等で共有し、再現性のある仕組みに変えられる方
・相手に配慮したコミュニケーションができる方

アプリケーションの企画・開発・運営