LLMOpsエンジニア/アプリケーションの企画・開発・運営の求人

【業務概要】
LLM・AIエージェントの共通基盤を通じて、生成AIが生み出す事業価値を増幅させるポジションです。
モデル利用・評価・監視・変更管理を支える基盤、開発・運用環境、共通運用パターンの設計・開発・運用を担当します。

【具体的な業務】
・複数チームが共通の方法でLLMを利用するためのモデル利用基盤（LLM Gateway）や、AIエージェントの実行・外部ツール連携基盤の設計・開発・運用
・クラウド、コンテナ、CI/CD、IaCを用いた再現性のある開発・実行環境の整備
・認証・認可、Secret管理、利用制限、監査ログ等を組み込んだ安全な利用環境の整備
・セキュリティ・法務・事業部門と連携したAI利用ポリシーおよびガードレールの整備
・利用量・コストの可視化とモデル選択・キャッシュ等によるコスト最適化
・評価データセット・評価方法の整備と、リスクに応じた評価・レビューの仕組みづくり
・プロンプト・モデルのバージョン管理、リグレッションテスト、リリース・切り戻しの仕組みづくり
・ログ・メトリクス・トレース、フォールバック、アラート、Runbookの整備
・利用チームとの協働による個別アプリケーションのアーキテクチャ設計・実装・改善および共通ライブラリ・テンプレート化

【ポジションの魅力】
・基盤が生成AI活用の広がりに直結するため、非常に大きな影響力を持つことができます。
・実際のユースケースをもとに、同社における活用標準を自ら設計・構築できます。
・進化し続けるモデルやAIエージェント技術に向き合い、変化を前提とした柔軟な基盤開発に挑戦できます。
・共通基盤開発にとどまらず、セキュリティやAI利用ルールづくりまで幅広く関わることができます。

【必須スキル】
・機械学習の学習・評価・デプロイ・推論などを支える基盤の開発・本番運用経験
・クラウド・コンテナを用いたソフトウェアのチーム開発経験、およびCI/CD・IaCを用いた開発・運用の自動化経験
・品質・性能の監視、障害対応・継続改善に関わり、可用性・セキュリティ・コストなどの要件を担当領域の実装・運用に反映した経験
・DSやプロダクトエンジニアなどの利用者と要件を整理し、自律的に設計・実装・運用改善を進めた経験

【歓迎スキル】
・検索・推薦・ランキング・マッチングなどにおける、オンライン推論やリアルタイムデータ連携の開発・運用経験
・LLMOps・AIガバナンス/セキュリティの経験

【求める人物像】
・ミッションやバリューに共感し、業界・顧客への理解を技術的な判断に活かせる方
・利用者の制約や課題を理解し、複数職種と建設的に協働できる方
・個別対応に留めず、共通化・自動化や使いやすい開発環境づくりに取り組める方
・未知の課題を小さく検証し、設計・運用の背景や学びをドキュメントやレビューを通じて共有できる方

アプリケーションの企画・開発・運営