非公開求人
Software Engineer, Platform Engineering - AI/GPU Infra (On-Prem)/フリマアプリ運営企業の求人
求人ID:1566687
更新日:2026/11/16
転職求人情報
職種
Software Engineer, Platform Engineering
ポジション
担当者〜
おすすめ年齢
20代
30代
40代
50代以上
年収イメージ
応相談(経験・能力を考慮の上当社規定により決定)
仕事内容
●業務内容(具体的な業務)
・データセンター設備(ラック・電源・冷却)と、それを支えるネットワークを含む、当社のオンプレミスGPUインフラの設計・構築・運用
・GPUワークロード向けネットワーク基盤の設計・構築:コンピュートファブリック(InfiniBand/RoCE)、ストレージ/インバンド、サービスネットワーク、分離されたOOB管理
・オンプレGPUファブリックおよびクラウド/プラットフォーム接続におけるBGP(必要に応じてOSPF/IS-IS、VLAN/VRFを含む)によるルーティングの設計・構成・運用(ASN設計、経路集約、ルーティングポリシーを含む)
・データセンター事業者およびSIパートナーとの設備準備、機器調達、リードタイム、リモートハンズ/設置作業に関する調整
・社内データセンターのエンドツーエンドの管理(ベンダー/SIとの折衝、商談・交渉、契約・調達対応を含む)
・データセンターでの実地ネットワーク作業(ケーブルの敷設・交換、ルーター・スイッチ・ファイアウォール等の機器設定)。本ポジションではデータセンターへの定期的な現地訪問が必要です
・オンプレGPU環境と既存のコーポレート・クラウド(GCP/AWS)・プラットフォームネットワークとの安全な統合
・GPUシステムおよびネットワーク機器の監視・アラート・ログ・運用引き継ぎの確立
・GPU PoCの実行支援、およびPoCから本番運用に至る道筋の定義
・プロビジョニングや運用の自動化、Infrastructure as Code(IaC)による構成管理
・データセンター設備・接続・現地作業に関するコーポレートITチームとの密な連携(本ポジションでは必須)
・ML Platform、インフラ、セキュリティ、調達など各ステークホルダーとの協働
・データセンター設備(ラック・電源・冷却・搬入経路)準備のオーナーシップ。DGX B200/B300クラスのNVIDIA Pre-delivery Site Surveyの確認・宣言を含む
・パートナーとのRFP・見積・選定サイクルの推進、および調達チームと連携したNDA・R&R/RACI・契約・PO対応
・社内承認プロセス(JB Engineering board、投資委員会、Procurement Team)向けの技術・コスト資料の作成(クラウドGPU/TPUとのTCO・ROI比較を含む)
・ローカルLLMサービング基盤を支えるノード/GPUソフトウェアスタックの運用(NVIDIAドライバ/CUDA/NCCL、GPU Operator、DCGM、コンテナランタイム)、およびサービングスタック(vLLM、NVIDIA NIM)とLiteLLMルーティング層との連携
・モデル・チェックポイント向けストレージとデータ経路の構築・運用、およびオンプレとGCP/GKE間でワークロードをクラウドにフォールバックできるポータビリティの維持
・オンプレ推論環境のSLO・オンコール・障害対応・Runbook・BCP/DRの定義と運用(Mercari SREのプラクティスと整合)
・Enterprise Securityと連携し、オンプレGPU/コンピュートノードをクラウドと同等のセキュリティ水準に引き上げる取り組み(資産可視化、エンドポイント/ポスチャ管理、監査可能な踏み台、分離されたOOBアクセス)
・FinOpsと連携したGPU利用率・電力・トークンコスト削減のトラッキングとレポーティング(1ノードからマルチノードへのスケールを見越した対応)
●ユニークなチャレンジ
・当社初のオンプレミスGPUインフラをほぼゼロから立ち上げ、設備・ネットワーク・運用の準備をエンドツーエンドでオーナーシップを持って推進
・クラウドネイティブなネットワーク手法と、従来型のデータセンター/オンプレ運用との橋渡し
・高密度コンピューティングシステム(例:DGX B200クラス)や高速ファブリック(例:400G InfiniBand/RoCE)の取り扱い
・要件や調達スケジュールが変化するなかで現実的な意思決定を行いつつ、管理プレーンを分離し、安全かつ運用可能な環境を維持
・8GPU 1ノードのPoC環境から、基盤設計をやり直さずにマルチノード構成へ拡張
・オンプレの小規模言語モデルと外部フロンティアLLMを、ユースケースおよびコスト・データ機密性のポリシーに応じて使い分けるハイブリッド運用
・フルクラウドネイティブな組織の中でオンプレ運用のプラクティスを立ち上げ、PCI-DSSやISMS等のコンプライアンス要求にも対応
・データセンター設備(ラック・電源・冷却)と、それを支えるネットワークを含む、当社のオンプレミスGPUインフラの設計・構築・運用
・GPUワークロード向けネットワーク基盤の設計・構築:コンピュートファブリック(InfiniBand/RoCE)、ストレージ/インバンド、サービスネットワーク、分離されたOOB管理
・オンプレGPUファブリックおよびクラウド/プラットフォーム接続におけるBGP(必要に応じてOSPF/IS-IS、VLAN/VRFを含む)によるルーティングの設計・構成・運用(ASN設計、経路集約、ルーティングポリシーを含む)
・データセンター事業者およびSIパートナーとの設備準備、機器調達、リードタイム、リモートハンズ/設置作業に関する調整
・社内データセンターのエンドツーエンドの管理(ベンダー/SIとの折衝、商談・交渉、契約・調達対応を含む)
・データセンターでの実地ネットワーク作業(ケーブルの敷設・交換、ルーター・スイッチ・ファイアウォール等の機器設定)。本ポジションではデータセンターへの定期的な現地訪問が必要です
・オンプレGPU環境と既存のコーポレート・クラウド(GCP/AWS)・プラットフォームネットワークとの安全な統合
・GPUシステムおよびネットワーク機器の監視・アラート・ログ・運用引き継ぎの確立
・GPU PoCの実行支援、およびPoCから本番運用に至る道筋の定義
・プロビジョニングや運用の自動化、Infrastructure as Code(IaC)による構成管理
・データセンター設備・接続・現地作業に関するコーポレートITチームとの密な連携(本ポジションでは必須)
・ML Platform、インフラ、セキュリティ、調達など各ステークホルダーとの協働
・データセンター設備(ラック・電源・冷却・搬入経路)準備のオーナーシップ。DGX B200/B300クラスのNVIDIA Pre-delivery Site Surveyの確認・宣言を含む
・パートナーとのRFP・見積・選定サイクルの推進、および調達チームと連携したNDA・R&R/RACI・契約・PO対応
・社内承認プロセス(JB Engineering board、投資委員会、Procurement Team)向けの技術・コスト資料の作成(クラウドGPU/TPUとのTCO・ROI比較を含む)
・ローカルLLMサービング基盤を支えるノード/GPUソフトウェアスタックの運用(NVIDIAドライバ/CUDA/NCCL、GPU Operator、DCGM、コンテナランタイム)、およびサービングスタック(vLLM、NVIDIA NIM)とLiteLLMルーティング層との連携
・モデル・チェックポイント向けストレージとデータ経路の構築・運用、およびオンプレとGCP/GKE間でワークロードをクラウドにフォールバックできるポータビリティの維持
・オンプレ推論環境のSLO・オンコール・障害対応・Runbook・BCP/DRの定義と運用(Mercari SREのプラクティスと整合)
・Enterprise Securityと連携し、オンプレGPU/コンピュートノードをクラウドと同等のセキュリティ水準に引き上げる取り組み(資産可視化、エンドポイント/ポスチャ管理、監査可能な踏み台、分離されたOOBアクセス)
・FinOpsと連携したGPU利用率・電力・トークンコスト削減のトラッキングとレポーティング(1ノードからマルチノードへのスケールを見越した対応)
●ユニークなチャレンジ
・当社初のオンプレミスGPUインフラをほぼゼロから立ち上げ、設備・ネットワーク・運用の準備をエンドツーエンドでオーナーシップを持って推進
・クラウドネイティブなネットワーク手法と、従来型のデータセンター/オンプレ運用との橋渡し
・高密度コンピューティングシステム(例:DGX B200クラス)や高速ファブリック(例:400G InfiniBand/RoCE)の取り扱い
・要件や調達スケジュールが変化するなかで現実的な意思決定を行いつつ、管理プレーンを分離し、安全かつ運用可能な環境を維持
・8GPU 1ノードのPoC環境から、基盤設計をやり直さずにマルチノード構成へ拡張
・オンプレの小規模言語モデルと外部フロンティアLLMを、ユースケースおよびコスト・データ機密性のポリシーに応じて使い分けるハイブリッド運用
・フルクラウドネイティブな組織の中でオンプレ運用のプラクティスを立ち上げ、PCI-DSSやISMS等のコンプライアンス要求にも対応
必要スキル
●求める経験・スキル
・ネットワークに関する強固な基礎知識(TCP/IP、IPアドレス管理、OSIレイヤー2 7、ルーティング、DNS、TLS、HTTP)
・データセンターのルーティング/スイッチング、特にBGP(ASN設計、経路集約、ルーティングポリシー)の設計・構成・トラブルシュートの実務経験(OSPF、VLAN/VRFを含む)
・物理/データセンターネットワーク(スイッチ、ルーター、ファイアウォール、構造化配線)の設計・運用の実務経験
・本番環境におけるLinuxサーバーの運用経験
・GPU/高密度システムを含むデータセンターでの実地経験:現地でのケーブルの敷設・交換、ルーター・スイッチ・ファイアウォールの設定(本ポジションではデータセンターへの定期的な現地訪問が必要です)
・ラック・電源・冷却・クロスコネクトなどのデータセンター運用、およびリモートハンズ/設置作業の調整経験
・データセンターの物理・設備運用の実務経験(電源設備の取り扱い、回路切り替え(PDU・ブレーカー・回路変更)を含む)、および障害対応・本番トラブル対応の経験
・データセンターのベンダーやSIパートナーの管理経験(商談・交渉、契約・調達対応を含む)
・オンプレとクラウド(GCPまたはAWS)のネットワーク統合(VPN、プロキシ、ルーティングを含む)の経験
・ネットワーク設計・運用におけるセキュリティマインド:ファイアウォールのルール設計・管理、Egress(外向き通信)ポリシー、ネットワークのセグメンテーション/分離
・PythonやBashを用いたワークフローの自動化、およびInfrastructure as Code(IaC)による構成管理の能力
・デザインドキュメントの作成、社内ステークホルダーや社外ベンダー/SIerとの連携経験
・国内データセンターでの本番インフラ運用経験(搬入計画、サイトサーベイ、日本語での設備調整を含む)
・Linux/GPUノードをフリートとして運用した経験(プロビジョニング、ファームウェア・ドライバのライフサイクル管理、監視、障害対応)
・本番プラットフォームにおけるSLOの定義およびオンコール対応の経験
・コストモデル・ROI・リスクを含む社内承認/調達ドキュメントを作成し、経営層レビューを通した経験
・当社のミッションやバリューに対する共感
●歓迎する経験・スキル
・GPU/HPCインフラ、およびInfiniBandやRoCEなどの高性能ファブリックの経験
・モダンなデータセンターファブリックの設計経験:Spine/Leaf・Border Leaf構成、EVPN-VXLAN(GPU環境の経験を歓迎、CPU/汎用環境の経験も可)
・ベアメタルプロビジョニングに関わるネットワーク(DHCPリレー、PXEブート)の設計経験
・データセンターにおけるGPUシステム/サーバーの設置・保守の実務経験(物理設置、配線、継続的なメンテナンス)※特に歓迎
・NVIDIA DGXまたは同等のGPUアプライアンスの運用経験
・アウトオブバンド管理(BMC/Redfish/IPMI)やPDU管理の経験
・高密度データセンター環境(高kW/ラック、冷却戦略)の設計経験
・ML/LLMサービング基盤やGPUスケジューリングに関する知識
・SIパートナーや調達プロセスとの協働経験
・GoやPythonを用いたインフラやミドルウェアの開発経験
・本番環境でのLLM推論運用経験(vLLM、NVIDIA NIM/Triton等、およびQwen・Gemma・Llama等のOSSモデル)
・GPUスケジューリング/オーケストレーションの経験(Kubernetes+GPU Operator、Run:ai、Slurm)
・GCPとのハイブリッド統合の経験(GKE、Workload Identity Federation、DNSの内外分離、クラウドフォールバック)
・NVIDIA AI Enterpriseのライセンス・サポート契約、および国内ベンダー/SI管理に関する知見
・クラウドで運用しているセキュリティポスチャ管理ツール(資産インベントリ、EDR、CSPM)をオンプレノードへ拡張した経験
・PCI-DSSやISMSの対象となるネットワーク/データセンター環境における要件の知識
・AIワークロード向け高性能ストレージ(Lustre、VAST、WEKA)およびGCS等オブジェクトストレージを用いたデータパイプラインの経験
●語学力
日本語:Proficient (CEFR C1)
本ポジションでは必須。国内のデータセンターやベンダーとの折衝が多いため
英語:Independent(CEFR-B1)
コミュニケーションが取れるレベルで問題ありません(流暢である必要はありません)
・ネットワークに関する強固な基礎知識(TCP/IP、IPアドレス管理、OSIレイヤー2 7、ルーティング、DNS、TLS、HTTP)
・データセンターのルーティング/スイッチング、特にBGP(ASN設計、経路集約、ルーティングポリシー)の設計・構成・トラブルシュートの実務経験(OSPF、VLAN/VRFを含む)
・物理/データセンターネットワーク(スイッチ、ルーター、ファイアウォール、構造化配線)の設計・運用の実務経験
・本番環境におけるLinuxサーバーの運用経験
・GPU/高密度システムを含むデータセンターでの実地経験:現地でのケーブルの敷設・交換、ルーター・スイッチ・ファイアウォールの設定(本ポジションではデータセンターへの定期的な現地訪問が必要です)
・ラック・電源・冷却・クロスコネクトなどのデータセンター運用、およびリモートハンズ/設置作業の調整経験
・データセンターの物理・設備運用の実務経験(電源設備の取り扱い、回路切り替え(PDU・ブレーカー・回路変更)を含む)、および障害対応・本番トラブル対応の経験
・データセンターのベンダーやSIパートナーの管理経験(商談・交渉、契約・調達対応を含む)
・オンプレとクラウド(GCPまたはAWS)のネットワーク統合(VPN、プロキシ、ルーティングを含む)の経験
・ネットワーク設計・運用におけるセキュリティマインド:ファイアウォールのルール設計・管理、Egress(外向き通信)ポリシー、ネットワークのセグメンテーション/分離
・PythonやBashを用いたワークフローの自動化、およびInfrastructure as Code(IaC)による構成管理の能力
・デザインドキュメントの作成、社内ステークホルダーや社外ベンダー/SIerとの連携経験
・国内データセンターでの本番インフラ運用経験(搬入計画、サイトサーベイ、日本語での設備調整を含む)
・Linux/GPUノードをフリートとして運用した経験(プロビジョニング、ファームウェア・ドライバのライフサイクル管理、監視、障害対応)
・本番プラットフォームにおけるSLOの定義およびオンコール対応の経験
・コストモデル・ROI・リスクを含む社内承認/調達ドキュメントを作成し、経営層レビューを通した経験
・当社のミッションやバリューに対する共感
●歓迎する経験・スキル
・GPU/HPCインフラ、およびInfiniBandやRoCEなどの高性能ファブリックの経験
・モダンなデータセンターファブリックの設計経験:Spine/Leaf・Border Leaf構成、EVPN-VXLAN(GPU環境の経験を歓迎、CPU/汎用環境の経験も可)
・ベアメタルプロビジョニングに関わるネットワーク(DHCPリレー、PXEブート)の設計経験
・データセンターにおけるGPUシステム/サーバーの設置・保守の実務経験(物理設置、配線、継続的なメンテナンス)※特に歓迎
・NVIDIA DGXまたは同等のGPUアプライアンスの運用経験
・アウトオブバンド管理(BMC/Redfish/IPMI)やPDU管理の経験
・高密度データセンター環境(高kW/ラック、冷却戦略)の設計経験
・ML/LLMサービング基盤やGPUスケジューリングに関する知識
・SIパートナーや調達プロセスとの協働経験
・GoやPythonを用いたインフラやミドルウェアの開発経験
・本番環境でのLLM推論運用経験(vLLM、NVIDIA NIM/Triton等、およびQwen・Gemma・Llama等のOSSモデル)
・GPUスケジューリング/オーケストレーションの経験(Kubernetes+GPU Operator、Run:ai、Slurm)
・GCPとのハイブリッド統合の経験(GKE、Workload Identity Federation、DNSの内外分離、クラウドフォールバック)
・NVIDIA AI Enterpriseのライセンス・サポート契約、および国内ベンダー/SI管理に関する知見
・クラウドで運用しているセキュリティポスチャ管理ツール(資産インベントリ、EDR、CSPM)をオンプレノードへ拡張した経験
・PCI-DSSやISMSの対象となるネットワーク/データセンター環境における要件の知識
・AIワークロード向け高性能ストレージ(Lustre、VAST、WEKA)およびGCS等オブジェクトストレージを用いたデータパイプラインの経験
●語学力
日本語:Proficient (CEFR C1)
本ポジションでは必須。国内のデータセンターやベンダーとの折衝が多いため
英語:Independent(CEFR-B1)
コミュニケーションが取れるレベルで問題ありません(流暢である必要はありません)
就業場所
就業形態
正社員
企業名
急成長アプリ運営会社
企業概要
アプリの企画・開発・運用を行う企業
企業PR
日本のシリアルアントレプレナーによるベンチャー企業。既存事業が軌道に乗っているが、グローバル展開や新規事業展開に向けて組織の整備を行う。
業務カテゴリ
組織カテゴリ
備考
関連キーワード
応募ありがとうございました。コンサルタントからご連絡します
応募出来ませんでした。恐れ入りますがもう一度やり直してください
気になるに登録しました
気になるに登録出来ませんでした。恐れ入りますがもう一度やり直してください