1179【Dev】LLM推論基盤エンジニア（LLM新規事業）

【会社概要】 ストックマーク株式会社は「価値創造の仕組みを再発明し、人類を前進させる」をミッションに掲げ、最先端の生成AI LLM技術を活用し、企業の変革を支援しています。 弊社の強みは、フルスクラッチで国産LLMを開発できる技術力です。2024年5月には、国内最大級となる1,000億パラメータの日本語特化LLM「Stockmark-2」を公開しました。 多くの企業が海外モデルの微調整やOSS活用にとどまる中、当社はゼロから自らの手でモデルを設計・構築。日本語とビジネス領域に最適化された性能は、国産最高クラスの水準を誇ります。さらに、ハルシネーションを大幅に抑えており、自社管理下で安全に運用可能です。 単なる“生成AIの利用企業”ではなく、“AIそのものを創る企業”として、日本の産業競争力を技術で支えていく存在となることを目指しています。 この技術力を活かして事業展開しており、現在はSaaS事業として製造業向けAIエージェント「Aconnect」、PaaS新規事業として業務AI実装支援プラットフォーム「SAT(Stockmark A Technology)」を運営しています。 創業時からエンタープライズ企業をターゲットとしており、すでに日経225の30％、300社を超える企業様での導入が進んでいます。今後は製造業のR＆Dを起点に、国内のエンタープライズ企業はもちろん、日本企業全体そしてグローバル企業にも展開していく予定です。 2024年10月にはシリーズDにて45億円、累計88億円の資金調達を完了。 従業員も150名規模になり、更なる成長を目指すために人員を募集しております！ 【現状の課題】 国産LLM・VLMの自社開発を進める中で、推論・モデル軽量化などの性能最適化がボトルネックとなっています。 既存のフレームワークやGPU構成に依存しない、高速・安定・安価な基盤を構築することが急務です。 研究開発レベルの知見をプロダクトとして成立させる実装力を持つエンジニアを求めています。 【業務内容】 自社プロダクトで活用する大規模言語モデル（LLM）およびマルチモーダルモデル（VLM）の推論・学習の高速化を担当します。 製品開発チームやリサーチチームと協働しながら、実際のプロダクトに最適な形で技術を落とし込んでいただきます。 ■具体的な業務内容 ・LLM/VLM推論パイプラインの最適化（高速化・省メモリ化・分散処理） ・モデル圧縮、量子化、蒸留などによる軽量化手法の検討と実装 ・推論基盤の設計（モデル並列・パイプライン並列・ロードバランシング） ・推論時間・コストの定量的改善に向けた性能計測と最適化サイクルの運用 ※変更の範囲：開発関連業務 【チーム構成】 PaaSユニット 事業責任者（CEO）1名 プロダクトマネージャー 1名 【開発環境】 [組織体制] <PaaSエンジニアチーム> ・プロダクトマネージャー1名 ・フロントエンドエンジニア1名 ・バックエンドエンジニア1名 ・機械学習エンジニア3名 [開発言語] TypeScript、Vue.js 、Node.js、Python [コンテナ] Docker [IaC] Terraform [クラウド] AWS, Azure 【ポジションの魅力】 ・国産LLMを自社でフルスクラッチ開発している希少な環境 ・研究成果を“動くプロダクト”として社会に届ける技術開発ができる ・OSSや論文に還元できるほどの技術的挑戦を実務で経験可能 ・LLM/VLM領域の先端研究者と密に協働できる 【関連資料】 ・Stockmark LLM特設LP https://llm.stockmark.co.jp/ ・業務AIの実装支援プラットフォーム「 SAT 」 https://sat.stockmark.co.jp/

※いずれか必須 ・PyTorchやTensorFlowなどを用いたLLM/VLMの実装・最適化経験 ・CUDA、NCCL、TensorRT、ONNX Runtimeなどを活用したGPU最適化知識 ・モデル推論のパフォーマンス改善・メモリ削減の実務経験 ・分散学習・推論に関する基礎理解（Data Parallel, Model Parallelなど） ・Python/C++などでの性能チューニング経験

・LLMの推論最適化や軽量化に関するOSS貢献または論文発表経験 ・Megatron-LM、DeepSpeed、vLLMなどのフレームワーク実装経験 ・Triton Inference ServerやRayなどの分散推論基盤の知識 ・GPUクラスタ環境での実運用経験（Kubernetes, Slurm, etc.） ・研究チームとの共同開発経験、MLPerfなど性能ベンチマークの知見

・LLMの推論最適化や軽量化に関するOSS貢献または論文発表経験 ・Megatron-LM、DeepSpeed、vLLMなどのフレームワーク実装経験 ・Triton Inference ServerやRayなどの分散推論基盤の知識 ・GPUクラスタ環境での実運用経験（Kubernetes, Slurm, etc.） ・研究チームとの共同開発経験、MLPerfなど性能ベンチマークの知見 ＜その他＞ ・日本国内に居住可能な方 ・開発に関する技術的な内容含め、日本語で円滑にコミュニケーションが取れる方 　目安：日常会話レベル