【募集背景】 Spiral.AIでは、LLMを用いたサービスを複数立ち上げています。そのうち、Spiral.LLM事業では、独自のLLMを開発することにより、LLMを中核に据えた「LLMネイティブな事業開発」を支援していきます。 ChatGPTは、RLHF (Reinforcement Learning with Human Feedback) により、Truthfulness, Helpfulness, Harmelssという観点で、元々のLLMを矯正しています。その結果として、人間にとって役に立つ会話が実現されている一方、様々な制約が発生しています。例えば、割と説明口調で、小気味の良い会話体験にはなっていない点などは、使ってみるとすぐに気づくポイントではないかと思います。 Spiral.LLMでは、独自モデルを開発することにより、これらの制約を取り払ったLLMを構築します。独自の収集データや最近の研究成果を組み合わせることにより、より小さなパラメータ規模で高度な能力を持つモデルの開発を進めています。 2023年4月現在、まずは7B級LLMの開発を手掛けており、特定ドメインでの会話ができるようになっています。今後、これを更に高度化し、大きなモデルの開発を進めていく予定です。また、RLHFを独自に行うことにより、おもてなし力やエンターテイメント性の高いLLMへと成長させていく計画です。 一見するとBig Techの戦いに見えるLLM競争ですが、会話体験というのはそうそう一色に染まるものではありません。ラーメンのお店が次から次へと新機軸を打ち出していくように、LLMも楽しい会話体験を求めて進化していくはずです。この楽しい競争に、一緒に参加していただける方を募集しています。 【業務内容】 - 学習データの収集・作成・クレンジング - 上記を行うためのアプリケーション開発 - 学習の実施・モニタリング - 精度評価手法の検討・実装 - 学習記録の整理・可視化 - プロジェクト全体の進捗管理 - 計算資源のメンテナンス - 最新研究の調査・社内共有 - 対外発表・記事の掲載 - 採用 【実際の働き方】 直近では、LLMの性能改善サイクルを回すための仕組みづくりを行います。複数のドメインの評価データを整え、精度評価基準を整備して、定点観測できる体制を整えます。 並行して、現在開発している7Bモデルの学習データの追加、および、各種ハイパーパラメーターの調整を通して、精度改善を進めていきます。 RLHFを行うためのアプリケーション開発についても、企画をしていきます。 週に2回の全体タッチポイントの中で精度の定点観測結果を見ながら、次の開発方針を決めて進めていきます。それ以外の時間はSlack越しに会話しながら、チーム全体で相談しながら進めていきます。 【開発環境】 機械学習 - Python - PyTorch - HuggingFace系ライブラリ - Weights&Biases, etc. その他 - NVidia A100 GPUサーバー - AWS - Docker - Poetry

- 自ら実験計画を立てることができる。仮説を持ち、それを検証するための方法を考え、実験することができる。 - 実験結果をログとして記録し、複数を比較して考察することができる。それをチームにレポートして、認識を揃えることができる。 - BERTなどの言語モデルを学習させた経験がある。学習・推論させるだけなく、定量的な評価を行うことができる。

- 機械学習分野における修士・博士の学位 - 機械学習分野における国際会議での発表 - OSSや技術コミュニティへの貢献の実績 - 強化学習やRLHFを利用した経験 - LoRA, Int8, adafactorなどを用いた省メモリ環境でLLMを学習させた経験 - データ収集を立案・実行した経験。そのためのアプリケーションを開発した経験 - GPUサーバーのメンテナンス経験