仕事内容
会社について
Citadel AIは、東京大学やANRI、Coral、三菱UFJキャピタル等のファンドが出資する、日本発のAIスタートアップです。Google米国本社出身のエンジニアをはじめとするインターナショナルなチームから成り、拠点は東京にありながら、視座は常にグローバル市場を向いています。
安全安心な「信頼できるAI」の実現を通じて、AIが持つフルポテンシャルを引き出し、その利活用を促進することがミッションです。導入段階のリスク評価から、運用段階のリアルタイム・ガードレールまで、生成AIのライフサイクル全体をオールインワンでサポートする独自プロダクトを開発しています。
国際標準の規格・認証業界を代表するBSI(英国規格協会)にも採用され、国際的にも高い評価をいただいています。またNEDOの「AIセーフティ強化に関する研究開発」を産業技術総合研究所と共に推進するなど、技術とルールの両面から「AIの未来」をデザインしています。
仕事内容
AIリサーチエンジニアとして、生成AIの安全性・信頼性に関する最先端の研究開発を担当します。
具体的には以下の業務を遂行します:
- AIセーフティ研究:生成AIの脆弱性、バイアス、有害な出力リスク、セキュリティ脅威に関する研究
- 評価手法開発:AIモデルの安全性・信頼性を測定・評価するためのベンチマーク、メトリクス、フレームワークの構築
- 防御技術開発:プロンプトインジェクション、モデル中毒、その他の攻撃への防御機構の実装
- 文献調査・最新動向キャッチ:AI安全性分野の最新の学術成果、業界トレンドの継続的な追跡
- 論文執筆・発表:研究成果の学会論文化、学会での発表を通じた知見共有
- 社内連携:プロダクトエンジニアリングチームとの協働による研究成果の実装
必須スキル
- 機械学習・深層学習の知識:PyTorch、TensorFlow等のフレームワークでの実装経験
- AIセーフティに関する知識:生成AI、LLMのセーフティ、信頼性、規制に関する基礎理解
- プログラミング能力:Python、その他言語での研究コード実装経験
- 研究経験:学術論文の執筆・発表経験、または実務での研究開発経験(3年以上推奨)
- 英語能力:英語論文の読み書き、グローバルチームでのコミュニケーション
歓迎スキル
- AIセーフティ、AIセキュリティ、テクニカルAIエシックスに関する公開論文
- NeurIPS、ICML、ICLR等のトップ学会への採択経験
- 敵対的攻撃、ロバスト性、解釈可能性に関する研究経験
- LLM、生成モデルに関する実装・ファインチューニング経験
- NEDO、科研費等の外部研究資金の獲得経験
勤務地
東京(ハイブリッド勤務対応)
募集背景
「AIに、確かな信頼を。」というビジョンの下、生成AIセーフティの最先端研究に取り組み、AIの未来を科学的・技術的に切り開くリサーチエンジニアを募集しています。学術的な興味と実務的なインパクトの両立を求める研究者・エンジニアをお待ちしています。