信頼できるVLAモデルと身体性を持つAIエージェント
JSPS KAKENHI · 26K25580変化する環境の中で、身体性を持つAIが安全に知覚・推論・行動するための研究に取り組んでいます。環境変化や敵対的入力への頑健性と、信頼できるVision-Language-Actionモデルの安全性評価基盤を研究します。
Awesome Physical AI Safety
VLA・ロボット・自律システム・身体性AIの安全性、セキュリティ、頑健性、信頼できる運用をまとめたLLM支援型文献集。
失敗のメカニズムを理解し、頑健な表現を学習する
敵対的な摂動や知覚の曖昧さによってモデルが失敗する理由を分析し、学習と予測の信頼性を高める手法を開発しています。失敗のメカニズムと、頑健な学習・防御・校正・汎化の関係を、さまざまなタスクやモダリティで探ります。
頑健なマルチモーダル理解と評価
視覚情報と言語情報を信頼性高く理解するための、視覚言語モデルの学習手法とベンチマークを開発しています。マルチモーダルな敵対的防御、言語教師信号、画像と言語の対応付けに加え、画像中の文字を読むべきか無視すべきかを評価します。
モデルと視覚コンテンツを無断利用から保護する
モデルの所有権を検証し、視覚コンテンツを無断のAI処理から守る手法を開発しています。Model Mergeに耐えるフィンガープリント、画像編集を追跡する透かし、無断の色付けを防ぐコンテンツに応じた摂動を研究します。
JSPS KAKENHI — Research Activity Start-up
信頼できるVLAの実現に向けた安全評価基盤の構築
Building a Safety Evaluation Framework for Trustworthy Vision-Language-Action Models
JSPS Research Fellowships for Young Scientists