Awesome Physical AI Safety
フィジカルAIの安全性・セキュリティ・頑健性に関する、継続的に更新されるオープンな研究カタログです。体系的な脅威分類とインタラクティブな可視化を提供しています。
Trustworthy AI for Physical and Multimodal Systems
安全で信頼できるフィジカルAIの実現に向け、敵対的頑健性、視覚言語システムの信頼性、VLAモデルの安全性評価を研究しています。
- Physical AI SafetyVLAモデルの安全性評価と頑健性を研究（preprint）。
- AI Security and Privacyモデル所有権検証・予測信頼度・コンテンツ保護を研究（ACL'25 Main、APSIPA'25、SMC'26、preprint）。
Research Experience & Collaborations
TUM（ミュンヘン工科大）、NII、NEC、CyberAgent AI Lab、SB Intuitions、Turingなど。
Open to Collaborations
大学・研究機関や企業との共同研究、研究インターンの受け入れ・指導、研究・技術コンサルティングに関するご相談を歓迎しています。お問い合わせ
研究テーマ
- フィジカルAIの安全性
- 敵対的攻撃への頑健性と汎化性能
- 視覚言語モデルの信頼性
- モデルの所有権検証とコンテンツ保護
- 安全性評価とベンチマーク構築
学歴
博士, 2026
東京大学
修士（情報理工学）, 2023
東京大学
交換留学, 2022
ミュンヘン工科大学
学士（工学・システム創成学科）, 2020
東京大学
ニュース
- 2026.10: フィジカルAIの安全性に関する研究資料をまとめた Awesome Physical AI Safetyを公開しました。
- 2026.10: ICLR 2027のArea Chairを務めます 🎓
- 2026.07: 研究代表者として科研費・研究活動スタート支援に採択されました 📜
- 2026.07: 共著論文がSMC 2026に採択されました 🎉
- 2026.06: 主著論文がECCV 2026に採択されました 🎉
- 2026.04: ICLR 2026 Top 200 Reviewerに選ばれました 🏆
- 2026.03: 東京大学で博士（情報理工学）を取得しました 🎓
- 2026.02: 共著論文がCVPR 2026に採択されました 🎉
- 2026.01: 共著論文がICLR 2026に採択されました 🎉
- 2025.11: 主著論文がWACV 2026に採択されました 🎉
- 2025.10: Uncolorable ExamplesがAPSIPA ASC 2025 Best Paper Finalistに選ばれました 🏆
- 2025.09: NII猪瀬優秀学生賞を受賞しました 🏆
- 2025.07: 主著論文がACM MM 2025に採択されました 🎉
- 2025.05: 主著論文がACL 2025 Mainに採択されました 🎉
- 2025.01: 主著論文がICLR 2025に採択されました 🎉
- 2024.09: 主著論文がICIP 2024に採択されました 🎉
- 2024.05: 主著論文がMIRU 2024 Oralに採択されました 🎉
- 2023.09: DC2に採用されました 📜
- 2023.07: JSTのAIPチャレンジプログラムから100万円の研究助成を受けました 📜
- 2023.04: 主著論文がICML 2023に採択されました 🎉
- 2023.03: JST SPRING GXに採用されました 📜
- 2022.10: 主著論文がWACV 2023に採択されました 🎉
注目のリソース
最近の論文
Semantic Color Naturalness Breaker: Preventing Illegitimate Colorization via Content-Aware Color Priors
- グレースケール画像の無断AI色付けを抑制。
- コンテンツに基づく色妥当性指標CaCDDを提案。
- 軽度な摂動制約や一般的な後処理に対しても頑健。
Read or Ignore? A Unified Benchmark for Typographic-Attack Robustness and Text Recognition in Vision-Language Models
- 画像中のテキストを選択的に読む能力を測るRIO-Benchを提案。
- Typographic 攻撃への頑健性と文字認識を同時に評価。
- 有用な文字を読み、誤解を誘う文字を無視する能力を学習。
Text-Printed Image: Bridging the Image-Text Modality Gap for Text-centric Training of Large Vision-Language Models
- テキストを画像として描画し、低コストでVLMを学習。
- 実画像を使わずに画像とテキストのモダリティギャップを縮小。
- 拡散モデルが生成した学習用画像を上回る性能を実現。
Understanding Sensitivity of Differential Attention through the Lens of Adversarial Robustness
- Differential Attentionの敵対的攻撃に対する感度を分析。
- 反対方向の勾配による摂動の増幅メカニズムを解明。
- 選択的な注意と頑健性の間のトレードオフを明らかに。
Quality Text, Robust Vision: The Role of Language in Enhancing Visual Robustness of Vision-Language Models
- 高品質なキャプションで敵対的学習を誘導。
- 豊かな言語教師信号により多様な意味に対する頑健性を向上。
- 16データセットでゼロショットの頑健性と精度を改善。
Uncolorable Examples: Preventing Unauthorized AI Colorization via Perception-Aware Chroma-Restrictive Perturbation
- グレースケール画像を無断のAI色付けから保護。
- 知覚しにくく、他モデルにも転移する色差制限摂動を付加。
- 圧縮などの画像処理後も保護効果を維持。
MergePrint: Merge-Resistant Fingerprints for Robust Black-box Ownership Verification of Large Language Models
- Model Mergeに耐えるLLMフィンガープリントを埋め込み。
- ブラックボックス化したモデルへのクエリで所有権を検証。
- モデルの有用性への影響を抑えながら検出を維持。
Rethinking Invariance Regularization in Adversarial Training to Improve Robustness-Accuracy Trade-off
- 頑健性と通常精度のトレードオフを改善。
- 非対称な表現正則化によって勾配の競合を解消。
- Split BatchNormで通常入力と敵対的入力の分布を分離。
Defending Against Physical Adversarial Patch Attacks on Infrared Human Detection
- 赤外線人物検出への物理的な敵対的パッチ攻撃に対し、初の防御手法を提案。
- パッチを考慮した学習で敵対的パッチを検出。
- 未知のパッチへの頑健性と通常画像の検出精度を改善。
Closer Look at the Transferability of Adversarial Examples: How They Fool Different Models Differently
- 転移した攻撃を、同じ誤りと異なる誤りに区別。
- 類似したモデル間でも異なる誤分類が生じることを示す。
- モデル固有の非頑健な特徴から転移を説明。
職歴
受賞歴
NII猪瀬優秀学生賞（2025年）
NII猪瀬優秀学生賞を受賞。
MIRU 2024 学生奨励賞
MIRU 2024 学生奨励賞を受賞。
The Analytics Hackathon 2019 特別賞
提供されたデータから高精度な機械学習システムを構築するコンテストで特別賞を受賞。関連記事：https://enterprisezine.jp/article/detail/12209?p=2
MDSデータサイエンスコンテスト2018 優勝
提供されたビッグデータから価値を生む分析を行うコンテストで優勝。成果を発展させ、国内学会で発表。
研究助成
科研費・研究活動スタート支援
科研費・研究活動スタート支援。研究代表者。「信頼できるVLAの実現に向けた安全評価基盤の構築」。総額260万円（直接経費200万円、間接経費60万円）。
特別研究員（DC2）
特別研究員（DC2）。月額1,300ドル。採択率：17.9%。
AIP挑戦的研究プログラム
AIP挑戦的研究プログラムによる研究助成。7,000ドル。
SPRING GX
SPRING GX。月額1,200ドル。採択率：25%。
特別リサーチアシスタント2023
情報理工学系研究科 特別リサーチアシスタント。A+優先枠に選出（SPRING GX採択に伴い辞退）。
東京大学-TOYOTA海外留学奨学金 2021
東京大学-TOYOTA海外留学奨学金。月額1,920ドル。学内上位2名に選出。ミュンヘン工科大学（TUM、ドイツ）への交換留学を支援。
学術活動
学会活動
- エリアチェア: ICLR('27)
- 査読: ICLR('26,'25,'24), CVPR('26), NeurIPS('26,'25,'23), ICML('26,'25,'24), ECCV('26), IEEE TIFS('24), APSIPA('23)
委員・運営
- プログラム委員: CVIM
学会参加歴
- 2026: ECCV（スウェーデン、マルメ）、WACV（アメリカ、ツーソン）
- 2025: ACM MM（アイルランド、ダブリン）、ACL（オーストリア、ウィーン）、ICLR（シンガポール）
- 2024: ICIP（UAE、アブダビ）
- 2023: ICML（アメリカ、ホノルル）、WACV（アメリカ、ワイコロア）
サイドプロジェクト
間取り生成アプリ
要望に合わせた間取りを自動生成するWebアプリケーション。
Twitter Image Captioning
画像から、主観やユーモアを含むツイート風の文章を生成。
おしゃべりぼっと
フォロワーの投稿をマルコフモデルで学習する、初めて作ったTwitterボット。
Trip Map
行きたい場所を保存し、選択した場所を巡る最短経路を探す旅行計画アプリ。