助教
じゃん はいぼ
私は自身が考えた様々なアイデアを現実するため追求することが好きです。今は夢を作り出すことが可能な時代であり、研究者になることで多くの奇抜なアイデアを実現する可能性が広がると考えています。
画像認識システムに対する敵対的攻撃防御手法の研究
画像処理、パターン認識、敵対的攻撃
画像処理、パターン認識、敵対的攻撃、コンピュータビジョン、画像再構成
深層学習を用いた画像認識システムの普及に伴い、敵対的攻撃の脅威が増しています。特に自動運転や医療診断などの分野では安全性が重要視されるため、効果的な防御方法の開発が急務ですが、現存の防御方法には限界があり、更なる改善が必要です。これらの背景から、敵対的攻撃に対する防御方法の研究を行っています。
本研究は、画像再構成技術を用いて、敵対的攻撃から画像認識システムを防御する手法を探究します。近年、深層学習を用いた画像認識技術は、医療、交通、監視など多くの分野で広く応用されています。しかし、これらのシステムは、敵対的攻撃によって簡単に誤った認識をさせられる脆弱性があります。画像再構成技術は、攻撃によって意図的に追加された擾乱を除去することで、画像認識モデルの精度と安全性を向上させることを目指しています。また、この技術の有効性評価のため、様々な敵対的攻撃手法に対する耐性を検証します。
この研究では、動画解析における敵対的攻撃に対する防御手法を検討します。敵対的攻撃は、動画の特定のフレームにのみ擾乱を加えることができるため、動画認識システムが誤った判断をする可能性があります。本研究では、時間的な連続性を利用して攻撃を検出し、防御する方法を提案します。具体的には、時系列解析技術やディープラーニングを用いた異常検知アルゴリズムを開発し、攻撃フレームを特定します。さらに、検出された攻撃フレームを修正し、動画全体の認識精度を維持する方法を実験的に検証します。これにより、動画領域における敵対的攻撃に対する防御能力を向上させることを目指します。
本研究は、リアルタイムで敵対的攻撃を検出および防御するシステムを開発することを目的とします。特に、自動運転の車載カメラのような高い安全性が要求される応用分野での利用を想定しています。自動運転車は、カメラやセンサーを用いて周囲の環境を認識し、適切な判断を下す必要がありますが、敵対的攻撃によって誤った情報を取得するリスクがあります。本研究では、リアルタイムに動作する軽量かつ高精度な敵対的攻撃検出アルゴリズムを開発し、これを車載システムに組み込むことを目指します。このシステムの性能と実用性を評価するために、シミュレーションおよび実際の車両を用いた実験を行い、その有効性を検証します。
