Introduction

풀고자 하는 문제 :

$y$에 대해서 stronly concave하며 $x$에 대해선 nonconvex 문제에 해당. $\xi$ 는 unknown distrubiton을 따르는 random varialb.e

주로 다음의 부분에서 사용

• Adversarial training

• reinforement learning

  

  • value function인 $V(s;\theta)$가 neural net으로 구현되어 있고 흔히 nonconvex하게 된다.

• robust federated learning

  

이런 문제를 풀려고 제시되었던 방법들은 다음과 같다.

• stochastic gradient descent ascent SGDA
  • • variance reduced techniques SPIDER, STORM
  • • adaptive learning rate only for $x$ : PDAda

본 페이퍼의 featurization은 다음과 같다.

• adaptive learning rate for $x,y$

  어떻게 accelerate하는가?

  다만 이것만 적용한 경우 generalization이 부족하기도 한다.(e.g. Adam)

• momentum based variance reduced techinques

  • momentum based : AdaGDA

  • momentum based variance reduced tech : VR-AdaGDA

    ⇒ momentum 계산 시 variance reduction이 반영된 것

• convergence analysis with mild assumption

  • 기존 방식들은 제한된 조건(e.g. sparse gradient)에서만 convergence rate이 개선이 되었음.
  • 여기에선 그러한 조건 없이 rate가 개선되는 것을 보임

Key word