설명가능한 인공지능(XAI), 자연어처리에서의 설명가능한 인공지능
interpretable model, eXplainalbe AI 등 여러가지 이름으로 불린다.
2018년까지의 근황이며,
현재는 tensorflow 2.0 - tensorboard나 다른 라이브러리에서 자체적으로 제공하고 있어 직접 구축할 필요가 없다.
딥러닝 모델에서 설명가능한 부분을 추출하는 방식에서 지속적인 발전이 이루어지고 있으며, (SmoothGrad 등)
기존 이미지처리쪽에서도 발전해나가던 방향에서,
BERT 내부 구조분석(ACL2019참조), 등 자연어처리쪽과 같은 다양한 방향으로도 발전해나가고 있다. 자연어처리에서는 주로 attention을 활용한 방법이 사용된다.
LIME, SHAP등 라이브러리가 쓰기 편함
1. Defense Advanced Research Projects Agency, DARPA "Explainable Artificial Intelligence (XAI)". DARPA presentation. DARPA. Retrieved 17 July 2017.
2. 금융보안원, “설명 가능한 인공지능 [eXplainable AI, XAI] 소개, 2018.03.23.
3. 한국정보화진흥원, “미 국방연구원 ‘설명가능 인공지능(XAI)’, 2018.02.
4. medium https://blog.qure.ai/notes/visualizing_deep_learning
5. https://headlines.yahoo.co.jp/
6. https://www.sicara.ai/blog/2019-07-31-tf-explain-interpretability-tensorflow
외에 ppt에 포함되어있는 논문들
2018년까지의 근황이며,
현재는 tensorflow 2.0 - tensorboard나 다른 라이브러리에서 자체적으로 제공하고 있어 직접 구축할 필요가 없다.
딥러닝 모델에서 설명가능한 부분을 추출하는 방식에서 지속적인 발전이 이루어지고 있으며, (SmoothGrad 등)
기존 이미지처리쪽에서도 발전해나가던 방향에서,
BERT 내부 구조분석(ACL2019참조), 등 자연어처리쪽과 같은 다양한 방향으로도 발전해나가고 있다. 자연어처리에서는 주로 attention을 활용한 방법이 사용된다.
LIME, SHAP등 라이브러리가 쓰기 편함
1. Defense Advanced Research Projects Agency, DARPA "Explainable Artificial Intelligence (XAI)". DARPA presentation. DARPA. Retrieved 17 July 2017.
2. 금융보안원, “설명 가능한 인공지능 [eXplainable AI, XAI] 소개, 2018.03.23.
3. 한국정보화진흥원, “미 국방연구원 ‘설명가능 인공지능(XAI)’, 2018.02.
4. medium https://blog.qure.ai/notes/visualizing_deep_learning
5. https://headlines.yahoo.co.jp/
6. https://www.sicara.ai/blog/2019-07-31-tf-explain-interpretability-tensorflow
외에 ppt에 포함되어있는 논문들
댓글
댓글 쓰기