2021년 3월 2일
1 설명가능한 AI(eXplainable AI)
기업들은 AI를 새로운 기회로 활용하는 것은 물론 일부 비즈니스의 문제 해결에 적용하고 있다. AI가 발전하면서 더 많은 비즈니스 기회도 생겨나고 이로 인해 AI 사용이 계속 증가하고 있다.
하지만 AI가 일반적인 업무에서 의사 결정을 수행하는 등 더 핵심적인 업무로 이동 됨에 따라 이미 결정한 최종 결과의 근거와 도출과정의 타당성을 제공하지 못하고 있다. 또 오류 원인을 즉각적으로 알지 못하고 어떻게 이런 결정을 했는지 개발자조차 파악하지 못하면서 블랙박스가 존재한다.
이에 AI가 내린 결정이나 답을 AI 스스로가 사람이 이해하는 형태로 설명하고 제시할 수 있는 설명 가능한 AI(eXplainable Artificial Intelligence, 이하 XAI)가 핵심적인 비즈니스에 필수적으로 대두되고 다양한 문제를 정밀하게 예측하는 AI 활용이 본격화 되고 있는 것이다.
XAI는 학습 과정 중 데이터로부터 다양한 패턴을 추출·분석해 드러나지 않았던 법칙, 전략 등을 도출할 수 있다. 이에 따라 사용자들 사이에 신뢰를 쌓고 조직이 이러한 모델을 사용해 개발하는 제품에 대한 신뢰와 자신감이 높아지는 것이다.
특히 AI가 사람에게 의사결정의 이유를 설명하게 되면서 질병 진단과 금융거래, 조사 보고서 등에서 그 결과에 대한 신뢰성이 높아지고 활용도도 더욱 높아질 것으로 보인다.
예를 들어, 전자 의료기록이나 뇌 영상 이미지, 생체 데이터 등을 자동으로 분석해 췌장암이나 치매 같은 질병을 진단할 수 있다. 그러나 이것으로 끝나는 것이 아니라 진단 결과에 '왜' 췌장암이나 치매로 판단하는지 파악할 수 있어 AI의 진단에 대한 신뢰도를 높이는 것이다.
또 천연자원 구매나 주식 거래 등에서도 사고파는 결정에 대한 보고서를 받을 수 있으며, 금융에 적용하면 정확한 분석과 이를 바탕으로 예측이 가능해 지는 것이다.
XAI는 미국 방위고등연구계획국(DARPA, Defense Advanced Research Projects Agency)는 지난 2016년 XAI 투자 프로그램을 발표했으며 국내 UNIST, KAIST를 포함한 세계의 유명 대학 및 연구 기관 등도 XAI 개발에 박차를 가하고 있다. XAI는 신뢰성이 생명인 의료, 금융, 법률 등의 분야에서 인간의 의사결정을 돕거나 대체하는 AI 개발의 핵심 기술이라고 할 수 있다.
출처 : 인공지능신문(http://www.aitimes.kr)
2 연속학습
연속학습(Continual Learning)은 인공지능(AI) 분야의 오랜 난제 중 하나로 순차적인 과제들을 계속해서 효율적으로 학습할 수 있는 과정을 말한다. 이 학습방법은 AI기반으로 학습 진행시, 데이터가 누적될수록 과거 데이터는 지워지고, 신규 데이터 중심으로 결과값을 도출하는 경향이 발생하는데 이 오류를 해결할 수 있다.
그 동안 AI가 데이터를 학습할 때, 많은 양의 데이터를 학습하면 메모리 사용이 급증하고, 데이터의 양을 줄이면 정확도가 떨어지는 것이 AI 학습 분야의 최대 난제였다.
LG AI연구원이 이번 논문에 발표한 내용은, AI가 학습할 때 사용하는 메모리는 줄이면서도 성능을 유지하거나 향상시키는 기술이다.
LG AI연구원과 토론토대 스캇 새너(Scott Sanner) 교수팀은 데이터의 중요도를 측정하는 평가값인 새플리 지표(Shapley value)를 연속 학습에 최초로 적용시켜 기존 방식 대비 최대 40%까지 학습 성능을 향상시키는 기술을 개발했다.
출처 : 인공지능신문(http://www.aitimes.kr)
3 메타인지
- 자기 자신을 객관적으로 알고, 무엇을 알고 무엇을 모르는지 아는 것
- 메타인지 = 메타기억 + 메타이해
3.1 메타기억
- 무엇을 기억하고 있고, 무엇을 기억하지 않은지 아는 것. (많은 사람들이 자신의 기억은 확실하다고 생각하는 경향이 있다.)
3.2 메타이해
- 무엇을 이해하고 있고, 무엇을 이해 못하고 있는지 아는 것. 특히, 텍스트에 대한 이해를 뜻함. (메타이해가 낮을수록 자신의 능력을 과신하는 경향이 있음).
4 입이 트이는 영어
Recommendation Algorithms in Our Daily Lives
우리 삶 속의 추천 알고리즘
토의
STUDY GROUP QUESTIONS
1. Some people worry that certain algorithms might invade privacy. What do you think?
I can relate to people who worry about privacy issues because algorithms basically need inputs such as people's personal data.
Moreover, as it feeds me endless suggestions, I worry that it makes me act passively.
People who have their head on right could be a slave to these recommendation algorithms if they rely on them too much.
2. Have you ever tried something new thanks to an algorithm?
Thanks to the recommendation algorithm on Netflix and YouTube, I was able to enjoy contents that I wouldn't find by myself.
3. Algorithms can decide which ads you see online. Do you think this is good or bad?
It scares me when I come across ads from platforms that I don't allow to use my data. I think that it could be either good or bad depending on how we use these algoritms. We should know algorithms are everywhere right under my nose at least.
표현
less of a hassle 덜 귀찮은 일
easy on the wallet 가격 부담이 적은
one's cup of tea ~의 취향에 맞는 것
kill two birds with one stone. 일석이조
Exercising during lunch is less of a hassle.
Moreover, it's easier on the wallet because I bring my lunchbox.
I think that it's killing two birds with one stone.
