반응형 알기쉬운 AI3 [알기쉬운 AI - 39] AI 보안 2 - AI에 대한 공격 매커니즘 이전 글에서는 왜 AI에 보안이 필요한지 몇 가지 사례를 들어 알아봤습니다. 이번에는, 구체적으로 AI 공격에는 어떠한 기법이 있는지 알아보겠습니다. 보안 분야에서는, 공격 기법과 방어 기법 양쪽 다 알아두는 것이 중요하므로, 이 다음 글에서는 방어 기법에 대해 소개하겠습니다. AI 모델에 대한 공격 설정최근 여러 곳에서 AI가 활용되고 있습니다. 상황에 따라 실행 가능한 공격은 달라지므로, 먼저 그 점을 명확히 해야 합니다. 크게 나누어 AI에 대한 공격은 다음 두 가지로 나눌 수 있습니다.・White Box 공격 ・Black Box 공격 화이트 박스 공격은 공격자가 공격 대상 AI 모델에 관련된 모든 정보를 알 수 있는 상황에서의 공격입니다. 예를 들어, 모델의 파라미터, 입력에 대한 모델의 예측 확.. 2023. 6. 13. [알기쉬운 AI - 35] 설명 가능한 AI(XAI : Explainable AI) 2 - XAI의 적용 방법 이전 글에서는 설명 가능한 AI( XAI )란 무엇인가를 예를 들어서 설명하였습니다. XAI 에는 다음과 같은 네 가지 프레임워크가 있습니다. ・출력에 대한 설명의 생성 ・해석 가능 모델의 추출 ・블랙박스 내용의 검사 ・투명성이 있는 학습기의 설계 이번에는 표 데이터를 예로 들어,「출력에 대한 설명의 생성」의 틀로 분류되는 XAI에 대하여 알아보겠습니다. 나머지 3 개에 대해서는 다음번에 소개하겠습니다. 테이블 데이터란, 이전 글에서도 소개한 여신 심사와 같이, 어느 샘플(여신 심사의 경우는, 심사되는 측의 채무자)의「연령」,「연수」등이 표 형식으로 정리되어 있는 데이터입니다. 이번에는,「출력에 대한 설명의 생성」을 실시하는 대표적인 수법인 SHAP를 소개합니다. SHAP는 특징량과 예측값의 관계를 아는.. 2023. 1. 20. [알기쉬운 AI - 22] 강화학습과 도적 알고리즘 강화 학습과 밴디트(도적) 알고리즘 강화 학습은 감독 학습처럼 '해답'이 주어지는 것이 아니고, 보수를 얻기 위해 스스로 배우고 영리해지는 학습법입니다. 바둑이나장기와 같은 게임에서 압도적인 힘을 보여 주므로, "빙상의 체스"라 부르는 컬링을 예로 들어 설명해 봅시다. 컬링은 4명이 한 팀으로 10 엔드 싸움으로 합계 점수가 많은 쪽이 승리하는 스포츠입니다. 엔드마다 선공과 후공이 있어 후공이 유리한 게임입니다. 엔드에서 이기면 다음 엔드는 선공이 되기 때문에 일부러 무승부로 끝내서 후공을 계속한다거나 선공 때는 1점 차이로 일부러 져서 후공을 얻기도 합니다. 이 스포츠는 어떻게 싸워나갈 것인지 전술적인 면이 큰 경기입니다. 일반적으로 컬링은 코치가 있습니다. 8 엔드에서 선공으로 2점 리드시 취해야 할.. 2020. 3. 18. 이전 1 다음 반응형
