에는 모든 피처가 서로 독립적이라는 중요한 가정이 있습니다. 대부분의 데이터셋, 특히 정확한 예측을
위해 신경 네트워크 모델이 필요할 정도로 복잡한 데이터셋이라면 이는 좋은 가정이 아닙니다. 이런 그래프
는 모델이 무엇을 하고 있는지 표시할 수 있지만, 완전한 설명은 제공하지 않습니다.
구글 클라우드의
AI
플랫폼을 사용하여 모델을 배포했다면
WIT
에서 피처 기여도
feature
attributions
(
https
://
oreil
.
ly
/
ePiEi
)를 볼 수 있습니다. 단일 데이터 예제에서 피처 기여도
는 각 피처와 피처에 대해 양 또는 음의 점수를 제공하므로 모델의 예측에 대한 피처 기여도의
효과와 크기를 나타냅니다. 또한 모델에 포함된 피처의 중요도를 전체적으로 설명할 수 있습니
다. 피처 속성은 다음 절에 설명할 샤플리값
Shapley
values
을 기반으로 합니다. 샤플리값은 피처가
독립적이라고 가정하지 않으므로
PDP
와 달리 피처가 서로 상관되어 있을 때 유용합니다. 이
절을 작성하는 현재, 피처 속성은 텐서플로
1
.
x
를 사용하여 학습을 받은 모델에서만 사용할 수
있습니다.
7.4.2
다른 설명 가능성 기법
LIME
16
(
https
://
oreil
.
ly
/
SrlWc
)은 모델 ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month, and much more.
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.
Julian F.
Head of Cybersecurity
I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.
Addison B.
Field Engineer
I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.
Amir M.
Data Platform Tech Lead
I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.