실무자를 위한 설명 가능한 AI

8장. 모든 것을 종합하기

이 작품은 AI를 사용하여 번역되었습니다. 여러분의 피드백과 의견을 환영합니다: [e-mail]

이 책에서는 ML 실무자에게 설명 가능한 AI(XAI)를 사용하는 방법과 이를 가장 잘 적용할 수 있는 분야에 대한 프레임워크를 제공했습니다. 또한 다양한 시나리오에 적용할 수 있는 설명 가능한 기법의 툴박스와 설명이 포함된 책임감 있고 유익한 상호 작용을 만들기 위한 가이드도 제공했습니다. 이 장에서는 한 걸음 물러나 설명 가능한 AI에 대한 더 큰 그림에 초점을 맞춥니다. 이 책에서 다룬 도구와 기능을 사용하면 전체 ML 워크플로에 어떻게 접근하고 설명 가능성을 염두에 두고 빌드할 수 있을까요? 또한 설명 가능성을 요구하게 될 향후 AI 규정 및 표준에 대한 미리 보기도 제공합니다.

설명 가능성을 염두에 둔 구축

많은 경우 설명 가능성은 모델 개발에 대한 사후 고려 사항, 가장 최근의 최고 성능 모델 개발에 대한 추가 보너스 또는 비즈니스에 부과된 새로운 규제 제약을 준수하려는 상사의 사후 기능 요청으로 접근합니다. 하지만 설명 가능성과 XAI의 목표는 그 이상입니다.

이 책에서는 여러 가지 설명가능성 기법에 대해 자세히 살펴보고 표, 이미지, 텍스트 데이터에 어떻게 적용할 수 있는지 살펴보았습니다. 대부분의 경우, 이러한 기법을 개별적으로 살펴보았기 때문에 독자는 일반적으로 사용되는 방법, 작동 방식, 장단점을 빠르게 파악할 수 있습니다. 물론 실제로 설명 가능성은 따로따로 존재하는 것이 아닙니다. 이러한 기법은 계속 확장되고 있는 머신 러닝 분석 툴킷의 일부로 고려해야 합니다. 이 툴킷은 단순히 사후 모델 분석에만 국한되지 않습니다. 설명 가능한 AI의 진정한 장점은 데이터 세트 수집, 전처리 및 개선부터 모델 개발, 배포 및 모니터링에 이르기까지 전체 엔드투엔드 머신 러닝 수명 주기에 걸쳐 적용할 수 있다는 것입니다.

이 섹션에서는 전체 머신러닝 수명 주기에 걸쳐 설명 가능성 방법론을 통합하여 보다 효과적인 머신러닝 솔루션을 구축하는 방법을 높은 수준에서 논의합니다. 설명가능성은 단순한 사후적 기능이 아니라 전체 머신러닝 프로세스를 바라보고 개선하기 위한 렌즈로서, 이미 많은 유망한 방향에서 XAI를 사용하여 AI 시스템을 보강하고 정확성, 신뢰, 투명성, 견고성 및 안전성을 높일 수 있습니다.

ML 수명 주기

모든 머신 러닝 솔루션 개발은 반복적인 프로세스이며, 시작부터 완료까지 취할 수 있는 단계는 사용 사례와 궁극적으로 프로젝트의 비즈니스 목표에 따라 크게 달라집니다. 하지만 대부분의 엔드투엔드 머신 러닝 프로젝트는 그림 8-1에 표시된 것과 같이 검색, 개발, 배포의 세 단계에 따라 개략적인 수준에서 동일한 기본 로드맵을 따릅니다.

그림 8-1. 설명 가능한 AI의 진정한 장점은 ...