Databricks의 Unity Catalog를 통한 데이터 거버넌스

6장. AI 관리

이 작품은 AI를 사용하여 번역되었습니다. 여러분의 피드백과 의견을 환영합니다: [e-mail]

기술은 우리가 적용하기 전까지는 도덕적으로 중립적입니다.

윌리엄 깁슨

AI 기반은 조직과 제품 전반에 걸쳐 가장 인기 있는 형용사( )가 되었습니다. 물론 그 중 상당 부분은 과대 광고에 불과하지만, 실제로 더 많은 기업이 최신 AI 기술을 활용하여 데이터를 활용하고 유용한 무언가를 구축하려고 노력하고 있는 것은 사실입니다. 디지털 트랜스포메이션과 마찬가지로 AI 트랜스포메이션도 실제로 일어나고 있습니다.

그러나 가장 큰 과제는 완벽하게 관리되고 안전한 AI 기반 시스템을 구축하는 것입니다. 여러분은 이를 직접 경험해 보셨을 것입니다: AI 프로젝트, 심지어 단순한 고전적인 ML 기반 프로젝트조차도 프로덕션화하기 어려울 수 있습니다. 이러한 프로젝트의 일반적인 기원은 데이터 과학자나 ML/AI 엔지니어의 노트북에서 시작되는 경우가 많은데, 이들은 일반적으로 프로젝트의 수학적, 통계적 측면에 더 집중하고 이를 배포하는 방법에는 덜 집중하기 때문입니다. 대부분의 AI 프로젝트에서 보안은 일반적으로 뒷전이고 거버넌스 측면은 존재하지 않습니다. 게다가 생성형 AI(GenAI) 제품, 특히 OpenAI의 GPT 모델이 발전함에 따라 새로운 보안 및 거버넌스 과제가 등장했습니다.

이러한 과제 중 일부는 우스꽝스러워 보이기도 합니다. 2024년 1월 18일, X(구 Twitter)의 한 사용자가 택배 회사 DPD의 AI 기반 고객 서비스 챗봇과 나눈 대화를 게시했습니다. 이 챗봇은 사용자가 기대했던 것만큼 도움이 되지 않았을 뿐만 아니라, 챗봇이 얼마나 쓸모없고 DPD가 얼마나 끔찍한 회사인지에 대한 시를 만들어냈습니다. 이 사건이 소셜 미디어에 퍼진 후 DPD는 즉시 AI 요소를 수정하기 위한 조치를 취했지만 평판의 손상을 되돌릴 수는 없었습니다. 2023년에 발생한 더 심각한 사건은 삼성에서 직원 중 한 명이 ChatGPT를 통해 민감한 내부 소스 코드를 OpenAI에 게시한 사건으로, 삼성은 직원들에게 GenAI 도구 사용을 금지했습니다. 이는 다양한 조직에서 AI를 빠르게 도입하면서 발생한 유사한 사건 중 두 가지에 불과합니다.

최근 타사 공급업체에서 호스팅하는 일반 범용 GenAI 모델을 사용하는 추세에 따라 조직에서 잠재적인 보안 문제가 발생할 수 있는 영역이 확대되고 있으며, 예를 들어 조직별 데이터가 타사 모델 API 공급업체에 업로드되는 등 보안 문제가 발생할 수 있는 영역이 확대되고 있습니다. 이 취약점은 애플리케이션, 네트워크, 인프라 계층 등 다양한 수준에서 시스템을 보호하고 관리해야 할 필요성을 강조합니다. 예를 들어, 네트워크 계층에서는 다른 Cloud 지역에서 호스팅되는 모델을 사용하는 데 필요한 지역 간 데이터 전송을 고려해야 하는데, 경우에 따라 규정 준수상의 이유로 허용되지 않을 수 있습니다. 조직 내에서도 누가 학습된 AI 모델에 액세스할 수 있는지, ML 실험과 ...