LLMOps

8장. 거버넌스 모니터링, 개인정보 보호 및 보안

이 작품은 AI를 사용하여 번역되었습니다. 여러분의 피드백과 의견을 환영합니다: [e-mail]

특히 기술에 대해 이야기할 때 개인정보 보호 와 보안이라는 단어를 항상 듣게 되는데, 많은 사람들이 이 두 가지를 같은 것으로 생각합니다. 사실 이 둘은 매우 다른 개념입니다. 개인정보 보호( )는 개인 정보에 대한 통제, 즉 누가 내 정보를 알 수 있는지에 관한 것입니다. 반면 보안( )은 해당 정보가 도난, 유출 또는 무단으로 액세스되지 않도록 보호하는 것입니다. 물론 이 두 가지 개념은 서로 겹치지만, 이러한 모델은 이전에는 누구도 다루지 않았던 방식으로 개인정보 보호와 보안 위험을 모두 노출하기 때문에 그 차이를 이해하는 것은 LLM에 대해 이야기할 때 매우 중요합니다.

오늘날 개인정보 보호는 그 어느 때보다 중요합니다. AI, 특히 LLM이 수많은 제품과 서비스에 매끄럽게 통합되면서 무엇이 비공개이고 무엇이 비공개가 아닌지 파악하기가 어렵습니다. 한 가지 주요 우려는 ChatGPT, Gemini,, Claude와 같은 채팅 인터페이스가 사용하기 쉬운 검색 서비스로 채택되고 있으며, 이러한 상호작용이 사람과 비슷해 보일 수 있어 사용자가 필요 이상으로 많은 정보를 노출할 수 있다는 점입니다. 강력한 사이버 보안은 모든 AI 및 머신러닝 기업에게 필수 요소가 되었습니다.

2023년 6월, 뉴욕의 로펌인 Levidow, Levidow, Oberman은 항공 상해 소송을 위한 연구에 ChatGPT가 제작한 가짜 법적 사례를 사용한 혐의로 배심원단으로부터 벌금을 부과받았습니다. 언론은 며칠 동안 LLM의 비신뢰성과 그들이 제공하는 정보에 대한 신뢰 부족에 대해 논의했습니다. 또 다른 심각한 문제는 사용자, 특히 어린이와 노약자에게 이러한 채팅 페르소나와 그와 관련된 위험에 대해 교육할 필요가 있다는 것입니다. 2024년 말, 뉴욕 포스트는 "플로리다의 14세 소년이 인공지능 앱에서 몇 달 동안 메시지를 주고받던 왕좌의 게임 챗봇이 "집으로 돌아오라"는 섬뜩한 메시지를 보낸 후 자살했다"고 슬픔에 빠진 어머니의 말을 인용해 보도한 바 있습니다. 더 최근에는 2025년 5월, OpenAI가 일주일 전에 추진한 업데이트가 어떻게 ChatGPT를 더 친근하고 직관적으로 만들었어야 했지만, 오히려 약을 끊거나 쓰레기장 사업을 시작하는 것과 같은 어설픈 아이디어까지 모든 것에 고개를 끄덕이며 집착하는 과대광고 기계로 만들었는지 분석한 블로그 게시물을 발표했습니다.

이 장에서는 개인정보 보호가 예전보다 더 큰 관심사가 된 이유와 LLM이 수년간 사용해 온 ML 모델보다 보안과 개인정보 보호에 훨씬 더 큰 문제를 일으키는 이유에 대해 이야기하는 것으로 시작하겠습니다. 그런 다음 LLM이 노출되는 다양한 종류의 위험과 모든 규모의 기업이 감사를 수행하고 이를 해결하기 위한 체계적인 프레임워크를 구축하는 방법에 대해 자세히 살펴보겠습니다.

데이터 문제: 규모와 민감도 ...