안전한 인공지능 시스템을 위한 심층 신경망 강화

42

1

부

인공지능을 속이는 기술

실제로 자율 주행차는 여러 데이터를 기반으로 설정된 정보를 바탕으로 결정을 내릴 수 있으며

항상 주의를 기울여야 합니다. 도로 규정과 관련된 중앙 데이터(속도제한, 교차로, 정지, 경유

요청 )에 접근할 수 있는 경우 정지 신호가 ‘진행’ 신호로 변경되더라도 속지 않을 것입니다. 오

히려 공격자는 이런 경고 사태를 악용할 확률이 큽니다. 예를 들면, 위험물로 잘못 해석된 평범

한 인쇄 스티커가 대량 도로에 쏟아져 도로망 붕괴를 유발하는 경우입니다.

2.6

음성 제어 장치

음성 제어 장치는 우리 삶의 여러 측면을 제어하며 자연스럽게 손의 수고를 덜어줍니다. 미디

어 제어, 홈 자동화, 인터넷 검색에서 쇼핑에 이르기까지 모든 작업을 음성으로 제어합니다. 또

한 스마트폰, 태블릿, 오디오 어시스턴트와 같은 음성 제어 장치를 가정집에서 흔히 볼 수 있습

니다. 이러한 장치의 중심부 음성 처리는 고급 심층 신경망 기술로 작동하며 매우 정확합니다.

[그림

2

-

3

]은 음성 제어 장치의 간단한 처리 연쇄 법칙을 보여줍니다.

그림

2-3

디지털 어시스턴트는 인공지능을 사용해 음성 오디오를 처리하고 적절하게 반응합니다.

오디오는 라디오나 텔레비전, 온라인 콘텐츠를 통해 가정으로 전달됩니다. 오디오는 듣는 사람

"안녕! 디지털

어시스턴트"

마이크

디지털 ...