10. IoT 보안과 AI 보안
1) IoT 보안
: IoT= 사물인터넷, 물건이 인터넷에 연결되는 것
ex) 전구, 자동차, 냉장고...
대부분 와이파이나 블루투스 이용해 연결=> 와이파이와 블루투스의 취약점을 그대로 가짐
카메라나 마이크를 해킹하거나, 도어락의 비밀번호를 바꾸는 등의 보안 문제 발생
-> KISA에서 IoT 공통 보안 7대 원칙 제공
2) AI에 대한 이해
(2) AI 기술의 분류
- 인공지능> 머신러닝> 딥러닝
인공지능: 사고나 학습 등 인간이 지닌 지적능력을 컴퓨터를 통해 구현하는 기술
머신러닝: 컴퓨터가 스스로 학습하여 인공지능의 성능을 향상시키는 기술
딥러닝: 인간의 뉴런과 비슷한 인공신경향 방식으로 정보를 처리하는 기술
- 머신러닝
지도학습: 답이 있는 데이터를 활용해 학습시키는 방법 (분류/ 회귀)
비지도학습: 답이 없는 데이터를 활용해 학습시키는 방법 (군집/ 차원축소)
강화 학습: 가장 큰 보상을 얻기 위해 스스로 학습하며 행위를 강화하는 학습 (시행착오/ 지연 보상)
3) AI의 취약점 유형과 대안
: 인공지능에 대한 공격은 데이터를 이용한 공격이 많음,
인공지능 자체의 취약점을 이용하는 경우가 많음
(1) 데이터 변조 공격과 대안
- 인공지능은 대량의 데이터를 인공 신경망을 이용해 학습
-> 학습 과정에 오류 데이터를 추가하면 인공지능은 정상적으로 작동할 수 없음
회피공격: 인공지능이 잘못된 판단을 하도록 유도하는 위험
대안: 변조된 데이터 또한 학습 데이터에 포함시켜 문제 해결
=> 해킹에 사용된 사례들도 입력 데이터로 사용하여 동일하거나 유사한 해킹에 대해 내성을 기르게 함 (= 변조 패턴 유형화)
(2) 악의적 데이터 주입 공격
- 중독 공격: 악의적인 데이터를 이용해 인공지능 시스템이 오작동을 일으키게 하는 공격
- 부정적인 데이터에 대한 사전 학습으로 대응 가능
(긍정적인 데이터와 부정적인 데이터를 따로 구분해 학습시키고, 어떻게 대응할지 따로 설계)
(3) 데이터 추출 공격
: 인공지능에서 사용하는 데이터 자체를 탈취하는 공격
전도 공격: 인공지능에 수많은 쿼리를 한 후, 산출된 결과를 분석해 인공지능에서 사용된 데이터를 추출
뭉개진 데이터를 복원하는데 많이 사용하지만, 학습에 사용된 데이터가 개인정보와 같은 민감한 정보라면 악용 가능
대응: 질의 횟수 조절=> 데이터 유출 보호
4) AI를 이용한 보안
(1) 스팸 메일 탐지
- 나이브 베이즈 분류기 사용: 베이즈 정리를 사용하여 텍스트를 분류, 스팸 메일 필터를 만듦
(2) 네트워크 침입 탐지
- 많은 트래픽을 효율적으로 탐지하고 분석해야함
전문가 시스템 이용 가능
최근: 네트워크 트래픽의 패턴을 머신러닝 모델에 정상, 비정상으로 학습시켜 비정상 트래픽 탐지
-> 오탐률을 낮추는 것이 중요
(3) 악성코드 탐지
- 프로그램이 지닌 일반적인 특징들을 변수화하여 그를 기반으로 악성코드와 정상코드를 머신러닝 모델에 학습시켜 악성코드 탐지 (API Call, Runtime Log, 시스템 자원, 네트워크 등을 변수로 사용)
(4) CCTV
- 찍히는 영상을 AI로 실시간 처리하여 무단침입과 같은 사고 감지
