청호PENTEST - Professional Penetration Testing Company

Select Language
조회 수 : 37
2020.01.20 (06:03:00)
공주대 최대선 교수, ‘AI를 속이는 공격자 AI’ 개발

 공주대 최대선 교수는 얼굴에 몇 개의 점을 붙여 얼굴인식 AI가 다른 사람으로 인식하게 만드는데 성공했다고 밝혔다.

[사진=공주대]


연구팀이 개발한 공격자 AI에 얼굴 사진을 입력하면 얼굴에 붙일 점 스티커를 만들어 주고, 점을 붙일 위치를 알려준다. 공격자 AI가 알려준대로 얼굴에 점 스티커를 붙이면, 얼굴인식 AI는 전혀 다른 사람으로 인식하게 된다.

보 안 분야에서는 이미지나 보이스에 약간의 변형을 가해 딥러닝 AI를 속일 수 있는 기만 공격이 가능하다고 알려져 왔으며, 기만 공격을 통해 자율주행 자동차가 좌회전 표지판을 우회전으로 인식하게 되는 등 심각한 문제를 야기할 수 있어 AI의 보안 취약점으로 지적되고 있다.

이러한 변형 데이터를 적대적 예제(adversarial example)라고 부르며, AI를 기만하는데 사용한다. 공격자 AI가 어떻게 변형해야 하는지를 자동으로 찾아주므로 이러한 적대적 예제를 쉽게 생성할 수 있으며, 이를 방어하는 것도 어렵다고 알려져 있다.

사람 목소리에 약간의 잡음을 추가해 음성인식 AI를 속이는 기만 공격 사례도 알려져 있다. 방송에서 앵커가 말한 “A상품을 주문해라”는 음성을 명령으로 인식해 실제 상품을 주문한 아마존 AI 스피커의 사례가 있는데, 적대적 예제를 적용할 경우 “안녕하십니까”라는 말을 듣고도 상품을 주문할 수 있다.

이번 공주대 연구는 이미지 상태가 아닌 실제 얼굴에 약간의 분장을 통해 얼굴인식 AI를 기만할 수 있다는 것을 보여준 세계 최초 연구로, AI 적용 분야가 확대돼 가는 가운데 AI 보안 취약점이 큰 문제를 야기할 수 있는 사례다.

해외에서는 표지판에 스티커를 붙여 오인식하게 만드는 연구가 소개된 바 있으나, 얼굴 분장을 통한 얼굴인식 AI를 기만하는 사례는 이번 공주대 연구가 최초다.

연 구팀을 이끈 최대선 교수는 “이러한 기만 공격 이외에도 AI의 오동작을 유발하거나 학습에 사용된 데이터를 추출해 프라이버시를 침해하는 등 여러 가지 AI 보안 취약점이 알려져 있다”며, “최근 AI에 대한 국가적 관심과 산업계의 적용이 활발한 가운데 AI 보안 문제에 대해서도 심각성을 인식하고 대비해야 한다”고 말했다.
번호 제목 닉네임 조회 등록일
8339 ‘통일외교안보특보 발표 문서’ 사칭 스피어피싱 공격... 김수키 추정
[레벨:30]관리자
28 2020-01-20
8338 배송대행 업체 산타빌리지 해킹... 해커, 개인정보 볼모로 협박중
[레벨:30]관리자
23 2020-01-20
Selected 얼굴인식 AI를 속이는 AI? 기만 공격 가능하다
[레벨:30]관리자
37 2020-01-20
8336 코니 APT 공격 출현... 2020년 동경 패럴림픽 문서 위장했다
[레벨:30]관리자
28 2020-01-20
8335 MS IE 제로데이 취약점 악용한 타깃 공격 발생
[레벨:30]관리자
30 2020-01-20
8334 청와대 행사 견적서 사칭 변종 공격 발견... 北 추정 ‘김수키’ 조직이 또?
[레벨:30]관리자
20 2020-01-20
8333 2019년 4분기, ‘소디노키비’ 랜섬웨어 최다 유포...‘넴티’ 랜섬웨어도 급증
[레벨:30]관리자
41 2020-01-10
8332 마이크로소프트, 북한 해커들의 공격용 도메인 무력화시켜
[레벨:30]관리자
31 2020-01-10
8331 이메일 시스템 업그레이드? 사용자 계정 노린 피싱 메일 유포
[레벨:30]관리자
41 2020-01-10
8330 공정위, 조사공문 사칭한 해킹메일 피해 주의 당부
[레벨:30]관리자
34 2020-01-10
8329 공정거래위원회 사칭한 ‘악성메일’ 유포중
[레벨:30]관리자
44 2019-12-31
8328 유명 라우터들 취약점 악용해 디도스 공격하는 Mozi P2P 봇넷…주의
[레벨:30]관리자
52 2019-12-30
8327 최근 국내외 제조업체 등 기업 대상 해킹 공격 지속…주의
[레벨:30]관리자
42 2019-12-30
8326 2019년 화려하게 부활한 랜섬웨어 총정리
[레벨:30]관리자
36 2019-12-30
8325 시트릭스 제품군 보안 취약점 발견
[레벨:30]관리자
48 2019-12-30
8324 중국의 APT20, 2년 동안 10여개 국에서 스파이 활동 벌여
[레벨:30]관리자
59 2019-12-26
8323 안드로이드용 트위터 앱에서 취약점 발견
[레벨:30]관리자
39 2019-12-26
8322 “2020년, 위협 인텔리전스 기반으로 실시간 위협 대응 능력 키워야”
[레벨:30]관리자
56 2019-12-23
8321 KEB하나은행 보안메일 사칭한 피싱 메일 유포중
[레벨:30]관리자
87 2019-12-23
8320 한 단계 더 발전한 메이즈 랜섬웨어, 이젠 데이터 공개까지
[레벨:30]관리자
44 2019-12-23
Tag List

서비스 링크

X
Login

브라우저를 닫더라도 로그인이 계속 유지될 수 있습니다. 로그인 유지 기능을 사용할 경우 다음 접속부터는 로그인을 하실 필요가 없습니다. 단, 게임방, 학교 등 공공장소에서 이용 시 개인정보가 유출될 수 있으니 꼭 로그아웃을 해주세요.

아이디가 없으신 분은

회원가입 후 이용하실 수 있습니다.

X