하버드비즈니스리뷰

지난해 11월 오픈AI가 혁신적인 AI 언어 모델인 챗GPT를 출시하자 수백만 명의 사용자가 열광했다. 하지만 이내 많은 사람은 챗GPT가 악의적으로 사용될 수 있다며 진지하게 걱정하기 시작했다. 특히 챗GPT는 해커가 고급 사이버 보안 소프트웨어를 침해할 수 있는 새로운 길을 열어 준다. 이미 지난해 세계적으로 데이터 유출이 38%나 늘어 어려움을 겪는 관련 업계에서는 특히 리더가 AI의 막대한 영향력을 인식하고 제대로 행동하는 것이 매우 중요하다.

먼저 광범위하게 챗GPT가 사용되면서 생기는 주요 위협이 무엇인지 파악해야 한다. 이 글은 이런 새로운 리스크와 함께 사이버 보안 전문가의 대응에 필요한 교육과 도구를 살펴본다. 또한 AI 사용이 사이버 보안을 지켜내는 노력에 해가 되지 않도록 정부의 감독을 촉구한다.


AI 생성 피싱 사기

언어 기반 AI의 초창기 버전은 수년 전부터 일반 대중에 오픈 소스로 제공돼 왔다. 그 뒤로 현재까지 가장 발전된 버전이 챗GPT다. 특히 챗GPT는 맞춤법, 문법, 동사 시제 실수 없이 사용자와 매끄럽게 대화할 수 있다. 채팅 창 너머에 실제 사람이 있는 것처럼 느껴질 정도다. 해커 입장에서는 챗GPT가 게임 체인저인 셈이다.

FBI의 2021년 인터넷 범죄 보고서에 따르면 피싱은 미국에서 가장 만연하게 나타나는 IT 범죄다. 대부분의 피싱 사기는 맞춤법이나 문법 오류, 어색한 문구 등으로 가득한 경우가 많아 쉽게 판별할 수 있었다. 그러나 전 세계 해커들이 챗GPT의 지원을 받으면서 영어를 유창하게 구사해 피싱할 수 있게 됐다.

정교한 피싱 공격이 늘면서 사이버 보안 리더는 즉각적인 솔루션이 필요해졌다. 특히 구성원들이 수신하는 '콜드 이메일'을 주의해야 한다. 챗GPT로 생성된 것과 사람이 생성한 것을 구분할 수 있는 도구를 IT 팀에 제공해야 한다. 다행히 '챗GPT 감지기' 기술은 이미 있다. 챗GPT와 함께 발전해 나갈 가능성이 높다. IT 인프라에 AI 감지 소프트웨어를 통합해 AI가 생성한 이메일을 자동으로 선별하고 플래그를 지정하는 것이 가장 이상적이다. 아울러 모든 직원이 최신 사이버 보안 인식 및 예방 기술에 대한 교육을 주기적으로 받는 것이 중요하다. 특히 AI를 이용한 피싱 사기에 주의를 기울여야 한다. 업계뿐만 아니라 대중 모두가 AI의 확장된 기능에 찬사만 보내기보다 악용되는 상황을 감시하고, 이를 막기 위한 도구 개발을 계속 지지해야 할 책임이 있다.

아티클을 끝까지 보시려면
유료 멤버십에 가입하세요.
첫 달은 무료입니다!

로그인 멤버십 결제