메인뉴스 | 생성형 AI 시대 사이버 보안의 미래는?

• #1 공격자들의 생성형 AI 활용

  최근 생성형 AI가 사이버 공격에 많이 쓰이면서, 그 위험성이 점점 커지고 있습니다. 예전에는 악성 코드 개발이나 변종 생성에 그쳤다면, 이제는 사회공학적 공격까지 포함되면서 공격의 수준과 범위가 확연히 달라졌습니다.

  특히, AI의 제한된 기능을 우회하는 ‘탈옥’ 기법을 통해 누구나 쉽게 악성 코드를 만들 수 있습니다. 보통 AI 서비스는 공격 코드 생성을 막도록 설계되어 있지만, Criminals LLM 같은 서비스에서는 적절한 프롬프트만 주면 위험한 코드를 생성할 수 있습니다. 이로 인해 비전문가들도 간단한 명령으로 실제 작동하는 악성 코드를 만들 수 있는 상황이 되었습니다.

  더 놀라운 건, 이런 공격이 다크웹뿐 아니라 일반적인 사이트에서도 이루어지고 있다는 점입니다. 공격자들은 생성형 AI를 활용해 피싱 이메일 작성이나 CEO 목소리를 딥페이크로 위조하는 등의 방법으로 훨씬 정교하고 빠르게 사회공학적 공격을 진행하고 있습니다.

  딥페이크나 AI로 생성된 악성 코드 같은 위협은 이제 현실이 되었습니다. 기술이 발전할수록 이를 악용하려는 시도도 늘어나기 때문에, 우리는 한 발 앞서 대비하고 대응할 필요가 있습니다.

중국산 가전 해킹 취약성 경고
미국이 중국산 가전 제품의 해킹 취약성으로 개인정보 유출 위험을 경고했습니다. 저가 보안 플랫폼과 소프트웨어 경쟁력 부족이 문제로 지적되고 있으며, 삼성과 LG는 AI 기반 보안을 강화해 개인정보 보호를 강화하고 있습니다. 스마트 가전 시장 성장과 함께 보안 수요도 증가하고 있습니다.

2023년 교육기관 개인정보 유출 급증: 소극적 대응에 대한 비판과 대책 요구
2023년 교육기관의 개인정보 유출이 85만 건을 넘었지만, 개인정보 보호위원회는 징계권고를 하지 않아 비판을 받고 있습니다. 경북대와 전북대에서도 수만 명의 개인정보가 유출됐으며, 반복되는 유출 사고에 대해 위원회의 적극적인 조치가 필요하다는 지적이 있습니다. 국가·공공기관에서도 유출이 증가해 대책 마련이 요구되고 있습니다.

AI 등장에 따른 사이버 보안 강화
글로벌 트렌드와 국내 대응 AI의 등장으로 사이버 보안의 중요성이 커지며, 가트너는 정보 보안 지출이 증가할 것으로 예상했습니다. 2025년에는 사이버 공격의 17%가 생성형 AI와 관련될 것이라고 전망했습니다. 국내에서도 경찰청이 딥페이크와 악성사기 대응을 위해 AI 기반 기술 개발에 91억 원을 투자하는 등 사이버 보안 강화를 추진 중입니다.

국가 사이버안보 기본계획 발표
5대 전략과제 및 부처별 대응 방안 국가안보실은 14개 부처와 함께 '국가 사이버안보 기본계획'을 발표했습니다. 주요 전략 과제로는 선제적 사이버 방어, 글로벌 공조, 핵심 인프라 복원력 강화, 기술 경쟁력 확보, 부처 간 협업 강화를 포함합니다. 각 부처는 이를 바탕으로 사이버범죄 수사, 정보보호 산업 조성 등 다양한 과제를 추진할 계획입니다.