"AI가 다 해주는 시대, 그럼 보안 엔지니어는 뭘 해야 할까" (호기심)
 |
| AI 시대 보안 인재상은? |
AI 시대, 최고의 보안 엔지니어는 무엇이 다른가
“2012년에 만든 위협 모델을 그대로 쓰는 사람들을 지금도 어렵지 않게 본다.” 15년 차 보안 리더의 이 말 한마디가, 지금 보안 인력 시장에서 벌어지고 있는 변화를 가장 잘 설명해줍니다. AI가 공격과 방어 양쪽 모두를 바꾸면서, ‘보안을 잘 아는 사람’의 기준 자체가 달라지고 있습니다.
채용 담당자라면 이력서의 자격증 항목만으로 좋은 보안 엔지니어를 가려내기 어려워졌고, 현직 실무자라면 어떤 역량을 더 채워야 할지 감이 안 잡히실 수 있습니다. 해외 보안 리더 세 명의 인터뷰를 바탕으로, 지금 이 시점에 꼭 짚어야 할 핵심 역량 7가지를 정리해봤습니다.
보안 엔지니어의 역할은 ‘사고가 터진 뒤 대응하는 사람’에서 ‘위협을 미리 설계하고 예측하는 사람’으로 이동하고 있습니다. AI가 탐지와 초기 분석을 대신하면서, 사람에게 남는 몫은 해석과 판단, 그리고 비즈니스와의 연결입니다.
1. AI 기반 도구 활용 능력 — 사고 대응자에서 위협 모델 설계자로
취약점 스캔과 로그 분석처럼 몇 시간씩 걸리던 작업이 이제 자동화 도구로 몇 분 안에 끝납니다. 금융권 디지털 엔지니어링 리더는 이를 두고 “AI 기반 이상 징후 탐지가 기존 임계값 기반 시스템보다 훨씬 이른 시점에 위험 신호를 잡아낸다”고 설명했습니다. 문제는 도구를 ‘쓸 줄 아느냐’가 아니라, 도구가 내놓은 결과를 얼마나 정확하게 해석하고 어떤 대응이 필요한지 판단하느냐입니다. 자동화가 늘어날수록 사람의 몫은 오히려 더 고차원적으로 바뀝니다.
2. AI 위협에 대한 깊이 있는 이해
공격자도 같은 생성형 AI를 씁니다. 맞춤형 피싱 메일을 대량으로 만들고, 딥페이크 음성으로 임원을 사칭하는 일이 이미 벌어지고 있습니다. 여기에 더해 보안 엔지니어가 새롭게 알아야 할 개념들이 있습니다.
- 프롬프트 인젝션(prompt injection): AI 모델에 악의적인 지시를 몰래 주입해 원래 목적과 다른 동작을 시키는 공격
- 데이터·모델 오염(data/model poisoning): 학습 데이터나 모델 자체를 조작해 결과를 왜곡시키는 공격
- 모델 탈취(model theft): 기업이 개발한 AI 모델의 구조나 가중치를 무단으로 빼내는 행위
- 과도한 자율성(excessive agency): AI 에이전트가 권한 범위를 넘어 스스로 판단해 행동하면서 발생하는 위험
피싱 메일의 문장이 어색하던 시절은 지났습니다. 이제는 대상에 맞춰 정교하게 작성된 공격을 걸러내야 하는 시대입니다.
3. 성능과 비즈니스 목표를 함께 고려하는 시각
아무리 정교한 이상 거래 탐지 시스템이라도 실시간으로 반응하지 못하면 의미가 없습니다. 최고 수준의 엔지니어는 보안성과 처리 속도를 동시에 최적화합니다. 여기에 더해, 기술을 비즈니스 맥락에서 설명할 수 있는 사람의 가치가 커지고 있습니다. 인증(authentication) 문제를 단순한 인프라 이슈가 아니라 사기(fraud) 리스크와 연결해 설명할 수 있는 엔지니어가, 기술적으로만 뛰어난 엔지니어보다 경영진을 훨씬 잘 설득합니다.
4. 시스템 전반을 바라보는 사고방식
채용 시장에서 흔한 오해 중 하나는 최고의 보안 엔지니어를 자격증이나 특정 도구 숙련도만으로 평가하는 것입니다. 오늘날의 공격은 하나의 독립된 시스템만 노리지 않습니다. 인프라, 클라우드, ID 관리, 애플리케이션, API, 네트워크가 어떻게 서로 연결되는지 전체적으로 이해하는 엔지니어일수록 예방과 대응 모두에서 성과가 좋습니다.
5. 다양한 기술 영역을 아우르는 폭넓은 역량
예전에는 한 분야에 깊은 전문성이 있으면 충분했습니다. 지금은 클라우드 인프라, 애플리케이션 보안, 컴플라이언스까지 별도의 인수인계 없이 넘나들 수 있는 인재가 필요합니다. 보안 사고는 하나의 계층에서만 끝나는 경우가 거의 없기 때문에, 네트워크에서 애플리케이션, 데이터 거버넌스까지 흐름을 추적할 수 있는 사람이 더 적은 인력으로도 문제를 빠르게 해결합니다.
6. 서드파티 위험과 비인간 위협에 대한 깊은 이해
서비스 계정, API 키, 자동화 토큰, AI 에이전트 같은 비인간(non-human) ID는 이제 대부분의 기업 환경에서 사람 계정보다 압도적으로 많습니다. 그런데도 많은 조직이 여전히 대규모 환경에 맞지 않는 수작업 방식으로 이를 관리하고 있습니다. API 호출 하나, 권한을 가진 공급업체 하나, 서드파티 AI 모델 하나까지 공격 표면의 일부로 인식하는 엔지니어는 시스템을 설계하는 방식부터 다릅니다.
7. 끊임없이 배우려는 자세
보안 환경은 자격증 과정보다 빠르게 변합니다. 뛰어난 엔지니어는 1년에 한 번 보고서를 읽는 데 그치지 않고, 이번 달 공격자들이 어떤 기법을 쓰는지 꾸준히 살피고 자신의 위협 모델을 계속 업데이트합니다. 채용 담당자들도 최근에는 지원자가 새로운 플랫폼을 스스로 익힌 경험이 있는지, 낯선 문제를 어떤 방식으로 풀어가는지를 더 중요하게 봅니다. 이 자질은 이력서에 잘 드러나지 않는다는 점에서, 오히려 더 희소한 역량입니다.
예전 보안 엔지니어 vs AI 시대 보안 엔지니어
| 구분 | 기존 접근 | AI 시대 접근 |
|---|---|---|
| 역할 | 사고 발생 후 대응 | 위협을 미리 설계·예측 |
| 탐지 | 사람이 로그를 직접 분석 | AI가 탐지, 사람은 해석·판단 |
| 평가 기준 | 자격증, 특정 도구 숙련도 | 시스템 전반 이해, 비즈니스 연결 능력 |
| 보호 대상 | 자사 시스템 중심 | 서드파티·머신 ID까지 포함 |
| 학습 주기 | 연 1회 보고서 수준 | 월 단위로 최신 공격 기법 추적 |
- AI 기반 탐지 도구의 결과를 해석하고 대응 우선순위를 정할 수 있다
- 프롬프트 인젝션, 모델 오염 등 AI 특유의 위협 개념을 설명할 수 있다
- 보안 조치가 성능(응답 속도)에 미치는 영향까지 함께 고려한다
- 인프라부터 애플리케이션, API까지 전체 흐름을 그릴 수 있다
- 클라우드·앱보안·컴플라이언스 등 여러 영역을 오갈 수 있다
- 서드파티 API, 공급업체, AI 에이전트를 공격 표면으로 인식하고 있다
- 이번 달 새로운 공격 기법을 최소 한 가지는 살펴봤다
면접에서 자격증 목록보다 “최근에 새로운 플랫폼이나 낯선 문제를 어떻게 스스로 익혔는지”를 물어보는 것이, 실제 실무 역량을 가늠하는 데 더 효과적일 수 있습니다.
AI가 공격과 방어를 동시에 바꾸는 지금, 보안 인력의 기준도 함께 업데이트할 시점입니다.
다음 글에서는 서드파티·비인간 ID 위험을 실무에서 어떻게 관리하는지 더 자세히 다뤄보겠습니다.