작년 한해는 인공지능이라는 단어가 홍수처럼 쏟아진 한해였습니다. 올해 2025년에도 작년과 마찬가지로 인공지능이 소프트웨어 산업에 게임체인저 역할을 할 것으로 전망됩니다.
지난 몇 년간 인공지능의 혁신 속도는 가속화되었고 개발 관행을 변화시켰으며 사이버 보안과 규제에 대한 중요한 질문을 던졌습니다. 또한 생산성 향상을 불러오는 도구로 인식되기도 한 반면 사이버 공격의 무기이기도 한 AI의 양면성이 매우 명확하게 들어나기도 했습니다.
이번 포스트에서는 AI 전망을 살펴보기 위해 몇 가지 질문을 던져보았습니다.
- 규제 강화는 AI 오남용의 감소 또는 혁신의 속도의 감소를 불러올 것인가?
- 악의적인 공격자들은 AI를 어떻게 사용할 것으로 예측되는가?
- 비즈니스가 AI 발전과 발맞추려면 어떤 전략을 필요로 하는가?
예측
인공지능이 불러올 소프트웨어 개발의 변화에 대해 소나타입의 리더들과 이야기를 나눠보았습니다.
AI 춘추전국시대는 사이버 보안에 영향을 미칠 것
(미국에) 새로운 행정부가 들어서면 현 정부(바이든)의 이니셔티브가 재설정되는 것을 의미합니다. 지난 4년간 사이버 보안 전략과 AI 가이드레일에 대한 행정명령이 증가했지만 2025년에는 이런 제약이 해소 될 수 있으며 이는 비즈니스에겐 매우 큰 영향을 미칠 수 있습니다. 혁신과 안전, 보안의 균형을 유지하지 못한다면 AI 중심의 사이버 공격에 대응이 어려울 수 있습니다. - 브라이언 폭스, 공동설립자 및 CTO
자동화가 보안의 성공과 실패를 가름하게 될 것
소프트웨어 개발에 미치는 AI의 영향력은 무시할 수 없을 만큼 커졌습니다. 이미 생성형 AI와 같은 도구는 개발자가 더 빠르게 개발할 수 있도록 지원하고 있지만, 소프트웨어의 질과 새로운 보안에 대한 이슈 도 만들어 내고 있습니다. 개발의 속도가 가속화되면서 보안팀은 개발속도를 따라잡기 위해 애쓰고 있습니다. 반면 악의적인 위협자들은 동일한 AI 도구를 더 정교한 공급망 공격에 적극적으로 활용하기 시작했습니다. 2025년에는 AI를 사용한 사이버 위협에 대한 대비가 되어 있는 조직과 그렇지 않은 조직으로 나눠지게 될 것이며, 보안 자동화에 집중한 조직은 이런 새로운 공격에 훨씬 쉽게 대응할 수 있을 것입니다. - 미셀 존슨, Chief Product Development Officer
사이버 보안 전쟁: 머신 vs. 머신
AI의 활성화 덕분에 사이버 보안 환경이 머신에 의해 정의될 것입니다. 위협 행위자들은 이미 AI를 사용하여 정교한 공격을 실행하고 있지만 사이버 보안의 최전선에 있는 보안팀은 대부분 AI를 활용하는데 뒤쳐져 있습니다. 2025년은 조직이 위협 감지, 말웨어 분석 및 네트워크 트래픽 모니터링을 위해 AI를 도입하면서 중요한 전환점이 될 것입니다. 이런 역동적인 변화는 공격과 방어를 하는 양측 모두 AI가 달성할 수 있는 한계를 확장하면서 사이버 보안에서 AI 도입을 가속화할 것으로 예측됩니다. - 엑스 샤르마, 보안 연구원
오픈소스 생태계와 AI 중심 플랫폼의 남용 증가
허깅페이스와 같은 AI 도구와 플랫폼의 인기가 높아지면서 공격자들은 이런 공간을 침해하여 소프트웨어 생태계에 대한 공격을 확장할 것입니다. 전통적인 오픈소스 레포지토리를 넘어서 악의적인 공격자들은 스택 오버플로와 같은 개발자 포럼까지 영향력을 확장하고 있으며 말웨어를 은닉한 솔루션을 개발자에게 의도적으로 제공합니다. 2025년에는 GitHub 댓글과 같은 무해해 보이는 기능을 말웨어의 은닉 벡터로 악용하는 사례가 늘어날 것으로 전망됩니다. - 엑스 샤르마, 보안 연구원
사이버 보안의 필수가 된 AI
인공지능은 취약점 발견과 대응을 위한 사이버 보안의 필수요소가 되었습니다. NVD의 경우 프로세스되지 않은 취약점 18000개가 현재 백로그되어 있습니다. AI는 리소스 격차를 줄일 수 있는 좋은 수단입니다. 수 백만 개의 오픈소스 구성요소가 유통되고 있고 AI는 만능 해결책은 아니지만 생산적인 도구로 밝혀지고 있습니다. 보안 기업은 AI를 생산성을 증가시키는 지원도구로 활용하여 실시간으로 증가하는 위협에 대해 속도와 규모의 두가지 측면 모두 대응할 수 있습니다. - 이카 투누넨, Chief Field Technology Officer
인공지능이 불러올 변화에 대비
AI는 이제 단순히 도구가 아니라 소프트웨어 산업의 모든 영역에 변화를 가져오고 있습니다. 2025년, AI는 혁신에서부터 사이버 범죄까지 모든 부분에 활용될 것이며 AI를 활용한 해결책을 포용하고 준비한 조직과 그렇지 않는 조직 2가지로 양분될 것입니다.
전문가의 의견에서 보여지듯 조직은 AI의 잠재력과 리스크간의 균형을 잘 맞춰야 합니다. 규제, 보안 자동화 혹은 개선된 방어 전략 등 올해 선택한 전략이 소프트웨어 개발과 사이버보안의 미래를 결정할 것입니다.
원문 링크: 2025 predictions: Artificial intelligence (AI)
연관 링크:
