1,302 읽음
S2W, AI 서비스 취약점 진단 사업 확대… 금융권 레퍼런스 확보로 AI 보안 시장 공략
스타트업엔
0
빅데이터 분석 인공지능(AI) 기업 S2W(대표)는 30일 기업의 AI 서비스 안전성을 점검하는 AI 서비스 취약점 진단 사업을 본격 확대한다고 밝혔다. 최근 국내 대형 금융사의 AI 서비스 취약점 진단 사업을 수주한 데 이어 금융권을 시작으로 다양한 산업으로 사업 영역을 넓힌다는 계획이다.
S2W의 진단 서비스는 공격자의 시각에서 AI 시스템을 검증하는 오펜시브 보안(Offensive Security) 방식이 핵심이다. 회사는 다크웹과 텔레그램, 해킹 포럼 등에서 확보한 대규모언어모델(LLM) 공격 기법을 실제 점검 과정에 반영해 AI 서비스의 보안 취약성을 확인한다고 설명했다.
평가 기준으로는 국제 비영리 보안단체 OWASP(Open Web Application Security Project)가 제시한 'OWASP Top 10 for LLM'을 기본 프레임워크로 활용한다. 여기에 산업별 환경과 서비스 특성을 반영한 자체 점검 항목을 더해 도메인별 보안 요구사항까지 함께 검증하는 방식이다.
진단 대상은 AI 모델뿐 아니라 프롬프트, 데이터, AI 에이전트 등 서비스 운영 전반이다. 단순히 취약점을 찾아내는 수준을 넘어 공격 가능성을 다각도로 분석하고 개선 방안까지 제시해 기업이 자체적인 AI 보안 관리 체계를 구축할 수 있도록 지원한다는 것이 회사 측 설명이다.
시장 환경도 AI 보안 사업 확대에 힘을 싣고 있다. 생성형 AI가 금융, 제조, 공공, 서비스 산업 등으로 빠르게 확산되면서 기존 정보보호 체계만으로 대응하기 어려운 새로운 유형의 보안 위협이 증가하고 있기 때문이다.
실제로 과학기술정보통신부와 한국인터넷진흥원(KISA)은 최근 'AI 보안 레드티밍(Red Teaming) 가이드'를 발간하며 공격자 관점에서 AI 시스템을 검증하는 절차와 방법론을 제시했다. AI 서비스 출시 이전부터 위험 요소를 점검해야 한다는 산업계 요구가 커지고 있다는 점도 관련 시장 성장 가능성을 보여주는 대목이다.
S2W는 현재 수행 중인 금융권 프로젝트를 기반으로 산업별 AI 활용 환경에 맞춘 보안 진단 서비스를 확대할 방침이다. 금융권은 높은 수준의 규제와 보안 요구사항이 적용되는 분야인 만큼 이번 사업 수행 결과가 향후 레퍼런스 확보에도 영향을 미칠 것으로 보인다.
다만 AI 보안 시장은 아직 표준화가 진행 중인 영역이다. 산업별 보안 기준과 검증 체계가 계속 발전하는 단계인 만큼 실제 서비스 품질과 시장 경쟁력은 다양한 현장 적용 사례와 지속적인 기술 검증을 통해 평가받게 될 전망이다.
양종헌 S2W 통합분석실장은 "AI 서비스의 잠재적 위험을 사전에 발견하려면 AI 기술과 공격자 관점의 전문성이 함께 필요하다"며 "자체 개발한 AI 기반 진단 도구와 오펜시브 보안 전문가의 노하우를 결합해 기업들이 AI 서비스를 안전하게 도입하고 운영할 수 있도록 지원하겠다"고 말했다.
AI 활용이 기업 경쟁력의 핵심 요소로 자리 잡으면서 AI 보안 시장도 빠르게 성장하고 있다. 앞으로는 AI 모델의 성능뿐 아니라 안전성과 신뢰성을 객관적으로 검증할 수 있는 보안 체계가 기업 경쟁력을 가르는 중요한 기준으로 부상할 가능성이 커지고 있다.