기업의 약 90%가 여전히 생성형 AI를 시험적으로 도입하고 있지만, 대부분은 이를 관리할 보안 통제 수단이 부족하여 공격자들에게 절호의 기회를 제공하고 있다.
50%
2026년까지 강력한 런타임 보호 조치를 도입하는 기업들은 부정확하거나 조작된 AI 출력 결과를 절반으로 줄여, 운영상 위험과 규제상 위험을 모두 낮출 수 있을 것입니다.
Challenge
모바일 앱에 적용된 AI는 새로운 위험 요소를 초래합니다.
AI는 더 이상 클라우드에만 국한되지 않습니다. 이제 모바일 앱 내부에 자리 잡고 있습니다. 이러한 변화는 실시간 개인화와 더 현명한 의사결정을 가능하게 하지만, 동시에 모델, 데이터, 논리를 공격자의 손이 닿는 곳에 노출시킵니다.
앱에서 AI가 실행된다면, 그에 따른 위험도 함께 존재합니다.
기존의 앱 보안 체계는 이러한 새로운 현실에 대비해 설계되지 않았습니다. 기기 내 AI는 공격 표면의 일부가 되어, 도난, 변조, 조작의 위험에 노출됩니다.
실행 시점에 AI 로직을 조작하는 행위
공격자는 코드를 주입하거나 메모리를 변조하여 실행 중에 AI의 논리를 변경할 수 있습니다. 그 결과 어떻게 될까요? 왜곡된 결과와 안전하지 않은 결정이 내려집니다. 금융 분야에서는 대출 승인 결정이 무효화될 수 있고, 의료 분야에서는 잘못된 의료 조언이 제공될 수 있습니다. 기존의 모바일 보안 방식만으로는 실행 시점에 발생하는 조작을 막기에는 역부족입니다.
AI 모델 도용 및 지적 재산권 손실
AI 모델은 수년에 걸친 데이터 및 훈련에 대한 투자의 결실입니다. 일단 시스템에 내장되면 리버스 엔지니어링 도구를 통해 추출되거나 복제될 수 있습니다. 도난당한 모델은 경쟁사에 힘을 실어주고, 개인정보를 침해하며, 귀사의 시장 우위를 약화시킵니다. AI를 핵심 지적재산권으로 보호하는 것은 이제 비즈니스의 필수 요건입니다.
프롬프트 주입 및 입출력 조작
대규모 언어 모델(LLM)과 에이전트형 AI는 논리를 탈취하거나 데이터를 유출하는 악의적으로 조작된 입력에 취약합니다. 규제 대상 분야에서는 조작된 출력이 사기, 규정 위반 또는 고객 피해로 이어질 수 있습니다. AI의 입력 및 출력 경로를 보호하는 것은 신뢰를 유지하는 데 필수적입니다.
on-demand webinar
차세대 공격으로부터 기기 내 AI를 보호하세요
AI는 클라우드에서 디바이스로 이동하고 있습니다. 이는 더 빠르고, 더 개인화되며, 더 사생활이 보호되는 경험을 가능하게 하지만, 동시에 사용자의 AI를 공격자의 손아귀에 직접 노출시키게 됩니다.
이번 온디맨드 웨비나에서는 기기 내 AI와 에이전트형 AI가 보안 환경을 어떻게 변화시키는지, 그리고 혁신의 속도를 늦추지 않으면서 모델, 로직, 사용자 경험을 보호하는 방법을 다룹니다.
AI 기반 앱이 탄력적이고, 규정 준수 요건을 충족하며, 안전하게 보호되도록 하여 안전하게 확장할 수 있도록 하십시오.
지적재산권을 보호하세요
귀사의 AI 모델은 매우 중요한 지적 재산권입니다. Promon의 난독화, 디버깅 방지 및 런타임 보호 기능을 통해 모델의 리버스 엔지니어링이나 도용을 극도로 어렵게 만듭니다. 임베디드 모델을 안전하게 보호함으로써 경쟁사가 귀사의 기능을 모방하는 것을 막고, 귀사의 투자가 진정으로 귀사의 것으로남도록보장할 수 있습니다 .
회복력을 유지하세요
AI의 동작을교란하는 공격은 가동 중단, 서비스 중단 또는 안전하지 않은 결과물을 초래할 수 있습니다. Promon은 런타임 조작, 코드 주입 및 악의적인 간섭을 방지하여AI 시스템이 의도된 대로계속 작동하도록보장합니다 . 이러한 복원력은 금융, 의료, 게임과 같은 위험이 큰 산업 분야에서 필수적입니다.
안전한 AI 배포를 가속화하세요
AI를 도입한다고 해서 개발 속도가 느려져서는안 됩니다. Promon은 컴파일 후 단계에서 통합되므로 소스 코드에 접근할 필요가 없으며 개발자의 노력도 최소화됩니다. 즉, 제품 및 엔지니어링 팀은 런타임 보호 기능이 자동으로 적용된다는 점을 확신하며 새로운 AI 기반 기능을 신속하게 출시할 수 있습니다.
규정 준수를 간소화하세요
AI 규제가 강화되고 있습니다. EU AI 법, GDPR, NIST 및 ISO/IEC 42001은 시스템의 견고성, 변조 방지 기능 및 데이터 보호를 요구합니다. Promon은 조직에 앱 내 제어 기능과 런타임 가시성을 제공하여 규정 준수를 입증하고, 감사 비용을 절감하며, 규제 위험을 줄일 수 있도록 지원합니다.
누가 AI 보호가 필요할까요?
금융 및 은행업
신뢰성과 규정 준수를 유지해야 하는 보안 가상 비서, 사기 탐지 및 의사결정 모델.
게임
NPC 로직, 개인화 엔진 및 부정행위 방지 시스템을 변조 및 리버스 엔지니어링으로부터 보호합니다.
의료
진단 도구와 AI 기반 분류 시스템을 조작 및 데이터 유출로부터 보호하십시오.
앱에 자율적 AI를 접목하는 모든 산업
소매업에서 AR/VR에 이르기까지, AI 기반 기능은 혁신을 가져오지만 동시에 새로운 공격 표면도 만들어냅니다. 앱이 로컬에서 의사 결정을 내린다면, 공격자들은 이를 악용하려 할 것입니다.
Solution
Promon이 기기 내 AI를 어떻게 보호하는가
Promon은 AI 모델과 해당 실행 환경을 보호하기 위해 다층적인 접근 방식을 취합니다.
모델 및 지적재산권 보호
Promon을 활용하여 공격자가 임베디드 모델을 추출하거나 리버스 엔지니어링하기 어렵게 만드세요. 난독화, 암호화 및 디버깅 방지 기능을 통해, 사용자 기기에 배포된 상태에서도 독점 AI 자산의 보안을 확실히 보장할 수 있습니다.
실행 시 보안
앱 실행 시점에 임베디드 AI 모델을 보호하세요. Promon을 배포하면 동적 코드 삽입, 변조 및 무단 실행을 차단할 수 있습니다. 공격자가 루트 권한을 획득하거나 정교한 계측 기법을 사용하더라도, Promon은 AI 로직이 조작당하지 않도록 보호합니다.
입력/출력 보호 조치
프롬프트 주입 및 입출력 조작은 점점 더 주요한 공격 경로로 대두되고 있습니다. Promon은 입력 검증 메커니즘이 비활성화되지 않도록 하고, 응답이 가로채거나 변조되지 않도록 보장함으로써 AI 의사 결정의 무결성을 보호합니다.
제품
Promon AI 보안 스택
Promon은 네 가지 상호 보완적인 솔루션을 통해 AI 보호 기능을 제공합니다.
Promon Shield for Mobile™
앱과 AI 구성 요소 모두를 안전하게 보호하기 위해 런타임 무결성 및 변조 방지 기능을 제공합니다.
클라우드 AI 모델(ChatGPT 등)은 서버에서 실행되며 인터넷을 통해 결과를 반환합니다. 온디바이스 AI 모델은 스마트폰이나 엔드포인트의 앱 내에 내장되어 있습니다. Promon은온디바이스 AI에중점을 두고 있는데,공격자가 바로 그곳에서 로직을 직접 조작하거나, 모델을 탈취하거나, 입력/출력을 조작할 수 있기 때문입니다.
어떤 유형의 AI 모델이 가장 큰 위험에 처해 있나요?
기기 내의 모든 모델은 취약점을 가지고 있지만, 특히 생성형 AI(GenAI) 와 다중 모달 AI는 프롬프트 주입 및 입력/출력(I/O) 조작에 특히 취약합니다. 예측 및 의사결정 모델은 대개 지적재산권(IP) 도용 및 변조의 주요 표적이 됩니다.
Promon은 모델 도용을 어떻게 방지하나요?
Promon은 코드 난독화, 암호화, 디버깅 방지 및 진위 확인 기능을 결합하여 모델을 추출하거나 복제하기 매우 어렵게 만듭니다. 이를 통해 지적 재산권(IP) 투자를 보호하고, 경쟁사나 공격자가 귀중한 AI 자산을 훔치는 것을 방지합니다.
‘에이전트형 AI’란 무엇이며, 왜 중요한가?
‘에이전트형 AI’란 앱 내에서 계획을 세우고, 결정을 내리며, 행동을 수행하는 자율적인 AI 에이전트를 의미합니다. 단순한 모델과 달리, 이들은 워크플로를 실행하고 다른 시스템과 상호작용합니다. 보안이 침해될 경우, 공격자는 에이전트를 탈취하여 데이터를 유출하거나, 목표를 조작하거나, 악성코드를 실행할 수 있습니다. Promon은 런타임 환경을 보호하여 이러한 공격을 차단합니다.
공격자들이 AI를 이용해 제 AI 모델을 공격하거나 난독화를 해제할 수 있나요?
대규모 언어 모델(LLM)은 코드 난독화해독에 활용되고 있지만, 연구 결과에 따르면 정교하거나 복합적인 난독화 기법 앞에서는 한계가 있는 것으로 나타났습니다. 단순한 난독화는 때때로 우회될 수 있지만, Promon은 다층적 보호 기능(난독화, 변조 방지, 런타임 보호)을 적용하고 있어 여전히 매우 높은 효과를 발휘합니다.
