IA 에이전트 시대, 보안의 핵심은 통제권 확보에 있음
AI 에이전트가 임무를 부여받아 스스로 실행하는 형태로 발전하면서, 보안의 주요 과제는 신뢰성에서 통제권 확보로 이동하고 있다. 공격 표면은 내부 시스템으로 확장되며, 프롬프트 주입이나 메모리 오염 같은 새로운 공격 기법이 등장하고 있다. 이러한 변화에 대응하기 위해서는 명확한 거버넌스 구축과 함께 접근 통제 원칙을 적용하는 것이 시급하다.
(새 창에서 원문 열기)기사 요약은 AI가 원문을 정리한 것입니다(AI 생성). 기사를 누르면 원문이 새 창에서 열립니다.
AI 에이전트가 임무를 부여받아 스스로 실행하는 형태로 발전하면서, 보안의 주요 과제는 신뢰성에서 통제권 확보로 이동하고 있다. 공격 표면은 내부 시스템으로 확장되며, 프롬프트 주입이나 메모리 오염 같은 새로운 공격 기법이 등장하고 있다. 이러한 변화에 대응하기 위해서는 명확한 거버넌스 구축과 함께 접근 통제 원칙을 적용하는 것이 시급하다.
(새 창에서 원문 열기)온라인 학습관리시스템(LMS) 제공 업체 맑은소프트의 시스템 해킹으로 약 237만 건의 개인정보가 유출되었다. 피해는 맑은소프트 고객사인 22개 사이트로 확산되었으며, 회원 계정 정보, 연락처 등이 유출된 것으로 확인되었다. 맑은소프트는 침해 사실을 인지한 후 관계 기관에 신고하고 재발 방지 대책을 마련 중이다.
(새 창에서 원문 열기)멘탯은 저작권 문제가 해결된 도서 데이터를 AI 기업이 검색하고 활용할 수 있는 '멘탯 디스커버리' 서비스를 출시했다. 이 서비스는 데이터 규모를 토큰 단위로 산정하고 예상 비용을 제공하며, 학습 데이터셋이나 참조·인용 API 형태로 데이터를 제공한다.
(새 창에서 원문 열기)오픈AI는 높은 운영 비용으로 인해 서비스 중단했던 비디오 생성 AI 모델 '소라'를 외부 스타트업에 기술 접근권을 제공하고 지분을 확보하는 방안을 추진 중이다. 할리우드 제작자 등이 공동 설립한 스타트업이 소라 모델을 자체적으로 수정하고 상용화할 계획이며, 계약 조건은 아직 협상 단계에 있다.
(새 창에서 원문 열기)본 문서는 2026년부터 적용되는 AI 시스템 보안에 필요한 지식을 다루며, 러시아, 중국, EU, 미국 등 각 지역의 규제 환경과 AI 시스템 보호를 위한 핵심 방법론을 소개한다. 특히 러시아의 경우, 2026년 3월부터는 특정 정보시스템에 대해 ФСТЭК 명령 № 117에 따른 의무적 보안 요구사항이 적용된다.
(새 창에서 원문 열기)벤처캐피털들이 대형 클라우드 업체들의 GPU 배정 제한에 대응하여, 투자 포트폴리오 기업의 성장을 위해 컴퓨팅 클러스터 구축이나 데이터센터 운영사와의 협력을 통해 인프라를 직접 확보하고 있다. 이러한 흐름은 AI 스타트업에게 필요한 컴퓨팅 자원 확보가 단순한 자금 지원을 넘어 인프라 경쟁으로 확장되고 있음을 시사한다.
(새 창에서 원문 열기)마이크로소프트 부회장 겸 사장은 현 AI 안전 규제가 상용 제품에 비해 느슨하다고 지적하며, AI 시스템 통제 불능이나 보안 사고 발생 시 기업이 피해자에게 알리고 사고 보고서를 제출하도록 법적 의무를 부과해야 한다고 주장했다. 그는 국제적으로 통용되는 안전 규칙 마련이 시급하며, 영국 AISI와 같은 기술적 검증 역량을 활용한 글로벌 기준 마련이 필요하다고 강조했다.
(새 창에서 원문 열기)트럼프 행정부는 첨단 AI 모델의 안전성과 성능을 평가하는 상무부 산하 기관의 핵심 간부들을 백악관 직속 체계로 편입하는 조직 개편을 추진하고 있다. 이 움직임은 AI 모델 검증 업무를 백악관의 주요 정책 결정 과정과 긴밀하게 연결하여 정부 대응을 효율화하려는 시도로 풀이된다. 현재 이 개편은 최종 확정되지 않은 상태이다.
(새 창에서 원문 열기)인텔과 브로드컴 CEO들은 AI 인프라 수요가 공급을 초과하는 상황에서도, 장기적인 성장을 위해서는 막대한 투자 비용을 회수하고 지속 가능한 수익 모델을 확보하는 것이 중요하다고 강조했다. 이들은 현재 AI 산업의 가장 큰 제약 요인은 기술적 병목 현상보다는 자본 조달 문제라고 지적했다.
(새 창에서 원문 열기)마이크로소프트의 업무용 AI 비서 코파일럿은 앤트로픽 모델 도입과 제품 및 조직 개편을 거치며 기업 고객들로부터 품질 개선 평가를 받고 있다. 이 변화는 찰스 라만나 수석 부사장 등의 주도로 이루어졌으며, 코파일럿의 기업 사용자 수는 두 배 이상 증가했다. 또한, 향후 비용 절감과 다양한 AI 선택지를 제공하는 방향으로 전략을 수정하고 있다.
(새 창에서 원문 열기)Bitdefender는 저가형 안드로이드 스마트폰에 제조 단계부터 악성 코드가 심어져 있음을 발견했다. 이 악성 코드는 시스템 권한을 이용해 앱 설치 및 제거가 가능하며, 공격자들이 이를 광고 사기 및 거주지 프록시 운영에 악용하고 있다. 이 공격은 공급망 침해의 형태로 나타나며, 피해 기기들은 주로 멕시코, 프랑스, 미국 등에서 발견되었다.
(새 창에서 원문 열기)비드래프트는 NPU의 추론 성능을 극대화하고 학습까지 구현하는 가속 소프트웨어 계층 'VKORE'를 공개했다. VKORE 적용 시 NPU 환경에서 응답 속도 3.8배, 동시 처리량 4.1배 향상을 달성했으며, 자체 판정 엔진은 글로벌 벤치마크에서 종합 1위를 기록했다. 또한, 회사는 VKORE를 통해 낮에는 추론, 밤에는 판정 기록을 바탕으로 모델을 학습하는 순환 구조를 데이터센터에서 구현할 계획이다.
(새 창에서 원문 열기)병원정보보안협회는 외부 공격뿐 아니라 정상 접근 권한을 가진 내부 직원에 의한 환자 정보 유출 및 훼손에 대응하기 위한 가이드라인을 마련했다. 이 가이드라인은 접근 통제 축을 '누가 보았는가'에서 '업무상 열람 사유가 있었는가'로 전환할 것을 제안하며, 진료 관계 기반 접근 통제 및 이상 행위 탐지 등의 5대 핵심 통제 방안을 제시한다.
(새 창에서 원문 열기)LG유플러스는 통합 고객 플랫폼 '유플러스원'을 액셔너블 AI 에이전트 방식으로 업데이트했다. 이를 통해 고객은 AI 에이전트와의 대화만으로 요금 변동 원인 분석 및 납부, 맞춤형 로밍 상품 추천 및 가입까지 처리할 수 있게 되었다. 향후 매장 안내 에이전트 출시 및 서비스 전반으로의 확대 계획도 가지고 있다.
(새 창에서 원문 열기)IMF는 AI가 아시아의 고령화 및 노동력 부족 문제 완화에 기여할 수 있다고 분석했다. 다만, AI 도입은 전 세계 고용 시장에 '느리게 이동하는 쓰나미'를 일으킬 것이며, 각국 정부가 노동 시장 충격에 선제적으로 대응해야 한다고 경고했다. IMF는 AI가 전 세계 일자리의 약 40%에 영향을 미칠 것으로 전망했다.
(새 창에서 원문 열기)방위사업청 자료에 따르면 2024년 이후 방산 관련 자료 유출 중 사이버 공격 사례가 확인되었으며, 협력사 해킹을 통한 무기체계 기술 자료 유출 사례가 있었다. 또한, 일부 유출 신고 건은 로그 미보존 등으로 인해 실제 피해 여부 확인에 어려움을 겪고 있다.
(새 창에서 원문 열기)올해 9개월 동안 국세청을 겨냥한 외부 해킹 시도가 지난해 연간 건수의 약 7.6배에 달한 것으로 집계되었다. 정보유출 시도가 가장 많았으나, 국세청은 실제 침해 사례는 없다고 밝혔다. 공격 시도 급증의 원인에 대한 철저한 분석과 보안 체계 강화가 요구된다.
(새 창에서 원문 열기)올해 상반기 개인정보 유출 신고 건수가 전년도 연간 규모를 넘어섰으나, 현장 조사 비율은 5.7%에 그쳐 조사 대응의 적정성에 대한 의문이 제기되었다. 박성훈 의원은 고위험 기관에 대한 현장 조사 및 예방 체계 재점검을 촉구했으며, 개인정보위는 서면 조사를 통해 순차적으로 대응하고 있음을 밝혔다.
(새 창에서 원문 열기)안드레이 카르파시 오픈AI 공동 창립자는 LLM에 대한 전 세계적 인식과 활용 능력의 격차가 깔때기 형태로 벌어지고 있다고 진단했다. 그는 전 세계 인구의 75%는 LLM과 거의 접촉이 없으며, 최첨단 시스템을 활용하는 전문가는 극소수에 불과하다고 분석했다. 이러한 기술 발전 속도는 인간의 검토 능력을 압도하며, AI의 파급력을 사회적으로 재정비해야 할 시점임을 시사한다.
(새 창에서 원문 열기)신생 랜섬웨어 그룹 '논'이 국내 항만, 해운, 철강 기업 12곳을 공격하며 금전을 요구하고 있다. 공격자는 19일까지 비용을 지불하지 않으면 탈취한 데이터를 공개하겠다고 협박 중이다. 한국인터넷진흥원(KISA)도 해당 피해 사실을 인지하고 기업들에 안내하고 있다.
(새 창에서 원문 열기)송경희 개인정보보호위원장은 국정감사에서 금융권 및 공공기관의 개인정보 유출 사고에 대한 조사 역량 집중과 조사 방해 행위에 대한 제재 강화를 추진할 것이라고 밝혔다. 또한, 피해 구제 측면에서는 기업의 입증 책임 확대와 피해 회복 기금 마련 등 제도 개선을 추진할 계획임을 밝혔다.
(새 창에서 원문 열기)본 페이지의 기사 요약은 공개된 자료를 AI가 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 각 기사의 원문을 확인하십시오. 모든 저작권은 원 매체에 있습니다.