UNIST, 자율형 AI 보안체계 연구 착수…에이전틱 AI 안전성 강화 나선다

UNIST가 스스로 판단하고 작업을 수행하는 에이전틱 AI의 보안을 강화하기 위한 연구에 나선다. 이 기술은 사람이 일일이 지시하지 않아도 여러 단계를 연속적으로 처리할 수 있다는 점에서 주목받지만, 그만큼 보안 위험도 함께 커질 수 있어 안전장치 마련이 중요하다는 평가를 받는다.

최근 인공지능은 단순한 질문 응답을 넘어, 자료를 찾고 업무를 실행하는 방향으로 빠르게 진화하고 있다. 이런 흐름 속에서 에이전틱 AI는 실용성이 높은 기술로 떠오르고 있지만, 외부 명령에 과도하게 반응하거나 예상하지 못한 경로로 동작할 가능성도 거론된다. 연구진은 이런 특성을 고려해 기술 발전과 보안 강화를 함께 추진하겠다는 방침이다.

에이전틱 AI는 여러 도구와 정보를 연결해 스스로 다음 행동을 결정하는 구조를 갖는다. 일반적인 생성형 AI보다 자율성이 높아 업무 자동화에 유리하지만, 입력값을 악용한 공격이나 잘못된 권한 활용에 취약할 수 있다는 점이 문제로 지적된다. 따라서 단순한 성능 향상만으로는 안전한 활용이 어렵다는 인식이 확산되고 있다.

이번 연구는 이러한 취약점을 줄이기 위한 보안 기술 개발에 초점이 맞춰져 있다. 특히 AI가 어떤 판단을 내렸는지 추적하고, 허용되지 않은 행동을 사전에 막는 방식이 핵심 과제로 보인다. 자율적으로 움직이는 시스템일수록 예측 가능성과 통제 가능성을 확보하는 일이 중요하기 때문이다.

산업계에서도 에이전틱 AI에 대한 기대와 우려가 동시에 커지고 있다. 반복 업무를 자동화하고 의사결정을 보조하는 데 큰 도움이 될 수 있지만, 보안이 뒷받침되지 않으면 오히려 새로운 위험 요소가 될 수 있다. 데이터 유출이나 오작동, 잘못된 명령 수행 같은 문제는 실제 도입 단계에서 가장 먼저 검토해야 할 부분이다.

이 같은 배경에서 대학과 연구기관의 역할도 커지고 있다. 기술의 가능성을 확장하는 동시에, 안전한 운영 기준을 제시하는 연구가 함께 이뤄져야 하기 때문이다. 특히 학계는 상용 서비스보다 앞서 구조적 한계를 분석하고, 공격 가능성을 실험적으로 검증할 수 있다는 장점이 있다.

에이전틱 AI 보안은 단순한 소프트웨어 점검을 넘어 시스템 설계 전반과 연결된다. 어떤 정보에 접근할 수 있는지, 어떤 상황에서 중단되는지, 사람이 개입할 수 있는 지점은 어디인지 등을 함께 따져야 한다. 결국 기술 신뢰성은 기능의 화려함보다 통제 가능한 구조에 달려 있다는 설명이 나온다.

전문가들은 자율형 AI가 확산될수록 보안의 의미도 바뀔 수 있다고 본다. 과거에는 외부 해킹 방어가 중심이었다면, 앞으로는 AI가 스스로 수행하는 행동의 범위와 책임을 어떻게 관리할지가 더 중요한 과제가 될 수 있다. 이런 변화는 기업의 도입 전략에도 직접적인 영향을 줄 전망이다.

또한 규제와 제도 논의도 뒤따를 가능성이 크다. 새로운 AI가 빠르게 현장에 들어오는 만큼, 안전성 검증과 사후 관리 체계를 어떻게 마련할지에 대한 논의가 필요하다. 연구 성과가 축적되면 산업 현장에서 참고할 수 있는 기준이 만들어질 수 있다.

UNIST의 이번 연구는 자율형 AI 시대에 필요한 보안 방향을 제시한다는 점에서 의미가 있다. 기술 경쟁이 성능 중심으로만 흘러가면 안전 문제가 뒤늦게 드러날 수 있기 때문에, 개발 초기부터 보호 장치를 설계하는 접근이 중요하다. 이는 AI 활용이 일상과 산업 전반으로 넓어질수록 더욱 커지는 과제다.

결국 에이전틱 AI는 생산성과 편의성을 높일 수 있는 차세대 기술이지만, 신뢰를 확보하지 못하면 확산 속도에도 한계가 생길 수 있다. UNIST가 추진하는 보안기술 개발은 이러한 균형점을 찾기 위한 시도로 읽힌다. 자율성과 안전성을 함께 갖춘 AI를 만들기 위한 연구 경쟁은 앞으로 더 치열해질 것으로 보인다.

오픈AI, AI 정렬 실패 사례 공개…‘실수 은폐’ 가능성 경고

[미디어테크뉴스] “누누티비 막았더니 텔레그램으로?”… 진화하는 불법 스트리밍과 저작권 추적 기술

제조 현장 데이터 기반으로 ‘피지컬 AI’ 경쟁력 키운다

[르포] “명절 특선 영화요? 그게 뭔데, 어떻게 보는 건데”… 뻔한 넷플릭스에 지친 당신을 위한 ‘틈새 OTT’ 가이드

공공기관 AI 보안 강화 나선 국정원, 연내 레드티밍 지침 배포