문현곤, 위성일, 박민경, 박새롬, 나형호 교수. 사진/UNIST
울산과학기술원(UNIST)이 스스로 판단해 작업을 수행하는 ‘에이전틱 AI’를 더 안전하게 활용하기 위한 보안 원천기술 개발에 착수한다. 외부 공격으로 정보가 유출되거나 허가받지 않은 작업이 이뤄지는 상황을 막는 기술이 연구 대상이다.
UNIST는 과학기술정보통신부와 정보통신기획평가원(IITP)의 2026년도 AI최고급신진연구자지원 사업(AI 스타 펠로우십) 학제연계형 과제에 선정됐다고 밝혔다. 성균관대와 컨소시엄을 꾸려 2031년 12월까지 5년 6개월간 연구를 진행하며, 정부지원금 110억 원을 받는다.
연구책임자는 문현곤 컴퓨터공학과 교수가 맡는다. UNIST에서는 위성일·박민경·박새롬·나형호 교수, 성균관대에서는 박은일·황성재·김형식 교수가 참여하고 시큐레이어, S2W, 라온데이터도 협력한다.
에이전틱 AI는 거대 언어 모델을 바탕으로 문서를 읽고 웹을 검색한 뒤 각종 도구를 활용해 업무를 처리하는 형태다. 연구팀은 이런 과정에서 악의적 입력이 판단을 왜곡하면 실행 단계까지 피해가 이어질 수 있어, 개별 방어만으로는 다단계 공격을 막기 어렵다고 설명했다.
이에 따라 연구팀은 모델·인터페이스·실행 환경을 함께 설계하는 ‘계층 간 안전 공동 설계’ 방식으로 대응할 계획이다. 공통 안전 기준과 계층별 역할을 정해 한 단계가 뚫리더라도 다음 단계에서 공격을 차단하는 구조를 구축하고, 세부 프로젝트를 통해 핵심 난제를 해결한다는 구상이다.
개발 기술은 협력 기업의 실제 서비스에서 검증할 예정이다. 문현곤 교수는 “에이전틱 AI는 모델 하나만 안전해서는 안 되고, 입력이 들어오는 경로와 실행 환경까지 함께 지켜야 한다”며 “이번 사업으로 세 계층을 아우르는 핵심 보안 기술을 개발하고, 에이전틱 AI를 안전하게 활용하는 데 기여할 인재를 양성하겠다”고 말했다.
