김형훈 교수, 생성형AI의 다음 단계인 에이전틱 AI…신뢰성 확보가 관건

컴퓨터공학과 김형훈 교수가 지난번 7월 1일(화) 국회에서 열린 ‘고영향 AI 및 Agentic AI 시대의 신뢰 확보를 위한 정책적 논의’ 세미나의 발제자로 참가해 생성형 AI 이후의 시대에 대한 대비책을 공유했다.

‘LLM and Agentic AI’라는 주제로 발표를 진행한 김 교수는 “LLM 기반으로 만들어진 생성형 AI는 한계가 있기 때문에 이를 해소하기 위해 외부의 툴과 다른 에이전트 들과의 협업을 통해 문제 해결능력이 향상된 것이 ‘에이전틱 AI’”라고 소개해하면서 “이를 통해 복잡한 문제 해결 및 추론 능력이 향상되고 다양한 입력과 출력의 처리 역량이 강화된다”고 말했다.

“생성형 AI에게 뭔가를 물어보면 엉뚱한 대답을 하는 경우가 있는 것처럼, LLM은 완벽하지가 않기 때문에 AI에게 뭔가를 물어보거나 권한을 이양했을 때 그것이 제대로 작동할 것인가?에 대한 문제가 있다”고 말한 뒤 “더 큰 문제는 외부 환경과 직접적으로 연결될 수 있는 피지컬 AI에게 권한을 줬을 때 이들이 잘못된 행동을 한다면 어떻게 방어하고 복구할 것인가 하는 점”이라고 지적했다.

[출처: 산업일보 김진성 기자/ 관련 기사 더보기(클릭)]