뇌인지과학과 이상완 교수 연구팀, AI의 신뢰성 향상을 위한 새로운 학습 모델 제시
KAIST(총장 이광형)가 인간의 뇌처럼 스스로 가설을 세우고 검증하는 인공지능(AI) 기술을 개발했다. 뇌인지과학과 이상완 교수(신경과학-인공지능 융합연구센터장)와 생명과학과 정민환 교수(IBS 시냅스 뇌질환 연구단 부연구단장) 연구팀은 인간과 동물이 가설을 세워 전략을 유지하면서도, 이를 스스로 의심하고 검증하는 새로운 강화학습 이론을 제시했다.
인간처럼 사고하는 AI, 할루시네이션 현상 완화 기대
이번 연구는 인공지능의 과도한 자신감으로 인한 ‘할루시네이션(Hallucination)’ 문제를 해결하는 데 기여할 것으로 기대된다. 기존 AI 모델은 주어진 정보에 대한 확신을 바탕으로 동작하는 반면, 연구팀이 제안한 모델은 스스로 가설을 설정하고 검증하는 과정에서 유동성과 안정성을 조절할 수 있는 능력을 갖추고 있다. 이를 통해 AI가 인간처럼 스스로 의심하고 학습하는 방식으로 발전할 가능성을 제시했다.
연구팀은 동물 실험 데이터를 활용해 새로운 적응형 강화학습 이론을 검증했다. 제안된 모델은 예상치 못한 사건을 마주했을 때 인간이나 동물의 행동을 기존 AI 모델보다 최대 31%, 평균 15% 더 정확하게 예측하는 것으로 나타났다. 특히, 중뇌 기저핵의 선조체에서 가시뉴런이 가설 기반 학습에 중요한 역할을 한다는 점을 밝혀, 중독 및 강박증과 같은 정신질환의 원인 규명에도 기여할 것으로 기대된다.
AI와 인간의 가치 정렬(Value Alignment) 문제 해결 가능성
이번 연구는 AI가 인간의 가치와 목표에 맞춰 행동하도록 하는 ‘가치 정렬(Value Alignment)’ 문제 해결에도 적용될 수 있다. AI가 인간의 의사결정 과정을 모방하여 보다 신뢰성 높은 판단을 내릴 수 있도록 설계할 수 있는 가능성을 열었다. 또한, 맞춤형 교육, 인사 및 인력 관리, 인간-컴퓨터 상호작용 등의 다양한 분야에서 활용될 전망이다.
이번 연구는 과학기술정보통신부 정보통신기획평가원의 SW스타랩, 한국연구재단 중견연구자 지원 사업, KAIST 김재철AI대학원 사업 등의 지원을 받아 수행됐다. 연구 결과는 세계적 학술지 ‘네이처 커뮤니케이션스(Nature Communications)’에 2월 20일자로 게재되었으며, AI 기술 발전에 새로운 전환점을 마련할 것으로 기대된다.
#KAIST #AI기술 #뇌기반AI #강화학습 #가설기반학습 #할루시네이션완화 #가치정렬 #인공지능연구
