감각 정보 스스로 구분해 오인식 최소화
자율주행·의료 AI 신뢰성 향상 기대

앞으로 AI가 '안 들리는데 들린다', '없는데 있다'고 우기는 일은 없어질 전망입니다. 국내 연구진이 여러 감각 정보를 함께 처리하는 멀티모달 인공지능의 '환각' 현상을 줄일 수 있는 핵심 기술을 개발했습니다.

KAIST 전기및전자공학부 노용만 교수 연구팀이 다양한 센서 정보를 정확히 이해하고 시각과 청각 정보의 혼선을 줄이는 두 가지 핵심 기술을 개발했습니다.

첫 번째는 열화상과 깊이 영상, 엑스레이 등 다양한 센서가 담고 있는 물리적 의미를 AI가 정확하게 이해하도록 하는 '센서 이해 AI(DNA)' 기술 최적화 기법입니다.

기존 AI는 열화상에서 밝게 보이는 부분을 단순한 빛으로 오인하는 경우가 있었지만, 연구팀은 AI가 열과 거리 등 센서가 측정하는 물리 정보를 학습하도록 해 어둠이나 연기 속에서도 사물을 더 정확하게 인식할 수 있도록 했습니다.

두 번째는 시각과 청각 정보가 서로 영향을 주며 발생하는 오인식을 줄이는 '감각 혼선 방지(MAD)' 기술입니다.

예를 들어 자동차가 보이는 영상에 실제 소리가 없더라도 기존 AI는 엔진 소리가 들린다고 판단하는 경우가 있었지만, 새 기술은 AI가 먼저 어떤 감각 정보를 우선 활용해야 하는지를 스스로 판단해 환각을 줄이도록 설계됐습니다.

연구팀은 두 기술 모두 기존 AI를 처음부터 다시 학습시키지 않아도 적용할 수 있도록 개발해 시간과 비용을 크게 줄였다고 설명했습니다.

이번 기술은 자율주행차와 구조 로봇, 드론은 물론 공항 보안검색과 CT·MRI 등 의료영상 분석 분야에서도 AI의 정확성과 신뢰성을 높이는 데 활용될 것으로 기대됩니다.

노용만 교수는 "다양한 센서의 특성을 정확히 이해하고 여러 감각 정보를 혼동하지 않는 것이 실제 산업 현장에서 활용되는 멀티모달 AI의 핵심"이라며, "이번 연구가 신뢰할 수 있는 AI 기술의 기반이 될 것"이라고 말했습니다.

이번 연구는 KAIST 전기및전자공학부 정상윤 박사과정이 두 기술 연구 모두 제1 저자로 참여했고, 유영준 박사가 ‘센서 이해 AI' 기술(DNA) 연구에 공동 제1 저자로 참여했습다.

'감각 혼선 방지' 기술(MAD) 연구는 인공지능 컴퓨터 비전 분야 최고 권위의 ‘국제 컴퓨터 비전 및 패턴인식 학술대회(CVPR)’에 지난 6월 발표됐고, ‘센서 이해 AI' 기술(DNA) 연구는 영상처리 분야 국제 학술지인 ‘IEEE Transactions on Image Processing’에 실렸습니다.