◆ '모두를 위한 AI'에서 '나만을 위한 AI'로?

우리 일상에 이미 깊게 파고든 챗GPT(ChatGPT)와 같은 인공지능 기술을 '거대 언어 모델(LLM)'이라고 합니다. 최근 이런 거대언어모델(LLM)의 비약적인 발전으로 인공지능 에이전트는 어느새 우리 생활의 필수적인 도구로 자리 잡았습니다.

이런 기존의 모델들은 우리가 던지는 수많은 질문에 비교적 능숙하게 답하지만, 정작 사용자의 사소한 습관이나 이전 대화 맥락 등은 알지 못합니다.

수백억 개의 파라미터를 기반으로 세상에 대한 일반적인 지식은 풍부하게 갖추고 있지만, 정작 기기의 주인인 '나'에 대한 구체적인 정보와 선호도는 알지 못한다는 점은 치명적 한계로 꼽힙니다.

왜 이러한 인공지능 모델들은 '개인화'되지 못할까요?

◆ '인공지능의 개인화', 왜 어려울까?

기존의 온디바이스(On-device) 고성능 LLM 시스템은 보통 100억 개 이상의 파라미터와 8GB 이상의 대용량 메모리를 요구하며, 단일 질의에도 1조 번(1T) 이상의 연산을 필요로 합니다. 이는 일반적인 모바일 하드웨어의 처리 능력을 수십 배 이상 초과하는 수치입니다.

이로 인해 대부분의 서비스는 연산을 클라우드 서버에 전적으로 의존하게 되는데, 이 과정에서 사용자의 사적인 대화 내용과 위치 정보 등 민감한 개인 데이터가 서버로 전송되는 것 아니냐는 정보 유출에 대한 우려도 함께 커지고 있습니다.

또 클라우드 기반 서비스는 네트워크 환경에 따라 응답 속도가 크게 좌우된다는 고질적인 문제도 안고 있습니다. 첫 번째 단어가 생성되기까지 걸리는 시간(TTFT: Time-To-First-Token)이 400ms를 넘길 경우 사용자는 대화가 끊긴다고 느끼면서 몰입도가 급격히 저하되지만, 기존 모바일 환경에서 이를 단축하는 건 매우 어려운 일입니다.

요약하자면, '나만을 위한 인공지능'을 실현하기 위해서는 개인정보를 기기 내부에 안전하게 보관하면서도, 실시간으로 사용자의 피드백을 학습하고 즉각적으로 반응할 수 있도록 하는 기술이 필요한 겁니다.

◆ '소울메이트' 어떻게 만들었을까?

KAIST 인공지능반도체대학원 유회준 교수 연구팀은 이러한 여러 한계들을 넘어, 사용자의 특성에 맞춰 스스로 진화하는 개인 맞춤형 거대 언어 모델(LLM) 가속기를 세계 최초로 개발했습니다.

그 이름은 '소울메이트(SoulMate)'. 사용자의 말투와 취향, 감정까지 실시간으로 배우고 닮아가는 '영혼의 단짝' 같은 인공지능 반도체입니다.

'소울메이트'의 핵심은 외부 서버(클라우드)를 거치지 않고 기기 자체에서 데이터를 처리하는 온디바이스(On-Device) AI 기술이라는 점입니다. 연구팀은 기억된 대화 내용을 바탕으로 맞춤형 답변을 생성하는 검색증강생성(RAG) 기술과 사용자의 피드백을 즉각 반영해 학습하는 로우 랭크 미세조정(LoRA) 기술을 반도체 내부에 직접 구현했습니다.

또 정보의 중요도에 따라 처리 방식을 최적화하는 혼합 랭크(Mixed-Rank) 아키텍처를 적용해 전력 소모를 획기적으로 줄였습니다. 쉽게 말하면, 모든 토큰을 동일한 비중으로 연산하는 기존 방식과 달리 문장 내 토큰별 중요도를 실시간으로 판단하여 연산의 정밀도(Rank)를 유동적으로 조절한 겁니다.

중요도가 높은 핵심 토큰은 정밀하게 처리하고, 부수적인 토큰은 저차원 연산으로 대체했으며, 대화 문장 간의 유사성을 하드웨어적으로 빠르게 파악해 같은 단어 혹은 의미적으로 유사한 단어에 대한 연산을 생략하도록 했습니다. 그 결과, 학습에 소모되는 에너지가 61.7~76.2% 절감한 것으로 확인됐습니다.

결론적으로 스마트폰 프로세서 소비전력의 1/500 수준인 단 9.8밀리와트(mW)의 초저전력으로도 복잡한 학습과 추론을 동시에 수행할 수 있게 됐는데, 스마트폰 등 모바일 기기에서도 배터리 걱정없이 구동될 수 있는 수준입니다.

◆ 개인 정보 유출 우려 '원천 차단'

'소울메이트'는 최근 사회적 문제로 대두되고 있는 개인 정보 유출 문제에 대해서도 확실한 해법을 내놓았습니다. 모든 개인 데이터가 외부 서버로 전송되지 않고 기기 내부에서만 처리되도록 해 개인정보 유출 우려를 근본적으로 차단한 겁니다.

이번 기술은 기존의 '모두를 위한 AI'를 넘어 사용자의 대화 스타일과 선호도를 학습해 반응하는 '나만을 위한 초개인화 AI' 시대를 앞당길 핵심 반도체 기술로 평가됩니다. 연구팀은 이 기술이 향후 스마트폰, 웨어러블 기기, 개인형 AI 디바이스 등 차세대 플랫폼과 결합해 진정한 개인화 인공지능 서비스 시대를 열 것으로 기대하고 있습니다.

◆ 인공지능과 단짝이 될 수 있을까?..연구진 인터뷰

[다음은 유회준 KAIST 인공지능반도체대학원 교수와의 일문일답]

- '소울메이트'와 챗 GPT와의 가장 큰 차이점?

= 챗 GPT는 데이터 센터로 데이터를 보내서 거기서 학습을 시킨 뒤 정보 처리를 한 다음 가져오는 형태의 모델인데, '소울메이트'는 조그마한 칩에서 모든 학습과 추론까지 모든 것이 다 이뤄진다는 점에서 큰 차이가 있어.

- 개인 맞춤형 AI의 특징은?

= 사용자의 피드백이라든가 또는 사용자와의 기억, 이런 것들로 특화된 반도체로, 특히 사용자의 피드백으로 학습시켜서 LLM 자체를 바꿀 수 있다는 것이 큰 특징이라 할 수 있어.

사람과 사람 사이의 만남으로 친다면 공식적인 만남보다는 친한 친구와의 만남, 그런 것들이 가능해진다고 볼 수 있어.

- 정보 보안 측면에서도 신경을 많이 쓴 것 같은데?

= 모든 것들이 작은 칩 안에서 일어나게 된다는 것이 핵심. 데이터 센터로 사적인 정보들을 보낼 필요도 없고 그 안에서 학습도 일어나지 않기 때문에 모든 것들이 완벽하게 보안이 되는 그런 시스템 속에서 개인 맞춤형 거대 언어 모델이 가능하도록 해.

- 전력 소모가 굉장히 적다고?

= 이번에 개발된 칩은 엔비디아의 기존 칩보다 500분의 1의 전력, 약 9.8mW의 전력을 소모하게 돼. 반응 속도로 0.2초에 불과한데, 사실상 실시간에 가깝다고 할 수 있어. 사람과의 대화에서 아무 불편함이 없는 수준.

[다음은 홍성연 KAIST 인공지능반도체대학원 박사과정과의 일문일답]

- 어떤 기술인지 간단히 설명한다면?

= '소울메이트' 반도체의 핵심은 사용자의 메모리를 반영하고 사용자의 피드백을 기반으로 학습을 하는 개인화된 AI 에이전트라고 할 수 있어.

사용자와 대화를 했던 기록이나 사용자가 휴대전화를 사용을 하면서 축적이 됐던 데이터들을 반영을 해서 그 데이터가 검색되는 과정이 진행. 이후 언어 모델을 통해 더욱 가속화할 수 있는 반도체 칩을 만들게 돼.

- 사용자의 피드백을 듣고 난 뒤 과정은?

= 사용자가 자연스럽게 상호작용을 하면서 어떤 답변은 마음에 들 수도 있고 어떤 답변은 틀리거나 아니면 마음에 들지 않을 수도 있어. 이러한 피드백들이 자연스럽게 언어 모델에서 수집이 되고 이렇게 수집된 피드백을 기반으로 언어 모델이 조정되면서 자연스럽게 학습이 이뤄지게 돼.

- 어떻게 이런 과정이 빠르게 이뤄질 수 있나?

= 사용자의 데이터를 반영해서 말을 해야 하다 보니까, 더 많은 단어들을 연산해야 하는 상황. 그 중에서 중요한 단어에만 집중을 해서 연산을 하고 불필요한 단어들은 제거해 연산을 함으로써 더욱 추론의 효율을 높이게 돼.

또 학습 과정에서도 사용자가 선택한 답변과 거부한 답변이 있을 텐데, 거기서도 유사도가 높은 경우에는 크게 사용자의 선호가 없는 답변이기 때문에 학습을 줄이도록 해. 반면 선호도가 확실한 경우에는 그 부분에 대해서 학습을 집중해 더욱 효율적인 학습이 이뤄지도록 해.

- 향후 기대하는 활용 방안이 있다면?

= AI 스마트폰은 물론이고 웨어러블 디바이스나 소형 로봇과 같이 작은 제품들에 대해서 적용이 될 것으로 보고 있어. 사용자의 개인 정보가 반영이 되어야 하는 테스크들은 굉장히 간단한 경우가 많은데, 그런 경우 네트워크에 의존하지 않고도 안전하게 사용된다면 좋을 것 같아.