UNIST, AI 추천의 편향과 오류를 추적하는 기술 EchoTrace 개발

UNIST 인공지능대학원 이연창 교수팀은 LLM 기반 추천 AI의 편향과 오류가 발생하고 누적되는 과정을 추적하는 진단 기술 '에코트레이스(EchoTrace)'를 개발했습니다.

연구팀은 영화, 도서, 가게 추천 시스템을 분석한 결과, 추천 대상에 없는 항목을 제시한 비율이 최대 13.14%에 달하는 것을 확인했습니다. 또한 사용자 직업을 잘못 추정한 비율은 93.16%였으며, 추천 결과를 다시 학습하는 과정을 5번 반복해도 초기의 오류와 편향이 사라지지 않았습니다.

특히 LLM이 직접 영화를 추천하는 시스템에서는 사용자 100명 중 86~92명꼴로 이전에 자신이 추천했던 작품을 가장 중요하게 참고하는 것으로 나타났습니다.

AI의 추천 결과가 다시 학습 데이터가 되고, 이를 바탕으로 새로운 추천을 만드는 피드백 루프가 반복되면서 편향과 오류가 이어질 수 있는 것입니다.

에코트레이스는 LLM이 생성한 정보부터 최종 추천 결과, 반복 학습 과정까지 단계별로 점검해 이러한 문제를 추적하는 기술입니다.

이번 연구는 LLM 기반 추천 시스템의 신뢰성을 높이고, 더욱 안전한 AI 추천 기술을 설계하고 평가하는 데 활용될 것으로 기대됩니다.

관련 논문: https://arxiv.org/abs/2602.07442

#UNIST #울산과학기술원 #AI #인공지능 #LLM #대형언어모델 #AI추천 #추천시스템 #에코트레이스 #EchoTrace #AI연구 #AI편향