[2026-83호] ETRI, 사람 특성까지 이해하는 로봇 AI 평가기술 개발
- 배포일2026.11.13
- 조회수1426
- 담당자
-
소셜로보틱스연구실 실장 김도형메일보내기 T. 042-860-5873
-
- 첨부
ETRI, 사람 특성까지 이해하는 로봇 AI 평가기술 개발
- 사람·AI·환경 함께 고려하는 로봇 평가기술‘트리니티’개발
- 사람 맞춤형 AI 로봇 평가기준 제시, 사용자 적합성까지 평가
- 151가지 사용자 조건, 물체 95종 활용해 맞춤형 행동평가
국내 연구진이 로봇이나 인공지능(AI) 에이전트가 주변 환경뿐 아니라 서비스를 받는 사람의 특성까지 고려해 행동하는지를 평가하는 기술을 개발했다.
향후 가정·돌봄·서비스 로봇이 사람마다 다른 요구에 맞춰 행동하는 인간 중심 AI로 발전하는 데 활용될 전망이다.
한국전자통신연구원(ETRI)은 사람, AI 에이전트(Agent), 환경을 종합적으로 고려해 로봇의 작업계획 능력을 평가하는 벤치마크‘트리니티(Trinity)’를 개발했다고 밝혔다.
❑ 같은 명령도 사람에 따라 다르게… 사용자 맞춤형 평가기준 제시
기존 로봇 AI 평가는 주변 환경을 얼마나 정확하게 이해하고 주어진 임무를 성공적으로 수행하는지를 측정하는 데 집중했다.
반면 트리니티는‘로봇의 행동이 서비스를 받는 사람에게도 적절한가’라는 평가 기준을 추가한 것이 특징이다.
최근 대형언어모델(LLM) 기반 AI 에이전트는 사람의 명령을 이해하고 여러 단계의 행동을 스스로 계획하는 수준까지 발전했다.
그러나 같은 명령이라도 사용자의 특성에 따라 적절한 행동이 달라질 수 있다는 점은 충분히 고려되지 않았다.
예를 들어 두 사람이 똑같이“먹을 것을 가져다줘”라고 요청하더라도 음식 알레르기가 있는 사람과 채식주의자에게는 서로 다른 음식을 제공해야 한다.
로봇이 단순히 명령을 수행하는 것을 넘어 사용자의 특성과 요구를 이해해야 하는 이유다.
ETRI 연구진은 이를 위해‘사용자 특성을 고려한 작업계획(PHA)’이라는 새로운 평가 개념을 제시했다.
AI가 사용자 정보와 주변 환경을 함께 고려해 적절한 행동을 계획하는지를 평가하는 방식이다.
트리니티는 식습관, 알레르기, 종교적 식이조건, 취미 등을 조합한 151가지 사용자 조건과 실제 가정과 유사한 가상 환경으로 구성됐다.
여기에 사용자 특성과 관련된 물체 95종을 추가해 로봇이 여러 물체 가운데 적절한 대상을 선택하는 능력까지 평가한다.
❑ 작업 성공 넘어 사용자 적합성 검증… AI 판단 오류까지 분석
가장 큰 특징은 사람과 환경에 대한 이해를 하나의 작업 과정에서 동시에 평가한다는 점이다.
로봇이 물체를 정확하게 찾아 옮기더라도 사용자에게 적절하지 않은 물건을 선택했다면 임무를 성공한 것으로 평가하지 않는다.
실제 실험에서도 AI가 물체의 위치와 작업 방법을 정확히 파악했지만 채식 사용자에게 적절하지 않은 음식을 선택하는 사례가 나타났다.
이는 주변 환경을 정확하게 이해하는 것만으로는 사용자마다 다른 요구를 충족하기 어렵다는 점을 보여준다.
트리니티는 임무의 성공 여부뿐 아니라 AI가 잘못 판단한 원인도 분석할 수 있다.
사용자 특성을 잘못 이해한 경우와 주변 환경을 제대로 탐색하지 못하거나 수행할 수 없는 행동을 계획한 경우 등을 구분해 평가한다.
연구진이 대표적인 LLM 기반 AI 에이전트를 평가한 결과, 환경을 이해하는 능력과 사용자의 요구를 실제 행동에 반영하는 능력 사이에 차이가 있는 것으로 나타났다.
❑ 가정·돌봄 로봇 활용 기대… 생활영역으로 평가 확대 추진
ETRI는 이번 기술이 로봇 AI의 평가 기준을‘무엇을 할 수 있는가’에서 ‘누구를 위해 어떻게 행동해야 하는가’까지 확대하는 계기가 될 것으로 기대하고 있다.
특히 개인별 특성과 요구를 고려해야 하는 가정·돌봄·서비스 로봇과 휴머노이드가 확산되면서 인간 중심 AI 평가기술의 중요성도 커질 전망이다.
ETRI 김도형 소셜로보틱스연구실장은“기존 로봇 AI 연구가 주변 환경을 이해하고 주어진 작업을 정확하게 수행하는 데 집중했다면, 트리니티는 로봇의 행동이 서비스를 받는 사람에게도 적절한지를 함께 평가한다는 데 의미가 있다”며 “앞으로 로봇이 사람마다 다른 특성과 요구를 이해하고 함께 생활할 수 있는 지능으로 발전하는 데 필요한 연구 기반이 될 것으로 기대한다”고 말했다.
연구진은 트리니티의 코드와 데이터를 공개해 후속 연구에 활용할 수 있도록 했다. 향후 음식·음료 중심의 평가를 청소·정리·안전 등 다양한 생활영역으로 확대하고, 시간에 따라 변화하는 사용자의 요구까지 반영하도록 기술을 고도화할 계획이다.
이번 연구결과는 자연어처리 분야의 세계적 국제학술대회인‘EMNLP 2026 Findings’에서 지난달 발표했다.
이번 연구는 과학기술정보통신부가 지원하는 ▲‘자율행동체의 복합작업 자율 수행을 위한 임무 수행 절차 생성 기술 개발’ ▲‘스스로 불확실성을 자각하며 질문하면서 성장하는 에이전트 기술 개발’ ▲‘글로벌 TOP 전략연구단 지원사업’의 지원을 받아 수행됐다. <보도자료 본문 끝>
- 이전글 [2026-81호] ETRI, KAIST 최성현·정송 교수 특임고문 위촉
- 다음글 다음글이 없습니다.
