Agentic AI 시대 UX는 일의 과정까지 설계한다.

2025년과 2026년의 연구로 살펴본 위임과 검증의 인터페이스

AI에 일을 맡기는 경험은 기존 소프트웨어를 사용하는 경험과 조금 다르다. 사용자는 원하는 결과를 말하고, 시스템은 필요한 절차를 찾아 실행한다. 직접 조작하는 단계가 줄어드는 대신 새로운 질문이 생긴다. 내 요청을 어떻게 이해했는지, 지금 어디까지 진행했는지, 잘못된 방향으로 가고 있다면 어떻게 고칠 수 있는지가 궁금해진다.

이 질문들이 Agentic AI 시대의 UX를 설명한다. 사용자가 실행 과정을 위임할수록 인터페이스는 목표를 맞추고, 진행 상황을 전달하고, 결과를 검토하는 일을 지원해야 한다. 이 글은 2025년과 2026년에 공개된 연구와 기술 발표를 바탕으로, 이런 변화를 용어와 화면 구성의 관점에서 살펴본다.

Microsoft Research의 Magentic-UI는 이런 상호작용을 실험하는 연구용 시스템이다. 사용자는 에이전트의 계획을 수정하고, 실행 중간에 개입하거나 직접 작업을 이어받을 수 있다. 일을 맡긴 뒤에도 방향을 조정할 수 있도록 구성한 사례다.[1]

용어가 가리키는 설계 대상

AI 시대의 UI/UX를 이야기할 때는 세 가지 변화를 구분할 필요가 있다. 디자이너가 AI로 시안을 만드는 것, 사용자에게 필요한 화면을 AI가 그때그때 구성하는 것, AI가 여러 단계의 작업을 대신 실행하는 것은 서로 다른 문제다.

첫 번째는 제작 과정의 변화이고, 두 번째는 인터페이스를 제공하는 방식의 변화이며, 세 번째는 사용자와 시스템의 역할 변화다. 실제 제품에서는 이 세 가지가 함께 나타나기도 하지만, 각각 요구하는 설계와 평가 방식은 다르다. 이 글에서는 관련 용어를 다음과 같이 구분한다.[2][3][4][5]

이 가운데 AX는 특히 혼동하기 쉽다. Mathias Biilmann이 2025년에 제안한 Agent Experience는 에이전트를 플랫폼의 사용자로 고려하자는 개념이다. API를 이해하고 필요한 정보에 접근하기 쉬운지가 주요 관심사다. 사람이 에이전트와 협업하는 경험을 다루는 Agentic UX와는 설계 대상이 다르다.[3]

GenUI도 문맥을 살펴야 한다. DIS 2025의 The GenUI Study는 UX 관련 전문가 37명이 UI 생성 도구를 업무에 어떻게 활용하는지 조사했다. 일주일 동안 진행한 미니 프로젝트의 일지와 인터뷰를 분석한 연구다. 여기서 다루는 것은 제작 도구로서의 GenUI다.[4]

그림 1 실행 주체와 화면 구성 방식을 구분한 개념도. 본문 설명을 위해 직접 제작한 가상 예시다.

그림 1처럼 에이전트가 일을 대신한다고 해서 화면까지 생성해야 하는 것은 아니다. 반대로 생성된 비교표나 시뮬레이터를 이용하더라도 최종 실행은 사용자가 맡을 수 있다. UI/UX가 하나의 새 이름으로 교체되었다고 보기보다, 무엇을 설계하는지 구분해 용어를 사용하는 편이 정확하다.

사용자의 선택이 다음 작업에 반영되는 화면

사람은 처음부터 원하는 것을 완벽하게 설명하지 않는다. 결과를 보고 조건을 추가하고, 후보를 비교하면서 우선순위를 바꾸기도 한다. 에이전트와의 상호작용 역시 첫 프롬프트만으로 완성되기 어렵다.

CHI 2025의 Jelly 연구는 작업에 필요한 데이터 구조를 유지하면서 정보와 화면을 계속 수정하는 방식을 제안한다. 사용자의 요구가 달라지면 작업 공간도 바뀐다. 연구진은 대학 구성원 8명이 참여한 탐색적 사용자 연구에서 이 방식을 살펴봤다.[5]

CHI 2026의 DuetUI는 사용자가 화면에서 선택하고 수정한 내용을 에이전트의 다음 생성에 반영한다. 24명이 참여한 연구에서는 당시의 Google Stitch와 비교해 프롬프트 입력 시간이 줄고 사용성 점수가 높아졌다. 전체 과업 시간과 인지 부하에는 통계적으로 유의한 차이가 없었다.[6]

이런 접근을 제품에 적용하면 화면은 결과를 읽는 곳이면서 다음 작업의 방향을 정하는 곳이 된다. 사용자가 행사 장소를 비교하다 후보 두 곳을 제외했다면 다음 추천에도 그 결정이 반영되어야 한다. 제안서의 특정 문단을 직접 고쳤다면 이후 생성에서도 수정 내용이 유지되어야 한다.

다만 모든 조작을 확정된 요구사항으로 받아들여서도 곤란하다. 잠깐 적용해 본 필터와 반드시 지켜야 할 조건은 다르다. 무엇을 탐색 중이고 무엇을 결정했는지 구분하는 일도 UX의 몫이다.

확인을 요청하는 시점

매 단계마다 승인을 받으면 일을 맡기는 의미가 줄어든다. 반대로 끝날 때까지 기다리면 앞선 실수 때문에 많은 작업을 다시 해야 할 수 있다. 언제 사용자에게 확인을 요청할지는 인터페이스의 배치만큼 중요한 설계 문제다.

CHI 2026의 When Should Users Check?는 확인과 오류 복구에 드는 시간을 함께 분석했다. 48명이 참여한 통제된 시뮬레이션에서 연구진의 중간 확인 전략은 마지막에만 확인하는 조건보다 평균 과업 시간을 13.54% 줄였다. 실험은 과업별 실행 시간과 정확도를 고정한 환경에서 진행됐다.[7]

실무에서는 확인을 요청할 사건부터 정해볼 수 있다. 처음 합의한 비용이나 대상이 달라졌을 때, 사용자의 선호를 더 알아야 할 때, 되돌리기 어려운 실행을 앞두고 있을 때가 그 예다. 승인 화면에는 사용자가 결정하는 데 필요한 정보도 있어야 한다.

제안서를 발송하는 에이전트라면 수신자, 제목, 첨부파일, 최종 변경 사항을 함께 보여주는 식이다. 사용자가 승인 버튼을 눌렀다는 사실만으로 충분한 검토가 이루어졌다고 볼 수는 없다.

설명과 검증을 연결하는 방법

에이전트가 무엇을 했는지 보여주면 이해에 도움이 되지만, 설명이 길어질수록 사용자가 읽고 판단해야 할 내용도 늘어난다.

CHI 2026의 Sensemaking in Multi-Agent LLM Interfaces는 사전 생성한 응답을 제시하는 다섯 가지 모의 인터페이스를 12명이 어떻게 해석하는지 관찰했다. 참여자들은 에이전트의 합의나 비판을 신뢰의 단서로 받아들였고, 설명을 읽는 데 드는 부담도 이야기했다.[8]

여러 에이전트가 동의했다는 표시만으로 사용자가 결과를 확인할 수 있는 것은 아니다. 검토를 돕고 싶다면 중요한 숫자 옆에 출처와 계산 조건을 붙이고, 변경된 부분을 비교할 수 있게 하며, 아직 확인하지 못한 항목을 드러내는 방식이 더 직접적이다.

감독하는 사람의 주의가 어디로 향하는지도 중요하다. Dark Patterns Meet GUI Agents의 인간 연구는 22명이 직접 작업하는 조건과 녹화된 Operator 실행 영상을 감독하는 조건을 비교했다. 연구진은 감독 중 주의가 에이전트의 선택 경로에 좁아지는 현상을 보고했다.[9]

제품에서도 현재 선택한 요소만 강조하면 주변 조건을 놓칠 수 있다. 예를 들어 구독 변경 화면에서는 선택한 플랜과 함께 자동 갱신, 변경 후 총액, 제외되는 기능을 검토할 수 있어야 한다. 현재 행동을 판단하는 데 필요한 맥락을 가까이 두는 것이다.

과업에 따라 달라지는 작업 공간

앞선 연구를 바탕으로 화면을 구성한다면, 목표와 계획부터 결과 확인까지 이어지는 흐름을 그려볼 수 있다. 그림 2는 제안서 발송에 이 관점을 적용한 가상 화면이다.

그림 2 제안서 발송 직전의 검토 화면 예시. 상태와 실행 대상, 변경 내역, 수정 수단을 함께 배치한 자체 제작 개념 화면이다.

승인 버튼 가까이에 실행 대상과 변경 내역을 배치했다. 사용자는 바로 발송할 수도 있고, 수정하거나 직접 처리하는 쪽을 선택할 수도 있다. 실제로 발송이 끝난 뒤에는 성공한 대상과 실패한 대상을 구분해 보여주는 후속 화면도 필요하다.

각 화면에서 사용자가 확인할 내용을 정리하면 다음과 같다. 이 글에서 제안하는 구성안이다.

이 요소들을 항상 한 화면에 펼칠 필요는 없다. 현재 상태와 중단·수정 수단은 일정한 위치에 두고, 작업 공간은 과업에 맞춰 바꾸는 방식으로 시작할 수 있다. 비교가 필요할 때는 표를, 세부 검토가 필요할 때는 문서를, 위치 관계가 중요할 때는 지도를 제공하는 식이다.

이를 구현하는 기술적 접근도 나오고 있다. Google이 2025년 12월 발표한 A2UI는 선언적으로 기술한 UI를 호스트의 컴포넌트로 표현한다. 2026년 1월 공식 확장으로 발표된 MCP Apps는 도구가 제공하는 UI를 대화 안의 샌드박스에 표시하고, 사용자의 조작을 시스템과 연결한다. 대화와 직접 조작을 함께 제공하는 서로 다른 구현 경로다.[10][11]

작업 완료 이후까지 평가하는 UX

에이전트가 작업을 끝냈는지에 더해 사용자가 원한 조건을 충족했는지 살펴야 한다. 입력 시간이 줄었다면 검토와 수정에 드는 시간은 얼마나 늘었는지도 함께 측정해야 한다.

오류가 생겼을 때 사용자가 알아차릴 수 있는지, 필요한 시점에 개입할 수 있는지, 작업을 재개해도 이전 결정이 유지되는지도 평가 대상이다. 화면을 이해하기 쉬운지와 일을 맡긴 뒤 결과를 관리할 수 있는지는 함께 확인해야 한다.

Agentic AI 제품을 설계할 때는 사용자가 일을 맡긴 뒤의 경험까지 그려야 한다. 요청이 계획으로 바뀌고, 실행 중 선택이 생기고, 결과를 검토한 뒤 다시 수정하는 과정이다. 그 과정에서 사용자의 결정이 어디에 남고 어떻게 반영되는지를 확인하는 것부터 설계를 시작할 수 있다.

참고문헌

본문의 대괄호 번호와 아래 원문 및 DOI는 클릭해 열 수 있다. 조사 기준일은 2026년 10월 1일이다.

[1] Mozannar, H., et al. (2025). Magentic-UI: Towards Human-in-the-loop Agentic Systems. arXiv:2507.22358. 기술 보고서 / 프리프린트. (원문)

[2] Microsoft Design (2025). UX design for agents. 공식 디자인 글. 2025-04-11. (원문)

[3] Biilmann, M. (2025). Introducing AX: Why Agent Experience Matters. 저자 원문. 2025-01-28. (원문)

[4] Chen, X. A., Knearem, T., & Li, Y. (2025). The GenUI Study: Exploring the Design of Generative UI Tools to Support UX Practitioners and Beyond. DIS 2025, pp. 1179–1196. (원문 | DOI 10.1145/3715336.3735780)

[5] Cao, Y., Jiang, P., & Xia, H. (2025). Generative and Malleable User Interfaces with Generative and Evolving Task-Driven Data Model. CHI 2025, Article 686. (원문 | DOI 10.1145/3706598.3713285)

[6] Xu, Y., Xiang, S., Song, Y., Sun, R., & Tong, X. (2026). DuetUI: A Bidirectional Context Loop for Human-Agent Co-Generation of Task-Oriented Interfaces. CHI 2026, Article 305. 최초 프리프린트 2025년. (원문 | DOI 10.1145/3772318.3790441)

[7] Zhou, J., Roy, A., Gupta, S., Weitekamp, D., & MacLellan, C. J. (2026). When Should Users Check? Modeling Confirmation Frequency in Multi-Step Agentic AI Tasks. CHI 2026, Article 1649. 최초 프리프린트 2025년. (원문 | DOI 10.1145/3772318.3790655)

[8] Pareek, S., et al. (2026). Sensemaking in Multi-Agent LLM Interfaces: How Users Interpret Transparency and Trustworthiness Cues. CHI 2026, Article 913, pp. 1–20. (원문 | DOI 10.1145/3772318.3791157)

[9] Tang, J., et al. (2026). Dark Patterns Meet GUI Agents: LLM Agent Susceptibility to Manipulative Interfaces and the Role of Human Oversight. CHI 2026, Article 403, pp. 1–26. 최초 프리프린트 2025년. (원문 | DOI 10.1145/3772318.3791568)

[10] Google Developers Blog (2025). Introducing A2UI: An open project for agent-driven interfaces. 공식 기술 발표. 2025-12-15. (원문)

[11] MCP Core Maintainers (2026). MCP Apps – Bringing UI Capabilities To MCP Clients. 공식 확장 발표. 2026-01-26. (원문)

추가 읽을거리

[12] Macfadyen, L. (2026). Designing AI Interfaces. O’Reilly Media. 출판사 표기 2026년 3월, 208쪽. (출판사 소개 및 미리보기)

[13] Herrmann, T. (2025). Intervenability as a Design Requirement for Autonomy and Oversight within Human-Centered AI. In The Design of Human-Centered Artificial Intelligence for the Workplace, pp. 143–166. Springer. 온라인 공개 2025-03-14. (출판사 소개 및 미리보기)

그림 출처

그림 1과 그림 2는 이 원고를 위해 직접 제작했다.