AI, 정말 넣어야 할까? — 기능을 붙이기 전에 묻는 4가지 질문

AI, 정말 넣어야 할까? — 기능을 붙이기 전에 묻는 4가지 질문 표지

“여기에 AI 넣으면 어때요?” 요즘 기획 회의에서 자주 나오는 말입니다. 하지만 AI 기능이 늘 사용자의 일을 줄여 주지는 않습니다. 스매싱 매거진에 실린 UX 리서처 빅터 요코(Victor Yocco)의 글을 바탕으로, AI 기능을 붙이기 전에 던져야 할 네 가지 질문을 정리했습니다.

같은 기술, 다른 결과

한 보험사는 이의신청 결정문을 AI가 통째로 써 주는 기능을 만들었습니다. 그런데 담당자들은 점점 이 기능을 쓰지 않았고, 계속 쓴 사람은 오히려 처리 시간이 늘었습니다. 서명할 만큼 꼼꼼히 읽는 데 직접 쓰는 만큼의 시간이 들었기 때문입니다. AI가 관련 규정과 과거 사례만 찾아 주도록 범위를 바꾸자 검토 시간이 줄었습니다. 기술은 그대로였고, AI가 맡는 부분만 달라졌습니다.

글쓴이는 AI가 돌려주는 가치가 사용자가 적응하는 데 드는 비용을 넘어서는 지점을 ‘손익분기선’이라고 부릅니다. 이 선을 찾는 데 필요한 것이 다음 네 가지 질문입니다.

AI가 주는 가치와 사용자의 적응 비용이 만나는 손익분기선을 표현한 그래프

질문 1·2: 수고가 줄어드는가, 지금보다 나은가

첫째 질문은 이 사용자의 전체 수고가 줄어드는지입니다. 클릭 수가 줄어도 AI가 채운 칸을 다시 확인해야 한다면 일은 다른 곳으로 옮겨 갔을 뿐입니다. 같은 기능이 신입에게는 도움이 되고 숙련자에게는 부담이 될 수도 있습니다. 그러니 누구를 위한 기능인지 대상을 정하고, 나머지 사용자에게는 기능을 끌 수 있는 길을 열어 두세요.

둘째 질문은 지금 방식보다 정말 나은지입니다. 사용자가 이미 빠르고 정확한 방법을 갖고 있다면 AI는 단계를 하나 더 늘릴 뿐입니다. AI는 정답이 하나가 아닌 탐색 작업이나, 사람이 감당하기 어려운 규모의 일에서 제 몫을 합니다.

질문 3·4: 실수를 알아챌 수 있는가, 그 감각이 유지되는가

셋째 질문은 사용자가 AI의 실수를 알아챌 수 있는지입니다. 가장 위험한 오류는 겉보기에 멀쩡한 오류입니다. 여행 앱이 휴관일에 박물관을 추천하는 경우를 떠올려 보세요. 이런 오류를 막으려면 정보의 출처와 시점을 함께 보여 주고, 사용자가 한 번 더 확인하도록 유도해야 합니다.

넷째 질문은 1년 뒤에도 틀린 것을 가려낼 수 있는지입니다. 한 실험에서 일부러 틀리게 만든 AI 제안을 본 15년 차 영상의학 전문의의 정답률은 82%에서 46%로 떨어졌습니다. AI의 답을 보기 전에 먼저 스스로 판단해 보는 블라인드 검토처럼, 검증 감각을 지키는 장치를 업무 흐름 안에 넣어 두어야 합니다.

사람이 먼저 판단한 뒤 AI 제안과 비교하는 블라인드 검토 흐름도

‘되는 곳’이 아니라 ‘가치가 남는 곳’에

AI는 기술적으로 가능한 곳이 아니라 가치가 남는 곳에 넣어야 합니다. 다음 회의에서 AI 이야기가 나오면 기획 단계에서 실제로 그 일을 하는 사람과 함께 네 가지 질문을 점검해 보세요. 그렇게 하면 기능이 하나 늘어나는 데 그치지 않고 사용자의 일이 실제로 줄어드는 설계를 할 수 있습니다.

📎 출처: https://www.smashingmagazine.com/2026/11/should-you-add-ai-audit-product-teams/

0 댓글
Inline Feedbacks
View all comments

코리아웹디자인 | 대표 : 남인식 | 사업자등록번호 : 389-37-01290 | admin@koreawebdesign.com

인천광역시 계양구 계양대로 40,3층 302호 오피스워크넷공유오피스 소호사무실 OW-HA-3106(작전동, 미림빌딩) | 0502-1935-1199