
“여기에 AI 넣으면 어때요?” 요즘 기획 회의에서 자주 나오는 말입니다. 하지만 AI 기능이 늘 사용자의 일을 줄여 주지는 않습니다. 스매싱 매거진에 실린 UX 리서처 빅터 요코(Victor Yocco)의 글을 바탕으로, AI 기능을 붙이기 전에 던져야 할 네 가지 질문을 정리했습니다.
같은 기술, 다른 결과
한 보험사는 이의신청 결정문을 AI가 통째로 써 주는 기능을 만들었습니다. 그런데 담당자들은 점점 이 기능을 쓰지 않았고, 계속 쓴 사람은 오히려 처리 시간이 늘었습니다. 서명할 만큼 꼼꼼히 읽는 데 직접 쓰는 만큼의 시간이 들었기 때문입니다. AI가 관련 규정과 과거 사례만 찾아 주도록 범위를 바꾸자 검토 시간이 줄었습니다. 기술은 그대로였고, AI가 맡는 부분만 달라졌습니다.
글쓴이는 AI가 돌려주는 가치가 사용자가 적응하는 데 드는 비용을 넘어서는 지점을 ‘손익분기선’이라고 부릅니다. 이 선을 찾는 데 필요한 것이 다음 네 가지 질문입니다.

질문 1·2: 수고가 줄어드는가, 지금보다 나은가
첫째 질문은 이 사용자의 전체 수고가 줄어드는지입니다. 클릭 수가 줄어도 AI가 채운 칸을 다시 확인해야 한다면 일은 다른 곳으로 옮겨 갔을 뿐입니다. 같은 기능이 신입에게는 도움이 되고 숙련자에게는 부담이 될 수도 있습니다. 그러니 누구를 위한 기능인지 대상을 정하고, 나머지 사용자에게는 기능을 끌 수 있는 길을 열어 두세요.
둘째 질문은 지금 방식보다 정말 나은지입니다. 사용자가 이미 빠르고 정확한 방법을 갖고 있다면 AI는 단계를 하나 더 늘릴 뿐입니다. AI는 정답이 하나가 아닌 탐색 작업이나, 사람이 감당하기 어려운 규모의 일에서 제 몫을 합니다.
질문 3·4: 실수를 알아챌 수 있는가, 그 감각이 유지되는가
셋째 질문은 사용자가 AI의 실수를 알아챌 수 있는지입니다. 가장 위험한 오류는 겉보기에 멀쩡한 오류입니다. 여행 앱이 휴관일에 박물관을 추천하는 경우를 떠올려 보세요. 이런 오류를 막으려면 정보의 출처와 시점을 함께 보여 주고, 사용자가 한 번 더 확인하도록 유도해야 합니다.
넷째 질문은 1년 뒤에도 틀린 것을 가려낼 수 있는지입니다. 한 실험에서 일부러 틀리게 만든 AI 제안을 본 15년 차 영상의학 전문의의 정답률은 82%에서 46%로 떨어졌습니다. AI의 답을 보기 전에 먼저 스스로 판단해 보는 블라인드 검토처럼, 검증 감각을 지키는 장치를 업무 흐름 안에 넣어 두어야 합니다.

‘되는 곳’이 아니라 ‘가치가 남는 곳’에
AI는 기술적으로 가능한 곳이 아니라 가치가 남는 곳에 넣어야 합니다. 다음 회의에서 AI 이야기가 나오면 기획 단계에서 실제로 그 일을 하는 사람과 함께 네 가지 질문을 점검해 보세요. 그렇게 하면 기능이 하나 늘어나는 데 그치지 않고 사용자의 일이 실제로 줄어드는 설계를 할 수 있습니다.
📎 출처: https://www.smashingmagazine.com/2026/11/should-you-add-ai-audit-product-teams/