우리 스스로를 예시로 쓴 문장이 스스로 가르친 규칙을 어기고 있었다
한눈에 답변
제품 화면의 예시 이미지에 우리 브랜드 이름이 답변에 자주 언급된다는 문구를 넣어 두고 있었다. 그런데 이미 발행한 다른 글에서 '답변엔진은 문단 단위로 인용하기 때문에 예시라는 표시를 붙여도 그 문단만 떼어 보면 측정된 사실처럼 읽힐 수 있다'고 설명해 둔 바 있었다. 접근성 점검 과정에서 이 모순을 함께 발견하고, 예시 속 브랜드를 가상의 이름으로 교체했다.
무엇을 발견했나
제품을 소개하는 화면에 AI 답변 예시를 목업 이미지로 보여주는 부분이 있었다. 그 예시 문구에 우리 브랜드 이름이 들어가 있었고, “이 브랜드가 답변에 자주 언급됩니다”라는 취지의 문장과 출처 표기까지 붙어 있었다.
왜 이게 모순이었나
이미 다른 글에서 정확히 이 유형의 위험을 설명해 둔 적이 있다 — 답변엔진은 문서 전체가 아니라 문단 단위로 잘라서 인용하기 때문에, “이건 예시입니다”라는 고지 문구가 붙어 있어도 그 문단만 떨어져 나와 읽히면 실제로 측정된 사실처럼 보일 수 있다는 내용이었다. 우리 제품 화면이 정확히 그 상황을 스스로 만들고 있었다.
실제로 측정된 사실이었나
아니었다. 그 시점에 그런 관측을 뒷받침할 자사 표본이 없었다. 예시 이미지일 뿐이라는 의도였지만, 그 의도와 무관하게 문단 단위로 떨어져 나갔을 때 어떻게 읽히는지가 문제였다.
어떻게 고쳤나
예시 속 브랜드 이름을 실제 존재하지 않는 가상의 이름으로 바꿨다. 그리고 “예시”라는 표시와 고지 문구도 더 눈에 띄게 강화했다. 가상의 이름을 쓰면, 설령 문단이 따로 떨어져 나가 읽히더라도 실제 사실처럼 오해될 여지가 근본적으로 없어진다.
근거 없는 기간 약속도 함께 손봤다고 들었다
맞다. 같은 점검에서 “몇 주 안에”, “몇 주에 걸쳐” 같은 결과 예측성 기간 표현도 발견해 정리했다. 공개할 수 있는 자사 실측 표본이 아직 없는 상태에서 이런 표현은 근거 없는 약속이 된다. 반면 우리가 스스로 통제하는 작업 일정(진단에 며칠, 설계에 며칠 같은)은 우리 쪽 계획이지 성과 예측이 아니므로 그대로 남겨 뒀다 — 통제할 수 있는 것과 예측하는 것을 구분하는 기준을 여기서 세웠다.