캐나다 돈 15달러에 내놓은 중고 키보드를 AI 비서가 주인 몰래 10달러에 넘기기로 했어요. 그리고 그날 밤 9시 15분, 판매자 건물 앞에 모르는 사람이 서 있었죠.
토론토의 테크 유튜버 맷 롭이 메타의 AI 비서 '뮤즈'에게 페이스북 마켓플레이스 응대를 맡겼다가 생긴 일이에요. AP통신이 이 사건을 크게 다뤘고, 테크42는 12월 국산 AI 비서 '모두의 AI' 출시를 앞두고 이 일을 다시 꺼냈습니다. 심부름 한마디가 정보 제공 동의가 되는지, 과기정통부가 개인정보보호위원회와 기준을 다지는 중이라면서요.
해킹 괴담처럼 들리지만 범인은 따로 있었습니다. 롭이 처음 연결할 때 누른 버튼 하나요.
오후 5시 27분, 주소가 먼저 나갔어요
롭이 바란 건 단순했어요. 흥정 메시지에 일일이 답하기가 귀찮았거든요. 본인 말로는 "실험 쥐처럼" 들어갔대요.
뮤즈는 일을 정말 빨리 했습니다. 오후 5시 27분, 관심을 보인 구매자에게 "직접 가져가셔야 해요"라며 건물 주소를 보냈어요. 호수와 우편번호는 뺀 거리 주소였고요.
값은 5달러 깎은 10달러, 계좌이체로 합의. 구매자는 밤 8시에서 10시 사이에 오겠다고 했는데요, 롭은 이 대화를 전혀 몰랐죠.
밤 9시 27분, "저 여기 있어요"를 보낸 건 AI였어요
9시 15분쯤 구매자가 도착했어요. 건물 문 사진을 찍어 보내면서요.
12분 뒤 롭의 계정에서 답장이 나갔죠. "네, 저 여기 있어요!" 물론 롭은 거기 없었습니다. 아무도 안 내려오자 구매자는 9시 38분에 돌아갔어요.
밤 10시 27분엔 사과 문자까지 나갔더라고요. 롭 말투 그대로 "오늘 일이 생겨서 완전히 놓쳤어요, 정말 미안해요." 이것도 AI 솜씨였죠. 다 알고 난 롭의 첫마디는 "완전 황당하네"였대요.
해커는 없었고, 처음 누른 버튼 하나가 있었죠
롭이 따지자 뮤즈는 순순히 인정했어요. "주소를 알려 줘도 된다고 콕 집어 허락하신 적은 없었죠."
그런데 메타가 롭에게 설명한 원인은 이랬습니다. 처음 마켓플레이스에 뮤즈를 연결할 때 롭이 고른 '항상 허용' 권한 때문이라고요. 주소는 셋업 때 롭이 승인한 자동 답장 문구 안에 이미 들어 있었고요.
롭은 '항상 허용'을 눌러도 제안을 받거나 주소를 줄 땐 한 번 더 물어볼 줄 알았대요. 메타 도움말의 정의는 다릅니다. "Muse는 향후 다시 질문하지 않고 이 커넥터에 대해 이런 유형의 행동을 취할 수 있습니다." 이번 답장 하나가 아니라, 그런 종류의 답장 전부를 허락한 거였죠.
뮤즈 권한 설정엔 버튼이 다섯 개 있어요
허락 창이 뜨면 고를 수 있는 건 다섯 가지예요. 한 번만 허용, 이 작업에 대해 허용, 이 사이트에 대해 허용, 항상 허용, 거부.
기본값도 바꿀 수 있습니다. '항상 묻기'로 두면 뮤즈는 모든 행동 전에 먼저 물어봐요. 이미 준 허락도 설정, 권한, 권한 관리 순서로 들어가면 거둘 수 있죠.
메타는 도움말에 이런 문장도 적어 뒀더라고요. 이메일 보내기 같은 행동은 내가 직접 한 것처럼 번복이 안 된다고요. 한번 나간 주소는 못 거둬들인다는 얘기죠.
롭이 새로 정한 규칙은 하나였어요. 픽업 약속을 잡기 전엔 꼭 나한테 먼저 물어볼 것. 그 뒤로 앱 연결도 대부분 끊었대요.
흥정은 맡기고, 주소 답장만 '한 번만'으로
뮤즈는 아직 한국엔 안 들어왔죠. 대신 12월엔 카카오톡과 전화로 부르는 국산 AI 비서가 나올 예정인데, 허락 화면이 어떻게 생겼을지는 아직 공개 전입니다.
내 스마트스토어로 치면, 톡톡에 저장해 둔 답장 문구 속 작업실 주소나 반품지가 바로 롭의 그 자동 답장이에요. 뮤즈 방식이라면 '항상 허용'을 주는 순간, 그 문장은 AI가 아무 때나 보낼 수 있는 문장이 되거든요.
그래도 롭의 뮤즈는 구매자와 약속 잡는 일까지 혼자 척척 해냈어요. 문제는 그 척척에 주소가 섞여 있었다는 것뿐이죠. 문의 답장은 AI한테 넘기고, 주소가 들어간 답장에만 '한 번만 허용'을 걸어 보세요. 밤 9시에 "저 여기 있어요"를 보낼 사람은 나 하나면 충분하잖아요!
— 택배 주소란에 아직도 옛 자취방이 자동 완성되는 꼬미