중고거래 플랫폼 당근이 인공지능(AI)을 활용해 게시물과 이용자의 부정행위를 탐지하는 가운데 정상적인 거래 게시물까지 제재 대상으로 오인하는 사례가 발생하고 있다.

숫자를 잘못 인식해 유통기한이 지난 제품으로 판단하거나 단순히 제품 정보를 공유하기 위해 올린 쇼핑몰 주소를 외부 채널 유도로 분류하는 식이다.

출처=온라인 커뮤니티
출처=온라인 커뮤니티

■멀쩡한 화장품 ‘기한 만료’… 정보 공유 링크엔 ‘이용 정지’

소비자 A씨는 최근 당근에 새 화장품을 판매하려다 거래금지화장품이라는 안내를 받았다. 제품의 실제 유통기한은 2029년 8월까지였지만 당근은 유통기한이 2026년 8월까지인 제품은 판매할 수 없다며 거래를 제한했다.

A씨는 제품 사진을 다시 촬영해 판매글을 올렸지만 같은 안내가 반복됐다. 고객센터에 문의하려 해도 AI 답변만 제공돼 문제를 해결하기 어려웠고 결국 판매를 포기했다.

외부 채널 유도로 오인돼 계정 이용이 정지된 사례도 있다.

소비자 B씨는 새 원피스의 판매글을 작성하면서 상세한 착용 사진과 후기를 보여주기 위해 해당 쇼핑몰 주소를 함께 게시했다가 계정이 정지됐다. 외부 결제를 유도할 의도가 전혀 없었음에도 게시물의 취지가 제대로 반영되지 않은 것이다. 

결국 B씨는 당근 고객센터로부터 자체적인 실수를 인정받아 계정 정지 조치를 해제받았다.

일부 소비자들은 AI가 게시물의 숫자나 문맥을 정확히 파악하지 못해 정상적인 판매 활동마저 제재로 이어지고 있다고 불만을 제기한다.

■사람 손 거쳐도 오판…당근 "소명 시 해제"

당초 이용자들은 이러한 황당한 제재가 AI 자동 심사 과정에서 비롯된 기술적 오류라고 여겼다.

그러나 당근 측 설명은 달랐다. 당근은 AI 기반 자동탐지 시스템, 전문 운영 인력의 상시 모니터링, 이용자 신고를 병행해 정책 위반 행위를 적발하고 있으며 이 가운데 AI는 불법 행위 패턴을 감지하는 역할을 맡고 최종 제재 여부는 사람의 심사를 거쳐 결정된다고 설명했다.

결국 AI가 잘못 걸러낸 게시물을 전문 인력이 검수하는 최종 단계에서조차 바로잡지 못해 부당한 제재로 이어진 셈이다.

당근 관계자는 "오탐지로 인해 부당하게 정지 처분 등을 받은 이용자는 고객센터를 통해 소명 절차를 진행할 수 있으며 소명이 사실로 확인될 경우 즉시 제재를 해제하고 있다"고 말했다.

[컨슈머치 = 전정미 기자]

저작권자 © 컨슈머치 무단전재 및 재배포 금지